Home Forums Investment Road to FinGPT #4 Road to FinGPT #4 Name * Password * Email 주가 prediction 이라고 표현되었지만, 주가를 예측한 게 아니라 그냥 말을 생성한 것이에요. temperature, top-k, top-p 라는 파라미터들이 말을 생성하는데 쓰이는 randomness를 결정하는 파라미터인데요. 지난 주 AAPL 예측에 대해서는, UP과 DOWN으로 llm 들끼리 반반씩 의견이 갈렸습니다. "중국 retail 마켓 전망이 좋음 (호재)" "반독점 소송 걸렸음 (악재)" 이렇게 의견이 갈린 이유는, llm 들이 어느 쪽을 지지할 지에 대해 random 펑션을 돌린 거라서 그런 겁니다. 제가 파라미터들을 직접 확인한 모델은 gemini-pro (현재 https://gemini.google.com/app 에서 서비스 중인 것) 뿐인데요. 그건 top k=1로 설정되어 있어서, 일관성 최우선으로 되어 있네요. top-k=1이면 매 다음 단어를 생성할 때 가장 확률이 높은 단어 1개만 고려한다는 뜻으로, 같은 질문을 하면 거의 같은 대답을 한다는 의미입니다. llm이 하는 일은, 말을 생성하는 도중에 다음 단어로 중국 뉴스를 고를까, 반독점 뉴스를 고를까 선택하는 어떤 기로가 있겠죠 거기서 llm이 주사위를 던집니다. 허용된 파라미터 조건 하에서, 랜덤 펑션을 돌려서 어느 것이든 고르기 때문에 확률이 적더라도 선택될 가능성이 여전히 있습니다. 그리고 그 결정을 지지하는 문장들을 그 뒤로는 아주 그럴 듯하게 만들어냅니다. 참고로 gemini-pro는 일관성 최우선(top-k=1)으로 되어 있지만, gemini-vision은 top-k=40으로 되어있네요. 그림 그릴 때 붓 한번 놀릴 때마다 40가지 가능성 중에서 하나를 랜덤하게 고른다는 뜻이니까, 최종 그림 결과물의 가능성은 수백만가지가 넘겠네요. I agree to the terms of service Comment
