수십차례 시도한 끝에 gpu를 enable 하는데 성공하긴 했습니다. 저는 님이 말한 게 무슨 말인지 이해하지 못 했지만 bing copilot은 무슨 말인지 잘 알고 있더라고요. -_- bing copilot을 혼내가며 계속 잡아돌려 절차를 알아냈습니다.
torch.cuda.is_available() = True
torch.version.cuda = 11.3 // Nvidia GTX 970이 지원하는 가장 최근 버전
torch.__version__ = 1.12.1+cu113 // 11.3을 지원하는 가장 최근 torch
제 Nvidia GTX 970이 10년 된 구형 모델이라 cuda 버전 내리고 torch 버전 내리고 내리고를 반복하여 아주 예전 버전까지 거슬러 간 끝에 gpu 용 torch를 활성화시키기는 했는데 결국 원래 문제 (fp16 지원 x) 해결이 안 됐어요. 왜 그런지 계속 찾아보니 GTX 970이 오래된 구형 gpu라서 fp16은 native support 하지 않는다는 글이 있네요.
cpu 모드로라도 되는 게 어디냐 하는 생각이긴 합니다. 제 PC가 Xeon E5-2660 dual processor인데 Submission 당 15~17분 정도 걸리네요.
지금부터 하는 건 Investment 게시판과 어울리지 않아 자세하게는 안 쓰겠지만, 몇 가지 더 확인할 게 있어서 개인적으로 알아보고 나중에 써머리 하나 올리도록 하죠.
더 알아볼 예정인 topic은
– 같은 프롬프트를 bard, gemini, chatgpt에게 물어보면 어떻게 거절당하는가
– 같은 프롬프트를 fingpt의 트레이닝 이전 베이스 모델인 llama2에게 물어보면 어떤 답을 주는가 (즉 트레이닝하면 얼마나 바뀌는가)
– 트레이닝 절차 좀 배워야겠다
– GPTs가 도메인 지식을 넣도록 허용하는 물건이라던데 금융 지식 넣을 수 있는지 봐야겠다
– FinGPT economist를 만들기 위해 트레이닝을 해봐야겠다
– FinGPT strategiest를 만들기 위해 트레이닝을 해봐야겠다
– FinGPT trader를 만들기 위해 트레이닝을 해봐야겠다