OpenAI의 모델 gpt-4에게 pay-as-you-go 결제하고 주가 물어보기
하나, GPT-4 API를 pay-as-you-go로 사용하기
- gemini 한테 그래서 어떻게 하는 거냐고 물어보면 아래 코드 몇 줄 보여준다.
from openai import OpenAI client = OpenAI(api_key=os.environ["OPENAI_API_KEY"]) completion = client.chat.completions.create( model="gpt-4-0125-preview", messages=[ {"role": "user", "content": prompt} ] ) response_str = completion.choices[0].message.content - 비용: GPT-4 여러 모델 가운데 제일 최신 (즉 제일 비싼 거) gpt-4-0125-preview로 골랐다.
- 몇 번 호출해보니 billing 페이지 숫자가 잘 안 올라간다. 1밀리언 토큰 당 10달러라고. 매일 티커 10개 주가전망 api 문의한다고 하면 몇십 센트나 그 이하 정도 나오는 듯.
- 저 OPENAI_API_KEY 어떻게 발급받느냐고 gemini나 copilot 아무한테나 다시 물어보면 절차를 알려준다. 시키는대로 가서 하나 받아서 환경변수에 세팅해준다. 카드결제 5달러 했다. 당분간은 하루에 티커 한두 개씩 호출할 거니까 한두 달 정도 쓸 수 있을 듯.
- 저 prompt 변수에 FinGPT가 생성한 긴 프롬프트 문자열을 넣고 이 세 줄 돌리면 response_str에 JSON string이 들어온다.
- 결과에서 json 데이터를 잘 잘라서 파일에 저장해 주면 일단 끝.
둘, GPT-4를 web ui로 사용하는데 pay-as-you-go 결제하기
- GPT-4를 사용하려면 월 20불 결제를 해야 하는데, 사실 난 그만큼 많이 GPT-4를 쓸 일이 없어서 결제를 안 했다. 그래도 가끔 쓰고 싶은 때가 있는데 그래서 pay-as-you-go 결제가 나에게 필요하다. 위에서처럼 api키를 받은 후 https://payasyougo-gpt.com/ 에다가 api key를 입력하면 그렇게 사용할 수 있다고 하는데, api 키를 저 서버에 넘겨주는 것 같아서 그렇게는 못 하겠고.
- 두번째 수단으로 로컬 서버를 돌리면 되겠지. 그래서 몇 개 open source 프로젝을 찾아보니, 아래 명령으로 소프트웨어를 설치하고 http://localhost:3000으로 접속하면 그렇게 할 수 있었다.
docker run -d --name chatgptwebui -p 3003:3000 \ -e OPENAI_API_KEY=$OPENAPI_API_KEY blrchen/chatgpt-minimal