Road to FinGPT #4

kor 96.***.233.115

Gemini의모델 gemini-pro에게 pay-as-you-go 결제하고 주가 물어보기

하나,

  1. 비용: 현재 https://gemini.google.com/app 여기에서 서비스 되고 있는 모델이름이 gemini-pro 이고, 브라우저로 사용할 때 현재 무료이고,
  2. api로 gemini-pro 모델을 사용하는 것도 무료이다.
  3. gemini 한테 물어보고 시키는대로, API키를 하나 발급받았다. api key는 GOOGLE_API_KEY 환경변수에 저장해주고.
  4. 코드는
    import google.generativeai as genai
    genai.configure(api_key=os.environ['GOOGLE_API_KEY'])
    model = genai.GenerativeModel("gemini-pro")
    response_obj = model.generate_content(prompt)
    response_str = response_obj.text
    
  5. 이렇게 하면 된다고 하여 해보니 잘 된다. response_str 안에 들어 있는 json 데이터를 잘 잘라서 파일에 저장해주었다.

둘, 로컬에서 web ui 돌리기

  1. gemini가 이미 무료이기 때문에 이걸 로컬로 돌릴 필요는 없지만,
  2. 5월부터 유료가 된다고 하니 그때 가서 웹 UI + pay-as-you-go 결제를 하고 싶으면 아래와 같이 소프트웨어를 docker위에 하나 설치해 로컬 서버를 돌려주면 되겠다.
    docker run --name geminiprochat --restart always -p 3001:3000 -itd \
        -e GEMINI_API_KEY=$GEMINI_API_KEY babaohuang/geminiprochat:latest
    
  3. http://localhost:3000으로 접속하면 chatgpt 비슷한 UI가 나온다. 해보니 잘 된다.