Retrieval Augmented Generation(RAG) 복습 (2) Gemini API 사용 방법

 

 

---

서론

지난 포스팅에서는 RAG에 대한 전반적인 내용에 대해 알아보았다. 이번에는 실습을 복습할 예정이다. 우선 셋팅부터 진행하겠다. 보통 open-ai를 사용하지만, 난 구글 클라우드 크래딧이 있으므로, 이번 포스팅에서는 Gemini를 사용하겠다. 

---

LLM을 셋팅해보자

셋팅이라는 단어가 맞는지는 모르겠지만, 일단 난 llm을 내 주피터 노트북에 설정을 해서, 답변을 불러오는거 까지 해보려고한다. 우선 gemini를 쓰기 위해서는 구글 ai 스튜디오에 가입을 하고, 여기로 들어가, api 키를 발급받으면 된다. 그럼

이렇게 공유하지 말라는 문구가 뜨면서 괴랄한문자의 향연이 나온다. 그게 내 API key다. 공유하면 안되는 이유-> 그걸로 님 돈 빠져나가는것이기 때문. 이제 쥬피터 노트북에 들어가자. %pip install langchain_google_genai를 하고, 난 뒤 아래를 적는다.

from langchain_google_genai import ChatGoogleGenerativeAI
import os

os.environ["GOOGLE_API_KEY"] = "위에서-발급받은-키-넣기"
llm = ChatGoogleGenerativeAI(model="models/gemini-1.5-pro", temperature=0)

여기서 문제가 없다면,

llm.invoke("ai한테 묻고 싶은 질문") 을 하면 된다. 가령,

llm.invoke("한국어 llm 모델로 가장 유명한게 뭐야?")

라고 하면,

이렇게.. 답변을 해준다! 서론에서 제미나이를 사용하겠다고 했는데, 본인은 다음 포스팅부터 open-ai를 사용할것임. 변절자라고 해도 난몰라요. 노력했는데 중간에 제미나이 지원 안하느 놈 마주했는데 도저히 못하겠음.이걸로 지지고 볶으면서 gemini 지원 안하는 걸 마주했다. 더 무서운건 앞으로 또 어떤 api가 gemini를 거부할 지 모른다는거... 아무튼 제미나이 셋팅까진 도와드릴께.