📑 Reranking이란?RAG 방식의 도입을 통해 LLM의 할루시네이션 현상을 줄이고 최신 정보를 반영하여 보다 정확한 답변을 생성할 수 있게 되었다.하지만 RAG 시스템이 복잡한 실제 어플리케이션에 적용되면서 기본적인 RAG 파이프라인 구성으로는 프로덕션 수준의 요구사항을 만족시키기 어렵다는 문제점에 도달했다.이 문제를 해결하기 위해 Reranking 이라는 기법이 사용될 수 있다.Reranking은 RAG가 생성한 후보 문서들에 대해 질문에 대한 관련성 및 일관성을 판단하여 문서의 우선순위를 재정렬하여 답변의 정확도를 올리는 기법이다.이미지 출처: https://aws.amazon.com/ko/blogs/tech/korean-reranker-rag/Reranker의 종류는 아래의 문서를 참고하자h..

🦜📑 RAG란?이미지 출처: https://www.ml6.eu/blogpost/leveraging-llms-on-your-domain-specific-knowledge-baseRAG(Retriever Augmented Generation)란 추가적인 데이터를 이용하여 LLM의 지식을 강화하는 기술이다.RAG는 기존의 학습된 LLM이 추가적인 정보를 바탕으로 답변을 하는 방식으로 정보를 보강한다는 점이 특징이다.따라서 최신 데이터나 특정 도메인의 세부적인 지식을 보강할 수 있어 다양한 분야에 적용이 가능하다.또한 추가적인 데이터를 기반으로 답변을 생성하기에 기존의 LLM의 문제점으로 지적되던 할루시네이션현상을 줄일 수 있다는 점이 장점이다.RAG 어플리케이션은 크게 두 가지 구성 요소가 있다.Index..

🤓 Message History가 필요한 이유model을 load하여 이름을 알려주고 내 이름이 무엇인지 다시 질문해보자.from langchain_google_genai import ChatGoogleGenerativeAIfrom langchain_core.messages import HumanMessagemodel = ChatGoogleGenerativeAI(model="gemini-pro", convert_system_message_to_human=True, )model.invoke([HumanMessage(content="Hi! I'm Bob")])model.invoke([HumanMess..

🦜🛠 LangSmith 연결LangSmith 연결을 위해 .env 파일에 LangSmith API Key를 작성하자.이 작업만 해주면 자동으로 세팅한 프로젝트명으로 LangSmith에서 Application 모니터링이 가능하다.# .envLANGCHAIN_API_KEY="Your API Key"LANGCHAIN_PROJECT="Project Name"# app.pyfrom dotenv import load_dotenvload_dotenv()🤖 LLM 모델 세팅LangChain은 ChatGPT, Ollama, Gemini, Huggingface 등 다양한 LLM을 이용할 수 있다.상황에 따라 본인이 사용하고자 하는 모델을 로드하기만 하면 된다.아래의 Document에서 LangChain이 어떤 LLM..

🦜🔗LangChain이란?LangChain은 LLM(대형 언어 모델)을 기반으로 하는 Application을 개발하기 위한 Framework이다.Third party 통합이 가능하여 Open AI, Gemini 등 다양한 기업의 LLM 모델을 사용할 수 있다.LangSmith, LangGraph와 같은 플랫폼을 제공하여 LangChain의 테스트, 모니터링, 배포 등의 기능을 지원한다.REFhttps://github.com/langchain-ai/langchainhttps://python.langchain.com/v0.1/docs/integrations/chat/google_generative_ai/https://wikidocs.net/233345⚙ 환경설정Open AI API 발급 : https:/..