RAG 활용 사례

RAG의 핵심은 기성 LLM을, 학습 당시 접근하지 못했을 정보의 knowledge base와 결합하는 것이다. 많은 LLM 기반 시스템이 이 모델을 구현하고 있다. 대표적인 다섯 가지 활용 사례를 본다. 공통 패턴은 하나다 — "LLM이 못 봤을 정보 모음이 있으면, 그것을 knowledge base로 삼는다."

1. 코드 생성

언어 모델은 사실상 모든 공개 Git repository를 포함한 방대한 코드로 학습됐다. 그런데 특정 프로젝트에 맞는 올바른 코드를 생성하려면 전문화된 정보가 필요하다 — 그 프로젝트의 class·function·definition과 전체 coding style. 자기 코드베이스를 knowledge base로 쓰는 RAG를 만들면, 저장소에서 관련 class·definition·file을 검색해 프로젝트에 맞는 코드 생성과 Q&A가 훨씬 좋아진다.

그림 1. 자기 코드베이스를 knowledge base로 삼아, 프로젝트의 class·function·style을 검색해 실제 저장소에 맞춘 코드를 생성한다.

 

 

2. 회사 맞춤 챗봇

모든 회사에는 고유한 제품·정책·커뮤니케이션 가이드가 있다. 이런 사내 문서를 knowledge base로 취급하면 LLM을 여러 방식으로 배포할 수 있다.

• 고객 서비스 챗봇 — 제품, 현재 재고, 일반적인 트러블슈팅 절차를 아는 챗봇.
• 사내 챗봇 — 회사 정책 질문에 정확히 답하거나 유용한 문서로 안내하는 챗봇.

어느 경우든 knowledge base가 응답을 회사의 특정 제품·정책에 근거(grounding)하게 만들어, 일반적이거나 오해를 부르는 응답을 줄인다.

그림 2. 매뉴얼·지원 가이드·FAQ 등 사내 문서를 knowledge base로 삼아 회사에 맞춘 챗봇을 만든다.

 

 

 

3. 전문 지식 (의료·법률)

RAG는 의료·법률 같은 고영향(high-impact) 도메인에서도 중요하다. 이 경우 knowledge base에는 특정 사건의 법률 문서, 최근 발표된 의학 저널 등이 들어간다. 정확성이 필수적이고 niche하거나 비공개인 정보가 방대한 이런 분야에서는, RAG 기반 접근법이 충분히 정확하면서 private 정보를 쓰는 LLM 제품을 배포할 유일한 방법일 수 있다.

그림 3. 사건 파일·저널·비공개 데이터 등 전문 문서를 knowledge base로 삼아, 정확성과 프라이버시가 중요한 분야에 안전하게 적용한다.

 

 

 

4. AI 웹 검색

역사적으로 검색엔진은 retriever처럼 작동해 왔다 — 검색어를 주면 관련 웹사이트를 반환한다. 오늘날 검색엔진은 여기에 더해 검색 결과의 AI 요약을 제공해, 핵심 정보를 빠르게 훑어볼 수 있게 한다. 이 AI 웹 요약은 사실상 전체 인터넷을 knowledge base로 쓰는 RAG 시스템이다.

그림 4. 검색엔진이 retriever 역할을 하고, 실시간 검색으로 가져온 결과를 요약한다 — 인터넷 전체가 knowledge base인 RAG.

 

 

5. 개인화 RAG

대규모 RAG만 강력한 게 아니라, 고도로 개인화된 RAG도 마찬가지다. 문자 메시지·이메일 클라이언트·워드프로세서·캘린더의 개인 비서는 이제 메시지 전송, 일정 정리, 문서 초안, 크고 작은 작업 완료를 돕는다. LLM이 지금 하는 작업에 대한 맥락을 많이 가질수록 더 잘 지원한다.

여기서 knowledge base는 비교적 작을 수 있다 — 문자, 연락처, 이메일, 문서 폴더 정도. 하지만 이런 문서에는 중요한 맥락이 밀도 있게 담겨 있어, 이 소규모 개인 정보에 접근하는 RAG는 지금 하는 일과 훨씬 관련성 높게 작업을 완료한다.

그림 5. 캘린더·이메일·문자·연락처 등 개인 데이터가 knowledge base가 되어, 개인 맥락에 맞춘 도움을 준다.

 

정리하면, RAG 모델은 아주 다양한 맥락에 적용된다. 많은 회사·조직, 그리고 개인도 LLM이 생성하는 텍스트의 품질을 높일 정보 모음을 갖고 있다. 학습에 쓰이지 않았을 정보에 접근할 수 있다면, 언제든 유용한 RAG 애플리케이션을 만들 여지가 있다. RAG는 원래는 불가능했을 맥락에서도 LLM을 쓸 수 있게 해 준다.

그림 6. 결국 RAG는  LLM + 당신의 데이터 다.

 

다음 글에서는 LLM 자체를 더 깊이 들여다본다 — LLM은 어떻게 동작하고, 왜 환각을 일으키며, RAG가 그것을 어떻게 해결하는지.