개발/용어 사전

RAG란? LLM 답변에 외부 지식을 연결하는 방식

cedis 2026. 6. 15. 17:17
AI 검색 용어집: RAG

RAG는 LLM에게 모든 지식을 다시 학습시키지 않고 외부 문서를 검색해 답변에 붙이는 방식입니다.

사내 문서, 최신 공지, 게시판 글처럼 모델이 원래 모르는 정보를 답변에 활용할 때 자주 쓰입니다.

한 문장으로 잡으면

  • RAG는 Retrieval-Augmented Generation의 약자로, 외부 문서를 검색해 그 내용을 LLM 답변에 함께 넣는 방식입니다.

핵심 포인트

포인트 1
사용자 질문을 받습니다.
포인트 2
관련 문서를 검색합니다.
포인트 3
검색된 문서를 context로 넣습니다.
포인트 4
LLM이 근거를 바탕으로 답변합니다.

어디에 쓰이나

사내 문서 Q&A
LLM이 원래 모르는 내부 문서를 검색해 답변 근거로 사용합니다.
최신 정보 답변
모델 학습 이후 바뀐 공지, 가격, 정책 정보를 문서 검색으로 보완합니다.
근거 링크 제공
답변과 함께 참고 문서를 보여주면 검증 가능성이 높아집니다.

헷갈리기 쉬운 부분

  • 모델이 학습하지 않은 최신 정보나 사내 문서를 활용할 수 있습니다.
  • 검색 결과가 틀리면 답변도 흔들리므로 retrieval 품질이 중요합니다.

기억할 것

  • RAG의 성패는 LLM보다 검색된 근거 문서 품질에 크게 좌우됩니다.
  • 답변이 좋아 보여도 근거 문서가 맞는지 따로 확인해야 합니다.

참고한 문서