검색 증강 생성(RAG)이란?

검색 증강 생성(RAG)은 외부 자료 모음에서 관련 자료를 검색하고, 요청에 답할 때 그 자료를 생성 모델에 제공하는 구조입니다. 따라서 모델의 응답은 학습 중 익힌 패턴에만 의존하지 않고 선택된 근거를 사용할 수 있습니다.

작성: Ai Flowi · 게시일 2026-10-11

검색과 생성은 별개의 작업입니다. 시스템이 구절을 찾아도 근거 없는 답을 만들 수 있고, 잘못된 구절을 검색한 뒤 매끄러운 글을 생성할 수도 있습니다. 따라서 RAG는 선택한 근거와 그 근거로 만든 주장 모두를 검사해야 합니다.

검색과 생성을 결합한 구조

준비 단계는 원문 내용을 검색 가능하게 만듭니다. 설계에 따라 문서를 구절로 나누고, 메타데이터를 보존하고, 색인용 표현을 만드는 과정이 포함될 수 있습니다. 이는 준비된 자료 모음에서 질문으로 후보를 검색하는 답변 경로와 다릅니다.

요청 시 검색은 후보 자료를 선택합니다. 문맥 구성은 모델에 보낼 후보와 라벨 지정 방식을 결정합니다. 생성은 작업 지시에 따라 답변을 만듭니다. 후속 검사는 답변을 제공된 근거 및 사용자의 실제 질문과 비교합니다.

준비: 원문 문서 → 검색 가능한 자료 모음
답변: 질문 → 검색 → 선택한 원문 구절
             → 라벨을 붙인 모델 문맥 → 생성된 답변
             → 근거 및 적용 가능성 검토

화살표는 검증된 연결 방법이 아니라 구조상의 책임을 나타냅니다. 자료 수집에는 지식 베이스 가이드를, 표에서 답변으로 이어지는 구현에는 지식 베이스 챗봇 가이드를 사용합니다.

가상의 정책 질의응답 예시

가상의 작업장 정책이 방문자에게 입문 교육 후 작업 공간 사용을 허용하지만 장비 보관 구역은 직원 전용이라고 정한다고 가정합니다. 방문자는 입문 교육을 마치면 장비 보관 구역에 들어갈 수 있는지 묻습니다. 관련 근거에는 일반적인 작업 공간 허용과 더 좁은 장비 보관 구역 제한이 모두 포함됩니다.

작성자가 정한 목표 답변은 입문 교육만으로 장비 보관 구역 접근 권한이 생긴다는 추론을 부정합니다. 기록된 답변이 아닙니다. 관련 문서 제목만으로 부족한 이유를 보여 주는 예시입니다. 답에는 문서 안의 제한 조건이 필요합니다.

모델 단독 답변, 고정 RAG, 에이전트 기반 검색은 어떻게 다른가요?

모델 단독 답변은 별도의 외부 검색 단계 없이 제공된 요청을 사용합니다. 제공된 텍스트로 초안을 작성하는 데 적합할 수 있지만, 바뀌는 내부 정책에 접근할 수 있다는 증거는 아닙니다. 고정 RAG 설계는 미리 정한 검색·답변 순서를 따릅니다.

에이전트 기반 검색에서는 모델이 이끄는 과정이 애플리케이션의 제어 범위 안에서 검색 시점, 검색어 수정, 추가 관찰 요청을 결정할 수 있습니다. 판단 지점이 추가될 뿐 근거가 자동으로 더 믿을 만해지는 것은 아닙니다. 도구 권한, 종료 조건, 출처 선택을 여전히 명시적으로 다뤄야 합니다.

Agent 컴포넌트는 도구를 사용할 수 있는 인터페이스를 설명하지만, 그 존재만으로 작동하는 에이전트 기반 RAG 시스템을 입증하지는 않습니다. 용어 정의에서 이 구분은 검색 순서를 누가 결정하는지에 관한 것이며, 특정 통합 실행이 검증을 통과했다는 주장이 아닙니다.

관련 자료: RAG 청킹 전략; RAG 리랭킹.

자료 모음은 별도로 변경되는 출처입니다

학습된 파라미터와 검색한 문맥의 비교는 파인튜닝을 참고합니다.

작업장 구조에서 운영상 확인할 질문은 답변 경로가 어느 안내서 개정본에 접근할 수 있는지입니다. 안내서, 준비된 자료 모음, 답변 요청은 별개의 산출물입니다. 안내서를 교체해도 준비가 끝났는지, 검색이 의도한 자료 모음을 사용했는지, 개정된 구절이 이 요청에 들어갔는지까지 확인되지는 않습니다.

이 구분은 준비와 답변 사이의 인계도 정의합니다. 준비 측은 검색 가능하게 만든 개정본을 식별해야 하고, 답변 측은 사용한 개정본을 식별해야 합니다. 양쪽이 각각 그럴듯한 산출물을 만들어도 두 책임 사이의 실패는 계속될 수 있습니다. 전체 설계를 불투명한 모델 호출 하나로 취급하지 말고, 수정 책임을 정할 때 이 인계를 드러내 둡니다.

카탈로그에 나타나는 RAG 단계

Knowledge Base 가이드는 답변의 첫 단계에서 쓰이는 검색 설정을 문서화합니다.

요청 조립에는 Prompt Template 참조 문서를, 생성 구성에는 Language Model 참조 문서를 사용합니다.

작업장 질문에서는 확인 가능한 산출물 세 가지, 즉 검색 결과, 정확히 선택된 문맥, 답변을 보존합니다. 장비 보관 구역 제한이 검색 결과에는 있지만 선택된 문맥에는 없다면 검색어 수정은 잘못된 단계를 겨냥합니다. 두 산출물에 모두 있는데 답변이 접근을 허용한다면 선택 이후 단계를 고쳐야 합니다.

실패를 진단할 때는 입력을 고정하고 한 단계를 다시 실행합니다. 작성된 전체 근거 묶음을 답변 단계에 제공해 생성이 제한을 지키는지 확인합니다. 같은 접근 질문에 대한 검색은 별도로 살펴봅니다. 이 검사는 매끄러운 전체 시연이 가릴 수 있는 두 의존 관계를 분리합니다. 제안된 검사이며, 여기에는 실행 결과가 보고되어 있지 않습니다.

출처가 바뀌면 준비 및 검색도 그에 맞게 확인해야 합니다. 가상의 안내서가 개정되어 입문 교육만으로 작업장에 참여할 수 없게 되었다고 가정합니다. 이전 구절에 근거한 답은 문맥을 충실히 따르더라도 낡은 답일 수 있습니다. 답변 지시를 탓하거나 문서 업로드가 답변 경로에 반영되었다고 가정하기 전에 검색 가능한 자료 모음의 버전을 확인합니다.

카탈로그에 문서화되어 있지만 Ai Flowi가 실제 운영 환경에서 시험하지는 않았습니다

카탈로그 색인은 이 단계들을 명시합니다. 연결된 Language Model 참조 문서는 본인이 제공하는 제공업체 계정/API 키와 별도로 청구되는 생성 비용을 다룹니다.

RAG 평가와 실패의 경계

질문 말뭉치, 구절 라벨, 검색과 답변을 구분해 평가하는 절차는 RAG 평가를 사용합니다.

근거 묶음에는 이 요청에서 이용할 수 있는 자료만 포함해야 합니다. 컨텍스트 엔지니어링은 선택과 신뢰 경계를 다룹니다.

결과 집합을 늘려도 놓친 제한을 복구하지 못한 채 무관한 작업장 공지만 늘어날 수 있습니다. 검색이 행을 반환했는지만 보지 말고 결정적인 구절을 찾았는지 검토합니다. 질문이 안내서에 없는 정책 예외에 관한 것이라면 일반 정책 텍스트를 더 검색해도 예외에 답할 수 있게 되지는 않습니다.

원래 작업장 안내서는 입문 교육 후 참여를 허용하지만 개정본은 그 허용을 철회한다면, 두 버전을 하나의 접근 규칙으로 합칠 수 없습니다. 요청은 방문자의 질문에 어느 개정본이 적용되는지 밝혀야 합니다. 이를 선택할 수 없다면 구조상의 출력은 검색 순위가 가장 높은 구절에서 추론한 허용이 아니라, 미해결인 출처 버전 판단입니다.

관련 개념

컨텍스트 엔지니어링은 근거 선택과 문맥 예산을, 프롬프트 엔지니어링은 답변 지시를 다룹니다. LLM 그라운딩은 주장의 근거를, LLM 환각은 근거 없거나 꾸며 낸 출력을 설명합니다. 출처 검색은 유용한 단계이지만 답변은 여전히 그 출처와 대조해 평가해야 합니다.

더 읽어 보기

지식 집약적 NLP 작업을 위한 검색 증강 생성.