RAG2026-5일25차시 · Generator Node 분리8 / 19← 이전목차다음 →MetaContents

25차시. Generator Node 분리

5. 실습 ② — 단독 테스트

출처: 원본 PDF 25차시_GeneratorNode분리.pdf 10~11쪽 · 쪽 그림 10쪽 11쪽

검색은 한 번만 하고 생성만 반복 테스트합니다.

📝 nodes/generator.py 하단

출력
if __name__ == "__main__":
    from nodes.retriever import retriever_node

    CASES = [
        "환불은 며칠 이내에 신청해야 하나요?",   # 정상
        "환불 방법과 수수료를 알려주세요",       # 일부만 있음
        "대표이사가 누구인가요?",                # 근거 없음
    ]

    for q in CASES:
        s = {"question": q, "query": q}
        s.update(retriever_node(s))          # 검색
        r = generator_node(s)                # 생성

        print(f"\n{'='*55}")
        print(f"Q: {q}")
        print(f"근거 {len(s['documents'])}건")
        print(f"A: {r['answer'][:110]}")
        print(f"   부족신고={r['insufficient']} "
              f"인용정상={r['has_citation']}")
        print(f"   {r['log'][0]}")

실행 결과
═════════════════════════════════════════════
══════════
Q: 환불은 며칠 이내에 신청해야 하나요?
근거 3건
A: 환불은 상품 수령 후 7일 이내에 신청하실 수 있습니다[1].
   단순 변심의 경우 왕복 배송비는 고객 부담입니다[1].
   부족신고=False 인용정상=True
   생성: 68자, 인용 2건 정상

═════════════════════════════════════════════
══════════
Q: 환불 방법과 수수료를 알려주세요
근거 2건
A: 환불은 고객센터를 통해 접수하실 수 있습니다[2].
   수수료에 관한 내용은 자료에서 확인할 수 없습니다.
   부족신고=True  인용정상=True        ← 부분 답변 + 신고
   생성: 62자, 인용 1건 정상
═════════════════════════════════════════════
══════════
Q: 대표이사가 누구인가요?
근거 0건
A: 관련 자료를 찾지 못했습니다.
   부족신고=True  인용정상=False
   생성: 근거 없음 - LLM 호출 생략     ← 비용 0

🎯 두 번째 케이스를 주목하세요
질문의 일부만 자료에 있었습니다.
· 환불 방법 → 자료에 있음 → 답변
· 수수료 → 자료에 없음 → 없다고 명시
그리고 insufficient=True로 표시했습니다.
27차시에서 이 플래그를 보고
"수수료 정보를 더 찾아볼까?"를 판단하게 됩니다.

실습 코드 · 25/generator.py

실습 코드: 실습/src/25/generator.py · 위의 원본 PDF 25차시 10~11쪽 「5️⃣ 실습 ② — 단독 테스트」과 이어집니다.

Python
# ==============================================================
# 25차시. PPT 25차시_GeneratorNode분리. 코드 폴더는 src/25
# PPT: 25차시 Generator Node
# 역할: Generator Node. 검색된 문서를 근거로 답 문장을 만들고 인용 번호 [1]을 검사합니다.
# 읽는 키: documents, question
# 쓰는 키: answer, insufficient, has_citation, log, 오류 시 gen_error
# 그래프:
#   documents 있음 --> build_context --> LLM --> check_citation
#   documents 없음 --> MSG_NO_DOC, insufficient=True (LLM 호출 없음)
# --------------------------------------------------------------
# 파이썬만 아는 분을 위한 말
# State는 노드들이 함께 쓰는 딕셔너리입니다. 함수는 state를 읽고, 바꿀 키만 return 합니다.
# return에 적지 않은 키는 이전 값이 남습니다.
# log와 tried_queries는 리스트라서, 새로 return한 항목이 뒤에 이어 붙습니다.
# Retriever: 검색 담당. 질문과 비슷한 문서 조각만 고릅니다. 답 문장은 만들지 않습니다.
# Generator: 고른 문서를 근거로 답 문장을 만듭니다. 문서가 없으면 안내 문장만 돌려줍니다.
# Verifier: 답이 근거와 맞는지 검사하고 grade를 적습니다.
#   grade=pass     답을 확정하고 그래프를 끝냅니다.
#   grade=retry    같은 문서로 답 문장만 다시 씁니다. retries가 1 늘어납니다.
#   grade=research 문서가 부족합니다. 검색어를 바꾼 뒤 다시 찾습니다. rewrites가 늘어납니다.
#   grade=giveup   더 진행하지 않고 fallback으로 안내 문장만 돌려줍니다.
# fallback: 실패했을 때 답을 지어내지 않고 안내 문장을 반환하는 노드입니다.
# intent: 질문 종류. greeting 인사, calc 계산, scope 문서 밖, document 문서 검색.
# rewrite: 사용자가 친 question은 유지하고, 검색에 쓰는 query만 바꿉니다.
# safe_node: 노드를 try로 감쌉니다. 오류가 나도 그래프는 멈추지 않고 node_error에 적습니다.
# build_context는 문서마다 [1] 파일명 p.페이지 와 본문을 붙이고 --- 로 이어 붙입니다.
# check_citation은 답 안의 [숫자]를 찾습니다. 없거나, 1 미만이거나, 문서 개수를 넘으면 실패입니다.
# 답에 '자료에서 확인할 수 없습니다'가 있으면 insufficient가 True가 됩니다.
# 프롬프트 버전은 config.PROMPT_VER 입니다. 체인 모양은 프롬프트 | LLM | 문자열 변환입니다.
# ==============================================================

# ============================================================
# Generator Node
# 검색된 문서를 바탕으로 답변을 생성합니다.
# 근거가 없으면 LLM을 호출하지 않고 안내 메시지를 반환합니다.
# ============================================================

import os
import sys
import re
import warnings

from dotenv import load_dotenv
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser

# 현재 파일의 폴더 위치
CURRENT_DIR = os.path.dirname(os.path.abspath(__file__))

# src 폴더 위치
SRC_DIR = os.path.abspath(os.path.join(CURRENT_DIR, ".."))

# src 폴더를 모듈 검색 경로에 추가
sys.path.insert(0, SRC_DIR)

# prompts.py가 있는 13차시 폴더 추가
sys.path.insert(0, os.path.join(SRC_DIR, "13"))

# retriever.py가 있는 24차시 폴더 추가
sys.path.insert(0, os.path.join(SRC_DIR, "24"))

# 불필요한 경고 메시지 숨기기
warnings.filterwarnings("ignore")

# 프로젝트 설정 파일
import config

# 프롬프트 모음
from prompts import PROMPTS

# .env 파일 읽기
load_dotenv()

# LLM이 근거를 찾지 못했을 때 사용할 문구
NO_INFO = "자료에서 확인할 수 없습니다"

# 사용할 LLM 객체 생성
_llm = ChatOpenAI(
    model=config.LLM_MODEL,
    temperature=config.TEMPERATURE,
)

def create_chain():
    """
    설정 파일에 지정된 프롬프트와 LLM을 연결합니다.

    반환값:
        프롬프트 → LLM → 문자열 변환기가 연결된 실행 체인
    """

    # config.py에서 사용할 프롬프트 버전 가져오기
    prompt_version = config.PROMPT_VER

    # 선택한 프롬프트 가져오기
    prompt = PROMPTS[prompt_version]

    # 프롬프트, LLM, 출력 변환기를 연결
    chain = prompt | _llm | StrOutputParser()

    return chain

def build_context(documents):
    """
    검색된 문서들을 LLM에게 전달할 하나의 문자열로 합칩니다.

    각 문서 앞에 [1], [2]와 같은 번호와
    파일명, 페이지 번호를 붙입니다.
    """

    context_parts = []

    # 검색된 문서를 하나씩 처리
    for index, document in enumerate(documents, start=1):

        # 파일명을 가져옵니다.
        filename = document.metadata.get("filename", "?")

        # 페이지 번호를 가져옵니다.
        page_no = document.metadata.get("page_no", "?")

        # 문서의 출처 정보를 만듭니다.
        source = f"[{index}] {filename} p.{page_no}"

        # 출처와 문서 내용을 하나로 합칩니다.
        text = source + "\n" + document.page_content

        # 완성된 문서를 목록에 추가합니다.
        context_parts.append(text)

    # 여러 문서를 구분선으로 연결합니다.
    context = "\n\n---\n\n".join(context_parts)

    return context

def check_citation(answer, document_count):
    """
    답변에 포함된 인용 번호가 정상인지 확인합니다.

    예:
        [1], [2] → 정상
        인용 없음 → 실패
        문서가 2개인데 [3] → 실패

    반환값:
        (검사 결과, 검사 메시지)
    """

    # 답변에서 [숫자] 형태의 인용 번호를 찾습니다.
    numbers = re.findall(r"\[(\d+)\]", answer)

    # 인용 번호가 하나도 없으면 실패입니다.
    if not numbers:
        return False, "인용 없음"

    # 문자열로 찾은 번호를 정수로 변환합니다.
    citation_numbers = []

    for number in numbers:
        citation_numbers.append(int(number))

    # 존재하지 않는 인용 번호를 저장할 목록입니다.
    invalid_numbers = []

    # 인용 번호가 실제 문서 개수 안에 있는지 확인합니다.
    for number in citation_numbers:

        # 문서가 2개인데 [3]을 사용하면 잘못된 번호입니다.
        if number < 1 or number > document_count:
            invalid_numbers.append(number)

    # 잘못된 번호가 있으면 실패입니다.
    if invalid_numbers:
        message = f"존재하지 않는 근거 번호 {invalid_numbers}"
        return False, message

    # 모든 인용 번호가 정상인 경우입니다.
    message = f"인용 {len(citation_numbers)}건 정상"
    return True, message

def generator_node(state) -> dict:
    """
    검색된 문서를 바탕으로 답변을 생성합니다.

    입력:
        state["question"]  : 사용자 질문
        state["documents"] : 검색된 문서 목록

    출력:
        answer             : 생성된 답변
        insufficient       : 근거 부족 여부
        has_citation       : 인용 번호 정상 여부
        log                : 처리 결과 기록
    """

    # State에서 검색 문서 목록을 가져옵니다.
    documents = state.get("documents") or []

    # 검색된 문서가 없으면 LLM을 호출하지 않습니다.
    if not documents:
        return {
            "answer": config.MSG_NO_DOC,
            "insufficient": True,
            "has_citation": False,
            "log": [
                "생성: 근거 없음 - LLM 호출 생략"
            ],
        }

    # State에서 사용자 질문을 가져옵니다.
    question = state.get("question", "")

    # 검색된 문서를 LLM 입력용 문자열로 변환합니다.
    context = build_context(documents)

    try:
        # 프롬프트와 LLM을 연결한 체인을 만듭니다.
        chain = create_chain()

        # 질문과 근거를 LLM에 전달하여 답변을 생성합니다.
        answer = chain.invoke({
            "context": context,
            "question": question,
        })

    # LLM 호출 중 오류가 발생하면 안내 결과를 반환합니다.
    except Exception as error:
        error_name = type(error).__name__

        return {
            "answer": config.MSG_ERROR,
            "insufficient": True,
            "has_citation": False,
            "gen_error": error_name,
            "log": [
                f"생성 오류: {error_name}"
            ],
        }

    # 답변의 인용 번호를 검사합니다.
    has_citation, citation_message = check_citation(
        answer,
        len(documents),
    )

    # 답변에 근거 부족 문구가 포함되어 있는지 확인합니다.
    insufficient = NO_INFO in answer

    # Generator Node의 결과를 반환합니다.
    return {
        "answer": answer,
        "insufficient": insufficient,
        "has_citation": has_citation,
        "log": [
            f"생성: {len(answer)}자, {citation_message}"
        ],
    }

# 이 파일을 직접 실행했을 때만 테스트합니다.
if __name__ == "__main__":

    # 24차시 Retriever Node를 가져옵니다.
    from retriever import retriever_node

    # 테스트할 질문 목록입니다.
    questions = [
        "환불은 며칠 이내에 신청해야 하나요?",
        "환불 방법과 수수료를 알려주세요",
        "대표이사가 누구인가요?",
    ]

    # 질문을 하나씩 테스트합니다.
    for question in questions:

        # 처음에는 질문만 State에 넣습니다.
        state = {
            "question": question,
            "query": question,
        }

        # Retriever Node를 실행하고 검색 결과를 State에 추가합니다.
        retrieved_data = retriever_node(state)
        state.update(retrieved_data)

        # Generator Node를 실행합니다.
        result = generator_node(state)

        # 결과를 출력합니다.
        print("\n" + "=" * 55)
        print(f"질문: {question}")
        print(f"근거 문서: {len(state.get('documents', []))}건")
        print(f"답변: {result['answer'][:110]}")
        print(f"근거 부족: {result['insufficient']}")
        print(f"인용 정상: {result['has_citation']}")
        print(f"로그: {result['log'][0]}")

실행 결과 샘플 (교안 기록. API 키가 필요한 코드는 키 없이 맞춘 예시이고, 모델의 답은 실행할 때마다 달라집니다)

출력
===== 실행 결과 샘플 =====
예시 출력 (API 키 필요, 실행하지 않음)
이 파일은 Retriever를 먼저 호출한 뒤 generator_node를 호출합니다.
답 문장 원문은 기록에 없습니다.
환불은 며칠 이내에 신청해야 하나요? 기록: grade=pass retries=0 rewrites=0 elapsed=6.69
  다른 실행: elapsed=2.39 n_docs=2 top_score=0.056
대표이사가 누구인가요? 기록: grade=giveup rewrites=2 elapsed=3.41 fail_reason=low_score top_score=-0.219

코드 해설

Generator Node. 검색된 문서를 근거로 답 문장을 만들고 인용 번호 [1]을 검사합니다.

코드 앞에서 고정해 두는 말입니다.

  • 읽는 키: documents, question
  • 쓰는 키: answer, insufficient, has_citation, log, 오류 시 gen_error
  • 그래프:
  • documents 있음 --> build_context --> LLM --> check_citation
  • documents 없음 --> MSG_NO_DOC, insufficient=True (LLM 호출 없음)
  • 파이썬만 아는 분을 위한 말
  • State는 노드들이 함께 쓰는 딕셔너리입니다. 함수는 state를 읽고, 바꿀 키만 return 합니다.
  • return에 적지 않은 키는 이전 값이 남습니다.

함수와 클래스로 나누어 읽습니다.

  • create_chain: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.
  • build_context: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.
  • check_citation: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.
  • generator_node: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.

파일 맨 아래 실행 결과 샘플 주석은 실행되지 않습니다. 화면 출력은 다음 절에 다시 적어 두었습니다.

← 이전 절25차시 · 4. 근거가 없으면 LLM을 부르지 않는다다음 절 →25차시 · 6. 실습 ③ — 재생성 시 피드백 반영