25차시. Generator Node 분리
3. 실습 ① — Generator Node 완성
출처: 원본 PDF 25차시_GeneratorNode분리.pdf 7쪽 · 쪽 그림 7쪽
📝 src/nodes/generator.py
import re
import config
from prompts import PROMPTS
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser
from dotenv import load_dotenv
load_dotenv()
NO_INFO = "자료에서 확인할 수 없습니다"
_llm = ChatOpenAI(model=config.LLM_MODEL,
temperature=config.TEMPERATURE)
def _chain(version=None):
ver = version or config.PROMPT_VER
return PROMPTS[ver] | _llm | StrOutputParser()
def build_context(docs):
# 근거를 번호와 출처를 붙여 하나의 문자열로
parts = []
for i, d in enumerate(docs, 1):
head = (f"[{i}] {d.metadata.get('filename','?')} "
f"p.{d.metadata.get('page_no','?')}")
parts.append(f"{head}\n{d.page_content}")
return "\n\n---\n\n".join(parts)
def _check_citation(answer, n_docs):
nums = [int(n) for n in re.findall(r"\[(\d+)\]", answer)]
if not nums:
return False, "인용 없음"
bad = []
for n in nums:
if n < 1 or n > n_docs:
bad.append(n)
if bad:
return False, f"존재하지 않는 근거 번호 {bad}"
return True, f"인용 {len(nums)}건 정상"
def generator_node(state) -> dict:
docs = state.get("documents") or []
# 근거가 없으면 LLM을 부르지 않는다 (비용 절약)
if not docs:
return {"answer": config.MSG_NO_DOC,
"insufficient": True,
"has_citation": False,
"log": ["생성: 근거 없음 - LLM 호출 생략"]}
try:
answer = _chain().invoke({
"context": build_context(docs),
"question": state["question"],
})
except Exception as e:
return {"answer": config.MSG_ERROR,
"insufficient": True,
"has_citation": False,
"gen_error": type(e).__name__,
"log": [f"생성 오류: {type(e).__name__}"]}
ok, msg = _check_citation(answer, len(docs))
return {
"answer": answer,
"insufficient": NO_INFO in answer,
"has_citation": ok,
"log": [f"생성: {len(answer)}자, {msg}"],
}실습 코드 · 25/generator2.py
실습 코드: 실습/src/25/generator2.py · 위의 원본 PDF 25차시 7쪽 「3️⃣ 실습 ① — Generator Node 완성」과 이어집니다.
# ==============================================================
# 25차시. PPT 25차시_GeneratorNode분리. 코드 폴더는 src/25
# PPT: 25차시 Generator Node
# 역할: 재시도용 Generator. retries>0 이고 reason이 있으면 실패 이유를 프롬프트에 넣어 다시 씁니다.
# 읽는 키: documents, question, retries, reason
# 쓰는 키: answer, insufficient, has_citation, log, 오류 시 gen_error
# 그래프:
# documents 없음 --> 안내 문장
# retries>0 이고 reason 있음 --> 재시도 프롬프트
# 그 외 --> 기본 프롬프트
# --------------------------------------------------------------
# 파이썬만 아는 분을 위한 말
# State는 노드들이 함께 쓰는 딕셔너리입니다. 함수는 state를 읽고, 바꿀 키만 return 합니다.
# return에 적지 않은 키는 이전 값이 남습니다.
# log와 tried_queries는 리스트라서, 새로 return한 항목이 뒤에 이어 붙습니다.
# Retriever: 검색 담당. 질문과 비슷한 문서 조각만 고릅니다. 답 문장은 만들지 않습니다.
# Generator: 고른 문서를 근거로 답 문장을 만듭니다. 문서가 없으면 안내 문장만 돌려줍니다.
# Verifier: 답이 근거와 맞는지 검사하고 grade를 적습니다.
# grade=pass 답을 확정하고 그래프를 끝냅니다.
# grade=retry 같은 문서로 답 문장만 다시 씁니다. retries가 1 늘어납니다.
# grade=research 문서가 부족합니다. 검색어를 바꾼 뒤 다시 찾습니다. rewrites가 늘어납니다.
# grade=giveup 더 진행하지 않고 fallback으로 안내 문장만 돌려줍니다.
# fallback: 실패했을 때 답을 지어내지 않고 안내 문장을 반환하는 노드입니다.
# intent: 질문 종류. greeting 인사, calc 계산, scope 문서 밖, document 문서 검색.
# rewrite: 사용자가 친 question은 유지하고, 검색에 쓰는 query만 바꿉니다.
# safe_node: 노드를 try로 감쌉니다. 오류가 나도 그래프는 멈추지 않고 node_error에 적습니다.
# question은 사용자의 원래 질문입니다. reason은 Verifier가 적은 실패 이유입니다.
# 1회차는 기본 프롬프트, 2회차는 reason을 실은 재시도 프롬프트라는 점이 generator.py와 다릅니다.
# 인용 검사와 insufficient 판정은 generator.py와 같은 규칙입니다.
# ==============================================================
# ============================================================
# Generator Node
# 검색된 문서를 근거로 답변을 생성합니다.
# 재시도할 때는 이전 실패 이유를 프롬프트에 전달합니다.
# ============================================================
import os
import sys
import re
import warnings
from dotenv import load_dotenv
from langchain_openai import ChatOpenAI
from langchain_core.output_parsers import StrOutputParser
# 현재 파일의 위치
CURRENT_DIR = os.path.dirname(os.path.abspath(__file__))
# src 폴더의 위치
SRC_DIR = os.path.abspath(os.path.join(CURRENT_DIR, ".."))
# src 폴더를 모듈 검색 경로에 추가
sys.path.insert(0, SRC_DIR)
# prompts.py가 있는 13차시 폴더 추가
sys.path.insert(0, os.path.join(SRC_DIR, "13"))
# retriever.py가 있는 24차시 폴더 추가
sys.path.insert(0, os.path.join(SRC_DIR, "24"))
# 불필요한 경고 메시지 숨기기
warnings.filterwarnings("ignore")
# 프로젝트 설정 파일
import config
# 기본 답은 PROMPTS에서 고르고, 재시도 틀은 이름 그대로 가져옵니다.
# RETRY_PROMPT를 PROMPTS에 넣으면 13차시 비교가 {reason} 때문에 멈춥니다.
from prompts import PROMPTS, RETRY_PROMPT
# .env 파일 읽기
load_dotenv()
# 자료에서 답을 찾지 못했을 때 사용할 문구
NO_INFO = "자료에서 확인할 수 없습니다"
# 사용할 LLM 객체 생성
_llm = ChatOpenAI(
model=config.LLM_MODEL,
temperature=config.TEMPERATURE,
)
def create_basic_chain():
"""
기본 답변 생성 체인을 만듭니다.
config.PROMPT_VER에 지정된 프롬프트를 사용합니다.
"""
# 설정 파일에서 사용할 프롬프트 버전을 가져옵니다.
prompt_version = config.PROMPT_VER
# 해당 버전의 프롬프트를 가져옵니다.
prompt = PROMPTS[prompt_version]
# 프롬프트와 LLM, 출력 변환기를 연결합니다.
chain = prompt | _llm | StrOutputParser()
return chain
def create_retry_chain():
"""
재시도용 답변 생성 체인을 만듭니다.
prompts.py의 RETRY_PROMPT를 그대로 사용합니다.
PROMPTS 딕셔너리에는 넣지 않습니다.
"""
# 재시도 프롬프트. {context}, {question}, {reason}이 있습니다.
prompt = RETRY_PROMPT
# 재시도 프롬프트와 LLM을 연결합니다.
chain = prompt | _llm | StrOutputParser()
return chain
def build_context(documents):
"""
검색된 문서들을 하나의 문자열로 합칩니다.
각 문서에 [1], [2]와 같은 번호를 붙여서
LLM이 답변에 출처를 표시할 수 있도록 합니다.
"""
# 완성된 문서들을 저장할 목록입니다.
context_parts = []
# 검색된 문서를 하나씩 처리합니다.
for index, document in enumerate(documents, start=1):
# 문서의 파일명을 가져옵니다.
filename = document.metadata.get("filename", "?")
# 문서의 페이지 번호를 가져옵니다.
page_no = document.metadata.get("page_no", "?")
# 문서의 출처 정보를 만듭니다.
source = f"[{index}] {filename} p.{page_no}"
# 출처와 문서 내용을 합칩니다.
document_text = source + "\n" + document.page_content
# 완성된 문서를 목록에 추가합니다.
context_parts.append(document_text)
# 여러 문서를 구분선으로 연결합니다.
context = "\n\n---\n\n".join(context_parts)
return context
def check_citation(answer, document_count):
"""
답변에 포함된 인용 번호가 올바른지 확인합니다.
예:
문서가 2개이고 [1], [2]를 사용하면 정상입니다.
문서가 2개인데 [3]을 사용하면 잘못된 인용입니다.
"""
# 답변에서 [숫자] 형태를 모두 찾습니다.
found_numbers = re.findall(r"\[(\d+)\]", answer)
# 인용 번호가 하나도 없으면 실패입니다.
if not found_numbers:
return False, "인용 없음"
# 문자열로 찾은 번호를 정수로 변환합니다.
citation_numbers = []
for number in found_numbers:
citation_numbers.append(int(number))
# 잘못된 인용 번호를 저장할 목록입니다.
invalid_numbers = []
# 인용 번호가 실제 문서 범위 안에 있는지 확인합니다.
for number in citation_numbers:
# 문서 개수를 벗어난 번호인지 확인합니다.
if number < 1 or number > document_count:
invalid_numbers.append(number)
# 잘못된 번호가 있으면 실패입니다.
if invalid_numbers:
message = f"존재하지 않는 근거 번호 {invalid_numbers}"
return False, message
# 모든 인용 번호가 정상인 경우입니다.
message = f"인용 {len(citation_numbers)}건 정상"
return True, message
def generator_node(state) -> dict:
"""
검색된 문서를 바탕으로 답변을 생성합니다.
첫 번째 실행에서는 기본 프롬프트를 사용합니다.
재시도할 때는 실패 이유를 포함한 프롬프트를 사용합니다.
"""
# State에서 검색된 문서를 가져옵니다.
documents = state.get("documents") or []
# 근거 문서가 없으면 LLM을 호출하지 않습니다.
if not documents:
return {
"answer": config.MSG_NO_DOC,
"insufficient": True,
"has_citation": False,
"log": [
"생성: 근거 없음 - LLM 호출 생략"
],
}
# 현재 재시도 횟수를 가져옵니다.
retries = state.get("retries", 0)
# 이전 검증에서 기록한 실패 이유를 가져옵니다.
reason = state.get("reason", "")
# State에서 사용자 질문을 가져옵니다.
question = state.get("question", "")
# 검색 문서를 LLM 입력용 문자열로 변환합니다.
context = build_context(documents)
# 재시도 횟수와 실패 이유가 있으면 재시도 프롬프트를 사용합니다.
if retries > 0 and reason:
# 재시도 체인을 만듭니다.
chain = create_retry_chain()
# 재시도 프롬프트에 전달할 값을 준비합니다.
payload = {
"context": context,
"question": question,
"reason": reason,
}
# 로그에 표시할 프롬프트 종류입니다.
prompt_type = "재시도 프롬프트"
# 첫 번째 생성이면 기본 프롬프트를 사용합니다.
else:
# 기본 체인을 만듭니다.
chain = create_basic_chain()
# 기본 프롬프트에 전달할 값을 준비합니다.
payload = {
"context": context,
"question": question,
}
# 로그에 표시할 프롬프트 종류입니다.
prompt_type = "기본 프롬프트"
try:
# 프롬프트와 질문, 근거를 LLM에 전달합니다.
answer = chain.invoke(payload)
except Exception as error:
# 오류의 종류를 문자열로 저장합니다.
error_name = type(error).__name__
# 생성 오류 결과를 반환합니다.
return {
"answer": config.MSG_ERROR,
"insufficient": True,
"has_citation": False,
"gen_error": error_name,
"log": [
f"생성 오류: {error_name}"
],
}
# 답변에 포함된 인용 번호를 검사합니다.
has_citation, citation_message = check_citation(
answer,
len(documents),
)
# 답변에 근거 부족 문구가 있는지 확인합니다.
insufficient = NO_INFO in answer
# 생성 결과를 반환합니다.
return {
"answer": answer,
"insufficient": insufficient,
"has_citation": has_citation,
"log": [
f"생성: {prompt_type}, "
f"{len(answer)}자, "
f"{citation_message}"
],
}
# 이 파일을 직접 실행했을 때만 테스트합니다.
if __name__ == "__main__":
# 24차시 Retriever Node를 가져옵니다.
from retriever import retriever_node
# 테스트할 질문입니다.
question = "환불 방법과 수수료를 알려주세요"
# 처음 사용할 State를 만듭니다.
state = {
"question": question,
"query": question,
"retries": 0,
"reason": "",
}
# Retriever Node를 실행합니다.
retrieved_data = retriever_node(state)
# 검색 결과를 State에 추가합니다.
state.update(retrieved_data)
# 첫 번째 답변을 생성합니다.
first_result = generator_node(state)
# 첫 번째 결과를 출력합니다.
print("\n[1회차 결과]")
print(first_result["answer"])
print(first_result["log"])
# 첫 번째 생성 결과를 State에 추가합니다.
state.update(first_result)
# Verifier가 기록했다고 가정하는 값입니다.
state["retries"] = 1
state["reason"] = "답변을 1문장으로 줄이세요"
# 실패 이유를 반영하여 다시 생성합니다.
second_result = generator_node(state)
# 두 번째 결과를 출력합니다.
print("\n[2회차 결과]")
print(second_result["answer"])
print(second_result["log"])실행 결과 샘플 (교안 기록. API 키가 필요한 코드는 키 없이 맞춘 예시이고, 모델의 답은 실행할 때마다 달라집니다)
===== 실행 결과 샘플 =====
예시 출력 (API 키 필요, 실행하지 않음)
__main__은 1회차 생성 뒤 retries=1, reason='답변을 1문장으로 줄이세요'를 넣고 2회차를 호출합니다.
1회차·2회차 답 문장은 기록에 없어 적지 않습니다.
환불 계열 전체 로그: grade=pass retries=0 rewrites=0 elapsed=6.69
다른 실행 elapsed=2.39 n_docs=2 top_score=0.056코드 해설
재시도용 Generator. retries>0 이고 reason이 있으면 실패 이유를 프롬프트에 넣어 다시 씁니다.
코드 앞에서 고정해 두는 말입니다.
- 읽는 키: documents, question, retries, reason
- 쓰는 키: answer, insufficient, has_citation, log, 오류 시 gen_error
- 그래프:
- documents 없음 --> 안내 문장
- retries>0 이고 reason 있음 --> 재시도 프롬프트
- 그 외 --> 기본 프롬프트
- 파이썬만 아는 분을 위한 말
- State는 노드들이 함께 쓰는 딕셔너리입니다. 함수는 state를 읽고, 바꿀 키만 return 합니다.
함수와 클래스로 나누어 읽습니다.
create_basic_chain: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.create_retry_chain: 재시도 체인을 만듭니다.PROMPTS["retry"]가 아니라RETRY_PROMPT를 그대로 붙입니다.build_context: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.check_citation: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.generator_node: 이름 그대로 한 가지 일만 합니다. 본문 주석을 같이 읽습니다.
파일 맨 아래 실행 결과 샘플 주석은 실행되지 않습니다. 화면 출력은 다음 절에 다시 적어 두었습니다.