RAG2026-5일25차시 · Generator Node 분리7 / 19← 이전목차다음 →MetaContents

25차시. Generator Node 분리

4. 근거가 없으면 LLM을 부르지 않는다

출처: 원본 PDF 25차시_GeneratorNode분리.pdf 9쪽 · 쪽 그림 9쪽

작아 보이지만 실무에서 큰 차이를 만드는 설계입니다.

출력
if not docs:
    return {"answer": config.MSG_NO_DOC, ...}     # LLM 호출 없음

💰 왜 이게 중요한가
근거가 하나도 없는데 LLM을 부르면?
· 어차피 "자료에 없습니다"라고 답합니다
· 그런데 토큰 비용은 발생합니다
· 응답 시간도 2~3초 걸립니다
· 최악의 경우 지어낼 위험도 있습니다
근거가 없다는 건 코드가 이미 아는 사실입니다.
LLM에게 물어볼 필요가 없습니다.
30차시에서 재검색 루프가 생기면
이런 호출이 여러 번 반복될 수 있어 더 중요해집니다.

💡 일반화하면
"코드로 판단할 수 있는 것은 LLM에게 묻지 않는다"
· 근거가 0건인가 → len()으로 확인
· 인용 번호가 유효한가 → 정규식으로 확인
· 질문이 비었는가 → strip()으로 확인
LLM은 판단이 필요한 곳에만 씁니다.
비용과 속도가 크게 달라집니다.

← 이전 절25차시 · 3. 실습 ① — Generator Node 완성다음 절 →25차시 · 5. 실습 ② — 단독 테스트