먼저 큰 그림부터

수업 자료의 마무리에 이런 장면이 나옵니다. 인사 한마디에 4초씩 기다렸다가 "자료에서 찾지 못했습니다"를 듣던 사용자가, 이제 즉시 알맞은 답을 받습니다. 오늘은 27차시 그래프 앞에 분류 단계를 붙여 질문마다 다른 길로 보냅니다. 인사, 계산, 범위 밖 질문은 검색 없이 바로 끝나고, 문서 질문만 기존 RAG 흐름을 탑니다. 문서 질의 정확도는 그대로입니다. 필요 없는 일을 하지 않는 것도 품질이라는 것이 오늘의 요점입니다.

오늘 챙겨 갈 것은 세 가지입니다. 확실한 것만 규칙으로 가르고 애매한 것만 LLM에 보내는 2단 분류, 분류에 실패하면 document로 보내는 기본값, 그리고 fail_reason별로 경로 이름을 미리 나눠 두는 설계입니다. 오늘 만든 research 경로는 지금은 fallback으로 가지만, 30차시에서 경로맵 한 줄만 바꿔 재검색으로 잇습니다.