23차시. Modular RAG 개념
1. 22차시 시스템의 한계
출처: 원본 PDF 23차시_ModularRAG개념.pdf 3쪽 · 쪽 그림 3쪽
2부에서 그래프 기반 RAG를 완성했습니다. 잘 돌아갑니다. 그런데 실무에 투입하면 곧 벽에 부딪힙니다.
1-1) 현재 구조
START → retrieve ─ 자료있음 → generate → END
└ 자료없음 → fallback → END⚠️ 이 시스템이 못 하는 것들
① 생성된 답변이 맞는지 확인하지 않습니다
근거에 없는 내용이 섞여도 그대로 내보냅니다
② 답이 부실해도 다시 시도하지 않습니다
한 번 만든 답이 최종입니다
③ 검색이 실패하면 바로 포기합니다
질문을 바꿔서 다시 찾아볼 수 있는데도요
④ 질문 종류를 구분하지 않습니다
"안녕하세요"에도 문서를 검색해 비용을 씁니다
⑤ 어느 단계가 느린지 · 실패했는지 측정할 수 없습니다
전체 시간만 보입니다
1-2) 14차시에서 못 고친 10%
📊 기억하시나요?
14차시에서 정답률을 60% → 90%로 올렸습니다.
그런데 나머지 10%는 못 고쳤습니다.
"반품하고 싶은데 언제까지?" → 검색 실패
"택배비 누가 내나요?" → 문맥 부족
그때 이렇게 적었습니다.
"파라미터 튜닝으로는 여기가 한계입니다.
3부의 구조적 개선이 필요합니다."
그 3부가 지금입니다.