16차시까지의 RAG, 뭐가 문제일까?

출처: 원본 PDF 17차시_LangGraph입문.pdf 1~2쪽 · 쪽 그림 1쪽 2쪽

지금까지 우리가 만든 RAG 시스템은 이렇게 동작합니다.

1부에서 만든 RAG의 흐름
입력 (사용자의 질문)
↓
검색 (데이터베이스에서 관련 문서 찾기)
↓
LLM 처리 (검색한 문서를 기반으로 답변 생성)
↓
응답 (사용자에게 답변 전달)

매우 간단하고 깔끔합니다! 하지만 현실은 조금 다릅니다.

현실은 이렇습니다

출처: 원본 PDF 2쪽

생각해봅시다. 여러분이 누군가에게 뭔가를 물어본다고 해요.
"이 회사의 제품 가격이 얼마야?"
상대방이 할 수 있는 대답은 여러 가지입니다.

✓ 바로 알려준다
✓ 모르니까 찾아본다
✓ "질문이 좀 더 구체적이어야 해"라고 되묻는다
✓ 찾아봤는데 정보가 부족하면 다른 곳도 찾는다
✓ 답변하기 전에 "이게 맞나?" 확인한다
✓ 답변이 완벽하지 않으면 다시 생각한다

→ 이게 현실입니다! 하지만 16차시까지의 RAG는 이 모든 상황을 처리할 수 없습니다. 순차적으로만 진행될 뿐입니다.

1부 RAG의 한계
1. 검색이 나쁘면? 계속 진행해버립니다. (더 찾지 않습니다)
2. 질문이 불명확하면? 그냥 그대로 검색합니다. (재질문하지 않습니다)
3. 생성된 답변이 틀렸으면? 사용자는 그냥 받습니다. (재생성하지 않습니다)
4. 여러 소스에서 동시에 찾아야 하면? 하나하나 차례대로 검색합니다. (동시에 못 합니다)
5. 사용자의 승인이 필요하면? 바로 진행해버립니다. (기다리지 않습니다)