12차시. RAG 품질 문제
먼저 큰 그림부터
의대에서 건강한 사람의 몸만 배우면 환자를 진료할 수 없습니다. 어떤 증상이 나타나는지, 그 원인이 무엇인지, 무엇부터 검사해야 하는지를 알아야 의사입니다. 수업 자료는 RAG 개발자도 똑같다고 말합니다. 오늘은 만드는 법이 아니라 "왜 안 되는지"를 배웁니다. 검색 실패, 문맥 부족, 환각, 노이즈 혼입이라는 네 가지 증상을 구분하고, 증상만 보고 어느 단계가 탈이 났는지 좁혀 갑니다.
오늘 챙겨 갈 것은 세 가지입니다. 첫째, "검색된 조각 안에 정답이 있는가"라는 질문 하나로 검색 문제와 생성 문제를 가르는 습관입니다. 둘째, 일부러 무너뜨리는 네 가지 질문 유형입니다. 셋째, 실패 사례 목록과 지금의 정답률(기준선)입니다. 이 목록은 13차시 프롬프트 개선과 14차시 성능 비교에서 그대로 다시 씁니다.