8차시. 첫 번째 RAG 실습

4. 새로 배우는 것 ② — 근거 기반 프롬프트

출처: 원본 PDF 08차시_첫번째RAG실습.pdf 8쪽 · 쪽 그림 8쪽

검색해서 조각을 찾았다고 끝이 아닙니다. 그걸 LLM에게 어떻게 전달하느냐가 답변 품질을 좌우합니다.

4-1) 그냥 물어보면 어떻게 되나

❌ 나쁜 예

출력

────────────────────────────────
prompt = "환불 규정이 어떻게 되나요?"

→ 우리 회사 규정을 모르는 LLM이
  일반적인 이야기를 지어냅니다
  "보통 온라인 쇼핑몰은 7~14일 이내에..."
  (우리 규정과 다를 수 있습니다!)

✅ 좋은 예

출력

────────────────────────────────
prompt = (
    "아래 자료만 근거로 답하세요.\n"
    "자료에 없으면 '자료에서 확인할 수 없습니다'라고 답하세요.\n\n"
    f"[자료]\n{context}\n\n"
    "[질문] 환불 규정이 어떻게 되나요?"
)

→ 검색된 실제 문서를 근거로 답합니다
→ 없으면 없다고 솔직하게 말합니다

4-2) 프롬프트에 꼭 넣어야 할 두 줄

💡 오늘 반드시 넣을 규칙
규칙 1 — "아래 자료만 근거로 답하세요"
→ LLM이 자기 지식으로 답하는 것을 막습니다
규칙 2 — "자료에 없으면 없다고 답하세요"
→ 환각(지어내기)을 막는 가장 강력한 한 줄입니다
이 두 줄만 넣어도 답변 품질이 크게 달라집니다.
13차시에서 더 정교하게 다듬습니다.