2차시. 생성형 AI와 RAG의 관계
정리
- LLM은 다음에 올 글자를 예측하는 기계이고, 한 글자씩 또는 한 토큰씩 이어 붙여 답을 완성합니다. (2차시 「1. 생성형 AI(LLM)는 어떻게 동작하나?」)
- ChatGPT는 자연스러운 대화와 넓은 지식이 강점이지만, 최신 정보와 비공개 정보를 모르고 거짓 답변을 할 수 있습니다. (2차시 「2. ChatGPT는 정말 똑똑한가?」)
- RAG는 질문을 받으면 먼저 문서를 검색하고 찾은 정보로 답합니다. 대신 검색이 더해져 일반 LLM보다 느립니다. (2차시 「3. RAG vs 일반 LLM: 무엇이 다를까?」)
- 생성 단계의 AI는 지시문, 검색한 문서, 사용자 질문을 한 묶음으로 받습니다. (2차시 「4. RAG의 3단계 흐름 이해하기」 › 4-3) 3단계 — 생성 (Generation))
- 좋은 프롬프트는 명확성, 구체성, 형식 지정, 역할 부여를 갖춥니다. (2차시 「5. 프롬프트 엔지니어링 기초」 › 5-1) 좋은 프롬프트의 4가지 특징)
- 같은 검색 결과라도 "매출은?"과 "분기별 매출을 표로 정리해 주세요"는 전혀 다른 답을 끌어냅니다. (2차시 「6. RAG에서의 프롬프트 엔지니어링」)