먼저 큰 그림부터

"안녕하세요, 저는 AI" 다음에 올 말을 맞혀 보라고 하면 대부분 "입니다"를 떠올립니다. 생성형 AI가 하는 일이 이것입니다. 수많은 문장에서 본 패턴으로 다음 글자를 하나씩 골라 이어 붙입니다. 그래서 "우리 회사의 2024년 매출은?"처럼 배운 적 없는 질문에도 그럴듯한 문장을 만들어 냅니다. RAG는 그 앞에서 회사 문서를 먼저 찾아 건네고, 그 문서를 보고 답하게 합니다.

오늘도 코드는 없습니다. 챙겨 가실 것은 세 가지입니다. LLM은 다음 글자를 예측하는 기계라는 점, RAG는 입력·검색·생성 세 단계로 움직인다는 점, 같은 검색 결과라도 프롬프트에 따라 답이 달라진다는 점입니다. 3차시에서는 이 세 단계를 더 잘게 나누어 문서를 미리 준비하는 과정까지 들여다봅니다.