이번 차시에서 배우는 것

출처: 원본 PDF 02차시_생성형AI와RAG의관계.pdf 1쪽 · 쪽 그림 1쪽

생성형 AI와 RAG의 관계

✓ 생성형 AI(LLM)의 기본 원리와 동작 방식을 이해할 수 있다
✓ ChatGPT와 같은 언어모델의 강점과 약점을 설명할 수 있다
✓ RAG와 일반 LLM의 차이점을 구체적으로 설명할 수 있다
✓ RAG의 3단계 흐름(입력 → 검색 → 생성)을 이해할 수 있다
✓ 프롬프트 엔지니어링의 기본 개념을 이해할 수 있다

교안 해설: 이 시간에 하는 일

출처: 교안 02_생성형AI와RAG.md

LLM은 다음에 올 글자를 고르는 함수입니다. 회사 매출처럼 학습 데이터에 없는 값은 알지 못하면서도, 자주 본 문장 패턴으로 답을 완성합니다. RAG는 모델 가중치를 바꾸지 않습니다. 호출 직전에 관련 문서를 프롬프트에 넣습니다.

RAG의 실행은 세 단계입니다. 사용자가 질문하고, 관련 문서를 찾고, 그 문서를 근거로 답을 만듭니다. 생성 단계의 모델이 실제로 받는 꾸러미는 지시문, 검색된 조각, 사용자 질문입니다.

같은 모델이라도 프롬프트가 넓으면 답이 빈약하거나 지어냅니다. 좋은 프롬프트는 원하는 대상을 분명히 하고, 형식을 지정하고, 없으면 없다고 말하게 합니다. 토큰은 모델이 세는 길이입니다. 한글은 글자 수와 토큰 수가 같지 않습니다.

강의 PPT 흐름

출처: 강의 PPT 02차시_생성형AI와RAG의관계.pptx (17장)