먼저 큰 그림부터

수업 자료는 분할을 이삿짐 상자와 도서관에 빗댑니다. 상자에는 담을 수 있는 양이 정해져 있듯, LLM의 컨텍스트 창에도 넣을 수 있는 양이 정해져 있습니다. 또 "환불 규정이 뭐야?"라고 물었을 때 300쪽짜리 약관 전체가 돌아오면 쓸 수가 없습니다. 「제12조 환불 규정」 문단 하나가 돌아와야 합니다. 그래서 자른다는 것은 검색 단위를 설계한다는 뜻입니다.

오늘 챙겨 가실 것은 세 가지입니다. 조각 크기를 정하는 chunk_size, 경계에서 문장이 사라지지 않게 겹치는 chunk_overlap, 그리고 문단·줄·문장 순으로 자를 곳을 찾는 separators입니다. 기준은 하나, "이 조각 하나만 봐도 답이 나오는가"입니다. 다음 8차시에서는 오늘 만든 조각을 벡터로 바꿔 저장하고, 첫 RAG를 실제로 돌립니다.