14차시. 성능 비교 실습
체크리스트와 과제
원본 PDF 끝부분의 체크리스트, 과제, 다음 차시 미리보기를 한 페이지에 모았습니다.
이번 차시 체크리스트
출처: 원본 PDF 20쪽 · 쪽 그림 20쪽
개념 이해
□ 비교 실험 4가지 원칙을 말할 수 있다
□ 왜 한 번에 하나만 바꿔야 하는지 안다
□ 기준선이 왜 필요한지 안다
□ 정답률 외에 토큰·시간도 봐야 하는 이유를 안다
□ 어느 지점부터 트레이드오프가 시작되는지 안다
실습
□ benchmark.py 측정 도구를 만들었다
□ 기준선을 측정하고 기록했다
□ chunk_size를 4가지로 비교했다
□ k를 4가지로 비교했다
□ 프롬프트를 3가지로 비교했다
□ 최종 비교표를 완성했다
□ config.py에 결정과 근거를 기록했다
□ 남은 실패를 유형별로 분류했다
과제
출처: 원본 PDF 20쪽 · 쪽 그림 20쪽
🎯 이번 차시 과제
1. 나의 최종 비교표 (필수)
| 실험 | 설정 | 정답률 | 평균토큰 | 소요시간 | 개선 |
| 기준선 | | | | | — |
| 1차 chunk | | | | | |
| 2차 k | | | | | |
| 3차 프롬프트 | | | | | |
| 최종 | | | | | |
2. config.py 작성 (필수)
결정한 값과 근거 주석을 함께 넣으세요.
3. 실패 분류표 (필수)
최종 설정에서도 실패한 질문을
12차시 4대 유형으로 분류하고 처방 차시를 적으세요.
4. 추가 실험 (선택)
overlap · MMR · 임계값 중 하나를 더 실험해보세요.
효과가 있는지 없는지도 중요한 정보입니다.
다음 차시 미리보기
출처: 원본 PDF 21쪽 · 쪽 그림 21쪽
15차시: 기본 RAG 앱 만들기
지금 코드는 실험용 스크립트가 여기저기 흩어져 있습니다.
이제 남에게 보여줄 수 있는 형태로 정리합니다.
· config · indexer · rag · app 4개 파일로 구조화
· 검색·생성을 함수 하나로 감싸기
· 검색 결과가 없을 때도 죽지 않게 만들기
· 반복 질문이 가능한 인터페이스 붙이기
여기서 나눈 구조가 3부 Modular RAG의 밑그림이 됩니다.
💬 마무리
오늘 60%에서 90%로 올렸습니다. 그런데 더 중요한 것은 30%p를 올렸다는 사실이 아니 라, 올렸다는 것을 증명할 수 있다는 사실입니다.
실무에서 "성능을 개선했습니다"라고 말하면 반드시 "얼마나요?"라는 질문이 돌아옵니다. 그때 표 하나를 보여줄 수 있는 사람과 "체감상 좋아졌어요"라고 말하는 사람은 완전히 다릅니다.
그리고 오늘 배운 실험 방법은 RAG에만 쓰이지 않습니다. 어떤 시스템을 튜닝하든 원칙은 같습니다.
기준선을 잡고, 하나씩 바꾸고, 기록한다.
다음 차시에서 만나요! 📊