14차시. 성능 비교 실습
먼저 큰 그림부터
체중계 없이 다이어트를 하면 "좀 빠진 것 같은데?" 정도밖에 말하지 못합니다. 체중계가 있으면 매일 숫자로 확인하고, 어떤 식단이 효과 있었는지 알고, 다시 늘면 원인을 되짚을 수 있습니다. 수업 자료는 RAG의 체중계가 정답률이고, 12차시에 만든 질문 20개가 바로 그 체중계라고 말합니다. 월요일에 청크를 줄이고 화요일에 k를 올리면 금요일에는 원점으로 돌아옵니다. 오늘은 그렇게 되지 않도록 실험하는 법을 배웁니다.
오늘 챙겨 갈 것은 세 가지입니다. 한 번에 하나만 바꾸고 같은 질문 세트를 쓰는 실험 원칙, 정답률과 함께 토큰과 시간을 놓고 고르는 판단 기준, 그리고 결정한 값과 근거를 config.py 주석으로 남기는 습관입니다. 90%에서 멈추는 것도 하나의 결론입니다. 15차시에서는 이렇게 정한 값을 config 한 곳에 모아 앱 구조를 만듭니다.