33차시. Modular RAG 최적화
확인문제와 해답
객관식
Q130개 질문의 프로파일 결과를 보고 최적화 대상에서 가장 먼저 빼야 할 것은 무엇일까요?
해설 검색은 전체 시간의 2%뿐이라 고쳐도 체감 효과가 없습니다. 시간의 98%를 쓰는 LLM 호출을 겨냥해야 합니다. (33차시 「2. 프로파일링 결과 읽기」)
Q2임베딩 사전 검증에서 답변과 근거의 유사도가 0.6으로 나왔습니다. 수업 자료의 예시 기준으로는 어떻게 처리할까요?
해설 0.85 이상은 통과, 0.40 미만은 retry, 그 사이는 애매하므로 LLM 심판에 보냅니다. 이 숫자들은 예시라서 내 문서로 다시 재야 합니다. (33차시 「4. 최적화 ② — 검증 호출 줄이기」)
Q3캐싱에 대한 설명으로 맞는 것은 무엇일까요?
해설 실패한 답이 계속 재사용되면 최악이고, 임계값이 낮으면 다른 질문에 같은 답이 나갑니다. 문서가 바뀌면 캐시를 비우고 TTL을 둡니다. (33차시 「6. 최적화 ④ — 캐싱」 › 6-2) 시맨틱 캐시 (심화))
단답형
- 작업 난이도에 따라 다른 등급의 모델을 쓰는 전략을 모델 ____ 이라고 합니다.
정답 보기
티어링
해설 분류처럼 쉬운 일은 작은 모델과 짧은 max_tokens로, 생성은 좋은 모델로 처리합니다. (33차시 「3. 최적화 ① — 모델 티어링」)
- 임베딩으로 후보를 넉넉히 가져온 뒤, 질문과 문서를 함께 넣어 관련도를 매기는 ____ 로 상위 몇 개를 다시 고릅니다.
정답 보기
Cross-Encoder
해설 질문과 문서를 따로 벡터로 만드는 임베딩보다 정확하지만 느려서 2단계로 씁니다. (33차시 「5. 최적화 ③ — Re-ranking」 › 5-1) 왜 재순위가 필요한가)
정답
정답 전체 보기
객관식: 1-C, 2-D, 3-A
단답형: 1. 티어링. 2. Cross-Encoder.