33차시. Modular RAG 최적화
2. 프로파일링 결과 읽기
출처: 원본 PDF 33차시_ModularRAG최적화.pdf 5쪽 · 쪽 그림 5쪽
profile(TESTS) # 질문 30개
노드 호출 총시간 비중 LLM
------------------------------------------------
generate 38 62.4s 52% ● ██████████
verify 36 31.1s 26% ● █████
classify 30 14.2s 12% ● ██
rewrite 8 9.8s 8% ● █
retrieve 38 2.4s 2%
fallback 6 0.3s 0%
smalltalk 4 0.0s 0%
------------------------------------------------
합계 160 120.2s📊 이 표에서 읽어낼 것 4가지
① LLM 호출이 시간의 98%
검색·계산은 사실상 공짜입니다
→ 최적화는 LLM 호출을 겨냥해야 합니다
② generate가 38회 호출
질문 30개인데 38회 = 재생성이 8회 발생
→ 검증 기준을 조금 완화하면 줄어듭니다
③ classify가 12%나 차지
단순 분류인데 생각보다 큽니다
→ 더 작은 모델로 바꿀 여지가 있습니다
④ verify가 36회
규칙 필터가 2회만 걸렀다는 뜻
→ 1차 필터를 강화할 수 있습니다
2-1) 최적화 우선순위
| 순위 | 대상 | 기대 효과 |
|---|---|---|
| 1 | generate 호출 횟수 줄이기 | 가장 큰 비중 (52%) |
| 2 | verify를 값싼 모델로 | 26% 중 상당 부분 절감 |
| 3 | classify를 규칙으로 더 처리 | 12% 절감 |
| 4 | 캐싱으로 반복 질문 차단 | 전체를 건너뜀 |
| — | 검색 최적화 | 2%뿐. 효과 없음 |