9차시. 임베딩 이해
9. 자주 하는 오해
출처: 원본 PDF 09차시_임베딩이해.pdf 18쪽 · 쪽 그림 18쪽
| 오해 | 사실 |
|---|---|
| 임베딩은 문서를 요약·압축하는 것이다 | 요약이 아닙니다. 의미를 좌표로 옮길 뿐이고, 원문은 따로 보관됩니다 |
| 벡터를 보면 원래 문장을 복원할 수 있다 | 복원할 수 없습니다. 그래서 원문을 반드시 함께 저장합니다 |
| 차원이 클수록 무조건 좋다 | 정확도는 조금 오르지만 비용·용량이 크게 늘어 실익이 적을 수 있습니다 |
| 임베딩만 좋으면 검색이 잘 된다 | 분할이 엉망이면 아무리 좋은 임베딩도 소용없습니다 |
| 인덱싱과 검색에 다른 모델을 써도 된다 | 절대 안 됩니다. 좌표계가 달라 검색이 완전히 망가집니다 |
| 유사도 0.5면 무조건 관련 있다 | 모델·문서마다 분포가 다릅니다. 직접 측정해 기준을 잡아야 합니다 |
9-1) 임베딩이 잘 못하는 것
⚠️ 의미 검색에도 약점이 있습니다
① 고유명사·숫자에 약합니다
"제품코드 A-7742" 같은 건 의미가 없어서
정확히 찾아내지 못할 수 있습니다
② 부정문을 잘 구분 못합니다
"환불이 가능하다" ↔ "환불이 불가능하다"
→ 유사도가 아주 높게 나옵니다 (뜻은 정반대인데!)
③ 최신 용어를 모를 수 있습니다
모델 학습 이후 생긴 신조어는 좌표가 어색합니다
그래서 실무에서는 키워드 검색과 의미 검색을 함께 쓰기도 합니다.
이를 하이브리드 검색이라 하며, 33차시에서 다룹니다.