이번 차시에서 배우는 것

출처: 원본 PDF 09차시_임베딩이해.pdf 1쪽 · 쪽 그림 1쪽

임베딩 이해 — 컴퓨터는 어떻게 '비슷한 뜻'을 알까?

✓ 텍스트가 숫자 벡터로 바뀌는 원리를 직관적으로 이해한다 ✓ 코사인 유사도로 두 문장의 의미 거리를 직접 재본다
✓ 키워드 검색과 의미 검색의 결정적 차이를 확인한다
✓ 임베딩 모델을 고르는 기준을 안다
✓ 검색이 실패하는 원인을 임베딩 관점에서 진단한다

교안 해설: 이 시간에 하는 일

출처: 교안 09_임베딩이해.md

'환불'과 '반품'은 글자가 겹치지 않아도 같이 쓰이는 문맥이 많아 벡터 방향이 비슷해집니다. '환불'과 '점심'은 거의 같이 나오지 않아 방향이 멀어집니다. 임베딩은 사람이 동의어 사전을 준 것이 아니라, 같이 나온 말을 세어 좌표로 옮긴 것입니다.

코사인 유사도는 벡터의 길이 대신 각도만 봅니다. 1에 가까울수록 같은 방향입니다. 임계값은 관련 문장 점수와 무관 문장 점수 사이에 둡니다. 그 아래는 검색 결과에서 버립니다.

약점도 있습니다. 제품 코드처럼 뜻이 없는 고유명사는 약하고, '가능하다'와 '불가능하다'는 방향이 비슷하게 나올 수 있습니다. 모델을 바꾸면 좌표 공간이 바뀌므로 인덱스를 다시 만듭니다. 세 파일 모두 API가 필요해 샘플은 예시입니다. 유사도 숫자는 이 저장소 기록에 없어 지어 넣지 않았습니다.

강의 PPT 흐름

출처: 강의 PPT 09차시_임베딩이해.pptx (19장)