2. 임베딩이란 무엇인가

출처: 원본 PDF 09차시_임베딩이해.pdf 5~6쪽 · 쪽 그림 5쪽 6쪽

가장 쉬운 비유부터 시작합시다.

2-1) 지도 좌표 비유

🗺️ 도시에 좌표를 붙이면
"서울과 인천 중 어디가 부산에서 가까워?"
이 질문에 답하려면 좌표가 필요합니다.
서울 (37.5, 127.0)
인천 (37.4, 126.7)
부산 (35.1, 129.0)
좌표가 있으니 계산으로 거리를 잴 수 있습니다.
"서울-인천은 가깝다"를 숫자로 증명할 수 있습니다.
임베딩은 문장에 이런 좌표를 붙이는 일입니다.

2-2) 문장에 좌표를 붙이면

"환불 규정"  →  [ 0.21, -0.88,  0.05, ... ]
"반품 절차"  →  [ 0.19, -0.85,  0.08, ... ]   ← 숫자가 비슷!
"점심 메뉴"  →  [-0.72,  0.31,  0.66, ... ]   ← 완전히 다름

숫자가 비슷하다 = 좌표가 가깝다 = 뜻이 비슷하다

💡 여기서 핵심
임베딩 모델은 인터넷의 방대한 글을 학습하면서
"어떤 단어들이 함께 쓰이는가"를 익혔습니다.
"환불"과 "반품"은 비슷한 문맥에서 등장합니다.
→ 그래서 비슷한 좌표를 받습니다.
"환불"과 "점심"은 함께 등장하지 않습니다.
→ 그래서 먼 좌표를 받습니다.
사람이 동의어를 알려준 게 아닙니다.
글을 많이 읽다 보니 저절로 알게 된 것입니다.

2-3) 왜 숫자가 수백 개나 될까?

출처: 원본 PDF 6쪽

📐 2차원으로는 부족합니다
지도는 (위도, 경도) 2개면 충분합니다.
평면 위의 위치니까요.
하지만 문장의 "의미"는 훨씬 복잡합니다.
· 주제는 무엇인가 (금융? 의료? 일상?)
· 감정은 어떤가 (긍정? 부정?)
· 격식은 어떤가 (문어체? 구어체?)
· 시제는 언제인가
· 대상은 누구인가
· ... 그리고 수백 가지 더
이 모든 것을 담으려면 축이 많아야 합니다.
그래서 1536개나 되는 숫자를 씁니다.
이걸 "1536차원"이라고 부릅니다.