AITerms 登入
自然語言處理

詞向量(Word2Vec)是什麼?

詞向量(Word2Vec)是一種將詞語轉換為數字向量的技術,其核心概念是讓語意相近的詞彙在向量空間中的距離更接近

同主題的術語自然語言處理

完整定義

詞向量(Word2Vec)是一種將文字轉換為數值向量的技術,屬於自然語言處理的範疇。它透過分析大量文本資料,學習單詞之間的語義關係,將每個單詞映射到一個高維向量空間中。相似的單詞在向量空間中距離較近,因此 Word2Vec 能夠捕捉單詞的語義資訊,並應用於各種自然語言處理任務,例如文本分類、情感分析等。

白話說明

你有沒有想過,電腦怎麼知道「醫生」和「護士」比「醫生」和「香蕉」更像?

你可以把 Word2Vec 想成,把詞變成數字座標,讓意思相近的詞在空間裡靠近。

它重要,是因為機器如果只看字面,根本看不出詞和詞之間的語意關係。

記住這句

意思像的詞,向量也要靠近。

比喻:Word2Vec 就像給每個詞語一張「身分證」 -- 這張身分證上記載著一串數字,讓意思相近的詞(比如「國王」和「女王」)在數字世界裡也距離很近,電腦就能理解它們的關係。

容易混淆

Word2Vec vs 獨熱編碼

獨熱編碼只表示「是誰」,Word2Vec 還能表示「像誰」。

Word2Vec vs 嵌入表示

Word2Vec 是早期很有代表性的詞嵌入方法,嵌入表示是更大的總稱。

Word2Vec vs BERT 類上下文表示

Word2Vec 給同一個詞固定向量,BERT 類模型會依上下文改變向量。

最關鍵的區別:Word2Vec 是固定詞向量,不會因句子不同而改變。

實際案例

搜尋推薦

使用者搜尋「手機充電器」,系統可以靠詞向量找到「快充頭」或「Type-C 充電線」這類語意接近的詞。

文字相似度

在客服分類裡,「退款申請」和「退費流程」雖然字不一樣,但詞向量可幫模型看出它們很接近。

演算法與應用

Word2Vec 常見有 CBOW 和 Skip-gram 兩種訓練思路。

CBOW 會用上下文預測中心詞,Skip-gram 會用中心詞預測上下文。

它也常搭配負採樣、滑動視窗和大量語料一起訓練。

情境判斷

Q1(直覺題): 你想做「醫生、護士」這類語意靠近的詞表示,Word2Vec 合適嗎?

合適,因為它就是在學詞與詞的語意距離。

Q2(判斷題): 如果同一個詞在不同句子裡意思不同,Word2Vec 能自動改變它的向量嗎?

不能,這是它的限制。要處理多義詞,通常要看上下文型模型。

常見問題

出現在這些考古題

官方公告試題的逐題解析裡,這 2 題把詞向量列為延伸術語。

相關術語

本頁內容有提到,或屬於同一組主題的術語

來源

這個術語目前沒有標註外部來源。

其他格式:Markdown 版本