完整定義
K 近鄰 (KNN) 是一種監督式學習演算法,用於分類和迴歸任務。它基於實例的學習,通過尋找與目標樣本最接近的 K 個鄰居,並根據這些鄰居的類別或數值來預測目標樣本的類別或數值。KNN 簡單易懂,但計算複雜度較高,且對特徵縮放敏感。它不需要顯式的訓練過程,屬於惰性學習方法。
白話說明
你遇到新資料時,為什麼只看最像它的幾個例子,就能做判斷?
你可以把它想成找附近最像你的幾個人,看看多數人怎麼選,你就先跟著那個方向走。
K 近鄰演算法是一種基於實例的學習方法,透過找出距離最近的 K 個鄰居,以投票方式決定資料點的分類
記住這句
找最近的 K 個鄰居,多數決。
比喻:K 近鄰就像判斷一個陌生人的歸屬 -- 你看他跟哪 K 個朋友最常玩、最像,如果這 K 個朋友大多是某個社團的,那這個陌生人很可能也屬於那個社團。
容易混淆
K-Means
K-NN 是有標籤分類,K-Means 是沒有標籤的分群。
決策樹
決策樹是先學規則再預測,K-NN 幾乎不先學,預測時才找鄰居。
實際案例
電影推薦
系統找出和你觀影習慣最像的用戶,看他們最常看的片,再推薦給你。
醫療分級
病人的檢驗數值和歷史病例比對,找最像的幾個病例,判斷風險高低。
演算法與應用
K-NN 是典型的惰性學習法,訓練幾乎不做事,真正的成本在預測。距離函數、特徵標準化和 K 值選擇都很重要,否則最近鄰未必真的「最近」。
iPAS 考題
出題方向: 這類概念常考定義、差異和實務用法。
題目 關於 K 近鄰演算法,下列何者正確?
答案:C。 KNN 是惰性學習法,預測時才計算距離並做投票。A 錯在它不會先建立明確模型,B 錯在 K 越大不一定越準,D 錯在它也可以做回歸。
常見問題
K-NN 是有標籤分類,K-Means 是沒有標籤的分群。
你可以把它想成找附近最像你的幾個人,看看多數人怎麼選,你就先跟著那個方向走。
決策樹是先學規則再預測,K-NN 幾乎不先學,預測時才找鄰居。
出現在這些考古題
官方公告試題的逐題解析裡,這 5 題把K 近鄰列為延伸術語。
相關術語
來源
這個術語目前沒有標註外部來源。
其他格式:Markdown 版本