iPAS 備考專區 登入

iPAS AI 應用規劃師 中級 科目三 機器學習技術與應用・114 年第二次・L23・第 28 題

顧客流失模型對新會員預測不準,原因是什麼?

原題

一家零售電商公司希望建立顧客流失預測模型,用以判斷哪些會員可能在三個月內不再消費。團隊以去年會員資料進行訓練,並僅採用「曾經購買三次以上」的活躍顧客紀錄作為樣本。模型上線後,對全體會員進行預測時,發現模型對於新註冊會員與低消費會員的預測準確率明顯偏低。下列何者為造成此現象最可能的原因?

白話

一家電商公司建立顧客流失預測模型,訓練時只用了「購買三次以上」的活躍顧客資料。模型上線後對全體會員預測,卻發現對新註冊會員和低消費會員的準確率明顯偏低。

問你:訓練時只用活躍顧客,模型上線後對新會員和低消費會員預測不準,最可能的原因是什麼?

一句話總結

模型對新會員和低消費會員預測不準,最可能的原因是:訓練樣本僅涵蓋高活躍顧客,造成取樣偏差(Sampling Bias),模型從未見過「剛加入的新會員」或「偶爾消費的低活躍會員」長什麼樣,自然無法對他們做出準確預測。

情境

先感受問題:模型只認識老顧客

你是 PChome 線上購物的資料科學師。你的流失預測模型要找出「三個月內不再消費的會員」。為了資料品質,你訓練時只用了「過去一年購買三次以上」的活躍會員,共 50 萬筆。

模型上線了,你對全部 200 萬會員跑預測。結果發現:

  • 對那 50 萬活躍老顧客,預測準確率 89%:還不錯。
  • 對 80 萬新會員(剛加入半年,購買次數 0-2 次),準確率只有 51%:跟猜差不多。

問題很清楚:模型訓練時從來沒見過「只購買 0-2 次的會員」的樣本,它的學習完全基於「活躍老顧客的行為模式」。當你拿它去預測行為模式完全不同的新會員,它就像一個只認識 40 歲以上顧客的業務員,被要求去服務 20 歲大學生:不是不努力,是根本沒有這個族群的知識。

舊方法

取樣偏差如何悄悄發生

  1. 篩選條件不代表目標母體:「購買三次以上」是人為的篩選條件,但模型要服務的對象是「全體會員」。訓練集的母體(活躍會員)和目標母體(全體會員)不一致,就產生取樣偏差。
  2. 少數族群被系統性排除:新會員、低消費會員因為「不符合篩選條件」從未出現在訓練集中,模型對這些族群一無所知。
  3. 模型學到的是「活躍者的流失規律」:活躍老顧客的流失原因(例如品質下降、競品更優惠)跟新會員流失的原因(例如首次體驗不佳、忘記帳號)可能完全不同。
  4. 看起來高準確率的假象:如果你只用活躍會員評估,模型看起來準確率很高;直到上線面對全體會員才發現問題,這時修正成本已經很高。
  5. 商業影響嚴重:新會員通常是最需要關注的高流失風險族群,模型偏偏對他們失效,行銷部門按模型排優先順序,結果遺漏了最重要的挽留目標。

新方法

怎麼修正取樣偏差

PChome 的資料科學師發現問題後,採取以下修正方向:

  • 擴大訓練樣本:把「購買 0-2 次」的會員也納入訓練集,確保訓練集能代表目標母體(全體會員)的行為多樣性。
  • 分層取樣(Stratified Sampling):按購買次數分層(0 次、1 次、2 次、3+ 次),確保每個層的比例在訓練集中被合理代表,而非讓多數族群淹沒少數族群。
  • 建立分族群模型:對新會員(購買 0-1 次)建立專屬的流失預測模型,特徵設計也專注於新會員的早期行為信號(如首購後回購間隔、瀏覽類別多樣性)。
  • 定期驗證目標母體代表性:每季比對訓練集分佈和當前全體會員分佈,當分佈偏移(PSI 增高)時,主動更新樣本。

這就是選項 C 講的:訓練樣本僅涵蓋高活躍顧客,造成取樣偏差(Sampling Bias)。

錯選項

為什麼其他選項是錯的

A特徵設計未排除與會員忠誠度高度相關的變數,導致特徵偏差(Feature Bias)

字面在說什麼

如果特徵中包含「累計購買次數」這種高度代理忠誠度的變數,模型可能學到的是「誰是活躍會員」而不是「誰會流失」。

為什麼不對

特徵偏差確實是真實問題,但題目強調的是「訓練樣本僅用活躍顧客」這個資料選擇問題。即使特徵設計完美,樣本本身不代表目標母體,模型對新會員仍然沒有學習基礎。根本原因是取樣問題,特徵設計是第二層問題。

誰會選錯

熟悉「特徵工程」但不熟悉「取樣設計」重要性的人,容易把問題歸因到特徵層面。題目已明確告訴你「訓練樣本的篩選條件」,這就是取樣問題的明確指向。

B標記(Label)由人工標註,導致標籤偏差(Label Bias)

字面在說什麼

標籤偏差是人工標注時標注者帶入主觀偏見,讓不同族群的標籤品質不一致。

為什麼不對

題目的標籤是「三個月內是否消費」,這是客觀的系統紀錄(消費發生了就是 1,沒發生就是 0),不是人工標注,根本不會有標注者帶入偏見的空間。標籤偏差通常發生在情感分析、毒性偵測等需要人工判斷的任務中。

誰會選錯

記得「偏差有很多種」但沒仔細看題目標籤是客觀紀錄還是主觀標注的人。

D模型未進行超參數調整,導致過擬合(Overfitting)

字面在說什麼

過擬合是模型在訓練集上太好,在新資料上表現差,沒調超參數可能加重這個問題。

為什麼不對

過擬合的症狀是「訓練集誤差低、測試集誤差高」,而且測試集要與訓練集同分佈。但題目說的是「對特定族群(新會員、低消費會員)預測不準」:這是一個「次群體失效」問題,不是整體測試集誤差偏高。取樣偏差導致的次群體失效,即使調了超參數也無法解決,因為問題在資料而不在模型架構。

誰會選錯

看到「預測不準」就聯想到「模型問題 → 過擬合 → 調超參數」的人。記住:如果模型從未見過某類樣本,無論怎麼調超參數都無法讓它學到那類樣本的規律。

變形題

同個考點下次怎麼變形

延伸

想再往下看,這 5 個

答案、題目或解析有問題?回報這題

出處:iPAS 經濟部產業人才能力鑑定 ・ 114 年第二梯次 iPAS AI 應用規劃師 中級 科目三 機器學習技術與應用 第 28 題

看官方原文 PDF

原題 © 經濟部產業發展署,AITerms.tw 僅作教學解析使用,本站解析以 CC BY-NC-SA 4.0 授權。