連續型與類別型特徵混在一起，怎麼做特徵工程？

中級考試大概率會考程式碼跟公式，所以這部分你還是要學。但如果現在學起來很痛苦，可以先跳過，等讀完其他題目回頭再來。

import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import KFold
import numpy as np

# 假設 df 是購易網資料集
# 連續特徵列表
continuous_cols = ["age", "spend_30d", "avg_browse_min", "member_days"]
# 類別特徵列表
categorical_cols = ["city", "gender", "category", "member_level"]

# Step 1: 標準化連續特徵
scaler = StandardScaler()
df[continuous_cols] = scaler.fit_transform(df[continuous_cols])

# Step 2: 目標編碼類別特徵（使用 K-Fold 避免 target leakage）
target = "purchased"
kf = KFold(n_splits=5, shuffle=True, random_state=42)

for col in categorical_cols:
    df[f"{col}_te"] = 0.0
    for train_idx, val_idx in kf.split(df):
        mean_map = df.iloc[train_idx].groupby(col)[target].mean()
        df.loc[df.index[val_idx], f"{col}_te"] = df.iloc[val_idx][col].map(mean_map)

# Step 3: 生成交互特徵
df["city_x_level_te"] = df["city_te"] * df["member_level_te"]
df["age_x_spend"]     = df["age"] * df["spend_30d"]

Step 1　純故事版

1. 標準化：把所有連續數字換算成「跟平均值差幾個標準差」，讓大小不同的特徵站在同一個基準上比
2. 目標編碼：把「台北」換成「住台北的人平均購買率」，讓類別變成有意義的數字
3. K-Fold 防漏：用交叉驗證方式做目標編碼，避免用自己的標籤算自己的分數（target leakage）
4. 交互特徵：把兩個編碼後的特徵相乘，捕捉組合效應

Step 2　中文 ↔ 程式碼對照

Step 3　符號角色表

• StandardScaler：把每個特徵轉成 z-score：(x - 均值) / 標準差。轉換後整體均值 = 0，標準差 = 1。
• Target Encoding（目標編碼）：把類別值替換成「該類別在訓練集裡對應目標變數的平均值」，讓類別特徵帶有統計意義。
• K-Fold（K 折交叉驗證）：把資料分成 K 份，每次用其他 K-1 份的均值來編碼當前這份，防止用自己的標籤算自己的分數（target leakage）。
• Interaction Feature（交互特徵）：兩個特徵相乘（或組合）產生新特徵，捕捉它們的聯合效應，線性模型尤其需要。

Step 4　完整公式對應

標準化公式：

z = (x - μ) / σ
# x：原始值，μ：該特徵的均值，σ：標準差

目標編碼公式（簡化版）：

TE(category_k) = mean(target | category == k)
# 即「屬於這個類別的樣本，目標變數的平均值」

Step 5　自我複述

蓋住程式碼，說出 3 步驟的作用：

1. 標準化：讓不同量級的連續特徵能公平競爭
2. 目標編碼：把類別換成有統計意義的數字，不造假順序
3. 交互特徵：捕捉兩個特徵的聯合效應