根本原因是数据未归一化或网格点过稀疏:特征尺度差异导致权重偏差、等高线扭曲,50点网格造成锯齿;应标准化特征并用200点网格,以predict_proba输出概率后contourf绘图。
为什么 plot_decision_boundary 画不出清晰的决策边界?
根本原因往往是数据没归一化,或网格点太稀疏。逻辑回归对特征尺度敏感,X1 和 X2 量级差100倍时,梯度下降会抖动,训练出的权重 w 偏向大尺度特征,导致等高线扭曲;同时若用 np.linspace 只取50个点生成网格,边界就会锯齿明显甚至断裂。
实操建议:
- 训练前必须对特征做标准化:
from sklearn.preprocessing import StandardScaler,拟合训练集后统一 transform 训练/测试数据 - 绘图网格建议至少
np.linspace(min-0.5, max+0.5, 200),确保边界平滑 - 避免直接用
model.coef_手算边界(仅适用于线性可分二分类),优先用模型predict_proba或decision_function输出概率/距离,再用contourf绘制等概率线
如何用 matplotlib.contourf 正确绘制概率热力图?
关键不是画“线”,而是画“面”——把每个网格点的预测概率映射成颜色深浅,再叠加散点真实标签。很多人误用 contour(只画等高线),结果边界单薄、无层次感。
实操建议:
- 先用
np.meshgrid(X1, X2)构造二维坐标阵列,再np.c_[xx.ravel(), yy.ravel()]展平喂给模型 - 调用
model.predict_proba(grid_points)[:, 1]获取正类概率,reshape 回网格形状 -
plt.contourf(xx, yy, Z, levels=50, cmap='RdYlBu_r', alpha=0.6):levels 越高越细腻,alpha保证后续散点不被盖住 - 务必加
plt.axis('equal'),否则圆形决策边界会被拉成椭圆
sklearn.metrics.classification_report 输出里 precision/recall/f1 的差异在哪?
这仨不是并列指标,而是针对“正类”(positive class)的不同视角:precision 关注你猜对了多少(TP / (TP + FP)),recall 关注你找出了多少(TP / (TP + FN)),f1 是它们的调和平均。当数据严重不平衡(比如正样本仅占5%),accuracy 高达95%也毫无意义。
Python 3.14.3
微软官方的 Python 扩展,是 VS Code 安装量最高的扩展(209M+)。集成 IntelliSense(通过 Pylance)、调试(通过 Python Debugger)、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。
实操建议:
- 永远检查
classification_report(y_true, y_pred, output_dict=True)返回的字典,重点看'1'键下的三项,而非 macro/weighted 平均值 - 若 recall 过低(比如0.3),说明模型漏判太多正样本,应调低分类阈值(
model.predict_proba(X)[:, 1] > 0.3) - 若 precision 过低(比如0.4),说明模型乱标正类,应调高阈值或增加正则项(
C=0.1)
为什么训练集上 accuracy_score 是0.98,测试集却掉到0.72?
典型过拟合,尤其在小样本+高维特征下。逻辑回归本身不易过拟合,但若手动添加了高次项(如 X1**2, X1*X2)又没正则化,或者用了极小的 C(即极大正则强度反向),反而会让权重爆炸。
实操建议:
- 用
LogisticRegression(C=1.0, penalty='l2', solver='liblinear')作为基线,不要轻易改solver(lbfgs对小数据更稳) - 交叉验证选
C:from sklearn.model_selection import GridSearchCV,参数param_grid={'C': [0.01, 0.1, 1, 10]} - 可视化学习曲线:
learning_curve(model, X, y, train_sizes=[0.3, 0.6, 0.9], cv=3),确认是数据不足还是模型太复杂
决策边界可视化不是炫技,它暴露的是模型是否真正理解数据分布。最常被忽略的一点:永远在标准化后的特征空间里画图,而不是原始数据——否则你以为画的是逻辑回归边界,实际只是坐标轴缩放的错觉。