非常游戏网
Python实现逻辑回归可视化_决策边界绘制与分类效果评估

Python实现逻辑回归可视化_决策边界绘制与分类效果评估

2026-05-24日常编程120842

根本原因是数据未归一化或网格点过稀疏:特征尺度差异导致权重偏差、等高线扭曲,50点网格造成锯齿;应标准化特征并用200点网格,以predict_proba输出概率后contourf绘图。

为什么 plot_decision_boundary 画不出清晰的决策边界?

根本原因往往是数据没归一化,或网格点太稀疏。逻辑回归对特征尺度敏感,X1X2 量级差100倍时,梯度下降会抖动,训练出的权重 w 偏向大尺度特征,导致等高线扭曲;同时若用 np.linspace 只取50个点生成网格,边界就会锯齿明显甚至断裂。

实操建议:

  • 训练前必须对特征做标准化:from sklearn.preprocessing import StandardScaler,拟合训练集后统一 transform 训练/测试数据
  • 绘图网格建议至少 np.linspace(min-0.5, max+0.5, 200),确保边界平滑
  • 避免直接用 model.coef_ 手算边界(仅适用于线性可分二分类),优先用模型 predict_probadecision_function 输出概率/距离,再用 contourf 绘制等概率线

如何用 matplotlib.contourf 正确绘制概率热力图?

关键不是画“线”,而是画“面”——把每个网格点的预测概率映射成颜色深浅,再叠加散点真实标签。很多人误用 contour(只画等高线),结果边界单薄、无层次感。

实操建议:

  • 先用 np.meshgrid(X1, X2) 构造二维坐标阵列,再 np.c_[xx.ravel(), yy.ravel()] 展平喂给模型
  • 调用 model.predict_proba(grid_points)[:, 1] 获取正类概率,reshape 回网格形状
  • plt.contourf(xx, yy, Z, levels=50, cmap='RdYlBu_r', alpha=0.6):levels 越高越细腻,alpha 保证后续散点不被盖住
  • 务必加 plt.axis('equal'),否则圆形决策边界会被拉成椭圆

sklearn.metrics.classification_report 输出里 precision/recall/f1 的差异在哪?

这仨不是并列指标,而是针对“正类”(positive class)的不同视角:precision 关注你猜对了多少(TP / (TP + FP)),recall 关注你找出了多少(TP / (TP + FN)),f1 是它们的调和平均。当数据严重不平衡(比如正样本仅占5%),accuracy 高达95%也毫无意义。

Python 3.14.3

微软官方的 Python 扩展,是 VS Code 安装量最高的扩展(209M+)。集成 IntelliSense(通过 Pylance)、调试(通过 Python Debugger)、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。

实操建议:

  • 永远检查 classification_report(y_true, y_pred, output_dict=True) 返回的字典,重点看 '1' 键下的三项,而非 macro/weighted 平均值
  • 若 recall 过低(比如0.3),说明模型漏判太多正样本,应调低分类阈值(model.predict_proba(X)[:, 1] > 0.3
  • 若 precision 过低(比如0.4),说明模型乱标正类,应调高阈值或增加正则项(C=0.1

为什么训练集上 accuracy_score 是0.98,测试集却掉到0.72?

典型过拟合,尤其在小样本+高维特征下。逻辑回归本身不易过拟合,但若手动添加了高次项(如 X1**2, X1*X2)又没正则化,或者用了极小的 C(即极大正则强度反向),反而会让权重爆炸。

实操建议:

  • LogisticRegression(C=1.0, penalty='l2', solver='liblinear') 作为基线,不要轻易改 solverlbfgs 对小数据更稳)
  • 交叉验证选 Cfrom sklearn.model_selection import GridSearchCV,参数 param_grid={'C': [0.01, 0.1, 1, 10]}
  • 可视化学习曲线:learning_curve(model, X, y, train_sizes=[0.3, 0.6, 0.9], cv=3),确认是数据不足还是模型太复杂

决策边界可视化不是炫技,它暴露的是模型是否真正理解数据分布。最常被忽略的一点:永远在标准化后的特征空间里画图,而不是原始数据——否则你以为画的是逻辑回归边界,实际只是坐标轴缩放的错觉。