先带着一个问题来学对应幻灯片 PPT 第 16 页
预测“是哪一类”和“有多大把握”有什么区别?
分类像筛查:先给出一个分数,再按门槛决定是否通过。改变门槛,会改变漏掉和误报的数量。
学完能做到
区分类别与概率;手算精确率和召回率;解释阈值的影响。
第一遍不必深究:交叉熵推导、Softmax 的指数形式。
先算一个小例子对应幻灯片 PPT 第 17 页
100 个样品中只有 5 个缺陷品。“全部正常”也有 95% 准确率,却漏掉全部缺陷。若查出 4 个缺陷、误报 6 个,精确率是 4/10,召回率是 4/5。
| 实际情况 | 判为缺陷 | 判为正常 |
|---|---|---|
| 缺陷:5 个 | 查出 4 | 漏掉 1 |
| 正常:95 个 | 误报 6 | 正确排除 89 |
把方法带回材料与物理对应幻灯片 PPT 第 18 页
缺陷检测往往更怕漏检,候选材料初筛可能愿意多做一些复验。先明确漏检和误报的代价,再选指标和阈值。
问题变了:预测类别而不是数值对应幻灯片 PPT 第 1 页
第 2 讲预测连续值(含糖量),现在预测离散类别——回到那只西瓜:判断「好瓜还是坏瓜」。
| 任务 | 输出 | 例子 |
|---|---|---|
| 回归 | $\hat y\in\mathbb{R}$ | 预测含糖量 $11.2\%$ |
| 二分类 | $\hat y\in\{0,1\}$ | 好瓜(1)还是坏瓜(0) |
| 多分类 | $\hat y\in\{1,\dots,K\}$ | 西瓜按成熟度分「生 / 熟 / 过熟」 |
把实数压进 (0,1):sigmoid对应幻灯片 PPT 第 2 页
先用一句话理解:把任意实数分数压到 0 和 1 之间;先把它看成“通过倾向”的刻度。
线性模型给出实数 $z = \mathbf{w}\cdot\mathbf{x} + w_0$,用 sigmoid 把它映射到概率:
逻辑回归的完整形式对应幻灯片 PPT 第 3 页
决策边界:概率 0.5 的那条线对应幻灯片 PPT 第 4 页
判类的规则:$\hat p \ge 0.5$ 判为正类,否则负类。$\hat p=0.5$ 等价于 $z=0$,即:
逻辑回归是一个线性分类器:它只能把空间切成两半。
线性可分的局限对应幻灯片 PPT 第 5 页
怎么衡量分类的好坏对应幻灯片 PPT 第 6 页
回归用平方损失。分类的正确选择是交叉熵(cross-entropy),对单个样本:
| 情形 | $y$ | 损失 |
|---|---|---|
| 真实正类 | $y=1$ | $L = -\log\hat p$($\hat p$ 越小罚越重) |
| 真实负类 | $y=0$ | $L = -\log(1-\hat p)$ |
为什么分类不用平方损失对应幻灯片 PPT 第 7 页
从二分类到 K 分类对应幻灯片 PPT 第 8 页
有 $K$ 个类别时,为每个类别算一个得分 $z_k$,用 Softmax 归一成概率分布:
准确率就够了吗对应幻灯片 PPT 第 9 页
设想一个罕见病筛查:1000 人里只有 1 个病人。一个「永远说没病」的模型,准确率高达 99.9%,却毫无用处。
| 指标 | 公式 | 关注什么 |
|---|---|---|
| 准确率 | $\dfrac{TP+TN}{N}$ | 总体对多少 |
| 精确率 | $\dfrac{TP}{TP+FP}$ | 报「正」里有多少真 |
| 召回率 | $\dfrac{TP}{TP+FN}$ | 真「正」里找到多少 |
混淆矩阵对应幻灯片 PPT 第 10 页
| 预测正 | 预测负 | |
|---|---|---|
| 真实正 | TP(真阳) | FN(假阴) |
| 真实负 | FP(假阳) | TN(真阴) |
ROC 曲线与 AUC对应幻灯片 PPT 第 11 页
先用一句话理解:先理解为排序能力:正例是否倾向于排在负例前面。它不替你选择实际使用的门槛。
改变判定阈值 $\theta$($\hat p \ge \theta$ 判正),精确率 / 召回率随之变化。ROC 曲线画的是「真阳率 vs 假阳率」随阈值的轨迹。
· AUC = 1:完美; · AUC = 0.5:等于随机猜; · AUC 越大,模型把正样本排在负样本前面的能力越强。
逻辑回归实战对应幻灯片 PPT 第 12 页
from sklearn.linear_model import LogisticRegression
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score, roc_auc_score
# 造一份二分类数据
X, y = make_classification(n_samples=1000, n_features=4,
n_informative=3, n_redundant=0, random_state=0)
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.25, random_state=0, stratify=y)
clf = LogisticRegression()
clf.fit(X_train, y_train)
y_prob = clf.predict_proba(X_test)[:, 1] # 正类概率
y_pred = clf.predict(X_test)
print('accuracy =', accuracy_score(y_test, y_pred))
print('AUC =', roc_auc_score(y_test, y_prob))predict_proba 输出每个类别的概率,predict 直接给类别(默认阈值 0.5)。课堂代码片段:可能承接前页变量。第一次上机请从完整实验开始,先运行数据准备,再运行训练与评估。
多分类与 Softmax对应幻灯片 PPT 第 13 页
拓展阅读 · 第一遍可先看结论,再回到必学主线。
先用一句话理解:把多个类别的分数变成总和为 1 的一组数;最大的那个通常作为预测类别。
from sklearn.linear_model import LogisticRegression # 多分类:自动使用 Softmax(multinomial) from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split X, y = load_iris(return_X_y=True) X_train, X_test, y_train, y_test = train_test_split(X, y, stratify=y, random_state=0) clf = LogisticRegression(max_iter=1000) clf.fit(X_train, y_train) print(clf.classes_) # 有哪些类别 print(clf.predict_proba(X_test[:3])) # 每个样本各类概率
课堂代码片段:可能承接前页变量。第一次上机请从完整实验开始,先运行数据准备,再运行训练与评估。
小结对应幻灯片 PPT 第 14 页
- 1思路线性得分 $z$ → sigmoid/Softmax → 概率 → 阈值判类
- 2损失交叉熵(分类的标配损失)
- 3边界线性分类器,只能切一刀
- 4评估准确率会骗人,看精确率/召回率/AUC
- 5工具
LogisticRegression一行搞定
思考题对应幻灯片 PPT 第 15 页
类别不平衡时,下列哪个指标最能反映模型对少数类的真实表现?
- 准确率
- 召回率 / 精确率
- 训练时间
Softmax 输出的 K 个概率之和等于?
- 1
- K
- 不确定
动手任务:交出结果,也交出解释对应幻灯片 PPT 第 19 页
对课堂二分类示例分别用 0.3、0.5、0.7 阈值画混淆矩阵。阈值在验证集上选择,测试集只作最终评估。
提交:一张图或一张结果表 + 150 字解释 + 一个局限。
自查:数据如何划分?比简单猜测好多少?能否推广到新样品?
课后慢读:从会说到会做
第一步:合上公式,解释问题
先回答“预测“是哪一类”和“有多大把握”有什么区别?”。分类像筛查:先给出一个分数,再按门槛决定是否通过。改变门槛,会改变漏掉和误报的数量。 这个比喻只是帮助入门,模型最终仍要接受独立数据的检验。
第二步:拿小例子核对
100 个样品中只有 5 个缺陷品。“全部正常”也有 95% 准确率,却漏掉全部缺陷。若查出 4 个缺陷、误报 6 个,精确率是 4/10,召回率是 4/5。 请写下中间步骤;不能只抄结论。若换一组数据,你的解释是否仍成立?
第三步:联系专业场景
缺陷检测往往更怕漏检,候选材料初筛可能愿意多做一些复验。先明确漏检和误报的代价,再选指标和阈值。
第四步:提交一个可以检查的结果
对课堂二分类示例分别用 0.3、0.5、0.7 阈值画混淆矩阵。阈值在验证集上选择,测试集只作最终评估。
参考判断与常见误区
降低阈值通常增加召回,也增加误报;概率分数不自动等于可靠的置信度。
报告中分别写“我观察到什么”和“我推测为什么”。观察由图表支持;推测需要进一步实验。分数较低也可以是一份好报告,前提是数据划分合理、分析诚实。
基础达标:区分类别与概率;手算精确率和召回率;解释阈值的影响。进阶再读:交叉熵推导、Softmax 的指数形式。
附:PPT 页码对照表
| 页 | 内容 | 放映版深链 |
|---|---|---|
| 16 | 先带着一个问题来学 | 第 16 页 |
| 17 | 先算一个小例子 | 第 17 页 |
| 18 | 把方法带回材料与物理 | 第 18 页 |
| 01 | 问题变了:预测类别而不是数值 | 第 1 页 |
| 02 | 把实数压进 (0,1):sigmoid | 第 2 页 |
| 03 | 逻辑回归的完整形式 | 第 3 页 |
| 04 | 决策边界:概率 0.5 的那条线 | 第 4 页 |
| 05 | 线性可分的局限 | 第 5 页 |
| 06 | 怎么衡量分类的好坏 | 第 6 页 |
| 07 | 为什么分类不用平方损失 | 第 7 页 |
| 08 | 从二分类到 K 分类 | 第 8 页 |
| 09 | 准确率就够了吗 | 第 9 页 |
| 10 | 混淆矩阵 | 第 10 页 |
| 11 | ROC 曲线与 AUC | 第 11 页 |
| 12 | 逻辑回归实战 | 第 12 页 |
| 13 | 多分类与 Softmax | 第 13 页 |
| 14 | 小结 | 第 14 页 |
| 15 | 思考题 | 第 15 页 |
| 19 | 动手任务:交出结果,也交出解释 | 第 19 页 |