先带着一个问题来学对应幻灯片 PPT 第 16 页
没有答案,怎样发现数据中的结构?
聚类像把散落的样品按相似性分堆;PCA 像换一个观察角度,让照片尽量保留差异。它们都不会自动给出物理解释。
学完能做到
区分聚类与分类;解释方差保留比例;谨慎解读二维图。
第一遍不必深究:PCA 特征值推导、t-SNE 优化目标。
先算一个小例子对应幻灯片 PPT 第 17 页
若两个特征几乎总一起增大,散点像一条斜带。沿斜带看比沿某个坐标轴看保留更多变化,这就是第一主成分的直觉。
把方法带回材料与物理对应幻灯片 PPT 第 18 页
把谱图的每个采样点当作一列,就会得到很多特征。实验 A 的 PCA 图是练习观察角度,不是发现真实材料相。
从「有答案」到「自己找结构」对应幻灯片 PPT 第 1 页
前 6 讲都是监督学习(有标签)。现实中很多数据没有标签,但我们仍想从中发现规律——比如一批西瓜没标注好坏,能否自动看出它们有几类?
| 任务 | 目标 | 例子 |
|---|---|---|
| 聚类 Clustering | 把相似样本分到一组 | 把西瓜按外观自动分成若干类 |
| 降维 Reduction | 高维压到低维,便于观察 | 把多维西瓜特征画到二维图 |
K-means:把样本分到 K 堆对应幻灯片 PPT 第 2 页
K 怎么定:肘部法则对应幻灯片 PPT 第 3 页
K-means 需要预先指定簇数 $K$。常用肘部法则(elbow method):画「簇内平方和 vs K」,找拐点。
K-means 的局限对应幻灯片 PPT 第 4 页
k-means++ 优化初始质心的选择。K-means 实战对应幻灯片 PPT 第 5 页
from sklearn.cluster import KMeans
from sklearn.preprocessing import StandardScaler
X_scaled = StandardScaler().fit_transform(X)
km = KMeans(n_clusters=3, n_init=10, random_state=0)
labels = km.fit_predict(X_scaled)
print('质心:', km.cluster_centers_)
print('标签:', labels)fit_predict 返回每个样本的簇编号。聚类同样对尺度敏感,记得先标准化。课堂代码片段:可能承接前页变量。第一次上机请从完整实验开始,先运行数据准备,再运行训练与评估。
高维数据的困境对应幻灯片 PPT 第 6 页
一个西瓜可以描述成很多特征(色泽、根蒂、敲声、纹理、触感、密度、含糖量…),维度一多人就难以直接「看」。降维要回答:能不能用更少的维度抓住主要信息?
PCA:找方差最大的方向对应幻灯片 PPT 第 7 页
主成分分析(PCA)找一组新的正交坐标轴,让数据沿这些轴投影后方差最大。
- 1中心化数据减去均值
- 2算协方差矩阵$C = \dfrac1n X^{\top}X$
- 3特征分解取最大特征值对应的特征向量为主成分方向
- 4投影保留前 $d$ 个主成分,得到低维表示
方差解释率对应幻灯片 PPT 第 8 页
每个主成分解释了多少方差,可用解释方差比(explained variance ratio)衡量。
PCA 实战对应幻灯片 PPT 第 9 页
from sklearn.decomposition import PCA
pca = PCA(n_components=2)
X_2d = pca.fit_transform(X_scaled)
print('解释方差比:', pca.explained_variance_ratio_)课堂代码片段:可能承接前页变量。第一次上机请从完整实验开始,先运行数据准备,再运行训练与评估。
t-SNE:为可视化而生对应幻灯片 PPT 第 10 页
拓展阅读 · 第一遍可先看结论,再回到必学主线。
t 分布随机邻域嵌入(t-SNE)是非线性降维,主要用于展示高维数据的局部邻近关系;图上远近未必保留原空间的整体距离。
t-SNE 实战对应幻灯片 PPT 第 11 页
拓展阅读 · 第一遍可先看结论,再回到必学主线。
from sklearn.manifold import TSNE
tsne = TSNE(n_components=2, perplexity=30,
random_state=0)
X_embed = tsne.fit_transform(X_scaled)perplexity 大致是「每个点关注的邻居数」,常取 5–50,影响图的分辨率。课堂代码片段:可能承接前页变量。第一次上机请从完整实验开始,先运行数据准备,再运行训练与评估。
两者怎么选对应幻灯片 PPT 第 12 页
| 维度 | PCA | t-SNE |
|---|---|---|
| 性质 | 线性 | 非线性 |
| 速度 | 快 | 慢(数据量大时很慢) |
| 可解释 | 主成分方向有意义 | 坐标无意义 |
| 用途 | 降维 + 去噪 + 预处理 | 可视化 |
一个完整案例:西瓜自动分组对应幻灯片 PPT 第 13 页
假设有一大批没标好坏的西瓜,想自动分成几类(不同品种 / 成熟度)。
- 1特征化把每只西瓜的色泽、密度、含糖量等量化成特征向量
- 2标准化消除不同量纲差异
- 3PCA降到二维,去噪
- 4K-means聚类,观察是否与品种对应
- 5t-SNE画二维图,验证分组是否合理
小结对应幻灯片 PPT 第 14 页
- 1聚类K-means:无标签分组,需预先定 K
- 2PCA线性降维,找方差最大方向
- 3t-SNE非线性可视化,保留局部结构
- 4组合PCA 去噪 → 聚类 → t-SNE 可视化
思考题对应幻灯片 PPT 第 15 页
PCA 第一主成分的方向是?
- 方差最大的方向
- 任意方向
- 标签最相关的方向
本课中 t-SNE 二维坐标主要用来做什么?
- 证明材料之间的物理距离
- 探索数据的局部邻近结构
- 替代独立测试集评估
动手任务:交出结果,也交出解释对应幻灯片 PPT 第 19 页
完成实验 A 的 PCA 部分:保留两维,记录解释方差比例。改变缩放方式,说明图形为什么可能改变。
提交:一张图或一张结果表 + 150 字解释 + 一个局限。
自查:数据如何划分?比简单猜测好多少?能否推广到新样品?
课后慢读:从会说到会做
第一步:合上公式,解释问题
先回答“没有答案,怎样发现数据中的结构?”。聚类像把散落的样品按相似性分堆;PCA 像换一个观察角度,让照片尽量保留差异。它们都不会自动给出物理解释。 这个比喻只是帮助入门,模型最终仍要接受独立数据的检验。
第二步:拿小例子核对
若两个特征几乎总一起增大,散点像一条斜带。沿斜带看比沿某个坐标轴看保留更多变化,这就是第一主成分的直觉。 请写下中间步骤;不能只抄结论。若换一组数据,你的解释是否仍成立?
第三步:联系专业场景
把谱图的每个采样点当作一列,就会得到很多特征。实验 A 的 PCA 图是练习观察角度,不是发现真实材料相。
第四步:提交一个可以检查的结果
完成实验 A 的 PCA 部分:保留两维,记录解释方差比例。改变缩放方式,说明图形为什么可能改变。
参考判断与常见误区
簇可能来自仪器或批次;t-SNE 图上的簇间距离和大小不宜直接解释为物理差异。
报告中分别写“我观察到什么”和“我推测为什么”。观察由图表支持;推测需要进一步实验。分数较低也可以是一份好报告,前提是数据划分合理、分析诚实。
基础达标:区分聚类与分类;解释方差保留比例;谨慎解读二维图。进阶再读:PCA 特征值推导、t-SNE 优化目标。
附:PPT 页码对照表
| 页 | 内容 | 放映版深链 |
|---|---|---|
| 16 | 先带着一个问题来学 | 第 16 页 |
| 17 | 先算一个小例子 | 第 17 页 |
| 18 | 把方法带回材料与物理 | 第 18 页 |
| 01 | 从「有答案」到「自己找结构」 | 第 1 页 |
| 02 | K-means:把样本分到 K 堆 | 第 2 页 |
| 03 | K 怎么定:肘部法则 | 第 3 页 |
| 04 | K-means 的局限 | 第 4 页 |
| 05 | K-means 实战 | 第 5 页 |
| 06 | 高维数据的困境 | 第 6 页 |
| 07 | PCA:找方差最大的方向 | 第 7 页 |
| 08 | 方差解释率 | 第 8 页 |
| 09 | PCA 实战 | 第 9 页 |
| 10 | t-SNE:为可视化而生 | 第 10 页 |
| 11 | t-SNE 实战 | 第 11 页 |
| 12 | 两者怎么选 | 第 12 页 |
| 13 | 一个完整案例:西瓜自动分组 | 第 13 页 |
| 14 | 小结 | 第 14 页 |
| 15 | 思考题 | 第 15 页 |
| 19 | 动手任务:交出结果,也交出解释 | 第 19 页 |