☰
机器学习期末复习题库精讲:核心考点与易错点解析
2026/10/30 2:53:22 网站建设 项目流程

简介:这份机器学习期末复习题PDF面向高校学生与备考者,系统梳理课程核心考点,帮助在考前快速定位知识盲区、完成针对性自测。内容以单选题为主,覆盖监督学习与无监督学习的算法归属、二项式与多项式分布的共轭分布、朴素贝叶斯的属性独立假设、正态密度贝叶斯分类器的线性决策函数,以及感知机、Logistic回归等线性分类方法;同时延伸到SVM的最大间隔原理、核函数与软间隔参数C的影响、决策树的信息增益与基尼指数、Bagging与Boosting及随机森林的集成策略,并涉及过拟合成因与正则化、早停等应对思路。资源包共1个PDF文件,大小约4.83MB,题目与选项排版紧凑,便于打印或平板批注。目前已有13534人学习,适合作为期末冲刺阶段的刷题与查漏补缺材料。

1. 从一道“送分题”翻车说起:机器学习期末到底考什么

“下列方法中不受数据归一化影响的是”——四个选项:SVM、神经网络、Logistic回归、决策树。很多人第一反应选SVM,觉得它靠间隔吃饭,跟量纲关系不大,结果标准答案是决策树。这道题在复习题库里排第9题,看着像送分,实际是整张卷子命题逻辑的缩影:它不考你会不会背“归一化很重要”,而是考你知不知道每个算法的决策依据到底依赖什么。机器学习期末复习题这类卷子,考的是“边界感”——监督与无监督的边界、线性与非线性的边界、生成式与判别式的边界、过拟合与欠拟合的边界。拿分的关键不是刷多少题,而是把每个算法放进一张对照表里,知道它在什么条件下成立、什么条件下失效。这份题库覆盖单选85道、多选40道、简答12道,适合已经学过一遍、需要把零散知识压成考点的人。下面按考点模块拆,每块都给真题和答题思路。

2. 学习范式与概率基础:监督/无监督的判定与共轭分布

2.1 监督与无监督的判定套路

题库前两题就是典型:贝叶斯分类器属于监督学习,K-Means和层次聚类属于无监督学习。这类题面试官最爱追问一句“为什么”,光选对不够。判断标准只有一条:训练时有没有用到标签。贝叶斯分类器要用类条件概率和先验,先验来自带标签的样本;K-Means只靠样本间距离迭代中心,全程不看标签。容易混的是高斯混合聚类和主成分分析——前者是无监督(EM迭代估计隐变量),后者也是无监督(降维),但很多人因为“高斯”两个字把它归到贝叶斯分类里去。答题时建议用一句话模板:“该算法训练阶段是否需要真实类别标签参与参数估计,需要则为监督,不需要则为无监督。”面试里被问到“半监督怎么定位”,答“少量标签加大量无标签,介于两者之间,典型如自训练”,点到为止即可。

2.2 共轭分布与贝叶斯估计

题库第3、4题考共轭:二项式分布的共轭是Beta分布,多项式分布的共轭是Dirichlet分布。这组对应关系几乎每张卷子都出现,记法上可以绑在一起背——二项式只有两个结果,Beta定义在0到1区间,正好对应成功概率;多项式有多个结果,Dirichlet是Beta的多维推广。第6题问“没有考虑先验分布的方法”,答案是最大似然估计,因为最大后验、贝叶斯分类器、贝叶斯学习都带先验。这里有个反直觉点:最大似然估计可以看作先验均匀时的最大后验估计,所以“不考虑先验”不等于“错误”,只是假设了无信息先验。简答题里“已知均值和方差,什么分布熵最大”答案是高斯分布;“支撑集为[a,b]无其他限制”答案是均匀分布。这两条要连着记:约束条件不同,最大熵分布就不同,面试官常拿它们对比考你对最大熵模型的理解。

2.3 朴素贝叶斯的假设与决策函数

第5题考朴素贝叶斯的特点:假设样本各维属性独立。这个“朴素”就是条件独立假设,目的是把联合概率拆成连乘,避免维度灾难。第7题问正态密度贝叶斯分类器在各类协方差矩阵相同时的决策函数,答案是线性决策函数——因为协方差相同,二次项抵消,剩下线性判别。这类题答题思路是:先写判别函数形式,再看协方差是否相等,相等则二次项消掉变线性,不等则保留二次项。面试延伸问“朴素贝叶斯为什么适合文本分类”,答“特征维度高、条件独立假设虽不成立但分类效果仍稳,且训练只需计数”。

3. 线性模型与SVM:从感知机到最大间隔的答题链

3.1 线性分类方法的识别与损失函数

题库第8题问属于线性分类方法的是感知机,第10题问不会用到梯度下降的是最小距离分类器,第11题问使用最大似然估计的是Logistic回归。这三题串起来就是线性模型的主线:感知机用误分类驱动更新,Logistic回归用交叉熵(等价于最大似然),最小距离分类器直接算类中心距离,不涉及迭代优化。第61题明确Logistic回归的损失函数是交叉熵,第32题多选里最小二乘对应Square loss、SVM对应Hinge loss、AdaBoost对应指数损失,这组对应关系建议做成一张表背熟。答题时遇到“某算法用什么损失”,先想它的优化目标:回归类多用均方误差,分类间隔类用Hinge,概率输出类用交叉熵,集成提升类用指数损失。

3.2 SVM的核心概念与参数影响

SVM是题库里出现频率最高的算法,第13到18题、第26、27、65、66题都在考它。核心结论:SVM是最大间隔分类,对偶问题是凸二次优化,支持向量是最大间隔支撑面上的向量。第17题很典型:2阶线性核SVM训练测试准确率都100%,增加核函数阶数会怎样?答案是过拟合——模型复杂度上去,训练集已经满分,再复杂只能拟合噪声。第26题软间隔参数C很小时会发生误分类,第27题C趋于无穷时只要最优超平面存在就能全分对。这两题合起来就是C的作用:C大惩罚误分类、间隔窄、易过拟合;C小容忍误分类、间隔宽、易欠拟合。第66题问哪种做法容易过拟合,答案是SVM用高斯核代替线性核,因为高斯核把数据映射到无穷维,复杂度陡增。简答题“SVM对噪声敏感的原因”标准答法是:最优决策边界由支持向量决定,噪声点极可能成为支持向量,边界随之改变。面试官最想听的是“支持向量”和“边界”这两个词,别绕到核函数上去。

3.3 对偶与核技巧的简答模板

第15题考对偶问题是凸二次优化,第18题考核函数方法用线性手段实现非线性学习。简答如果问“核技巧的意义”,答题结构分三层:第一层,直接在高维空间做非线性变换计算量大甚至不可行;第二层,核函数在内积层面等价完成映射,避免显式计算;第三层,核函数选择决定映射能力,线性核适合线性可分,高斯核适合复杂边界但要注意过拟合。第65题给两个样本点求线性SVM分类面,答案是x+2y=3,这类计算题的做法是:先找两点的中垂线方向,再让间隔最大化,代入中点验证。步骤写清楚比结果更重要,阅卷看的是推导链。

4. 决策树与集成学习:划分指标、Bagging与Boosting的对比

4.1 决策树划分指标与剪枝

第19题考节点划分指标:信息增益越大越好,基尼指数越小越好,类别非纯度越小越好。第20题问决策树策略,答案是最大信息增益。第23题多选里“大数据集上训练决策树为了省时间”选减少树的深度。这几题指向同一个考点:决策树的生长靠不纯度下降,停止条件决定复杂度。信息增益偏向取值多的特征,信息增益率做了惩罚,基尼指数计算更简单。简答如果问“决策树过拟合怎么办”,答预剪枝(限制深度、最小样本数)和后剪枝(先长再剪)两条路,并说明预剪枝可能欠拟合、后剪枝计算量更大。第71题问不需要归一化的是树形模型,原因是决策树只比较特征内部的大小关系,量纲不影响分裂点选择——这和第9题是同一个知识点换了个问法,复习时要把这类“同点多问”的题归到一起。

4.2 Bagging与Boosting的区分

第21题问集成学习基分类器怎么选效率好,答案是分类器多样、差异大。第22题问基分类器正确率最低要求,答案是50%以上。第23题Bagging的特点是Bootstrap有放回抽样,第24题Boosting的特点是预测时分类器比重不同。第25题随机森林属于Bagging。第40题多选考得更细:Bagging降低方差,Boosting降低偏差。这组对比是必考:Bagging并行训练、样本有放回、投票等权(随机森林);Boosting串行训练、样本权重调整、分类器加权。第70题问AdaBoost描述错误的,答案是“同时独立地学习多个弱分类器”——AdaBoost是串行的,不是独立并行。第53题问随机森林哪个超参数可能导致过拟合,答案是决策树深度,树的数量增加反而不会过拟合。答题时遇到集成学习,先问自己“并行还是串行、等权还是加权、降方差还是降偏差”,三个问题答完,选项基本就出来了。

4.3 集成学习的计算与简答

第72题投票法集成三个分类器,三个样本上h1、h2、h3的结果分别是(1,1,0)、(0,1,1)、(1,0,1),按多数投票每个样本至少两票正确,所以集成提高了性能。这类题不要凭感觉,逐个样本数票。简答“随机森林为何比决策树Bagging训练更快”标准答法:随机森林在节点划分时只考察随机选出的特征子集,Bagging要考察全部属性,所以单棵树训练更快。答题时补一句“代价是单棵树能力略弱,靠数量弥补”,显得理解完整。

5. 聚类、降维与过拟合:易错点集中排查

5.1 常见失分点:五道最容易错的题

错点一:把K-Means当成能找到任意形状的聚类。第58题正确答案是“初始值不同最终结果可能不同”,A选项“能找到任意形状的聚类”是错的。错在把K-Means和密度聚类混了——K-Means基于距离中心,只能处理凸形簇;密度聚类靠密度可达,能处理任意形状。怎么答对:看到“任意形状”先排除K-Means,看到“初始值敏感”选K-Means。

错点二:以为增加训练数据能降低训练误差。第51题问训练error过高时哪种方法不能大幅降低,答案是增加训练数据。错在把“降低测试误差”和“降低训练误差”搞混——训练误差高说明模型容量不够,加数据只会让拟合更难。怎么答对:训练误差高加容量(加层、加神经元),测试误差高加数据或正则。

错点三:把L1和L2的效果记反。第56题问系数很多为0的正则项,答案是L0和L1。错在以为L2也能稀疏——L2让系数趋近0但不等于0,L1的几何性质才产生稀疏解。怎么答对:记“L1尖、L2圆”,尖的容易碰到坐标轴,所以稀疏。

错点四:混淆过拟合与欠拟合的误差表现。第59题正确答案是训练误差小、测试误差大。错在把“训练误差最小”当成好模型——过拟合恰恰是训练集上表现极好、测试集上崩掉。怎么答对:过拟合看训练测试差距,欠拟合看两边都高。

错点五:以为EM算法不会陷入局部极小。第50题C选项“除了EM,梯度下降也可求混合高斯参数”是对的,B选项“梯度下降会陷局部极小但EM不会”是错的。错在神化EM——EM保证似然单调不降,但收敛到的是局部最优。怎么答对:EM和梯度下降都可能局部最优,区别在EM每步有闭式解、收敛更稳。

5.2 聚类与降维的考点清单

第34题密度聚类考虑的是密度可达,第35题混合高斯聚类用EM算法,第36题PCA是降维方法,第37题PCA优先选中心化样本协方差矩阵最大特征值对应的特征向量。第63题问不能用于降维的,答案是蒙特卡洛方法。第82题K-Means手算题要按轮次更新中心,答题时把每轮每个点的归属写清楚,别跳步。第83题熵的计算:7个实际值里4个1、3个0,熵约0.683,注意熵是正数,选项里负值直接排除。第76题问侧重向量方向的距离,答案是余弦距离。第30题多选里欧式距离、夹角余弦、曼哈顿距离都能算相似度,信息熵不能。这类题答题思路:距离度量看“是否满足非负、同一、对称、直递”四性质,余弦不满足直递性但常用于方向相似。

5.3 过拟合与正则化的答题模板

第31题正则化避免过拟合,第48题岭回归λ较大时偏差增大方差减小,第49题数据增强会增加欠拟合风险,第34题多选有效解决过拟合的是增加样本、特征选择、正则化。这组题的核心是偏差方差权衡:λ大约束强,偏差升方差降;λ小约束弱,偏差降方差升。简答如果问“过拟合的成因和对策”,按“数据、模型、训练”三层答:数据层加样本、数据增强;模型层降复杂度、正则化、Dropout;训练层早停、交叉验证。第57题CNN的Pooling层减少空间分辨率,第60题CNN可以有多个不同大小的卷积核,第62题GRU参数比LSTM少,这些深度学习小题放在过拟合模块一起记,因为CNN的池化和Dropout都是控制容量的手段。

6. 简答题与计算题的拿分写法:从公式到话术

简答题是拉开差距的地方,题库12道简答覆盖LDA、SVM噪声、K-Means手算、距离四性质、标准化、最大熵、激活函数、学习率、梯度消失、卷积输出尺寸、随机森林速度。阅卷逻辑通常是“关键词给分”,所以答题要先把定义句写出来,再展开。以LDA为例,第一句必须是“投影后类内距离最小、类间距离最大”,然后补“新样本投影后按位置判类”。SVM噪声题第一句“决策边界由支持向量决定”,第二句“噪声易成为支持向量”,第三句“边界改变”。梯度消失题先写“链式乘积、激活函数梯度小于1”,再写“换ReLU”。卷积输出尺寸题必须写公式:输出边长=(输入+2×pad−核)/stride+1,参数=(核×核×输入通道+1)×输出通道,代入得32和760,公式和结果各占一半分。

计算题里K-Means手算最容易丢步骤分。以题库第3题简答为例,初始中心A1(2,10)、B1(5,8)、C1(1,2),第一轮按欧氏距离把8个点分到最近中心,再对每簇求坐标平均得新中心,第二轮重复直到簇不变。答题时画三行:第一行写每点归属,第二行写新中心坐标,第三行写最终三簇。第82题种子点移动次数题同理,每轮更新后对比中心是否变化,变化则计数加一。这类题不怕算错,怕不写过程——过程分往往比结果分多。

押题方向上,监督/无监督判定、共轭分布、SVM的C与核、Bagging与Boosting对比、过拟合与正则化、K-Means手算这六块出现频率最高,建议优先过。易错点集中在“归一化与树模型”“L1与L2”“训练误差与测试误差”“EM与局部最优”四组,考前把这四组各写一遍对比句。我当年复习时吃过亏,觉得选择题眼熟就跳过,结果考场上把“信息增益率越小越好”看成了“越大越好”——从那以后我每次做选择题都强制把每个选项的对错理由写出来再选,哪怕只写三个字。希望帮到你。

本文还有配套的精品资源,点击获取

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询