1. 贝叶斯网络实战从概率计算到独立性判断期末考试中贝叶斯网络题型通常围绕三个核心考点展开概率值计算、概率分布求解以及独立性判断。先说说最容易出错的概率分布问题。去年有个学生把求P(A|B1)当成求P(A,B1)结果丢了整整15分——这两种问法本质区别在于前者需要归一化处理后者直接连乘即可。概率计算的枚举法实操起来比公式更稳妥。比如题目给出一个三节点网络A→B←C要求计算P(B1|A0)。我的建议是画出真值表列出A0时所有可能的B、C组合共4种情况计算联合概率后再归一化。这个方法虽然笨但在考场紧张环境下反而更可靠。独立性判断的四步法则必须烂熟于心确定待检验节点X和Y找到已知条件Z通常是观测变量检查X和Y在Z条件下的d-separation若d-separated则条件独立去年考过一道经典陷阱题在A→B→C→D网络中问A与D在给定C时是否独立很多同学忽略了B的传递作用其实此时A⊥D|C并不成立。2. 决策树构建从信息增益到剪枝策略决策树考题最爱考察属性选择过程。记住这个黄金法则好的分裂应该让子节点的纯度比父节点更高。通过一道电商用户分类题来演示给定数据集包含年龄、消费频率、最近购买时长三个特征要预测用户是否会流失。计算各特征的信息增益年龄的信息增益0.12消费频率0.35最近购买时长0.28显然应该选择消费频率作为根节点。但要注意如果题目给出的是Gini系数或错分率计算方式会不同。去年有考生把信息增益公式套用在Gini系数上导致整题崩盘。剪枝常考预剪枝和后剪枝对比预剪枝在构建时限制深度/叶节点样本数后剪枝完整构建后再剪枝 实践发现预剪枝可能欠拟合但计算更快。后剪枝效果更好但耗时适合数据量小的场景。3. CNN图像分类实战滤波器与特征图计算卷积层的计算是必考题关键掌握这个公式输出边长 (输入边长 2×padding - 滤波器尺寸) / stride 1假设输入图像224×224×3使用7×7滤波器stride2padding3那么输出尺寸为 (224 6 - 7)/2 1 112通道数最容易混淆输入通道数滤波器深度必须相等输出通道数滤波器个数 比如用64个3×3×3的滤波器处理RGB图像输出就是64通道的特征图。去年有道难题要求设计一个将100×100图像最终输出为1×1的CNN。正确结构是Conv(5×5, stride1)→Pool(2×2)→Conv(3×3)→Pool(2×2)→FC共需4次下采样100→96→48→46→23→14. SVM核函数选择与软间隔调参核函数选择有诀窍线性核特征数样本数时用RBF核样本数≈特征数时默认选择多项式核需要显式特征交叉时考过一道实际应用题用SVM分类螺旋状数据线性核准确率仅53%换成RBF核后达到98%。这就是典型非线性可分案例。软间隔参数C的物理意义C→∞时等价硬间隔C→0时允许更多误分类 调参时建议用网格搜索常见取值序列[0.001,0.01,0.1,1,10,100]有个易错点是决策边界宽度计算。记住 宽度 2/||w|| 而w的范数可以通过支持向量计算得出。去年有考题给出两个支持向量x1(1,1)和x2(2,2)要求计算边界宽度。解法是先求w(a,a)再代入支持向量方程解出a。5. 综合题型解题框架期末压轴题通常是多算法对比题型。比如给出医疗数据集要求比较决策树、SVM和贝叶斯网络的性能。解题模板如下数据预处理连续特征决策树需要离散化缺失值贝叶斯网络需要特殊处理特征缩放SVM必需模型选择依据小样本优先贝叶斯高维特征线性SVM或决策树非结构化数据CNN等深度学习模型评估指标类别均衡时用准确率不均衡时用F1-score概率模型需用对数损失去年有同学在心脏病预测题中对只有100条的数据集强行用CNN结果过拟合严重。实际上当数据量小于1000时传统算法往往更优。6. 动态贝叶斯网络建模要点动态贝叶斯常考三类模型构建状态变量随时间变化的核心变量转移模型P(Xt|Xt-1)观测模型P(Et|Xt)以经典的天气预报模型为例状态变量每日天气晴/雨转移矩阵今天晴→明天雨的概率观测变量气象站数据解题时要特别注意时间切片的标记。常见错误是把P(Xt|Et)写成P(X|E)漏掉时间下标会导致整个模型错误。7. 神经网络激活函数选择策略不同激活函数的梯度特性对比Sigmoid最大梯度0.25易梯度消失ReLU正区间梯度恒为1但负区间死区LeakyReLU负区间有0.01梯度在图像分类任务中隐藏层优先ReLU计算快输出层二分类Sigmoid多分类Softmax去年考过一道反向传播的计算题要求计算使用Sigmoid的三层网络梯度。关键点在于链式法则中要包含Sigmoid的导数f(x)f(x)(1-f(x))很多同学漏掉了这个部分。8. 算法组合应用案例实际考题常要求组合多个算法。例如先用PCA降维再用SVM分类解题要点PCA步骤标准化数据计算协方差矩阵取前k大特征值对应特征向量SVM调参降维后特征数决定核选择通常PCA后可用线性核有个经典陷阱PCA应该在训练集上拟合后用相同变换处理测试集。有考生对全集做PCA再划分训练测试这是严重的数据泄露错误。在时间序列预测中可以先用动态贝叶斯提取状态特征再输入到LSTM。这种混合模型在去年Kaggle比赛中获得冠军其关键在于贝叶斯网络处理不确定性LSTM捕捉长期依赖。