Minitab 偏最小二乘 (PLS) 回归:5个步骤处理高共线性预测变量
Minitab 偏最小二乘 (PLS) 回归5个步骤处理高共线性预测变量当预测变量之间存在高度相关性或预测变量数量超过观测值时传统的最小二乘法回归分析往往会失效。这时偏最小二乘回归Partial Least Squares Regression, PLS便成为更优的选择。本文将详细介绍如何在 Minitab 中通过 5 个关键步骤完成 PLS 回归分析帮助数据分析师有效解决高维数据建模难题。1. 理解 PLS 回归的核心优势PLS 回归是一种多元统计方法特别适用于以下场景预测变量高度相关多重共线性问题预测变量数多于观测值数小样本大数据需要同时建模多个响应变量与普通最小二乘法相比PLS 通过提取预测变量和响应变量之间的协方差信息构建一组不相关的新变量称为潜变量或成分从而克服传统回归的局限性。这种方法不仅能有效降维还能保留对响应变量最具预测力的信息。提示当变量间的相关系数超过 0.8 时就应考虑使用 PLS 而非普通回归。2. 数据准备与探索性分析在 Minitab 中执行 PLS 回归前需确保数据格式正确数据排列预测变量和响应变量应分列排列缺失值处理PLS 对缺失值敏感需提前处理标准化考虑由于 PLS 对变量尺度敏感建议先标准化数据关键探索步骤# 查看变量间相关性 统计 基本统计量 相关 # 绘制散点图矩阵 图形 矩阵图典型问题检查表异常值检测箱线图变量分布形态直方图缺失值比例工作表描述3. 构建 PLS 回归模型在 Minitab 中执行 PLS 分析的具体路径统计 回归 偏最小二乘参数设置要点选项建议设置说明响应选择Y变量可多选预测变量选择X变量建议全选方法NIPALS默认算法尺度化是推荐标准化交叉验证留一法/10折用于确定成分数注意当响应变量为多个时PLS 会同时建模所有响应变量与预测变量的关系。4. 确定最优成分数成分数选择是 PLS 成功的关键。Minitab 提供两种主要方法交叉验证法通过预测残差平方和(PRESS)最小化确定查看交叉验证输出表中的PRESS值拐点方差解释率法累计解释方差达到80%以上参考模型选择表中的R²值典型输出解读成分数 X方差 R² 预测R² 1 0.58 0.65 0.62 2 0.75 0.82 0.78 3 0.82 0.85 0.80选择成分数时需平衡过少模型欠拟合过多模型过拟合5. 模型诊断与结果解释完成建模后需进行全面的模型诊断关键诊断图形残差 vs 拟合值图检查异方差杠杆值图识别强影响点成分贡献图理解变量重要性结果解释要点系数表解释各预测变量对响应的影响方向和大小VIP值变量重要性投影VIP1关键预测变量VIP0.5可考虑剔除载荷图展示变量与成分的关系示例代码查看VIP值# 存储VIP值 统计 回归 偏最小二乘 存储 勾选变量重要性投影实战案例化工过程优化某化工企业使用 PLS 分析反应收率(Y)与15个工艺参数(X)的关系其中多个温度参数高度相关r0.9。通过 Minitab 的 PLS 回归确定最优成分数为3发现3个关键参数VIP1.2模型预测R²达0.85据此优化工艺后收率提升12%操作技巧对重要变量使用**加粗**标注可疑数据点添加*星号*标记定期保存分析会话.MPJ文件