✅作者简介热爱科研的Matlab仿真开发者修心和技术同步精进代码获取、论文复现及科研仿真合作可私信。个人主页Matlab科研工作室个人信条格物致知。 内容介绍加权最小二乘法 (Weighted Least Squares, WLS) 和加权最小最大法 (Weighted Minimax, WMM) 是两种常用的优化方法用于解决在不同数据点上权重不同的最小化问题。本文将深入探讨这两种方法的理论基础并结合Matlab编程语言详细阐述其具体实现步骤以及在实际应用中的优缺点。一、加权最小二乘法 (WLS)最小二乘法旨在找到一组参数使得模型预测值与观测值之间的平方误差之和最小。然而在实际应用中不同数据点的可靠性往往不同例如一些数据点可能受到噪声的干扰更大或者其测量精度较低。此时简单的最小二乘法无法有效地利用所有数据的信息加权最小二乘法应运而生。WLS的基本思想是为每个数据点赋予一个权重权重越大表示该数据点越可靠对最终结果的影响也越大。假设我们有n个数据点 (xi,yi)(xi,yi)以及相应的权重 wiwi模型为 yf(x,θ)yf(x,θ)其中 θθ 为待估计的参数向量。WLS的目标函数为J(θ)∑i1nwi(yi−f(xi,θ))2J(θ)∑i1nwi(yi−f(xi,θ))2最小化该目标函数即可得到参数 θθ 的最优估计。当 f(x,θ)f(x,θ) 为线性模型时即 f(x,θ)Xθf(x,θ)Xθ其中 XX 为设计矩阵则WLS的解为θ^(XTWX)−1XTWyθ^(XTWX)−1XTWy其中Wdiag(w1,w2,...,wn)Wdiag(w1,w2,...,wn) 为权重矩阵。Matlab实现% 数据x [1, 2, 3, 4, 5];y [2, 3, 5, 4, 7];w [1, 2, 1, 0.5, 2]; % 权重% 设计矩阵X [ones(size(x)), x];% 权重矩阵W diag(w);% 计算参数theta (X*W*X)\(X*W*y);% 绘图x_fit linspace(min(x), max(x), 100);y_fit [ones(size(x_fit)), x_fit]*theta;plot(x, y, o, x_fit, y_fit);legend(数据, 拟合曲线);这段代码实现了对一组数据进行线性加权最小二乘拟合。用户可以根据实际情况修改权重向量w和设计矩阵X。 对于非线性模型可以使用迭代算法如高斯-牛顿法或列文伯格-马夸特法进行求解。二、加权最小最大法 (WMM)WMM旨在最小化最大加权误差。与WLS不同WMM关注的是最大的误差而不是误差的平方和。其目标函数为J(θ)max⁡i1,...,n{wi∣yi−f(xi,θ)∣}J(θ)maxi1,...,n{wi∣yi−f(xi,θ)∣}最小化该目标函数等价于求解如下线性规划问题min⁡tmints.t.−t≤wi(yi−f(xi,θ))≤t,i1,...,ns.t.−t≤wi(yi−f(xi,θ))≤t,i1,...,n其中tt 为一个辅助变量表示最大加权误差。Matlab实现对于线性模型WMM可以转化为线性规划问题使用Matlab的linprog函数进行求解。 对于非线性模型通常需要使用迭代算法例如改进的单纯形法或其他非线性规划算法。 以下是一个线性模型的例子:% 数据 (与WLS例子相同)x [1, 2, 3, 4, 5];y [2, 3, 5, 4, 7];w [1, 2, 1, 0.5, 2];% 设计矩阵X [ones(size(x)), x];% 线性规划问题f [0, 0, 1]; % 目标函数系数A [-diag(w)*X, ones(5,1); diag(w)*X, ones(5,1)];b [w.*y; -w.*y];lb [-inf; -inf; 0]; % 下界ub [inf; inf; inf]; % 上界options optimoptions(linprog,Algorithm,dual-simplex);[theta_wmm,~,exitflag] linprog(f,A,b,[],[],lb,ub,options);%判断求解是否成功if exitflag 0% 绘图 (类似于WLS的绘图部分)x_fit linspace(min(x), max(x), 100);y_fit [ones(size(x_fit)), x_fit]*theta_wmm(1:2);plot(x, y, o, x_fit, y_fit);legend(数据, 拟合曲线);elsedisp(线性规划求解失败!);end这段代码利用linprog函数求解线性规划问题得到WMM的解。 需要注意的是linprog函数的求解效率和稳定性会受到问题的规模和性质的影响。三、WLS与WMM的比较WLS和WMM各有优缺点WLS: 对离群点敏感容易被少数离群点影响最终结果。计算相对简单效率较高尤其在处理线性模型时。WMM: 对离群点不敏感更注重控制最大误差结果更稳健。但计算复杂度较高尤其是非线性模型求解过程可能收敛较慢或难以收敛。选择哪种方法取决于具体的应用场景和数据特点。如果数据质量较高没有明显的离群点则WLS是更有效的选择如果数据存在离群点或需要控制最大误差则WMM更合适。 实际应用中也可能需要结合两种方法的优点或者采用其他更先进的鲁棒优化方法。四、结论本文详细介绍了加权最小二乘法和加权最小最大法的理论基础和Matlab实现并比较了两者的优缺点。 选择合适的优化方法需要根据具体问题进行分析并结合实际情况进行权衡。 未来研究可以探索更高级的加权优化算法以提高计算效率和鲁棒性并扩展到处理更大规模的数据集和更复杂的模型。⛳️ 运行结果 参考文献 部分理论引用网络文献若有侵权联系博主删除 关注我领取海量matlab电子书和数学建模资料 私信完整代码和数据获取及论文数模仿真定制1 各类智能优化算法改进及应用生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化、背包问题、 风电场布局、时隙分配优化、 最佳分布式发电单元分配、多阶段管道维修、 工厂-中心-需求点三级选址问题、 应急生活物质配送中心选址、 基站选址、 道路灯柱布置、 枢纽节点部署、 输电线路台风监测装置、 集装箱船配载优化、 机组优化、 投资优化组合、云服务器组合优化、 天线线性阵列分布优化、CVRP问题、VRPPD问题、多中心VRP问题、多层网络的VRP问题、多中心多车型的VRP问题、 动态VRP问题、双层车辆路径规划2E-VRP、充电车辆路径规划EVRP、油电混合车辆路径规划、混合流水车间问题、 订单拆分调度问题、 公交车的调度排班优化问题、航班摆渡车辆调度问题、选址路径规划问题2 机器学习和深度学习方面2.1 bp时序、回归预测和分类2.2 ENS声神经网络时序、回归预测和分类2.3 SVM/CNN-SVM/LSSVM/RVM支持向量机系列时序、回归预测和分类2.4 CNN/TCN卷积神经网络系列时序、回归预测和分类2.5 ELM/KELM/RELM/DELM极限学习机系列时序、回归预测和分类2.6 GRU/Bi-GRU/CNN-GRU/CNN-BiGRU门控神经网络时序、回归预测和分类2.7 ELMAN递归神经网络时序、回归\预测和分类2.8 LSTM/BiLSTM/CNN-LSTM/CNN-BiLSTM/长短记忆神经网络系列时序、回归预测和分类2.9 RBF径向基神经网络时序、回归预测和分类2.10 DBN深度置信网络时序、回归预测和分类2.11 FNN模糊神经网络时序、回归预测2.12 RF随机森林时序、回归预测和分类2.13 BLS宽度学习时序、回归预测和分类2.14 PNN脉冲神经网络分类2.15 模糊小波神经网络预测和分类2.16 时序、回归预测和分类2.17 时序、回归预测预测和分类2.18 XGBOOST集成学习时序、回归预测预测和分类方向涵盖风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、用电量预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断2.图像处理方面图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知3 路径规划方面旅行商问题TSP、车辆路径问题VRP、MVRP、CVRP、VRPTW等、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、 充电车辆路径规划EVRP、 双层车辆路径规划2E-VRP、 油电混合车辆路径规划、 船舶航迹规划、 全路径规划规划、 仓储巡逻4 无人机应用方面无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配、无人机安全通信轨迹在线优化、车辆协同无人机路径规划5 通信方面传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化、水声通信6 信号处理方面信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化、心电信号、DOA估计、编码译码、变分模态分解、管道泄漏、滤波器、数字信号处理传输分析去噪、数字信号调制、误码率、信号估计、DTMF、信号检测7 电力系统方面微电网优化、无功优化、配电网重构、储能配置、有序充电8 元胞自动机方面交通流 人群疏散 病毒扩散 晶体生长 金属腐蚀9 雷达方面卡尔曼滤波跟踪、航迹关联、航迹融合、SOC估计