MLOps核心原则五:生产监控与漂移检测
监控的必要性:为什么ML模型需要持续监控传统软件是确定性系统,一旦编写正确便会按预期运行。但机器学习模型本质上是概率性的:它从训练数据中学习模式,而生产环境中的数据分布可能随时间偏离训练分布。这种偏离导致模型性能自然退化,无法通过代码修复来解决。因此,监控成为MLOps体系的核心支柱之一,其目标是及时发现性能下降并触发修复流程(如重新训练)。日志:监控的原始数据基础日志是监控的起点。在ML系统中,应该尽可能全面地记录以下信息:系统配置:当前部署的模型版本、超参数、环境变量等。查询与结果:每条推理请求的输入、输出以及中间步骤的输出(如特征向量)。组件状态:记录每个流水线组件的开始时间、结束时间、是否崩溃、异常信息。来源标记:每个日志条目应携带来源标识(例如特征管道、推理服务、训练管道),以便快速定位问题。虽然全面日志会导致数据量快速增长,但现代日志分析工具(如ELK、Loki)可以自动扫描异常模式,无需人工逐条查看。指标:量化系统与模型健康度指标是量化的监控信号,按关注层面可分为系统指标、模型指标和代理指标。系统指标这些指标与传统运维一致,用于评估基础设施和服务的健康状态:延迟(Latency):请求从发出到收到响应的耗时(P50/P95/P99)。吞吐量(Throughput):单位时间处理的请求数。错误率(Error Rate):返回错误结果的比例。资源使用:CPU / GPU 利用率、内存占用、磁盘I