DeepSeek、Qwen、Kimi 最新模型调研:哪些模型真正使用了 On-Policy Distillation?
DeepSeek、Qwen、Kimi 最新模型调研:哪些模型真正使用了 On-Policy Distillation?摘要随着 DeepSeek、Qwen、Kimi 等国产大模型快速迭代,后训练技术已经从传统的 SFT、RLHF、GRPO,进一步演进到更复杂的“蒸馏 + 强化学习 + 多专家整合”范式。其中,On-Policy Distillation,简称 OPD,在 Qwen3 小模型和 DeepSeek-V4 系列中变得尤其值得关注。本文围绕一个核心问题展开:DeepSeek、Qwen、Kimi 等最新公开模型中,哪些模型明确使用了 On-Policy Distillation?哪些只是普通蒸馏、离线蒸馏或 RL,并不应归类为 OPD?基于公开技术报告和模型卡,截至 2026-07-08,可以得到结论:明确使用 OPD 的模型主要包括:DeepSeek-V4-Pro、DeepSeek-V4-Flash、Qwen3 轻量模型,以及 Qwen-Image-2.0-RL。Kimi 系列公开资料中暂未看到主模型明确使用 OPD 的证据。1. 什么是 On-Policy Distillation?要判断一个模型是否使用 OPD,首先必须区分三类容易混淆的训练方式:第一类是普通