新手必读Qwen3.8-9B 与 Qwen3.5-9B 有何不同用一张基准表看懂差距【免费下载链接】Qwen3.8-9B项目地址: https://ai.gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9BQwen3.8-9B 是由 Empero 团队开源的推理大语言模型它把大规模教师模型 Qwen3.8 2.4T 的思考能力通过全参数蒸馏装进了 Qwen3.5-9B 的 90 亿参数架构里。和底座 Qwen3.5-9B 相比它在 MMLU 综合知识评测上最高提升 26 个百分点而在 GSM8K 数学推理上小幅回落。本文用一张基准表带新手快速看懂 Qwen3.8-9B 与 Qwen3.5-9B 的真实差距、背后的原因以及上手方法。一句话读懂Qwen3.8-9B 到底强在哪先给新手一个直观印象Qwen3.8-9B 不是从零训练的新模型而是站在巨人肩膀上的蒸馏产物 全参数蒸馏用约 7 万条经过质量筛选的教师轨迹做监督微调覆盖数学、代码、通用推理、指令跟随与工具调用。每个参数都被更新不是简单的 LoRA 适配器。原生思维链每次回答都会先输出think思考块推理风格直接继承自 Qwen3.8 2.4T 教师模型。超长上下文原生支持 262,144 token 的上下文窗口继承自 Qwen3.5 底座。原生函数调用按 Qwen3.5 规范实现无需额外封装或专用微调。协议友好权重采用 Apache-2.0 协议发布可放心用于研究与实验。一张基准表看懂 Qwen3.8-9B 与 Qwen3.5-9B 的差距评测使用 lm-evaluation-harness两个模型在完全相同的配置下按 CoT 推理协议运行MMLU 覆盖全部 57 个学科约 1,700 道题。结果如下 评测任务评测指标Qwen3.5-9B底座Qwen3.8-9B变化GSM8K 数学推理宽松匹配88.5%87.0%−1.5%GSM8K 数学推理严格匹配87.5%85.0%−2.5%MMLU 综合知识57 学科宽松提取54.6%75.1%20.5%MMLU 综合知识57 学科严格匹配25.1%51.1%26.0%新手怎么读这张表看两件事看 MMLU从 54.6% 涨到 75.1%严格匹配更是从 25.1% 翻倍到 51.1%——这是质的飞跃说明蒸馏后的模型在综合知识、指令跟随和答案规范上全面超越底座 ✅看 GSM8K从 88.5% 回落到 87.0%小幅下降约 1.5 个百分点——数学推理略有退步使用时需要留意 ⚠️为什么 MMLU 暴涨、GSM8K 微降这背后其实是蒸馏取舍的体现 MMLU 的大幅提升来自教师轨迹中密集的知识与推理范式教师模型在 57 个学科上的思考模式被完整迁移模型会学习和会表达的能力显著增强。GSM8K 的小幅回落则说明从超大模型蒸馏到 9B 小模型并非无损数学题的严谨推理链路在压缩过程中损失了一部分精度这也是蒸馏模型的常见现象——知识涨了计算细节打了折。对新手而言结论很明确如果任务偏综合知识问答、写作、指令跟随Qwen3.8-9B 明显更值得选如果任务偏纯数学计算题建议对比测试后再决定。新手三步快速上手 Qwen3.8-9B第一步安装依赖需要较新的 transformers支持 Qwen3.5 架构并安装 flash-linear-attention 与 causal_conv1d 内核否则线性注意力层会退化为又慢又占内存的 PyTorch 实现。第二步加载模型并生成只需几行代码from transformers import AutoModelForCausalLM, AutoTokenizer model_id empero-ai/Qwen3.8-9B tok AutoTokenizer.from_pretrained(model_id) model AutoModelForCausalLM.from_pretrained(model_id, dtypebfloat16, device_mapauto) messages [{role: user, content: 用简单的话解释一下什么是知识蒸馏}] inputs tok.apply_chat_template(messages, add_generation_promptTrue, return_tensorspt) out model.generate(inputs, max_new_tokens16384, temperature0.6, top_p0.95, top_k20) print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokensTrue))第三步离线部署如需本地部署可通过 git clone 拉取权重仓库https://gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9B。仓库内的 config.json、chat_template.jinja、tokenizer 相关文件可直接配合 transformers 使用。新手避坑指南这 4 个细节一定要知道务必使用采样生成temperature0.6、top_p0.95、top_k20 是推荐配置贪心解码在长文本推理时容易陷入重复循环。预留充足的输出长度建议 max_new_tokens 设为 16384因为每次回答都会先输出think思考块记得在展示给用户前剥离该区块。接受过度思考模型继承了教师模型的推理风格简单问题也可能长篇大论这是蒸馏模型的正常表现。注意适用范围本次微调只针对文本路径视觉能力继承自底座且未在本项目评测范围内做多模态任务时请自行验证。总结Qwen3.8-9B 与 Qwen3.5-9B 的差距一句话概括综合知识能力大幅跃升数学推理轻微回落。对新手来说这张基准表就是最好的选型依据——先看任务类型再决定用哪个模型。希望这篇文章能帮你少走弯路快速上手 Qwen3.8-9B 【免费下载链接】Qwen3.8-9B项目地址: https://ai.gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9B创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 新手必读：Qwen3.8-9B 与 Qwen3.5-9B 有何不同？用一张基准表看懂差距
新手必读Qwen3.8-9B 与 Qwen3.5-9B 有何不同用一张基准表看懂差距【免费下载链接】Qwen3.8-9B项目地址: https://ai.gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9BQwen3.8-9B 是由 Empero 团队开源的推理大语言模型它把大规模教师模型 Qwen3.8 2.4T 的思考能力通过全参数蒸馏装进了 Qwen3.5-9B 的 90 亿参数架构里。和底座 Qwen3.5-9B 相比它在 MMLU 综合知识评测上最高提升 26 个百分点而在 GSM8K 数学推理上小幅回落。本文用一张基准表带新手快速看懂 Qwen3.8-9B 与 Qwen3.5-9B 的真实差距、背后的原因以及上手方法。一句话读懂Qwen3.8-9B 到底强在哪先给新手一个直观印象Qwen3.8-9B 不是从零训练的新模型而是站在巨人肩膀上的蒸馏产物 全参数蒸馏用约 7 万条经过质量筛选的教师轨迹做监督微调覆盖数学、代码、通用推理、指令跟随与工具调用。每个参数都被更新不是简单的 LoRA 适配器。原生思维链每次回答都会先输出think思考块推理风格直接继承自 Qwen3.8 2.4T 教师模型。超长上下文原生支持 262,144 token 的上下文窗口继承自 Qwen3.5 底座。原生函数调用按 Qwen3.5 规范实现无需额外封装或专用微调。协议友好权重采用 Apache-2.0 协议发布可放心用于研究与实验。一张基准表看懂 Qwen3.8-9B 与 Qwen3.5-9B 的差距评测使用 lm-evaluation-harness两个模型在完全相同的配置下按 CoT 推理协议运行MMLU 覆盖全部 57 个学科约 1,700 道题。结果如下 评测任务评测指标Qwen3.5-9B底座Qwen3.8-9B变化GSM8K 数学推理宽松匹配88.5%87.0%−1.5%GSM8K 数学推理严格匹配87.5%85.0%−2.5%MMLU 综合知识57 学科宽松提取54.6%75.1%20.5%MMLU 综合知识57 学科严格匹配25.1%51.1%26.0%新手怎么读这张表看两件事看 MMLU从 54.6% 涨到 75.1%严格匹配更是从 25.1% 翻倍到 51.1%——这是质的飞跃说明蒸馏后的模型在综合知识、指令跟随和答案规范上全面超越底座 ✅看 GSM8K从 88.5% 回落到 87.0%小幅下降约 1.5 个百分点——数学推理略有退步使用时需要留意 ⚠️为什么 MMLU 暴涨、GSM8K 微降这背后其实是蒸馏取舍的体现 MMLU 的大幅提升来自教师轨迹中密集的知识与推理范式教师模型在 57 个学科上的思考模式被完整迁移模型会学习和会表达的能力显著增强。GSM8K 的小幅回落则说明从超大模型蒸馏到 9B 小模型并非无损数学题的严谨推理链路在压缩过程中损失了一部分精度这也是蒸馏模型的常见现象——知识涨了计算细节打了折。对新手而言结论很明确如果任务偏综合知识问答、写作、指令跟随Qwen3.8-9B 明显更值得选如果任务偏纯数学计算题建议对比测试后再决定。新手三步快速上手 Qwen3.8-9B第一步安装依赖需要较新的 transformers支持 Qwen3.5 架构并安装 flash-linear-attention 与 causal_conv1d 内核否则线性注意力层会退化为又慢又占内存的 PyTorch 实现。第二步加载模型并生成只需几行代码from transformers import AutoModelForCausalLM, AutoTokenizer model_id empero-ai/Qwen3.8-9B tok AutoTokenizer.from_pretrained(model_id) model AutoModelForCausalLM.from_pretrained(model_id, dtypebfloat16, device_mapauto) messages [{role: user, content: 用简单的话解释一下什么是知识蒸馏}] inputs tok.apply_chat_template(messages, add_generation_promptTrue, return_tensorspt) out model.generate(inputs, max_new_tokens16384, temperature0.6, top_p0.95, top_k20) print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokensTrue))第三步离线部署如需本地部署可通过 git clone 拉取权重仓库https://gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9B。仓库内的 config.json、chat_template.jinja、tokenizer 相关文件可直接配合 transformers 使用。新手避坑指南这 4 个细节一定要知道务必使用采样生成temperature0.6、top_p0.95、top_k20 是推荐配置贪心解码在长文本推理时容易陷入重复循环。预留充足的输出长度建议 max_new_tokens 设为 16384因为每次回答都会先输出think思考块记得在展示给用户前剥离该区块。接受过度思考模型继承了教师模型的推理风格简单问题也可能长篇大论这是蒸馏模型的正常表现。注意适用范围本次微调只针对文本路径视觉能力继承自底座且未在本项目评测范围内做多模态任务时请自行验证。总结Qwen3.8-9B 与 Qwen3.5-9B 的差距一句话概括综合知识能力大幅跃升数学推理轻微回落。对新手来说这张基准表就是最好的选型依据——先看任务类型再决定用哪个模型。希望这篇文章能帮你少走弯路快速上手 Qwen3.8-9B 【免费下载链接】Qwen3.8-9B项目地址: https://ai.gitcode.com/hf_mirrors/empero-ai/Qwen3.8-9B创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考