尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

代码生成实战评测:Dolphin 2.9.1 Yi 1.5 34b 编程能力到底有多强?

代码生成实战评测:Dolphin 2.9.1 Yi 1.5 34b 编程能力到底有多强? 代码生成实战评测Dolphin 2.9.1 Yi 1.5 34b 编程能力到底有多强【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b如果你正在寻找一款开源代码生成大模型Dolphin 2.9.1 Yi 1.5 34b 值得认真关注。它由 Cognitive Computations 团队基于 Yi-1.5-34B 全参数微调而来MMLU 基准拿下 77.4 分并重点强化了编程能力、函数调用与 Agent 能力还采用 Apache 2.0 协议开放商用。本文将从部署到实测用真实场景检验它的编程实力。Dolphin 2.9.1 Yi 1.5 34b 是什么主打编程能力的开源代码生成模型简单说这是一只海豚——Dolphin 系列一贯以听话、能力强、不设限著称。这一代选择了 Yi-1.5-34B 作为基座采用全参数微调FFT、16bit并非低成本的 LoRA 方案因此模型质量相当扎实。从模型配置config.json可以看到它的硬实力34B 参数规模的 Llama 架构60 层 Transformer上下文长度扩展至8K并针对长序列调优了 RoPE 位置编码词汇表 64000权重以 bfloat16 存储权重拆分为 15 个 safetensors 分片model-00001-of-00015.safetensors 至 model-00015-of-00015.safetensors总量约 64GB代码生成能力从哪来海量代码语料加持Dolphin 2.9.1 Yi 1.5 34b 的编程能力不是凭空而来README 中列出的训练数据清晰说明了它的配方数据类型代表数据集作用代码生成dolphin-coder、CodeFeedback-Filtered-Instruction核心编程能力指令对话Dolphin-2.9、OpenHermes-2.5通用能力数学推理orca-math-word-problems-200k算法与逻辑函数调用function-calling-chatml、Agent-FLAN工具与 Agent正是这些代码与工具调用语料让它在代码生成实战中表现突出。快速部署三步跑通 Dolphin 2.9.1 Yi 1.5 34b部署前先确认硬件全精度 bf16 推理约需 64GB 显存建议使用 A100/H100 或 2×4090消费级显卡可用 GGUF/量化版本仅需 16~24GB 显存即可流畅运行。第一步克隆模型仓库git clone https://gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b第二步安装依赖pip install transformers accelerate第三步加载模型生成代码from transformers import AutoModelForCausalLM, AutoTokenizer model AutoModelForCausalLM.from_pretrained( ./dolphin-2.9.1-yi-1.5-34b, torch_dtypeauto, device_mapauto ) tokenizer AutoTokenizer.from_pretrained(./dolphin-2.9.1-yi-1.5-34b)整个流程十分钟内即可跑通新手也能轻松上手。ChatML 提示词格式让代码生成更精准的关键Dolphin 2.9.1 使用 ChatML 对话模板这是保证输出质量的最快配置方法|im_start|system You are Dolphin, a helpful AI assistant.|im_end| |im_start|user 用 Python 写一个判断质数的函数|im_end| |im_start|assistant 小技巧在 system 中明确你是资深程序员输出简洁可运行的代码能明显提升代码生成质量。相关模板定义可查看仓库中的 tokenizer_config.json。实战评测5 个场景验证编程能力我用以下场景做了实测结果相当惊喜算法实现要求实现快排、动态规划等经典算法代码结构清晰、注释到位Bug 修复给出报错代码能准确指出问题并给出修复版本函数调用能按 JSON 格式调用工具函数Agent 场景可用性高SQL 生成根据自然语言描述生成查询语句语法规范代码翻译Python 与 JavaScript 互转语义保真度高例如让它写质数判断输出直接可用def is_prime(n): if n 2: return False for i in range(2, int(n ** 0.5) 1): if n % i 0: return False return True对于 34B 这个规模的开源模型编程能力而言综合表现已接近甚至超过部分同尺寸闭源模型的入门版本。评测数据怎么看77.4 MMLU 意味着什么MMLU 是衡量模型综合知识水平的主流基准覆盖 57 个学科。Dolphin 2.9.1 Yi 1.5 34b 在 34B 级别拿下77.4 分意味着它不仅会写代码还具备扎实的数学、逻辑与常识储备——这正是优秀代码生成模型的底层支撑。加上训练损失收敛至 0.44 左右模型稳定性有保障。使用注意事项合规与安全需要特别提醒的是Dolphin 系列是uncensored模型即未做过多对齐过滤可能对不合规请求也高度配合。官方明确建议对外提供服务前务必自行增加安全对齐层并对生成内容负责。商业使用时请遵循 Apache 2.0 协议。总结Dolphin 2.9.1 Yi 1.5 34b 是一款性价比极高的开源代码生成大模型77.4 的 MMLU、8K 上下文、函数调用支持、Apache 2.0 可商用配合 ChatML 模板与简单的部署流程无论是个人学习还是生产环境的辅助编程都非常值得一试。如果你预算有限又想要接近 70B 级别的编程体验它就是那个便宜大碗的答案【免费下载链接】dolphin-2.9.1-yi-1.5-34b项目地址: https://ai.gitcode.com/hf_mirrors/dphn/dolphin-2.9.1-yi-1.5-34b创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表