Soup doctor排错指南GPU、依赖、环境3类常见报错一键诊断【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/SoupSoup是一个一份 YAML 配置、一条命令微调大模型的开源命令行工具其内置的soup doctor健康检查命令可以在 10 秒内自动诊断GPU、依赖、环境三类最常见报错并直接给出修复命令是新手训练 LLM 前必跑的第一步docs/commands.md。一键诊断如何运行 soup doctor安装完成后直接在终端输入soup doctor命令会依次输出四个板块SystemPython 版本、操作系统、架构、GPU、System Resources内存与磁盘、Dependencies22 个依赖包的版本核对表最后汇总所有问题并附一条一键修复的 pip 安装命令。实现逻辑见 doctor.py官方说明见 docs/backends-and-ops.md。只要出现红色MISSING、黄色outdated或INCOMPATIBLE标记照着文末给出的修复提示执行即可。GPU 类报错torch 装了 CPU 版、显卡识别不出来这是新手最高频的坑nvidia-smi明明能看到显卡训练却提示没有 CUDA。soup doctor会帮你区分两种情况CPU-only wheel检测到显卡硬件存在、但当前 torch 是 CPU 构建报告里会直接给出换装命令指向 CUDA 12.1 的 torch 轮子MPS 后端Apple Silicon 用户会自动识别 MPS 并显示为可用后端确实没有 GPU给出训练将变慢的黄色警告。 提示看到 CPU only 警告时按报告给出的pip install torch --index-url ...命令重装带 CUDA 的 torch 即可无需重装显卡驱动。多卡用户还可加--nccl参数实测 NCCL 通信带宽并与 H100 / A100 / RTX 4090 等硬件的理论上限对照提前发现多卡通信瓶颈。依赖类报错版本过旧、缺失或 INCOMPATIBLEsoup doctor会逐一核对 torch、transformers、peft、trl、datasets、bitsandbytes、accelerate 等 12 个必装包与 12 个可选包状态分三档状态标记含义修复方式绿色 OK版本满足最低要求无需操作黄色 outdated低于最低版本按提示升级如pip install trl0.29.0红色 INCOMPATIBLE超出已验证的兼容上限降级到兼容区间两个细节值得注意兼容上限检查transformers 必须 6.0.0、peft 与 trl 必须 1.0.0。PyPI 静默升级导致的周五能跑、周一就炸即所谓 CUDA helldoctor 会直接标红并给出带区间的安装命令torchvision 配对检查torch 2.2 应配 torchvision 0.17.x 等已知兼容组合版本错位会给出黄色警告。所有问题修复后重跑soup doctor看到绿色All checks passed! Your environment is ready.即代表环境就绪。环境类报错内存不足、磁盘类型、双 Python 解释器环境类问题往往要到训练中途才爆发doctor 提前暴露它们RAM / Disk显示可用内存与磁盘剩余空间容量不足时提前知晓磁盘介质探测soup doctor --diskSoup 的 Layer Streaming 特性允许 4 GB 显存笔记本训练 8B 模型其磁盘溢出层需要NVMe硬盘SATA SSD 与机械盘会被自动拒绝该层。探测一次冷启动约 9 秒报告结论一目了然双 Python 解释器警告当soup运行的解释器与 PATH 上的python不是同一个时System 面板会黄色提示避免你用错解释器手动查包时得到假阴性结果。上图即 Layer Streaming 的实际运行预检画面基座权重驻留内存、逐层喂给 GPU显存峰值稳定在 3.32 GB——而--disk检查正是为这类工作流做的提前体检。延伸另外两个医生命令Soup 还有两个同族命令可按需使用docs/commands.mdsoup data doctor 数据路径 --model 模型训练前检查数据与聊天模板的兼容性输出 8 项 OK/MINOR/MAJOR 报告soup env lock/soup env check把当前环境含 torch、transformers 等 15 个 ABI 敏感包锁进soup-env.lock环境漂移时以退出码 3 拒绝训练适合接入 CI。小结遇到 GPU 识别、依赖版本、环境资源三类报错时先跑soup doctor需要时加--nccl或--disk按红色提示逐条修复即可——这正是 Soup 一条命令解决环境疑难 的设计初衷。【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/Soup创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 Soup doctor排错指南：GPU、依赖、环境3类常见报错一键诊断
Soup doctor排错指南GPU、依赖、环境3类常见报错一键诊断【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/SoupSoup是一个一份 YAML 配置、一条命令微调大模型的开源命令行工具其内置的soup doctor健康检查命令可以在 10 秒内自动诊断GPU、依赖、环境三类最常见报错并直接给出修复命令是新手训练 LLM 前必跑的第一步docs/commands.md。一键诊断如何运行 soup doctor安装完成后直接在终端输入soup doctor命令会依次输出四个板块SystemPython 版本、操作系统、架构、GPU、System Resources内存与磁盘、Dependencies22 个依赖包的版本核对表最后汇总所有问题并附一条一键修复的 pip 安装命令。实现逻辑见 doctor.py官方说明见 docs/backends-and-ops.md。只要出现红色MISSING、黄色outdated或INCOMPATIBLE标记照着文末给出的修复提示执行即可。GPU 类报错torch 装了 CPU 版、显卡识别不出来这是新手最高频的坑nvidia-smi明明能看到显卡训练却提示没有 CUDA。soup doctor会帮你区分两种情况CPU-only wheel检测到显卡硬件存在、但当前 torch 是 CPU 构建报告里会直接给出换装命令指向 CUDA 12.1 的 torch 轮子MPS 后端Apple Silicon 用户会自动识别 MPS 并显示为可用后端确实没有 GPU给出训练将变慢的黄色警告。 提示看到 CPU only 警告时按报告给出的pip install torch --index-url ...命令重装带 CUDA 的 torch 即可无需重装显卡驱动。多卡用户还可加--nccl参数实测 NCCL 通信带宽并与 H100 / A100 / RTX 4090 等硬件的理论上限对照提前发现多卡通信瓶颈。依赖类报错版本过旧、缺失或 INCOMPATIBLEsoup doctor会逐一核对 torch、transformers、peft、trl、datasets、bitsandbytes、accelerate 等 12 个必装包与 12 个可选包状态分三档状态标记含义修复方式绿色 OK版本满足最低要求无需操作黄色 outdated低于最低版本按提示升级如pip install trl0.29.0红色 INCOMPATIBLE超出已验证的兼容上限降级到兼容区间两个细节值得注意兼容上限检查transformers 必须 6.0.0、peft 与 trl 必须 1.0.0。PyPI 静默升级导致的周五能跑、周一就炸即所谓 CUDA helldoctor 会直接标红并给出带区间的安装命令torchvision 配对检查torch 2.2 应配 torchvision 0.17.x 等已知兼容组合版本错位会给出黄色警告。所有问题修复后重跑soup doctor看到绿色All checks passed! Your environment is ready.即代表环境就绪。环境类报错内存不足、磁盘类型、双 Python 解释器环境类问题往往要到训练中途才爆发doctor 提前暴露它们RAM / Disk显示可用内存与磁盘剩余空间容量不足时提前知晓磁盘介质探测soup doctor --diskSoup 的 Layer Streaming 特性允许 4 GB 显存笔记本训练 8B 模型其磁盘溢出层需要NVMe硬盘SATA SSD 与机械盘会被自动拒绝该层。探测一次冷启动约 9 秒报告结论一目了然双 Python 解释器警告当soup运行的解释器与 PATH 上的python不是同一个时System 面板会黄色提示避免你用错解释器手动查包时得到假阴性结果。上图即 Layer Streaming 的实际运行预检画面基座权重驻留内存、逐层喂给 GPU显存峰值稳定在 3.32 GB——而--disk检查正是为这类工作流做的提前体检。延伸另外两个医生命令Soup 还有两个同族命令可按需使用docs/commands.mdsoup data doctor 数据路径 --model 模型训练前检查数据与聊天模板的兼容性输出 8 项 OK/MINOR/MAJOR 报告soup env lock/soup env check把当前环境含 torch、transformers 等 15 个 ABI 敏感包锁进soup-env.lock环境漂移时以退出码 3 拒绝训练适合接入 CI。小结遇到 GPU 识别、依赖版本、环境资源三类报错时先跑soup doctor需要时加--nccl或--disk按红色提示逐条修复即可——这正是 Soup 一条命令解决环境疑难 的设计初衷。【免费下载链接】SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.项目地址: https://gitcode.com/GitHub_Trending/soup12/Soup创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考