告别 CUDA 与 Python 版本地狱textgen 一键安装三步跑通本地大模型【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen手动装本地大模型至少会踩三个坑CUDA 版本和 PyTorch 对不上、Python 大版本选错、几十个依赖包互相打架。textgen 这个项目内置的 one_click.py 一键安装器把这三件事全部自动化环境自己搭、硬件自己适配、依赖版本自己锁。你要做的全部事情是回答一个问题——你的显卡是什么。克隆、选显卡、等完成textgen 一键安装最短路径1️⃣ 克隆仓库并执行启动脚本git clone https://gitcode.com/GitHub_Trending/te/textgen cd textgen ./start_linux.shWindows 用户双击 start_windows.bat 即可macOS 用户把命令换成 start_macos.sh。三个入口最终都指向同一个 one_click.py区别只在操作系统适配。2️⃣ 首次运行回答显卡问题终端会弹出这样一个交互菜单What is your GPU? A) NVIDIA B) AMD - Linux only, ROCm 7.2 C) Apple M Series D) Intel Arc (beta) N) CPU mode选完之后的流程完全自动脚本把 Miniforge一个自带 conda 的轻量包管理器下载并校验后装进项目目录创建 Python 3.13 环境安装匹配你硬件的 PyTorch 2.9.0再按 requirements/full/ 里对应的清单装好项目依赖最后直接启动 Web UI。3️⃣ 看到本地地址就成功了浏览器打开 127.0.0.1:7860说明部署完成。如果 user_data/models/ 里还没有模型终端会明确提示你到 Model 标签页下载一个之后就能开始对话。为什么装在项目里textgen 安装器的环境隔离设计所有痕迹都留在 installer_files 目录内Miniforge、conda、Python、全部依赖都装在项目目录内的 installer_files 里系统本身零污染。启动脚本在跑任何 Python 之前会先清掉系统里的 PYTHONPATH 和 PYTHONHOME 变量再激活项目内环境——哪怕你机器上装过别的 conda 或残留过旧配置也影响不到这次安装。想彻底重来删掉 installer_files 目录再跑一次启动脚本就是干净状态。按硬件预置依赖清单PyTorch 单独挑源requirements/full/ 下有 6 份依赖清单选不同显卡装的东西不一样。核心逻辑很直白if gpu_choice NVIDIA_CUDA128: file_name requirements.txt elif gpu_choice AMD: file_name requirements_amd.txt elif gpu_choice APPLE: file_name frequirements_apple_{intel if is_x86_64() else silicon}.txt elif gpu_choice in [INTEL, NONE]: file_name requirements_cpu_only.txt这段判断意味着CPU 机器不会下载 NVIDIA 专属包AMD 用户不会装上 CUDA 的库Apple 芯片还会按 Intel 与 Silicon 再分一份清单。更细的一层在 PyTorch 本身上NVIDIA 用户从 CUDA 12.8 官方源拉 wheelAMD 用户直接装 AMD 官方发布的 ROCm wheelROCm 是 AMD 的 GPU 计算栈对应 NVIDIA 的 CUDACPU 和 Apple 模式装 CPU 版Intel Arc 走 XPU 源。每种硬件都有明确出处不用自己查我该装哪个 wheel。装不上的时候先看这五处textgen 部署高频报错排查1️⃣ 路径里有空格或特殊字符Linux 和 macOS 脚本检测到路径含空格会直接拒绝运行Windows 脚本对特殊字符也会打大段警告——Miniforge 无法在这类路径下静默安装。最稳的做法把仓库放在纯英文、无空格、无符号的路径里。2️⃣ conda 环境不对one_click.py 启动时会检查当前是否处于 conda 环境中如果检测到你在 base 环境会直接退出避免把依赖装进基础环境。start 脚本本身会先连续执行三次 conda deactivate 清场所以直接跑脚本最安全手动激活过 conda 环境再去跑的话先退出环境再执行。3️⃣ Python 大版本变了安装器锁定的 Python 版本写在文件顶部当前是 3.13。如果你上一版环境是旧 Python更新时脚本会明确拒绝升级并打印恢复步骤因为大版本无法原地迁移需要清掉 installer_files 再重装。这是设计好的安全阀不是 bug。4️⃣ Windows 上选 AMDPyTorch 在 Windows 上暂不支持 AMD ROCm选 B 会看到明确的退出提示。这类硬件组合可以看 Docker 方案入口在 docs/09 - Docker.md。5️⃣ 纯 CPU 模式选 N 之后安装器会自动往 user_data/CMD_FLAGS.txt 追加 --cpu之后每次启动默认走 CPU无需再手动传参。免交互安装与更新向导textgen 进阶玩法1️⃣ 用环境变量跳过所有交互GPU_CHOICEA INSTALL_EXTENSIONSyes LAUNCH_AFTER_INSTALLno ./start_linux.sh三个变量各管一件事GPU_CHOICE 无提示地替你选显卡A 到 N 对应菜单项INSTALL_EXTENSIONS 把所有扩展的依赖一并装掉LAUNCH_AFTER_INSTALLno 装完直接退出、不启动界面适合只想更新环境的场景。2️⃣ 更新向导菜单./update_wizard_linux.sh菜单四项拉取最新代码、单独管理某个扩展的依赖、回滚本地对仓库文件的改动、直接退出。项目自带 extensions/ 目录下的多种插件——语音合成、网页搜索、图片生成等装上对应依赖就能在界面里启用。3️⃣ 常用参数与模型下载把 --listen --api 这类参数写进 user_data/CMD_FLAGS.txt启动器每次启动都会带上服务就能被局域网访问并暴露 OpenAI 兼容接口用法见 docs/12 - OpenAI API.md。模型方面download-model.py 支持从 Hugging Face 批量下载到 user_data/models/内置 7 次断点重试大文件不怕断网。进一步阅读docs/01 - Chat Tab.md、docs/02 - Default and Notebook Tabs.md界面基础用法docs/03 - Parameters Tab.md、docs/04 - Model Tab.md采样参数与模型加载docs/07 - Extensions.md、docs/08 - Additional Tips.md扩展开发与实用技巧docs/11 - AMD Setup.md、docs/09 - Docker.mdAMD 与容器化部署Multimodal Tutorial.md、Tool Calling Tutorial.md、Image Generation Tutorial.md多模态与工具调用一句话收尾克隆仓库、跑启动脚本、选显卡其余全部交给安装器——而且因为环境完全关在 installer_files 里任何时候删掉重来都是零成本。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 告别 CUDA 与 Python 版本地狱：textgen 一键安装三步跑通本地大模型
告别 CUDA 与 Python 版本地狱textgen 一键安装三步跑通本地大模型【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen手动装本地大模型至少会踩三个坑CUDA 版本和 PyTorch 对不上、Python 大版本选错、几十个依赖包互相打架。textgen 这个项目内置的 one_click.py 一键安装器把这三件事全部自动化环境自己搭、硬件自己适配、依赖版本自己锁。你要做的全部事情是回答一个问题——你的显卡是什么。克隆、选显卡、等完成textgen 一键安装最短路径1️⃣ 克隆仓库并执行启动脚本git clone https://gitcode.com/GitHub_Trending/te/textgen cd textgen ./start_linux.shWindows 用户双击 start_windows.bat 即可macOS 用户把命令换成 start_macos.sh。三个入口最终都指向同一个 one_click.py区别只在操作系统适配。2️⃣ 首次运行回答显卡问题终端会弹出这样一个交互菜单What is your GPU? A) NVIDIA B) AMD - Linux only, ROCm 7.2 C) Apple M Series D) Intel Arc (beta) N) CPU mode选完之后的流程完全自动脚本把 Miniforge一个自带 conda 的轻量包管理器下载并校验后装进项目目录创建 Python 3.13 环境安装匹配你硬件的 PyTorch 2.9.0再按 requirements/full/ 里对应的清单装好项目依赖最后直接启动 Web UI。3️⃣ 看到本地地址就成功了浏览器打开 127.0.0.1:7860说明部署完成。如果 user_data/models/ 里还没有模型终端会明确提示你到 Model 标签页下载一个之后就能开始对话。为什么装在项目里textgen 安装器的环境隔离设计所有痕迹都留在 installer_files 目录内Miniforge、conda、Python、全部依赖都装在项目目录内的 installer_files 里系统本身零污染。启动脚本在跑任何 Python 之前会先清掉系统里的 PYTHONPATH 和 PYTHONHOME 变量再激活项目内环境——哪怕你机器上装过别的 conda 或残留过旧配置也影响不到这次安装。想彻底重来删掉 installer_files 目录再跑一次启动脚本就是干净状态。按硬件预置依赖清单PyTorch 单独挑源requirements/full/ 下有 6 份依赖清单选不同显卡装的东西不一样。核心逻辑很直白if gpu_choice NVIDIA_CUDA128: file_name requirements.txt elif gpu_choice AMD: file_name requirements_amd.txt elif gpu_choice APPLE: file_name frequirements_apple_{intel if is_x86_64() else silicon}.txt elif gpu_choice in [INTEL, NONE]: file_name requirements_cpu_only.txt这段判断意味着CPU 机器不会下载 NVIDIA 专属包AMD 用户不会装上 CUDA 的库Apple 芯片还会按 Intel 与 Silicon 再分一份清单。更细的一层在 PyTorch 本身上NVIDIA 用户从 CUDA 12.8 官方源拉 wheelAMD 用户直接装 AMD 官方发布的 ROCm wheelROCm 是 AMD 的 GPU 计算栈对应 NVIDIA 的 CUDACPU 和 Apple 模式装 CPU 版Intel Arc 走 XPU 源。每种硬件都有明确出处不用自己查我该装哪个 wheel。装不上的时候先看这五处textgen 部署高频报错排查1️⃣ 路径里有空格或特殊字符Linux 和 macOS 脚本检测到路径含空格会直接拒绝运行Windows 脚本对特殊字符也会打大段警告——Miniforge 无法在这类路径下静默安装。最稳的做法把仓库放在纯英文、无空格、无符号的路径里。2️⃣ conda 环境不对one_click.py 启动时会检查当前是否处于 conda 环境中如果检测到你在 base 环境会直接退出避免把依赖装进基础环境。start 脚本本身会先连续执行三次 conda deactivate 清场所以直接跑脚本最安全手动激活过 conda 环境再去跑的话先退出环境再执行。3️⃣ Python 大版本变了安装器锁定的 Python 版本写在文件顶部当前是 3.13。如果你上一版环境是旧 Python更新时脚本会明确拒绝升级并打印恢复步骤因为大版本无法原地迁移需要清掉 installer_files 再重装。这是设计好的安全阀不是 bug。4️⃣ Windows 上选 AMDPyTorch 在 Windows 上暂不支持 AMD ROCm选 B 会看到明确的退出提示。这类硬件组合可以看 Docker 方案入口在 docs/09 - Docker.md。5️⃣ 纯 CPU 模式选 N 之后安装器会自动往 user_data/CMD_FLAGS.txt 追加 --cpu之后每次启动默认走 CPU无需再手动传参。免交互安装与更新向导textgen 进阶玩法1️⃣ 用环境变量跳过所有交互GPU_CHOICEA INSTALL_EXTENSIONSyes LAUNCH_AFTER_INSTALLno ./start_linux.sh三个变量各管一件事GPU_CHOICE 无提示地替你选显卡A 到 N 对应菜单项INSTALL_EXTENSIONS 把所有扩展的依赖一并装掉LAUNCH_AFTER_INSTALLno 装完直接退出、不启动界面适合只想更新环境的场景。2️⃣ 更新向导菜单./update_wizard_linux.sh菜单四项拉取最新代码、单独管理某个扩展的依赖、回滚本地对仓库文件的改动、直接退出。项目自带 extensions/ 目录下的多种插件——语音合成、网页搜索、图片生成等装上对应依赖就能在界面里启用。3️⃣ 常用参数与模型下载把 --listen --api 这类参数写进 user_data/CMD_FLAGS.txt启动器每次启动都会带上服务就能被局域网访问并暴露 OpenAI 兼容接口用法见 docs/12 - OpenAI API.md。模型方面download-model.py 支持从 Hugging Face 批量下载到 user_data/models/内置 7 次断点重试大文件不怕断网。进一步阅读docs/01 - Chat Tab.md、docs/02 - Default and Notebook Tabs.md界面基础用法docs/03 - Parameters Tab.md、docs/04 - Model Tab.md采样参数与模型加载docs/07 - Extensions.md、docs/08 - Additional Tips.md扩展开发与实用技巧docs/11 - AMD Setup.md、docs/09 - Docker.mdAMD 与容器化部署Multimodal Tutorial.md、Tool Calling Tutorial.md、Image Generation Tutorial.md多模态与工具调用一句话收尾克隆仓库、跑启动脚本、选显卡其余全部交给安装器——而且因为环境完全关在 installer_files 里任何时候删掉重来都是零成本。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考