尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

Open WebUI 本地AI部署实战:一条命令把自托管AI平台跑进内网

Open WebUI 本地AI部署实战:一条命令把自托管AI平台跑进内网 Open WebUI 本地AI部署实战一条命令把自托管AI平台跑进内网【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui数据不能出内网断网环境也要跑模型Open WebUI 就是为这类场景准备的一个自托管 AI 平台给本地大模型套上完整网页界面——聊天、文件上传、知识库检索全部走本地不产生任何外发请求。项目速览维度说明一句话定位给本地大模型套界面的自托管 AI 平台模型后端Ollama 本地推理、OpenAI 兼容 API可多实例共存部署方式Docker 镜像、docker-compose、源码开发共 3 条路径运行环境仅一个 Docker 即可跑通GPU 推理交给 Ollama 侧适合人群有数据不出域要求的团队以及想改界面、加插件的开发者内置能力对话、文件上传、RAG 知识库、笔记、频道界面就是截图这样左侧导航中间对话区顶部选模型。后端接口在backend/open_webui/routers/前端界面在src/routes/文档见 docs/。部署实操一条命令跑通 Docker 部署这条命令拉取官方镜像并启动容器跑完直接访问http://localhost:3000docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway \ -v open-webui:/app/backend/data --name open-webui --restart unless-stopped \ ghcr.io/open-webui/open-webui:main参数逐个说-p 3000:8080容器内固定监听 8080见 Dockerfile宿主机映射到 3000-v open-webui:/app/backend/data命名卷存数据聊天记录和账号不随容器删除--add-hosthost.docker.internal:host-gateway让容器能访问宿主机上的 Ollama--restart unless-stopped主机重启后容器自动拉起三种部署路径怎么选路径适用场景启动方式Docker 镜像日常使用、生产环境上面一条docker rundocker-compose需要同时拉起 Ollama项目自带 docker-compose.yaml源码改界面、调试后端npm run dev 后端启动脚本GPU 加速不需要改 Open WebUI 本身在 Ollama 侧给推理容器加--gpus all即可。源码路径关键步骤开发场景只需三步不贴完整日志git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui npm install pip install -r backend/requirements.txt npm run dev生产部署别走 dev 模式用构建产物加 Uvicorn 起后端参考backend/start.sh的启动流程。配置调优数据持久化卷挂对密钥固定数据都落在/app/backend/data账号、对话、知识库、配置。丢了基本等于重建。必做确认用的是命名卷而不是宿主目录随手指一个源码部署则用DATA_DIR环境变量指定持久化目录。可选每天定时备份主数据库docker run --rm -v open-webui:/source -v /backup:/target alpine \ tar -czf /target/open-webui-$(date %Y%m%d).tar.gz -C /source webui.db配到 crontab 就是每日自动备份。性能给容器设上限推理外置必做给容器设资源上限别让 WebUI 把内存吃光挤掉模型推理docker update --memory4g --cpus2 open-webui可选Ollama 独立部署到另一台机器WebUI 侧只指地址多实例还能共享一份模型-e OLLAMA_BASE_URLhttp://ollama主机IP:11434安全加固先设管理员再锁密钥必做部署前预设管理员密码第一个注册的人直接成为管理员避免被抢注变量定义见 env 配置-e WEBUI_ADMIN_PASSWORD你的强密码可选固定WEBUI_SECRET_KEY。测试环境留空没关系生产环境必须设。它用来签 JWT不固定的话每次重建容器全员掉线。踩坑速查#症状根因一条修复命令1页面打不开日志报port is already allocated3000 端口被占用重建容器并改映射docker rm -f open-webui docker run -d -p 8080:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main2模型列表一直转圈OLLAMA_BASE_URL没配容器内找不到 Ollamadocker rm -f open-webui docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway -e OLLAMA_BASE_URLhttp://host.docker.internal:11434 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main3大模型响应极慢内存不够模型被频繁换页换小参数模型或给 Ollama 所在容器加--gpus all4重启后全员强制掉线WEBUI_SECRET_KEY未固定JWT 签名变了重建容器时带-e WEBUI_SECRET_KEY同一个值5上传文件后加载失败数据卷挂载点权限不对容器写不进去检查挂载权限docker inspect open-webui --format {{json .Mounts}}落地三步内网先跑通 Docker 方案持久化卷、每日备份就绪后再上线。安全三件套预设管理员密码、固定WEBUI_SECRET_KEY、3000 端口不暴露公网前置反代加 HTTPS。给容器设内存上限大模型的 Ollama 独立部署WebUI 只用OLLAMA_BASE_URL指向它。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表