尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

5分钟部署Open WebUI:给本地大模型一个能查文档、多人共用的聊天界面

5分钟部署Open WebUI:给本地大模型一个能查文档、多人共用的聊天界面 5分钟部署Open WebUI给本地大模型一个能查文档、多人共用的聊天界面【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOllama装好了可每次对话都得开终端敲命令想让模型读你的文档又不知从哪下手Open WebUI 是一个可一键部署的自托管AI聊天界面连接本地 Ollama 或任何 OpenAI 兼容 API直接上传文档做 RAG 知识库检索且能完全离线运行。 为什么装完 Ollama 还需要 Open WebUI模型只是半个工程。Ollama 装完、模型拉下来之后现实是你得开终端输提示词、没法管理多轮会话、不能同时切换多个模型更没地方让模型读你们的产品文档。Open WebUI 把界面 数据这半截接过来给每个模型配一个网页聊天入口上传 PDF、Word 就能让模型基于文档回答还能给不同人设用户和权限。整个过程一条 Docker 命令就能跑完不需要写代码。⏱️ 5分钟让 Open WebUI 跑起来第一步按你的情况执行部署命令。没装 Ollama、想最省事用内置 Ollama 的镜像WebUI 和 Ollama 合在一个容器里docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama机器上已有 Ollama用它WebUI 指向现成的模型服务docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway -e OLLAMA_BASE_URLhttp://host.docker.internal:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main执行后你应该看到浏览器打开 http://localhost:3000 出现注册页注册第一个账号即自动成为管理员。第二步选模型开聊。进入管理面板应能看到 Ollama 已下载的模型列表点选任意模型开始对话回复会流式逐字输出。不想用 Docker 的话pip install open-webui后执行open-webui serve访问 http://localhost:8080 即可。偏好编排的话项目根目录自带 docker-compose.yamldocker compose up -d会同时拉起 Ollama 和 WebUI仍然在 3000 端口访问。 最实用的三个场景怎么做上传文档做 RAG 知识库在知识库入口上传 PDF、Word、TXT 等文档聊天时用#命令调用知识库模型会引用你的文档内容作答。适合产品文档问答、长资料速读、团队知识沉淀。注意一点检索效果绑定嵌入embedding模型如果部署后更换嵌入模型之前导入的文档索引会失效需要重新上传重建。接入 OpenAI 兼容的模型服务除了 Ollama任何兼容 OpenAI 协议的推理服务vLLM、LM Studio、Groq、OpenRouter 等都能接。部署时加一个环境变量-e OPENAI_API_KEYyour_api_key也可以在管理面板的设置里填 API 地址和密钥。效果是同一个下拉框里混排多家模型对话中途随时切换不用在几个工具之间来回跳。内网机器完全离线跑服务器不通外网时加一个环境变量-e HF_HUB_OFFLINE1启动时就不会再尝试从 Hugging Face 下载模型配合本地预置好的 Ollama 模型整条链路完全离线可用。⚠️ 部署踩坑记录模型列表为空和数据丢失现象页面能打开但模型列表为空报服务器连接错误原因容器与宿主机网络隔离访问不到 Ollama 的 11434 端口解决运行命令加--add-hosthost.docker.internal:host-gateway或改用--networkhost注意访问地址变为 http://localhost:8080现象重启容器后聊天记录和账号全部消失原因漏挂-v open-webui:/app/backend/data数据卷数据库写进了容器层解决命令里补上这个挂载再重新部署数据会落在卷里持久保存现象启动日志报 WEBUI_SECRET_KEY 相关错误原因开启用户认证后该密钥是硬性要求不能为空解决部署时加-e WEBUI_SECRET_KEY一段长随机字符串密钥要留档它用于会话与令牌签名现象更换嵌入模型后RAG 检索不到旧文档原因向量索引与嵌入模型绑定换模型后旧索引失效解决重新上传文档重建索引即可 你的硬件和环境适不适合部署 Open WebUI个人机器、纯 CPU能跑。界面本身很轻吃内存的是模型推理建议 16GB 内存、选 7B 级别量化模型有 NVIDIA GPU镜像换:cuda标签运行命令加--gpus all推理速度明显更快只打算用云模型可以不装 Ollama直接接 OpenAI 兼容 APIWebUI 只当界面用内网离线HF_HUB_OFFLINE1加预置模型照装多人共用首个注册用户是管理员可添加用户、分权限小团队共享部署没问题一句话建议如果你已有 Ollama 或 API Key又想要能聊、能查文档、能多人用的地方直接部署内置 Ollama 的镜像开聊只是偶尔试试聊天pip 方式装一个即可不必动 Docker。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表