最初Ollama是不带聊天UI功能的和模型对话需要在命令行下进行能完成Ollama部署并下载模型一般也不会排斥命令行但多多少少没有ChatGPT这种GUI来得自然于是诞生各种GUI交互项目。本文试图汇总并学习。Open WebUIOpen WebUI以前称为Ollama WebUI官网一款专为LLM设计的用户友好的开源GitHub117K Star16.4K Fork可视化交互工具通过类ChatGPT的直观界面让用户无需代码即可训练、管理、调试和调用本地或云端LLM。官方文档。通过可视化交互与大模型技术结合成为私有化部署的标杆工具。开箱即用的特性适合开发者快速验证模型、企业构建合规AI平台及个人用户探索AI应用。随着插件生态的扩展如视频生成、语音交互未来可进一步降低多模态应用的开发门槛。特点直观交互体验提供类似ChatGPT的自然语言对话界面支持Markdown和LaTeX渲染、代码高亮显示提升内容可读性多轮对话管理内置对话历史记录功能用户可随时回顾上下文避免重复输入确保对话连贯性全平台兼容性采用响应式设计桌面端和移动端界面均能自适应屏幕尺寸提供一致的使用体验多模型多模型支持无缝切换不同文生文、文生图模型低门槛操作通过简化交互流程和优化视觉设计大幅降低非技术用户的使用难度真正实现零学习成本上手命令支持通过#命令加载文档或添加文件使用/命令快速访问预设提示。功能丰富支持RAG、多模态输入文本、图片、网络搜索等高级功能。支持对话标签和历史管理、提示词模板、上下文连续对话等实用功能。模块能力价值模型管理多后端支持、模型下载/切换/加载、参数实时调整统一管理入口灵活适配不同场景交互体验类ChatGPT界面、代码高亮、Markdown渲染、多会话管理、响应式设计、PWA 支持、多语言界面降低使用门槛提供流畅体验知识管理文档上传、知识库构建、语义网络搜索、文档处理流水线、上下文增强利用私有数据提升回答准确性高级功能工具调用、Web搜索集成、提示词工作流、多模态支持、代码执行、图像生成、音频处理ASR/TTS扩展模型能力边界实现任务自动化用户管理多用户系统、角色权限控制、团队协作满足企业级部署需求身份认证OAuth2、LDAP、基于角色的访问控制RBAC、SCIM 2.0保障数据安全部署隐私全离线、自托管、Docker容器化、数据本地存储彻底掌控数据保障隐私安全企业级功能细粒度权限、用户组、审计日志、Webhook企业生产实践采用现代全栈架构前端和后端组件之间职责分明核心技术栈前端技术SvelteKit 2.5.20提供服务器端渲染和客户端导航的现代Web框架TailwindCSS 4.0实用优先的CSS响应式设计框架TypeScript 5.5.4类型安全的JS开发语言Vite 5.4.14高性能构建工具和开发服务器后端技术FastAPI 0.118.0高性能Web框架Uvicorn 0.37.0Web应用的ASGI服务器SQLAlchemy 2.0.38SQL工具包和对象关系映射库Redis用于缓存和会话的内存数据结构存储WebSocket实时双向通信协议实战支持多种安装方式pipDocker通过pip安装pipinstallopen-webui open-webui serve# 完全离线运行而不去尝试从网络上下载模型setHF_HUB_OFFLINE1open-webui serve通过Docker方式dockerrun-d-p3000:8080 --add-hosthost.docker.internal:host-gateway-vopen-webui:/app/backend/data--nameopen-webui--restartalways ghcr.io/open-webui/open-webui:main改成3001端口是因为与本地其他应用占用的3000端口冲突。集成Ollama发起提问Open WebUI支持通过OpenAI API兼容接口接入多种LLM本地部署的模型如vLLM、Transformers运行的模型云端API服务如OpenAI GPT-4等mcpo开源GitHub3.7K Star417 Fork工具可将mcp服务转换为Open API的代理服务。安装pip install mcpoChatBox官网功能强大且易于使用的开源GitHub40.5K Star4.1K Fork跨平台人工智能聊天客户端可帮助用户轻松接入和使用各种主流LLM支持Windows、macOS、Android、iOS、Web和Linux系统。官方文档。多模型对话、文件解析、AI绘图、代码生成等功能于一体的全能AI助手。智能对话系统多模型对比支持同时连接ChatGPT 5、Claude 4、DeepSeek等先进模型自由切换体验不同AI风格上下文记忆自动保存完整对话历史支持 Markdown/HTML/TXT 多种格式导出个性化设置可自定义温度、最大token等参数精准控制AI输出生产力增强套件文件理解直接解析PDF/Word/Excel/图片中的内容代码专家提供类Claude Artifacts的实时代码预览能力实时联网一键获取最新资讯、股票行情等网络数据回答始终与时俱进创意可视化工具AI绘图通过自然语言描述生成高质量图像每月免费额度图表生成支持将数据转化为可视化图表支持LaTeX公式渲染多格式渲染完美呈现Markdown、HTML、数学公式等专业内容企业级数据管理本地优先所有对话记录和文件默认存储在用户设备保障数据主权实战打开官网下载安装包双击安装无需配置即可简单使用更多功能使用需登录配置API Key。ChatBot-UITakeoff AI团队开源GitHub33.3K Star9.4K Fork官网。实战gitclone https://github.com/mckaywrigley/chatbot-ui.gitnpminstall# Windows安装supabasescoop bucketaddsupabase https://github.com/supabase/scoop-bucket.git scoopinstallsupabase# Mac安装supabasebrewinstallsupabase/tap/supabase# 启动supabasesupabase startcp.env.local.example .env.localvim.env.local# 编辑APIKey# 启动界面npmrun chat浏览器打开http://localhost:3000开始体验聊天功能支持本地Ollama模型。对Supabase不熟悉或感兴趣请参考BaaS(Backend as a Service)概述、平台、项目。轻量级由于需要设置Supabase什么的略微麻烦。于是该项目作者又开源GitHub985 Star240 ForkChatBot-UI的轻量级版本。基于源码和npm本地部署gitclone https://github.com/mckaywrigley/chatbot-ui-lite.gitnpmiOPENAI_API_KEYxxnpmrun dev浏览器插件Page Assist开源GitHub7.3K Star673 Fork浏览器插件提供界面与LLM进行问答交互。Chrome插件地址。Chrome浏览器抽风连接11434端口失败折腾将近2小时没搞定在被搞得快崩溃时才想到试试Edge怪自己重度使用并依赖于Chrome和Google。Edge为了吸引Chrome用户向Chrome看齐地址栏输入edge://extensions管理扩展包括查看已安装、搜索、卸载等搜索Page安装流程和Chrome无差别界面如下功能和按钮非常一目了然但我还是很详细说明。模型列表如下下面已经有基础的文生文问答。实时ASR自动语音识别之前下载过Whisper模型输入中文只能识别英文仅44M大小的dimavz/whisper-tiny:latest识别效果还是很不错的注意Whisper不能用于问答不过仅1B参数量明显是在胡说八道如上几个功能按钮朗读、复制、信息、重新生成、新分支、继续响应、编辑。对话复制或导出再来看看设置分别是通用设置流水线设置Ollama设置Chrome AI设置OpenAI兼容API模型管理知识库管理提示词管理分享管理关于Chrome AI模型列表新增Ollama模型新增自定义模型功能还不完善添加知识支持上传文件和粘帖文本类型支持纯文本、Markdown、Code提示词当前对话模型设置部分截图对OpenAI开源的Whisper感兴趣可参考OpenAI Whisper技术、实战OpenAI Whisper生态ollama-ui又一款开源GitHub1.1K Star179 Fork插件Chrome插件地址不会科学上网可选择在线体验打开控制台查看接口请求果然是跨域问题。但是直接打开http://127.0.0.1:11434/api/tags输出正常按照上面提示设置系统变量OLLAMA_ORIGINS*推出Ollama。再次在终端输入ollama ps自动拉起Ollama进程Ollama GUI上发起Query自动拉起模型。浏览器刷新页面根据Ollama暴露的API接口获取模型列表选择一个推理聊天模型如gemma3:1b效果如下注意Edge浏览器可以正常打开http://127.0.0.1:11434Chrome浏览器打开有问题Chrome浏览器什么鬼Studio类工具包括开源和闭源两大类通过提供便捷的exe或msi程序或压缩包Portable版解压缩即可用傻瓜式安装不过使用还是需要自行摸索研究下已经不仅仅只是一个聊天交互工具还提供各种功能。Cherry Studio参考Cherry Studio实战使用。LM Studio参考LMStudio实战。Coze Studio参考Coze Studio实战部署。Msty Studio官网参考