Ollama 本地部署指南国内用户快速上手含 Windows 安装包想要在本地跑通 RiverFlow AI 助手第一步就是部署一个本地大模型。本文介绍如何通过 Ollama 快速实现。一、什么是 OllamaOllama是一个开源的本地大语言模型运行框架支持在 macOS、Linux、Windows 上快速拉取和运行各类开源模型如通义千问qwen2.5系列Llamallama3系列智谱glm4系列DeepSeekdeepseek-r1系列它的特点是一条命令就能下载模型并启动对话对开发者非常友好。二、为什么选择本地部署对于政务、企业内网等场景本地部署大模型有几个明显优势优势说明数据不出域业务数据、流程描述、接口文档都不会上传到第三方模型服务商离线可用不依赖外网内网环境也能稳定运行成本可控一次性硬件投入没有按 Token 计费的后顾之忧合规友好满足政务、金融、医疗等行业对数据安全的严格要求三、下载 Ollama Windows 安装包方式一百度网盘国内推荐由于 Ollama 官网下载速度较慢我们准备了一个 Windows 安装包文件名OllamaSetup(1).exe链接https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ提取码22gj下载后双击运行按提示完成安装即可。方式二官方下载如果你能稳定访问外网也可以直接从官网下载官网https://ollama.com/Windows 下载页https://ollama.com/download四、安装步骤1. 运行安装程序双击OllamaSetup(1).exe安装程序会自动完成环境配置。安装完成后Ollama 会作为系统服务在后台运行任务栏右下角会出现 Ollama 图标。2. 验证安装打开命令行CMD 或 PowerShell输入ollama--version如果显示版本号说明安装成功。示例输出ollama version is 0.x.x五、拉取并运行模型1. 拉取推荐模型RiverFlow AI 助手推荐使用通义千问 Qwen2.5 14B中文理解和流程生成效果较好ollama pull qwen2.5:14b模型大小约 9GB首次下载需要一定时间请保持网络畅通。如果你的电脑配置较低也可以先尝试轻量版ollama pull qwen2.5:7b2. 启动对话ollama run qwen2.5:14b进入交互模式后可以直接输入问题测试 你好 你好有什么我可以帮你的吗按Ctrl D或输入/bye退出。3. 查看已安装模型ollama list六、在 RiverFlow 中配置 OllamaOllama 默认会暴露一个兼容 OpenAI 协议的 API 端点http://localhost:11434/v1编辑riverflow-ai/src/main/resources/application.ymlriverflow:ai:default-provider:ollamaproviders:-name:ollamatype:openaibase-url:http://localhost:11434/v1default-model:qwen2.5:14b然后启动 riverflow-ai 和 riverflow-admin打开流程设计器即可使用 AI 助手。七、常见问题Q1模型下载太慢或失败怎么办AOllama 默认从官方仓库下载国内网络可能不稳定。建议使用稳定的网络环境多次重试ollama pull或者配置 Ollama 使用镜像源需自行搜索最新可用镜像。Q214B 模型需要什么配置A建议至少CPU8 核以上内存16GB 以上显存有独立显卡更佳如 RTX 3060 12GB但不是必须如果硬件不够建议用qwen2.5:7b或更小的qwen2.5:4b。Q3Ollama 默认把模型下载到 C 盘怎么改路径A设置环境变量OLLAMA_MODELS指向其他磁盘# PowerShell 示例$env:OLLAMA_MODELSD:\ollama-models然后重启 Ollama 服务。Q4如何确认 Ollama API 是否正常A使用 curl 测试curlhttp://localhost:11434/v1/chat/completions\-HContent-Type: application/json\-d{ model: qwen2.5:14b, messages: [{role: user, content: 你好}] }如果能返回 JSON 结果说明 API 正常。八、总结通过 Ollama你可以在本地免费、安全、离线地运行大语言模型。配合 RiverFlow AI 助手就能实现自然语言生成政务流程本地数据不出域的 AI 辅助编排低成本、可审计的智能化数据交换如果你还没部署现在就下载安装包体验一下吧百度网盘下载https://pan.baidu.com/s/1F1wUQwl0fIaetRb3Xck_pQ提取码22gjRiverFlow — 筑坝导流智驭数据之河。