发布日期2026-07-22 | 关键词Ollama / DeepSeek / 本地部署 / LLMOllama 是目前最流行的本地大模型运行工具GitHub 累计176,741 Star底层基于 Georgi Gerganov 的 llama.cpp 项目支持 macOS、Windows、Linux 三端一键安装三条命令即可在本地跑起 DeepSeek-R1。本文基于 Ollama 官方文档和模型库完整覆盖三端安装流程、NVIDIA / AMD GPU 驱动配置、DeepSeek 各版本显存需求对照、REST API 调用以及 Open WebUI 可视化界面搭建适合零基础到有经验的开发者。先看硬件你的显卡能跑哪个版本DeepSeek 模型按参数量分多个档位选错了要么跑不动要么速度极慢。以下是 Ollama 官方模型库的实际文件大小与推荐配置模型版本文件大小上下文推荐显存适合场景deepseek-r1:1.5b1.1 GB128K4 GB入门体验M 系列 Mac / 低端 PCdeepseek-r1:7b4.7 GB128K8 GB日常使用首选deepseek-r1:8blatest5.2 GB128K8 GB当前默认版本Qwen3-8B 蒸馏deepseek-r1:14b9.0 GB128K16 GB效果更好RTX 3080 / M2 Prodeepseek-r1:32b20 GB128K24 GB高质量推理RTX 4090 / M3 Maxdeepseek-r1:70b43 GB128K多卡或 48 GB接近满血效果deepseek-r1:671b404 GB160K多卡服务器完整模型deepseek-v3:671b 同样需要 404 GB需 Ollama v0.5.5适合服务器部署。GPU 兼容性快速检查NVIDIA计算能力 5.0GTX 750 Ti 及以上、驱动版本 550RTX 20/30/40/50 全系支持AMDLinux 需 ROCm v7支持 RX 6000/7000/9000 系列Windows 仅支持 RX 7000 系列Apple SiliconM1 / M2 / M3 / M4 全系支持统一内存直接当显存用16 GB 内存可流畅跑 14bmacOS 安装方法一命令行推荐curl-fsSLhttps://ollama.com/install.sh|sh方法二图形界面安装前往ollama.com/download下载Ollama.dmg拖入应用程序文件夹双击启动。安装完成后菜单栏出现 Ollama 图标即代表服务已在后台运行默认监听localhost:11434。拉取并运行 DeepSeek-R1# 拉取默认版本8b5.2 GBollama pull deepseek-r1# 直接运行自动下载启动交互对话ollama run deepseek-r1# 指定版本ollama run deepseek-r1:14b下载完成后终端出现提示符即可直接对话。输入/bye退出交互模式模型仍在后台保持加载状态。Windows 安装方法一PowerShell 一键安装irmhttps://ollama.com/install.ps1|iex方法二图形界面安装前往ollama.com/download下载OllamaSetup.exe双击安装完成后系统托盘出现 Ollama 图标。确认服务运行# 检查服务状态curl http://localhost:11434# 拉取模型ollama pull deepseek-r1# 运行ollama run deepseek-r1多 GPU 配置NVIDIA如果有多张显卡可以通过环境变量限制 Ollama 使用哪张# 查看 GPU UUIDnvidia-smi-L# 指定使用第一张卡在系统环境变量中设置$env:CUDA_VISIBLE_DEVICES 0Linux 安装一键安装脚本curl-fsSLhttps://ollama.com/install.sh|sh安装完成后 Ollama 会自动配置为 systemd 服务。NVIDIA GPU 配置# 验证 GPU 驱动需要 550nvidia-smi# 确认驱动版本nvidia-smi --query-gpudriver_version--formatcsv,noheader如果驱动版本低于 550前往 NVIDIA 官网下载最新驱动后重新运行安装脚本。Linux 休眠唤醒后 GPU 丢失问题重新加载驱动模块sudormmod nvidia_uvmsudomodprobe nvidia_uvmAMD GPU 配置ROCm v7# 安装 ROCm参考 AMD 官方 amdgpu-install 工具# 安装完成后下载 Ollama ROCm 扩展curl-fsSLhttps://ollama.com/download/ollama-linux-amd64-rocm.tar.zst\|sudotarx-C/usr如果你的 AMD GPU 不在官方支持列表可以尝试强制指定最近的 LLVM target例如 RX 5400gfx1034可以尝试使用 gfx1030 的参数exportHSA_OVERRIDE_GFX_VERSION10.3.0配置为 systemd 服务生产环境推荐安装脚本已自动创建服务手动管理命令# 查看服务状态sudosystemctl status ollama# 设置开机自启sudosystemctlenableollama# 重启服务sudosystemctl restart ollama# 查看日志journalctl-uollama-f自定义配置如修改监听端口或开启远程访问sudosystemctl edit ollama在弹出编辑器中添加[Service] EnvironmentOLLAMA_HOST0.0.0.0:11434常用命令速查# 查看已下载的模型ollama list# 删除模型ollamarmdeepseek-r1:7b# 更新模型ollama pull deepseek-r1# 查看模型详情ollama show deepseek-r1# 后台运行服务不启动终端 UIollama serveREST API 调用Ollama 在本地11434端口提供完整的 REST API兼容 OpenAI 接口格式# 基础对话curlhttp://localhost:11434/api/chat\-d{ model: deepseek-r1, messages: [{role: user, content: 用 Python 写一个快速排序}], stream: false }Python 调用pipinstallollamafromollamaimportchat responsechat(modeldeepseek-r1,messages[{role:user,content:用 Python 写一个快速排序}])print(response.message.content)JavaScript 调用npmi ollamaimportollamafromollamaconstresponseawaitollama.chat({model:deepseek-r1,messages:[{role:user,content:用 Python 写一个快速排序}]})console.log(response.message.content)本地资源不足时也可以通过支持 OpenAI 兼容接口的云端服务补充——例如七牛云 AI 推理服务提供 DeepSeek 系列模型的 API 接入只需将base_url替换即可代码结构与本地调用完全一致。搭一个可视化界面Open WebUI不想用命令行可以用Open WebUIDocker 一条命令搞定dockerrun-d\-p3000:8080\--add-hosthost.docker.internal:host-gateway\-vopen-webui:/app/backend/data\--nameopen-webui\--restartalways\ghcr.io/open-webui/open-webui:main浏览器打开http://localhost:3000在设置中将 Ollama API 地址填入http://host.docker.internal:11434即可在 Web 界面与本地 DeepSeek 对话。常见问题Qollama run后模型下载很慢能加速吗Ollama 模型托管在 Cloudflare国内直连速度因网络环境差异较大。可以在ollama pull命令前设置代理exporthttps_proxyhttp://127.0.0.1:7890 ollama pull deepseek-r1或者在局域网内搭一台已经下好模型的机器通过OLLAMA_HOST0.0.0.0开启远程访问其他机器直接用。QCPU 能不能跑能但很慢。Ollama 在没有 GPU 时自动回退 CPU 推理7b 模型在 CPU 上大约每秒 3-8 个 token。1.5b 模型 CPU 体验相对可接受14b 以上建议有 GPU 再运行。QM 系列 Mac 怎么最大化利用统一内存Ollama 会自动调度 Apple Neural Engine GPU无需额外配置。M2 Pro16 GB跑 14b 问题不大M3 Max36 GB可以流畅跑 32b。注意不要同时开其他内存占用大的应用。QOllama 更新后模型需要重新下载吗不需要模型文件存储在独立路径macOS/Linux~/.ollama/modelsWindowsC:\Users\用户名\.ollama\modelsOllama 版本更新不影响已下载的模型。结语Ollama 把本地大模型部署的门槛压到了极低——三端安装命令都在 1-2 行之内DeepSeek-R1 的 8b 版本在任何有 8 GB 显存的机器上都能流畅运行。从 1.5b 到 671b覆盖了从入门体验到生产部署的完整参数区间MIT 协议可商用。Ollama 官方 GitHub 最后更新于 2026 年 7 月GPU 支持文档涵盖 NVIDIA RTX 50xx 最新架构和 AMD ROCm v7 全系支持本文所有命令基于当前官方文档建议定期访问docs.ollama.com获取最新信息。延伸资源Ollama 官网ollama.comDeepSeek-R1 模型库ollama.com/library/deepseek-r1Open WebUIgithub.com/open-webui/open-webui云端 DeepSeek API 接入qiniu.com/ai/plan