一、下载Ollama使用Ollama可以大大降低显存需求消费级的显卡也能运行大模型首先我们进入官网下载https://ollama.com/download选择windows版本双击安装这里我们以windows为例下载windows版本并运行可以看到右下角的状态栏中会显示Ollama的图标二、下载DeepSeek-R1模型进入Ollama官网找到Models标签可以看到第一个就是DeepSeek-R1点进去以后可以在下方选择模型的参数规模每个模型右边则是模型的大小如果是8g的显卡可以选择7b或者8b的模型。这里以3060 12g为例下载14b的模型然后复制右侧的命令ollama run deepseek-r1打开电脑终端键盘上按winR输入cmd进入命令行输入刚才复制的命令下载大模型Ollama模型的存储目录是这样的macOS: ~/.ollama/models Linux: /usr/share/ollama/.ollama/models Windows: C:\Users\username\.ollama\models若系统盘C盘空间不足可通过设置环境变量将OLLAMA_MODELS指向其他存储路径把它设置为所选目录参考https://github.com/ollama/ollama/blob/main/docs/faq.md。至此已经下载完毕了。三、命令行对话下载完模型以后直接进入对话界面可以直接在命令行对话聊天标签内是深度思考的内容可视化本地大模型安装方式一安装一个可视化对话Chatbox下载安装https://chatboxai.app/zh配置上Ollama打开Chatbox点击设置选择模型提供方选择模型保存此时可以使用DeepSeek方式二安装dockerdocker安装https://docs.docker.com/desktop/release-notes/选择双击运行安装完成安装之后可以重启。打开命令行输出docker出现以上界面docker安装成功。首先打开docker命令行运行的界面可能不够美观和易用如果想要在网页端更便捷地使用可以选择用NextChat可视化运行。首先进入open-webui主页https://github.com/open-webui/open-webui找到下载链接。由于我们已经安装过Ollama所以可以选择第一条指令点击右侧的复制docker run -d -p 3000:8080 --add-hosthost.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main出现上图docker镜像拉取完成。安装完成后点击docker中对应的网址就可以访问了打开docker访问http://localhost:3000/auth创建本地账号登录之后选择我们的deepseek此时可以正常使用注意在docker容器启动的过程中可能会有卡顿现象此时等待几分钟即可。如果不需要使用本地大模型在docker中将容器关掉即可下次使用可以打开。最后的最后感谢你们的阅读和喜欢作为一位在一线互联网行业奋斗多年的老兵我深知在这个瞬息万变的技术领域中持续学习和进步的重要性。为了帮助更多热爱技术、渴望成长的朋友我特别整理了一份涵盖大模型领域的宝贵资料集。这些资料不仅是我多年积累的心血结晶也是我在行业一线实战经验的总结。这些学习资料不仅深入浅出而且非常实用让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习相信它们一定能为你提供实质性的帮助。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】DeepSeek全套安装部署资料大模型知识脑图为了成为更好的 AI大模型 开发者这里为大家提供了总的路线图。它的用处就在于你可以按照上面的知识点去找对应的学习资源保证自己学得较为全面。经典书籍阅读阅读AI大模型经典书籍可以帮助读者提高技术水平开拓视野掌握核心技术提高解决问题的能力同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说阅读经典书籍是非常有必要的。实战案例光学理论是没用的要学会跟着一起敲要动手实操才能将自己的所学运用到实际当中去这时候可以搞点实战案例来学习。面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】