LocalAI 本地部署指南没有显卡也能免费跑自己的AI助手【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI想用AI却不想把公司文档传到云端还是你的办公电脑没有显卡跑不了云端那些贵妇级服务 LocalAI 就是来解决这两件事的它是一个免费开源的本地部署AI引擎大语言模型、图片、语音全能跑而且不依赖GPU。 装好之后它就在你电脑的 8080 端口上等着浏览器一开就能用。它是什么一个能直接替换云端API的本地AI引擎LocalAI 把模型和服务拆开了核心服务只负责对外提供一个统一API而 llama.cpp、vLLM、whisper.cpp、stable-diffusion 这些推理引擎各自打包成独立镜像用到哪个才拉哪个不装用不到的东西。 它兼容 OpenAI、Anthropic、ElevenLabs 的API格式也就是说你原来调云端的代码把地址改成本地地址就能继续用一行都不用重写。一条命令装好CPU版三步上手 第一步确认电脑上装了 Docker没有的话看文档 docs/content/getting-started/install.md 里的说明。第二步跑这条命令启动容器docker run -ti --name local-ai -p 8080:8080 localai/localai:latest第三步浏览器打开 8080 端口聊天、生成图片、语音转换的页面都已经在等你了。有 NVIDIA 显卡的话加上--gpus all并换对应的 CUDA 镜像速度更快macOS 用户也可以跳过 Docker直接下官方 DMG 应用。想先拉源码看看的后面结尾会给你地址。能帮你做什么四个最常见的用法纯CPU办公本也能聊天LLM 对话、向量嵌入、重排序这些任务纯 CPU 就能扛。因为接口和 OpenAI 一致现有的工具链改个地址直接指过来。文字变语音不用出门买配音选一个 TTS 语音模型把文本贴进去本地直接合成自然语音适合做播客素材、有声读稿。一句话生图接上 stable diffusion 系列模型写一句描述图片就出来了不排队、不限量、不上传你的描述词。没有GPU也能跑NVIDIA、AMD、Intel、Apple Silicon、Vulkan、纯CPU都在支持列表里。你的机器有多普通它都能凑合干。生态与下一步官方文档docs/content/getting-started/ 从安装到排错的完整步骤都在里面功能说明docs/content/features/ 逐一讲解嵌入、重排序器、P2P推理等玩法模型库内置模型市场一次收录 800 多个模型想跑什么基本都有现成的看到这里下一步很简单先跑上面那条 docker 命令跟本地模型聊上第一句话想深入再拉源码自己改git clone https://gitcode.com/GitHub_Trending/lo/LocalAI【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 LocalAI 本地部署指南：没有显卡也能免费跑自己的AI助手
LocalAI 本地部署指南没有显卡也能免费跑自己的AI助手【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI想用AI却不想把公司文档传到云端还是你的办公电脑没有显卡跑不了云端那些贵妇级服务 LocalAI 就是来解决这两件事的它是一个免费开源的本地部署AI引擎大语言模型、图片、语音全能跑而且不依赖GPU。 装好之后它就在你电脑的 8080 端口上等着浏览器一开就能用。它是什么一个能直接替换云端API的本地AI引擎LocalAI 把模型和服务拆开了核心服务只负责对外提供一个统一API而 llama.cpp、vLLM、whisper.cpp、stable-diffusion 这些推理引擎各自打包成独立镜像用到哪个才拉哪个不装用不到的东西。 它兼容 OpenAI、Anthropic、ElevenLabs 的API格式也就是说你原来调云端的代码把地址改成本地地址就能继续用一行都不用重写。一条命令装好CPU版三步上手 第一步确认电脑上装了 Docker没有的话看文档 docs/content/getting-started/install.md 里的说明。第二步跑这条命令启动容器docker run -ti --name local-ai -p 8080:8080 localai/localai:latest第三步浏览器打开 8080 端口聊天、生成图片、语音转换的页面都已经在等你了。有 NVIDIA 显卡的话加上--gpus all并换对应的 CUDA 镜像速度更快macOS 用户也可以跳过 Docker直接下官方 DMG 应用。想先拉源码看看的后面结尾会给你地址。能帮你做什么四个最常见的用法纯CPU办公本也能聊天LLM 对话、向量嵌入、重排序这些任务纯 CPU 就能扛。因为接口和 OpenAI 一致现有的工具链改个地址直接指过来。文字变语音不用出门买配音选一个 TTS 语音模型把文本贴进去本地直接合成自然语音适合做播客素材、有声读稿。一句话生图接上 stable diffusion 系列模型写一句描述图片就出来了不排队、不限量、不上传你的描述词。没有GPU也能跑NVIDIA、AMD、Intel、Apple Silicon、Vulkan、纯CPU都在支持列表里。你的机器有多普通它都能凑合干。生态与下一步官方文档docs/content/getting-started/ 从安装到排错的完整步骤都在里面功能说明docs/content/features/ 逐一讲解嵌入、重排序器、P2P推理等玩法模型库内置模型市场一次收录 800 多个模型想跑什么基本都有现成的看到这里下一步很简单先跑上面那条 docker 命令跟本地模型聊上第一句话想深入再拉源码自己改git clone https://gitcode.com/GitHub_Trending/lo/LocalAI【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考