LocalAI 桌面客户端上手10 分钟跑通第一个本地 AI 模型【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI想在自家电脑上本地跑 AI 模型又不想碰终端LocalAI 是一个开源的本地 AI 引擎同一套服务里能跑 LLM、语音、图像、视频模型不依赖 GPU。它自带一个桌面客户端把下载引擎、建目录、起服务、看日志收进一个图形窗口。这篇带你从安装包走到和第一个模型聊上第一句话。装好客户端引擎本体自动下载到位你只需要装客户端这一个安装包LocalAI 引擎的下载与校验都由它自动完成。macOS从官方 Release 页下载 DMG拖进应用程序文件夹即可官方文档说明应用已做 Apple Developer ID 签名与公证启动不会有隔离提示Linux从 Release 页下载对应架构amd64/arm64的二进制chmod x后再运行首次启动检测不到引擎时会弹窗点 Download Install 即按系统架构拉取匹配版本二进制存到~/.localai/bin下载支持断点续传失败点 Retry 从上次位置继续启动服务前会做二进制完整性校验损坏会自动删除并提示重装每次启动还会清理上次没下完的半截文件点一下启动并确认服务真的跑起来了关掉主窗口只是把界面收进系统托盘服务不受影响日常操作基本都在托盘菜单里完成。右键托盘图标菜单会按当前状态显示 Install Latest Version / Start LocalAI / Stop LocalAI。点 Start LocalAI 后状态行变成 LocalAI is running 即代表就绪——它在日志出现 API server listening 之后才更新。确认手段有两个浏览器访问http://localhost:8080或在终端执行curl http://localhost:8080/readyz托盘菜单里的 Open WebUI 可以直接帮你打开界面首页就是已安装模型列表。装第一个对话模型跑通第一次真实对话服务起来只是前半程模型装上、能回话才算真正跑通。WebUI 进 Models → Explore可按类型与标签筛选模型搜索qwen3-4b点 Install 等下载完成。它参数量小、CPU 就能跑适合纯 CPU 机器进 Chat 页从下拉框选qwen3-4b发一条消息几秒内就有回复想走命令行的话local-ai run qwen3-4b一条命令即可从模型库加载后端在首次运行到对应模型时才拉取不跑的能力不额外占磁盘。最常改的三个设置模型路径、端口、日志等级所有设置集中在~/.localai/launcher.json这份 JSON 里新手最常动这几项{ models_path: ~/.localai/models, address: 127.0.0.1:8080, log_level: info }models_path指到大容量盘别把模型下到系统盘address8080 被占用时换成别的端口log_level排查问题临时调成debug服务端日志同时写在~/.localai/logs/下的localai_时间戳.log每次启动生成一份新的environment_vars可逐条注入环境变量如OMP_NUM_THREADS出问题了按日志 → 端口 → 下载三步排查启动失败打开~/.localai/logs/里时间戳最新的那份日志错误原因基本在末尾端口冲突改launcher.json里的address后重启服务下载中断不用手动删文件客户端下次启动自动清理半截文件重新触发下载即可模型 404用curl http://localhost:8080/v1/models核对模型名是否装对更多场景见故障排查文档跑通之后有个现成的下一步打开 WebUI 的 Agents 页给qwen3-4b配一个工具试试它读文件、执行命令的能力接口层面的玩法可参考快速上手文档。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 LocalAI 桌面客户端上手：10 分钟跑通第一个本地 AI 模型
LocalAI 桌面客户端上手10 分钟跑通第一个本地 AI 模型【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI想在自家电脑上本地跑 AI 模型又不想碰终端LocalAI 是一个开源的本地 AI 引擎同一套服务里能跑 LLM、语音、图像、视频模型不依赖 GPU。它自带一个桌面客户端把下载引擎、建目录、起服务、看日志收进一个图形窗口。这篇带你从安装包走到和第一个模型聊上第一句话。装好客户端引擎本体自动下载到位你只需要装客户端这一个安装包LocalAI 引擎的下载与校验都由它自动完成。macOS从官方 Release 页下载 DMG拖进应用程序文件夹即可官方文档说明应用已做 Apple Developer ID 签名与公证启动不会有隔离提示Linux从 Release 页下载对应架构amd64/arm64的二进制chmod x后再运行首次启动检测不到引擎时会弹窗点 Download Install 即按系统架构拉取匹配版本二进制存到~/.localai/bin下载支持断点续传失败点 Retry 从上次位置继续启动服务前会做二进制完整性校验损坏会自动删除并提示重装每次启动还会清理上次没下完的半截文件点一下启动并确认服务真的跑起来了关掉主窗口只是把界面收进系统托盘服务不受影响日常操作基本都在托盘菜单里完成。右键托盘图标菜单会按当前状态显示 Install Latest Version / Start LocalAI / Stop LocalAI。点 Start LocalAI 后状态行变成 LocalAI is running 即代表就绪——它在日志出现 API server listening 之后才更新。确认手段有两个浏览器访问http://localhost:8080或在终端执行curl http://localhost:8080/readyz托盘菜单里的 Open WebUI 可以直接帮你打开界面首页就是已安装模型列表。装第一个对话模型跑通第一次真实对话服务起来只是前半程模型装上、能回话才算真正跑通。WebUI 进 Models → Explore可按类型与标签筛选模型搜索qwen3-4b点 Install 等下载完成。它参数量小、CPU 就能跑适合纯 CPU 机器进 Chat 页从下拉框选qwen3-4b发一条消息几秒内就有回复想走命令行的话local-ai run qwen3-4b一条命令即可从模型库加载后端在首次运行到对应模型时才拉取不跑的能力不额外占磁盘。最常改的三个设置模型路径、端口、日志等级所有设置集中在~/.localai/launcher.json这份 JSON 里新手最常动这几项{ models_path: ~/.localai/models, address: 127.0.0.1:8080, log_level: info }models_path指到大容量盘别把模型下到系统盘address8080 被占用时换成别的端口log_level排查问题临时调成debug服务端日志同时写在~/.localai/logs/下的localai_时间戳.log每次启动生成一份新的environment_vars可逐条注入环境变量如OMP_NUM_THREADS出问题了按日志 → 端口 → 下载三步排查启动失败打开~/.localai/logs/里时间戳最新的那份日志错误原因基本在末尾端口冲突改launcher.json里的address后重启服务下载中断不用手动删文件客户端下次启动自动清理半截文件重新触发下载即可模型 404用curl http://localhost:8080/v1/models核对模型名是否装对更多场景见故障排查文档跑通之后有个现成的下一步打开 WebUI 的 Agents 页给qwen3-4b配一个工具试试它读文件、执行命令的能力接口层面的玩法可参考快速上手文档。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考