尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

LocalAI 桌面客户端:从安装到第一次对话的 3 步走法

LocalAI 桌面客户端:从安装到第一次对话的 3 步走法 LocalAI 桌面客户端从安装到第一次对话的 3 步走法【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAILocalAI 是一个开源 AI 引擎能在同一套服务里跑 LLM、语音、图像、视频等多模态模型不依赖 GPU。官方桌面客户端把下载引擎、启动服务、更新、模型管理这些活儿收进一个图形窗口基于 Fyne GUI 框架开发Windows、macOS、Linux 操作逻辑一致。下文按新手最常遇到的几个问题展开。如何安装 LocalAI 桌面客户端并首次启动服务装客户端按操作系统选对应版本运行。macOS 用户注意官方 DMG 未做 Apple 签名安装后需执行一次解除隔离sudo xattr -d com.apple.quarantine /Applications/LocalAI.app等引擎下载完客户端会自动检测系统架构并拉取匹配的发行版引擎二进制落盘到~/.localai/bin。大文件下载带重试机制弱网下不用反复手动重下启动前还会做完整性校验发现损坏会提示重装。核对默认值首次启动即在~/.localai下自动建好 models、backends、logs 三个子目录监听地址默认127.0.0.1:8080日志级别默认info。全部满足就不用动配置。怎样用 WebUI 加载模型并完成第一次对话服务起来后托盘菜单点Open WebUI浏览器访问127.0.0.1:8080。首页列出已安装模型每张卡片带 Chat 与 Delete 按钮从顶部导航进模型库可按类型和标签筛选。习惯命令行的话模型支持从模型库、Hugging Face、Ollama OCI 仓库等来源加载后端镜像如 llama.cpp会在首次运行到对应模型时才被拉取。local-ai run llama-3.2-1b-instruct:q4_k_m另开一个终端就能与刚加载的模型交互local-ai chat --model llama-3.2-1b-instruct:q4_k_m配置文件怎么改模型路径、端口与环境变量所有设置落在一份 JSON 配置里改动即时生效无需重启整个应用{ models_path: /Users/username/.localai/models, backends_path: /Users/username/.localai/backends, address: 127.0.0.1:8080, log_level: info, auto_start: false, start_on_boot: false }路径迁移把models_path指到大容量盘免得模型把系统盘占满端口冲突8080被占用时改address即可环境变量environment_vars字段支持逐条注入OMP_NUM_THREADS这类并发参数不用再碰 shell开机自启start_on_boot为true时客户端启动即拉起 LocalAI 服务排查问题把log_level临时调成debug能拿到更细的输出系统托盘里怎么启停服务与查看状态日常操作基本不用打开主窗口——关闭窗口只是把界面收进托盘服务不受影响。动态菜单右键托盘图标菜单按状态切换未安装显示Install Latest Version运行中显示Stop LocalAI已装未运行显示Start LocalAI状态速览菜单顶部常驻当前状态与版本两行信息点击可展开完整详情版本跟踪客户端周期性检查发布源发现新版本时菜单会多出一项带版本号的更新提示快速入口托盘菜单里可直接打开 WebUI 或 官方文档出错了按什么顺序查 按日志 → 端口 → 下载的顺序来多数故障三步内定位。启动失败打开~/.localai/logs/目录下时间戳最新的日志文件客户端每次启动都会生成一份新的localai_*.log下载中断客户端下次启动会自动清理半截文件partial downloads直接重新触发下载即可不需要手动删文件选型纯 CPU 机器优先选小参数量加q4_k_m之类的量化档位后端按模型按需拉取不跑的能力不额外占磁盘下一步建议打开 WebUI 装一个对话模型或者直接在终端用local-ai chat试试手。【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表