AnythingLLM 20 分钟快速上手把私有文档变成能提问的 AI 助手【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm公司规范、产品手册、几十份 PDF 散落在各处每次想查点东西都要翻半天问了 ChatGPT 它又不认识你的资料。AnythingLLM 就是解决这件事的它是一个自托管的文档问答应用把 PDF、网页、YouTube 视频变成可提问的知识库LLM 随便你换云端的或本地的数据全程留在自己机器上。它是什么装在自己机器上的文档问答助手一句话版本AnythingLLM 是一个开源自托管的文档聊天机器人——你丢进去什么资料它就能基于什么资料回答问题还附引用出处。它适合三类人不想把公司文档喂给第三方 AI 的团队或个人想在本地模型Ollama、LM Studio 等上搭一套完全私有问答系统的开发者需要一个多用户、可嵌入网站的团队问答入口的人核心卖点是默认零配置向量数据库默认用内置的 LanceDB文本向量化默认走自带的 Native Embedder开箱就能用之后再想换 OpenAI、Anthropic、Pinecone 这些全是可选项。5 分钟跑起来一条 Docker 命令的部署路径前置条件只有一条机器上装了 Docker内存 2GB 以上、磁盘留 10GB 起步就够。不想折腾 Docker 也可以从源码构建或直接下桌面版但 Docker 是最省心的路子下面只讲它。git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm/docker cp .env.example .env docker compose up -d --build第一条命令拉代码第二条准备环境配置文件docker/.env.example 里预置了全部可选项第三条构建并启动容器。等构建完成后浏览器打开http://localhost:3001你就进入了 AnythingLLM。两个容易忽略的点数据持久化compose 文件把server/storage挂到了宿主机上文档、向量、配置都存在你本地的目录里升级容器不会丢数据。首次引导第一次进去会走一个引导流程依次让你选 LLM 偏好、处理数据、创建管理员账号跟着点完就能用了。想从源码玩开发的话在仓库根目录执行yarn setup装依赖然后分别在三个终端跑yarn dev:server、yarn dev:frontend、yarn dev:collector详见 BARE_METAL.md 里的生产模式说明。先给它挑个大脑配置 LLM 偏好AnythingLLM 自己不生产模型它负责把你选的大脑和你的文档接起来。在侧边栏的General Settings → LLM Preference里配置用法选什么要填什么完全本地、零费用Ollama / LM Studio / LocalAI本地地址默认http://localhost:11434云端、效果最好OpenAI / Anthropic / Gemini 等对应的 API Key公司内网Azure OpenAI / 通用 OpenAI 接口自定义 base URL Key它支持三十多家提供商源码里 server/utils/AiProviders/ 一家一个目录能直接看出支持范围。注意向量化模型Embedder要单独配一次默认用内置的就行换 Embedder 意味着已有文档要重新向量化所以新手建议先不动它。把文档喂进去开始提问界面里叫 Workspace工作区理解成一个主题一个聊天室最准确。建好工作区后底部有几种喂料方式文件上传PDF、DOCX、TXT、EPUB、图片自动 OCR拖进来即可大文件它内部会切成小块再向量化URL博客、文章链接抓正文转成 MarkdownYouTube填视频链接自动拉字幕转成文本入库原始文本直接粘贴内容喂完之后提问回答下方会列出引用了哪几份文档点进去能看原文片段——这是它比裸 ChatGPT靠谱的关键答案有据可查。文档处理的具体逻辑在 collector/ 目录里支持哪些格式、怎么处理都能翻到源码。几个实用习惯一个工作区只放一个主题跨主题的混杂资料会互相干扰检索质量文档有已同步/未同步状态改了源文件可以在工作区里手动重新同步工作区支持单独换 LLM 和调温度客服类工作区可以调保守创意类调放开让它记住你、替你干活跑通问答只是起点AnythingLLM 还有几个能明显减负的能力记忆Memories开启后它会自动从对话里提取你的偏好、背景信息并持久化下次新对话不用重复自我介绍也可以手动管理、删除记忆定时任务按 cron 表达式周期性地跑一段提示词或完整 Agent 流程比如每天早上让 Agent 查一遍新文档做摘要模型路由Model Router按规则把不同对话自动分给不同模型简单问题走便宜的小模型难题走大模型省 tokenAgent 与 Agent Flows内置能浏览网页等工具的 Agent还能用可视化流程把取数→判断→调模型→输出串成无代码工作流支持 MCP 接入外部工具这些都在侧边栏对应的设置页里按需开启即可不需要的功能完全不占资源。部署到云上分享给团队想放服务器上给团队用仓库里 cloud-deployments/ 目录备好了 AWSCloudFormation、GCPDeployment Manager、DigitalOceanTerraform、Helm 一整套模板跟着各自的DEPLOY.md点下去就行。以 AWS 为例Stack 建完在 Outputs 里能直接拿到ServerIp和ServerURL拿这个 URL 就能访问。云上的两个关键差异多用户和多工作区权限是 Docker 版才有的云上部署建议直接开多用户用邀请链接发账号按用户控制可见的工作区前端 API 地址要改成公网可达的地址见下面进阶自定义进阶自定义端口、代理与遥测端口默认 3001在.env里改映射即可比如3001:3001改成8080:3001反向代理用 Nginx 套一层加 HTTPS 时聊天是流式的代理必须转发 WebSocketUpgrade/Connection头BARE_METAL.md 里有现成的 Nginx 配置API 基地址部署到非本机地址时在frontend/.env.production里把VITE_API_BASE设成http://你的IP:3001/api再重新构建否则页面加载了但接口全断关闭遥测默认收集匿名使用统计只有事件类型不含内容和 IP。不想发就在.env里设DISABLE_TELEMETRYtrue或在界面侧边栏 Privacy 里关掉权限问题容器内默认UID1000和宿主机用户不一致时会出现文件读写报错把.env里的UID/GID改成你宿主机用户的即可避坑 QA四个最常见的报错1. 容器里连不上宿主机上的 Ollama报ECONNREFUSED原因容器内的localhost指向容器自己不是你的电脑。解法连接地址改成http://host.docker.internal:11434Linux 上这个域名不生效用http://172.17.0.1:11434代替。2. 页面上去点登录没反应、API 离线原因实例部署在远程机器上前端还在找localhost的 API。解法按上一节把VITE_API_BASE改成实际可达的 IP 再重建镜像。3. 挂载数据目录后报权限错误、文档写不进去原因容器 UID/GID 和宿主机用户对不上。解法对齐.env里的UID/GID重启容器。4. 换了 Embedder 之后老文档检索不到原因向量化结果和新 Embedder 的向量空间不兼容旧文档形同没入库。解法对受影响的工作区重新同步文档让它用新模型重新向量化。下一步到这里你已经有了一个私有、可问答、会记事的文档助手。建议的下一个动作建第二个工作区用团队里最常被查的那类资料再喂一轮然后拉一个同事进来试试多用户权限——跑通这两步这套系统才算真正落地。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 AnythingLLM 20 分钟快速上手：把私有文档变成能提问的 AI 助手
AnythingLLM 20 分钟快速上手把私有文档变成能提问的 AI 助手【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm公司规范、产品手册、几十份 PDF 散落在各处每次想查点东西都要翻半天问了 ChatGPT 它又不认识你的资料。AnythingLLM 就是解决这件事的它是一个自托管的文档问答应用把 PDF、网页、YouTube 视频变成可提问的知识库LLM 随便你换云端的或本地的数据全程留在自己机器上。它是什么装在自己机器上的文档问答助手一句话版本AnythingLLM 是一个开源自托管的文档聊天机器人——你丢进去什么资料它就能基于什么资料回答问题还附引用出处。它适合三类人不想把公司文档喂给第三方 AI 的团队或个人想在本地模型Ollama、LM Studio 等上搭一套完全私有问答系统的开发者需要一个多用户、可嵌入网站的团队问答入口的人核心卖点是默认零配置向量数据库默认用内置的 LanceDB文本向量化默认走自带的 Native Embedder开箱就能用之后再想换 OpenAI、Anthropic、Pinecone 这些全是可选项。5 分钟跑起来一条 Docker 命令的部署路径前置条件只有一条机器上装了 Docker内存 2GB 以上、磁盘留 10GB 起步就够。不想折腾 Docker 也可以从源码构建或直接下桌面版但 Docker 是最省心的路子下面只讲它。git clone https://gitcode.com/GitHub_Trending/an/anything-llm cd anything-llm/docker cp .env.example .env docker compose up -d --build第一条命令拉代码第二条准备环境配置文件docker/.env.example 里预置了全部可选项第三条构建并启动容器。等构建完成后浏览器打开http://localhost:3001你就进入了 AnythingLLM。两个容易忽略的点数据持久化compose 文件把server/storage挂到了宿主机上文档、向量、配置都存在你本地的目录里升级容器不会丢数据。首次引导第一次进去会走一个引导流程依次让你选 LLM 偏好、处理数据、创建管理员账号跟着点完就能用了。想从源码玩开发的话在仓库根目录执行yarn setup装依赖然后分别在三个终端跑yarn dev:server、yarn dev:frontend、yarn dev:collector详见 BARE_METAL.md 里的生产模式说明。先给它挑个大脑配置 LLM 偏好AnythingLLM 自己不生产模型它负责把你选的大脑和你的文档接起来。在侧边栏的General Settings → LLM Preference里配置用法选什么要填什么完全本地、零费用Ollama / LM Studio / LocalAI本地地址默认http://localhost:11434云端、效果最好OpenAI / Anthropic / Gemini 等对应的 API Key公司内网Azure OpenAI / 通用 OpenAI 接口自定义 base URL Key它支持三十多家提供商源码里 server/utils/AiProviders/ 一家一个目录能直接看出支持范围。注意向量化模型Embedder要单独配一次默认用内置的就行换 Embedder 意味着已有文档要重新向量化所以新手建议先不动它。把文档喂进去开始提问界面里叫 Workspace工作区理解成一个主题一个聊天室最准确。建好工作区后底部有几种喂料方式文件上传PDF、DOCX、TXT、EPUB、图片自动 OCR拖进来即可大文件它内部会切成小块再向量化URL博客、文章链接抓正文转成 MarkdownYouTube填视频链接自动拉字幕转成文本入库原始文本直接粘贴内容喂完之后提问回答下方会列出引用了哪几份文档点进去能看原文片段——这是它比裸 ChatGPT靠谱的关键答案有据可查。文档处理的具体逻辑在 collector/ 目录里支持哪些格式、怎么处理都能翻到源码。几个实用习惯一个工作区只放一个主题跨主题的混杂资料会互相干扰检索质量文档有已同步/未同步状态改了源文件可以在工作区里手动重新同步工作区支持单独换 LLM 和调温度客服类工作区可以调保守创意类调放开让它记住你、替你干活跑通问答只是起点AnythingLLM 还有几个能明显减负的能力记忆Memories开启后它会自动从对话里提取你的偏好、背景信息并持久化下次新对话不用重复自我介绍也可以手动管理、删除记忆定时任务按 cron 表达式周期性地跑一段提示词或完整 Agent 流程比如每天早上让 Agent 查一遍新文档做摘要模型路由Model Router按规则把不同对话自动分给不同模型简单问题走便宜的小模型难题走大模型省 tokenAgent 与 Agent Flows内置能浏览网页等工具的 Agent还能用可视化流程把取数→判断→调模型→输出串成无代码工作流支持 MCP 接入外部工具这些都在侧边栏对应的设置页里按需开启即可不需要的功能完全不占资源。部署到云上分享给团队想放服务器上给团队用仓库里 cloud-deployments/ 目录备好了 AWSCloudFormation、GCPDeployment Manager、DigitalOceanTerraform、Helm 一整套模板跟着各自的DEPLOY.md点下去就行。以 AWS 为例Stack 建完在 Outputs 里能直接拿到ServerIp和ServerURL拿这个 URL 就能访问。云上的两个关键差异多用户和多工作区权限是 Docker 版才有的云上部署建议直接开多用户用邀请链接发账号按用户控制可见的工作区前端 API 地址要改成公网可达的地址见下面进阶自定义进阶自定义端口、代理与遥测端口默认 3001在.env里改映射即可比如3001:3001改成8080:3001反向代理用 Nginx 套一层加 HTTPS 时聊天是流式的代理必须转发 WebSocketUpgrade/Connection头BARE_METAL.md 里有现成的 Nginx 配置API 基地址部署到非本机地址时在frontend/.env.production里把VITE_API_BASE设成http://你的IP:3001/api再重新构建否则页面加载了但接口全断关闭遥测默认收集匿名使用统计只有事件类型不含内容和 IP。不想发就在.env里设DISABLE_TELEMETRYtrue或在界面侧边栏 Privacy 里关掉权限问题容器内默认UID1000和宿主机用户不一致时会出现文件读写报错把.env里的UID/GID改成你宿主机用户的即可避坑 QA四个最常见的报错1. 容器里连不上宿主机上的 Ollama报ECONNREFUSED原因容器内的localhost指向容器自己不是你的电脑。解法连接地址改成http://host.docker.internal:11434Linux 上这个域名不生效用http://172.17.0.1:11434代替。2. 页面上去点登录没反应、API 离线原因实例部署在远程机器上前端还在找localhost的 API。解法按上一节把VITE_API_BASE改成实际可达的 IP 再重建镜像。3. 挂载数据目录后报权限错误、文档写不进去原因容器 UID/GID 和宿主机用户对不上。解法对齐.env里的UID/GID重启容器。4. 换了 Embedder 之后老文档检索不到原因向量化结果和新 Embedder 的向量空间不兼容旧文档形同没入库。解法对受影响的工作区重新同步文档让它用新模型重新向量化。下一步到这里你已经有了一个私有、可问答、会记事的文档助手。建议的下一个动作建第二个工作区用团队里最常被查的那类资料再喂一轮然后拉一个同事进来试试多用户权限——跑通这两步这套系统才算真正落地。【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考