召回率从58%到71%LLM Wiki向量语义搜索配置指南告别关键词漏检【免费下载链接】llm_wikiLLM Wiki is a cross-platform desktop application that turns your documents into an organized, interlinked knowledge base — automatically. Instead of traditional RAG (retrieve-and-answer from scratch every time), the LLM incrementally builds and maintains a persistent wiki from your sources。项目地址: https://gitcode.com/gh_mirrors/ll/llm_wikiLLM Wiki是一款把文档自动变成互联知识库的跨平台桌面应用。它的向量语义搜索基于 LanceDB 构建可接入任意 OpenAI 兼容的 Embedding 端点——官方基准测试显示开启向量语义搜索后整体召回率从 58.2% 提升到 71.4%。本文将带你从零配置这套能力让换一种说法也能搜到成为默认体验。为什么关键词搜索会漏检传统分词搜索BM25 类依赖精确词匹配它有两个天然短板场景你搜的文档里写的分词搜索向量语义搜索同义词内存占用内存开销❌ 漏检✅ 命中语义转述为什么这么卡性能瓶颈与延迟❌ 漏检✅ 命中中英文混搜embedding 模型向量化接口⚠️ 部分✅ 命中LLM Wiki 的查询管线是多阶段的分词搜索 → 向量语义搜索可选→ 图谱扩展 → 预算控制。向量搜索正是阶段 1.5——它通过余弦相似度找出即使没有关键词重叠、但语义相关的页面再把结果合并进已有匹配增强已有 添加新发现。多阶段搜索管线向量搜索如何融入整个检索流程可以在架构图里看得很清楚阶段 1 分词搜索英文分词 停用词过滤中文 CJK 二元组分词标题匹配加分同时搜索wiki/与raw/sources/阶段 1.5 向量语义搜索可选任意 OpenAI 兼容/v1/embeddings端点生成向量存入 LanceDBRust 后端嵌入式存储ANN 快速检索阶段 2 图谱扩展以搜索结果为种子节点四信号关联度模型 2 跳遍历发现深层关联阶段 3 预算控制4K→1M token 上下文窗口60% 给 Wiki 页面向量搜索完全可选默认关闭关闭时管线自动回退到分词搜索 图谱扩展所以你可以放心开关实验。核心实现在 embedding.ts 与 search.rs。一分钟配置在 LLM Wiki 中开启向量语义搜索第 1 步打开 Embedding 设置面板进入设置 → 向量Embedding区域源码见 embedding-section.tsx打开启用向量搜索开关下方会出现独立配置区。第 2 步填写端点、API Key 与模型只需三个必填项端点Endpoint任意 OpenAI 兼容的/v1/embeddings地址如http://127.0.0.1:1234/v1/embeddingsOllama、LM Studio 本地模型均可API Key本地模型可留空模型Model输入框内置常用模型建议列表如text-embedding-3-small、gemini-embedding-001、text-embedding-qwen3-embedding-0.6b 特殊供应商需要额外请求头时可在自定义请求头中按Key: value每行一条填写。第 3 步点击重建全部索引配置生效后点击Reindex重建全部索引按钮。LLM Wiki 会把每个 Wiki 页面切块chunking、批量生成向量并写入 LanceDB进度实时显示已完成 X / 总数 Y。之后新摄入的页面会自动生成 embedding无需重复操作。进阶调参影响召回率的 4 个关键参数参数默认建议作用最大块大小maxChunkChars1000单块字符上限块越小语义越聚焦块越大越完整重叠字符数overlapChunkChars200相邻块重叠防止关键信息被切在边界并发数concurrency1–32重建索引时的并行请求数本机模型可调小批量大小batchSize1–64每次批量 embedding 的文本条数兼容端点更快切块逻辑在 text-chunker.tsLanceDB 向量存取余弦相似度 ANN在 vectorstore.rs。新手调参口诀默认值先跑通如果长文档检索不准把 maxChunkChars 调大到 1500–2000如果查询语义很碎保持 800–1000 即可。配置自检两个测试按钮 错误回退机制设置面板提供两个自检按钮测试连接验证端点与鉴权是否可达测试功能实际发一条文本生成向量确认维度匹配面板底部还会显示已索引块数与最近一次错误。即使向量端点挂了LLM Wiki 也不会静默降级——它会明确展示失败原因最近错误面板查询自动回退到分词 图谱管线你的知识库始终可查。常见问题 FAQQ换了 Embedding 模型需要重建索引吗需要。不同模型的向量空间不通用切换模型或维度后点一次重建全部索引即可。Q本地模型Ollama / LM Studio支持吗支持。只要暴露 OpenAI 兼容的/v1/embeddings接口就能接入输入超长被拒时embedding.ts 会自动减半重试最多 3 次不会整页报错。Q不装向量搜索会损失多少官方基准显示开启后整体召回率从 58.2% → 71.4%提升约 13 个百分点对同义词多、口语化提问多的场景提升更明显。总结配置 LLM Wiki 向量语义搜索只需三步填端点 → 配模型 → 点重建。配合分词搜索与图谱扩展的多阶段管线它能把换个说法就搜不到的漏检问题基本解决13 个百分点的召回率提升立即可见。如果你已经在用 LLM Wiki 管理个人知识库强烈建议现在就打开设置页花一分钟把向量搜索点亮 。【免费下载链接】llm_wikiLLM Wiki is a cross-platform desktop application that turns your documents into an organized, interlinked knowledge base — automatically. Instead of traditional RAG (retrieve-and-answer from scratch every time), the LLM incrementally builds and maintains a persistent wiki from your sources。项目地址: https://gitcode.com/gh_mirrors/ll/llm_wiki创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 召回率从58%到71%：LLM Wiki向量语义搜索配置指南，告别关键词漏检
召回率从58%到71%LLM Wiki向量语义搜索配置指南告别关键词漏检【免费下载链接】llm_wikiLLM Wiki is a cross-platform desktop application that turns your documents into an organized, interlinked knowledge base — automatically. Instead of traditional RAG (retrieve-and-answer from scratch every time), the LLM incrementally builds and maintains a persistent wiki from your sources。项目地址: https://gitcode.com/gh_mirrors/ll/llm_wikiLLM Wiki是一款把文档自动变成互联知识库的跨平台桌面应用。它的向量语义搜索基于 LanceDB 构建可接入任意 OpenAI 兼容的 Embedding 端点——官方基准测试显示开启向量语义搜索后整体召回率从 58.2% 提升到 71.4%。本文将带你从零配置这套能力让换一种说法也能搜到成为默认体验。为什么关键词搜索会漏检传统分词搜索BM25 类依赖精确词匹配它有两个天然短板场景你搜的文档里写的分词搜索向量语义搜索同义词内存占用内存开销❌ 漏检✅ 命中语义转述为什么这么卡性能瓶颈与延迟❌ 漏检✅ 命中中英文混搜embedding 模型向量化接口⚠️ 部分✅ 命中LLM Wiki 的查询管线是多阶段的分词搜索 → 向量语义搜索可选→ 图谱扩展 → 预算控制。向量搜索正是阶段 1.5——它通过余弦相似度找出即使没有关键词重叠、但语义相关的页面再把结果合并进已有匹配增强已有 添加新发现。多阶段搜索管线向量搜索如何融入整个检索流程可以在架构图里看得很清楚阶段 1 分词搜索英文分词 停用词过滤中文 CJK 二元组分词标题匹配加分同时搜索wiki/与raw/sources/阶段 1.5 向量语义搜索可选任意 OpenAI 兼容/v1/embeddings端点生成向量存入 LanceDBRust 后端嵌入式存储ANN 快速检索阶段 2 图谱扩展以搜索结果为种子节点四信号关联度模型 2 跳遍历发现深层关联阶段 3 预算控制4K→1M token 上下文窗口60% 给 Wiki 页面向量搜索完全可选默认关闭关闭时管线自动回退到分词搜索 图谱扩展所以你可以放心开关实验。核心实现在 embedding.ts 与 search.rs。一分钟配置在 LLM Wiki 中开启向量语义搜索第 1 步打开 Embedding 设置面板进入设置 → 向量Embedding区域源码见 embedding-section.tsx打开启用向量搜索开关下方会出现独立配置区。第 2 步填写端点、API Key 与模型只需三个必填项端点Endpoint任意 OpenAI 兼容的/v1/embeddings地址如http://127.0.0.1:1234/v1/embeddingsOllama、LM Studio 本地模型均可API Key本地模型可留空模型Model输入框内置常用模型建议列表如text-embedding-3-small、gemini-embedding-001、text-embedding-qwen3-embedding-0.6b 特殊供应商需要额外请求头时可在自定义请求头中按Key: value每行一条填写。第 3 步点击重建全部索引配置生效后点击Reindex重建全部索引按钮。LLM Wiki 会把每个 Wiki 页面切块chunking、批量生成向量并写入 LanceDB进度实时显示已完成 X / 总数 Y。之后新摄入的页面会自动生成 embedding无需重复操作。进阶调参影响召回率的 4 个关键参数参数默认建议作用最大块大小maxChunkChars1000单块字符上限块越小语义越聚焦块越大越完整重叠字符数overlapChunkChars200相邻块重叠防止关键信息被切在边界并发数concurrency1–32重建索引时的并行请求数本机模型可调小批量大小batchSize1–64每次批量 embedding 的文本条数兼容端点更快切块逻辑在 text-chunker.tsLanceDB 向量存取余弦相似度 ANN在 vectorstore.rs。新手调参口诀默认值先跑通如果长文档检索不准把 maxChunkChars 调大到 1500–2000如果查询语义很碎保持 800–1000 即可。配置自检两个测试按钮 错误回退机制设置面板提供两个自检按钮测试连接验证端点与鉴权是否可达测试功能实际发一条文本生成向量确认维度匹配面板底部还会显示已索引块数与最近一次错误。即使向量端点挂了LLM Wiki 也不会静默降级——它会明确展示失败原因最近错误面板查询自动回退到分词 图谱管线你的知识库始终可查。常见问题 FAQQ换了 Embedding 模型需要重建索引吗需要。不同模型的向量空间不通用切换模型或维度后点一次重建全部索引即可。Q本地模型Ollama / LM Studio支持吗支持。只要暴露 OpenAI 兼容的/v1/embeddings接口就能接入输入超长被拒时embedding.ts 会自动减半重试最多 3 次不会整页报错。Q不装向量搜索会损失多少官方基准显示开启后整体召回率从 58.2% → 71.4%提升约 13 个百分点对同义词多、口语化提问多的场景提升更明显。总结配置 LLM Wiki 向量语义搜索只需三步填端点 → 配模型 → 点重建。配合分词搜索与图谱扩展的多阶段管线它能把换个说法就搜不到的漏检问题基本解决13 个百分点的召回率提升立即可见。如果你已经在用 LLM Wiki 管理个人知识库强烈建议现在就打开设置页花一分钟把向量搜索点亮 。【免费下载链接】llm_wikiLLM Wiki is a cross-platform desktop application that turns your documents into an organized, interlinked knowledge base — automatically. Instead of traditional RAG (retrieve-and-answer from scratch every time), the LLM incrementally builds and maintains a persistent wiki from your sources。项目地址: https://gitcode.com/gh_mirrors/ll/llm_wiki创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考