前言目的——搭建自动检索相关知识并输出的AI助手 // 业务助手 // 领域知识问答助手最终实现页面预览数据库对照github传送门后续补充代码声明使用AI工具辅助编程数据库来源ChatGptLangChain环境搭建- LangChain一个可以同时调用大模型/管理prompt ... 等帮助使用者构建软件的应用框架- LangChain1.0 Document (ch)安装 | LangChain 中文文档指令python环境创建conda虚拟环境conda create -n langchain01 python3.11conda activate langchain01Lanchain环境gpt版本如果有gpt额度可以下载gpt版本pip install langchain langchain-openaiollama版本由于gpt要credit这里选择ollama模型用于学习langchain先安装ollama环境MAC命令行安装:brew install ollama遇到的问题和解决方案- 不想用命令行安装Homebrew 安装慢 → 放弃编译路线macOS系统高可以直接到官网下载最新版本 Ollama- macOS 太旧 → 新版 Ollama 不支持且在使用Homebrew 下载过程中有不支持下载的直接找旧版 Ollama 0.9.5手动安装 https://ollama.en.uptodown.com/mac/versions?utm_sourcechatgpt.com试着启动ollama serve安装好ollama后下载通义千问模型下载完后不用联网也能输出根据自己的电脑配置下载不同大小的模型ollama pull qwen2.5:3b 本人选择的这个ollama pull qwen2.5:7bollama run qwen2.5:14b(base) xxxdeMacBook-Pro ~ % ollama --versionollama version is 0.9.5(base) xxxdeMacBook-Pro ~ % ollama listNAME ID SIZE MODIFIED(base) xxxdeMacBook-Pro ~ % ollama pull qwen2.5:3b 下载小一点参数的模型(base) xxxdeMacBook-Pro ~ % ollama listNAME ID SIZE MODIFIEDqwen2.5:3b 357c53fb659c 1.9 GB About a minute ago(base) xxxdeMacBook-Pro ~ % ollama run qwen2.5:3b 你好请介绍一下自己您好我是一个由阿里云开发的语言模型擅长回答各种问题和生成文本。我的目标是帮助用户快速找到所需的信息或完成任务。我可以对话聊天、创作文字比如写故事、剧本、邮件等还能表达观点、讲故事、创意写作等等。有什么我能帮您的吗----------安装langchain框架下载好ollama后在python环境里面安装langchain框架pip install langchain-ollama检查框架可用的python代码from langchain_ollama import ChatOllama llm ChatOllama( modelqwen2.5:3b, temperature0.7 ) response llm.invoke(什么是RAG) print(response.content)第一版-本地ui-简单的问答检索页面支持md文件切片1. 准备数据库2. 切片保存为向量文件3. chat命令行交互/本地浏览器交互第二版-记忆功能多轮对话优化UI新增数据库文件、支持md/docx/pdf多格式文档向量切片优化流程图的切片数据库可选输出优化支持表格... ...-指令cd到指定环境cd 到本地仓库目录conda activate 环境构造知识库PaymentKnowledge 支付知识库⚠️ 必须加 --structure-aware paymentEMV表格/流程/树形图才不会被硬长度切断python src/vectorstore.py PaymentKnowledge --structure-aware paymentjmeterDocs JMeter 文档知识库python src/vectorstore.py jmeterDocsCompany 公司知识库如果不需要就跳过改了文档再跑python src/vectorstore.py Company本地浏览器打开对话框ctrl c 退出(langchain01)xxxMacBook-Pro jmeter-ai-assistant % python -m uvicorn src.chat:app --host 0.0.0.0 --port 8000浏览器打开http://localhost:8001 LangChain+本地ollama-搭建知识库 RAG 助手（支付行业/可选知识库）
前言目的——搭建自动检索相关知识并输出的AI助手 // 业务助手 // 领域知识问答助手最终实现页面预览数据库对照github传送门后续补充代码声明使用AI工具辅助编程数据库来源ChatGptLangChain环境搭建- LangChain一个可以同时调用大模型/管理prompt ... 等帮助使用者构建软件的应用框架- LangChain1.0 Document (ch)安装 | LangChain 中文文档指令python环境创建conda虚拟环境conda create -n langchain01 python3.11conda activate langchain01Lanchain环境gpt版本如果有gpt额度可以下载gpt版本pip install langchain langchain-openaiollama版本由于gpt要credit这里选择ollama模型用于学习langchain先安装ollama环境MAC命令行安装:brew install ollama遇到的问题和解决方案- 不想用命令行安装Homebrew 安装慢 → 放弃编译路线macOS系统高可以直接到官网下载最新版本 Ollama- macOS 太旧 → 新版 Ollama 不支持且在使用Homebrew 下载过程中有不支持下载的直接找旧版 Ollama 0.9.5手动安装 https://ollama.en.uptodown.com/mac/versions?utm_sourcechatgpt.com试着启动ollama serve安装好ollama后下载通义千问模型下载完后不用联网也能输出根据自己的电脑配置下载不同大小的模型ollama pull qwen2.5:3b 本人选择的这个ollama pull qwen2.5:7bollama run qwen2.5:14b(base) xxxdeMacBook-Pro ~ % ollama --versionollama version is 0.9.5(base) xxxdeMacBook-Pro ~ % ollama listNAME ID SIZE MODIFIED(base) xxxdeMacBook-Pro ~ % ollama pull qwen2.5:3b 下载小一点参数的模型(base) xxxdeMacBook-Pro ~ % ollama listNAME ID SIZE MODIFIEDqwen2.5:3b 357c53fb659c 1.9 GB About a minute ago(base) xxxdeMacBook-Pro ~ % ollama run qwen2.5:3b 你好请介绍一下自己您好我是一个由阿里云开发的语言模型擅长回答各种问题和生成文本。我的目标是帮助用户快速找到所需的信息或完成任务。我可以对话聊天、创作文字比如写故事、剧本、邮件等还能表达观点、讲故事、创意写作等等。有什么我能帮您的吗----------安装langchain框架下载好ollama后在python环境里面安装langchain框架pip install langchain-ollama检查框架可用的python代码from langchain_ollama import ChatOllama llm ChatOllama( modelqwen2.5:3b, temperature0.7 ) response llm.invoke(什么是RAG) print(response.content)第一版-本地ui-简单的问答检索页面支持md文件切片1. 准备数据库2. 切片保存为向量文件3. chat命令行交互/本地浏览器交互第二版-记忆功能多轮对话优化UI新增数据库文件、支持md/docx/pdf多格式文档向量切片优化流程图的切片数据库可选输出优化支持表格... ...-指令cd到指定环境cd 到本地仓库目录conda activate 环境构造知识库PaymentKnowledge 支付知识库⚠️ 必须加 --structure-aware paymentEMV表格/流程/树形图才不会被硬长度切断python src/vectorstore.py PaymentKnowledge --structure-aware paymentjmeterDocs JMeter 文档知识库python src/vectorstore.py jmeterDocsCompany 公司知识库如果不需要就跳过改了文档再跑python src/vectorstore.py Company本地浏览器打开对话框ctrl c 退出(langchain01)xxxMacBook-Pro jmeter-ai-assistant % python -m uvicorn src.chat:app --host 0.0.0.0 --port 8000浏览器打开http://localhost:8001