一、总体准备思路你的目标不是做 AI 平台而是在现有 Spring Boot 系统上增加这些能力AI 待办AI 文件事务AI 流程语义识别文件检索所以准备重点应放在Spring Boot 现有能力 AI 接入层 文档处理 向量检索 语义理解 流程/待办/文件业务对接 权限审计 异步任务与存储原则能复用现有组件的不重复建设能先用云 API 的不先自建模型能单机部署的不先上复杂集群先做内部试点不一开始全公司推广二、你需要掌握的知识体系1. Spring Boot 传统后台必备知识这些是你现有项目大概率已经具备的但要确认团队是否熟练知识项用途Spring Boot 分层架构Controller / Service / RepositorySpring Security 或现有权限体系控制谁能用 AI、谁能查哪些文件MyBatis / JPA存 AI 日志、Prompt、任务记录Redis缓存、限流、任务状态RabbitMQ / Kafka文件解析、向量入库异步处理OSS / MinIO文件存储Flowable / Camunda / 自研流程AI 流程对接REST API 设计AI 模块与业务模块通信定时任务重建索引、失败重试、清理任务如果你现有后台已经稳定运行这部分通常不是瓶颈。2. AI 接入必须补的知识这部分是传统 Spring Boot 开发最容易缺的。A. 大模型基础概念你需要理解这些概念但不需要会训练模型概念你要理解到什么程度LLM能完成理解、生成、抽取Prompt怎么让模型稳定输出结构化结果Token成本和上下文长度限制Temperature控制回答稳定性上下文窗口一次能喂多少内容流式输出聊天体验更好Function Calling / Tool Calling让 AI 调你系统接口B. RAG 检索增强文件检索场景必学概念说明文档切块 Chunk长文档如何切片Embedding文本转向量向量相似度如何做语义检索TopK 检索取最相关片段重排序 Rerank提升检索准确度引用溯源回答附带原文出处C. 文档处理知识类型需要了解PDF文本层提取、扫描件 OCRWord/Excel/PPT结构化解析图片OCR 识别编码问题中文乱码、特殊格式文件元数据上传人、部门、业务类型D. 语义识别知识能力应用场景意图识别创建待办、发起流程文本分类文件类型判断实体抽取金额、日期、人名、项目名相似匹配找类似案例、类似文档E. AI 工程化知识这部分很关键决定能不能真正上线知识为什么重要Prompt 模板管理避免 Prompt 散落各处结果结构化校验防止模型乱输出人工确认机制内部系统必须可控调用审计出问题能追溯成本控制防止 Token 失控失败重试与降级模型超时、接口失败怎么办敏感信息处理内部数据不能乱出3. 建议团队掌握的技能分工角色需要掌握后端开发Spring Boot、AI 模块接入、业务 API 对接运维/部署Docker、Nginx、Redis、MQ、向量库部署产品/业务场景梳理、确认规则、人工复核流程实施负责人Prompt 设计、效果验收、成本评估内部项目不一定需要算法工程师会 Spring Boot 工程化接入 AI 的后端就能主导。三、你需要准备哪些组件下面按 必选、建议选、可暂缓 给你列清单。四、核心组件清单1. 应用层组件组件是否必选作用现有 Spring Boot 后台必选业务主系统新增ai-module或ai-service必选统一 AI 能力入口现有用户权限系统必选控制 AI 使用权限现有待办模块必选AI 待办落地现有流程引擎建议AI 流程对接现有文件管理模块必选文件上传、归档管理后台页面建议配置 Prompt、查看日志建议第一阶段不单独拆微服务先在 Spring Boot 项目内加ai-module稳定后再拆ai-service2. AI 能力组件组件是否必选用途大模型 API必选理解、生成、抽取Embedding 服务必选文件语义检索Prompt 模板管理必选各场景统一 Prompt文档解析组件必选PDF/Word/Excel 解析OCR 服务视场景扫描件、图片文字向量数据库必选文件检索Rerank 重排序建议提升检索准确度Agent 工具调用框架可暂缓第二阶段再做3. 中间件与基础设施组件是否必选用途MySQL必选业务数据、AI 日志、任务记录Redis必选缓存、限流、任务状态RabbitMQ建议文件解析、向量入库异步化OSS / MinIO必选文件存储Nginx建议反向代理、上传限制Docker建议部署向量库、OCR、辅助服务Elasticsearch可选若已有可复用做混合检索4. 文档与检索相关组件组件建议Apache Tika通用文档解析PDFBox / iTextPDF 处理Apache POIOffice 文档处理Tesseract / PaddleOCR / 云 OCR扫描件识别pgvector / Milvus向量检索云 Embedding API初期最省事5. 监控与治理组件组件作用日志系统记录模型调用调用统计表统计 Token、次数、费用审计表记录谁问了什么告警接口失败、队列堆积配置中心管理模型参数、Prompt 版本内部项目哪怕简单也至少要有AI 调用日志文件处理任务日志失败重试机制每日调用量统计五、推荐技术选型方案方案 A最低成本试点版适合内部试点、文档量不大、想快速验证类别选择后端现有 Spring Boot大模型通义千问 或 DeepSeek APIEmbedding云 API向量库PostgreSQL pgvector文件存储MinIO消息队列RabbitMQ文档解析Tika POIOCR云 OCR按需调用部署1 台测试服务器 1 台正式服务器方案 B稍稳妥的内部生产版适合部门级使用、文件持续累积、流程较多类别选择后端Spring Boot 独立 ai-module大模型1 家主模型 1 家备用Embedding云 API 起步后续本地化向量库Milvus 单机文件存储公司现有 OSS/MinIOMQRabbitMQ流程现有 Flowable/Camunda检索向量检索 关键词检索混合部署应用、向量库、中间件分机部署你当前更适合方案 A 起步跑通后升级到方案 B。六、环境配置要求下面给你一份比较实际的内部部署环境建议。1. 服务器规划最小试点环境服务器建议配置用途应用服务器 1 台4核8GSpring Boot Nginx数据服务器 1 台4核8GMySQL Redis RabbitMQAI 辅助服务器 1 台4核8G向量库 MinIO OCR/解析服务如果预算紧也可以 2 台合并服务器配置用途应用服务器4核8GSpring Boot Redis MQ数据服务器8核16GMySQL pgvector MinIO正式内部使用环境服务建议配置Spring Boot 应用4核8G 起2 实例MySQL4核8G 起Redis2核4GRabbitMQ2核4G向量库4核8G 起MinIO/OSS按文件量扩容OCR/解析2核4G 起2. 操作系统与基础软件项目建议操作系统Rocky Linux 9 / Ubuntu 22.04JDK17 或 21Maven3.9Git版本管理Docker部署向量库、OCR、辅助组件Nginx反向代理、上传大小限制MySQL8.0Redis7.xRabbitMQ4.x3. 网络与安全配置内部项目也必须提前准备配置项要求出网访问应用服务器需能访问大模型 APIHTTPS内外部接口建议启用防火墙只开放必要端口文件上传大小根据 PDF/合同调整如 20MB~100MB超时时间AI 接口超时适当放宽IP 白名单若模型平台支持建议配置密钥管理API Key 不入库、不进代码仓库审计策略记录 AI 查询和文件访问4. 端口建议服务端口Spring Boot8080 / 自定义MySQL3306Redis6379RabbitMQ5672 / 15672MinIO9000 / 9001PostgreSQL/pgvector5432Milvus19530Nginx80 / 4435. 存储要求类型建议业务数据库50GB 起文件存储按公司文档量建议 200GB 起向量库存储文档量大时单独评估试点 50GB 通常够日志存储30GB 起定期清理备份空间至少预留 1 倍业务数据空间文档检索场景要重点估的是原始文件大小解析后的文本量切块后的片段数量向量数据占用经验上10 万份普通办公文档以内单机向量库通常够用。七、你需要提前准备的环境账号与资源1. 模型平台账号至少准备 1 家建议备 1 家平台用途通义千问主模型DeepSeek备用或高性价比推理智谱 / 文心备选需要申请API Key调用额度计费账号内网出网白名单2. 云服务或内部资源资源用途云服务器部署应用和中间件对象存储文件归档OCR 服务扫描件识别Embedding API向量化短信/邮件可选用于 AI 待办提醒如果是纯内网环境还要确认能不能访问公网模型 API如果不能是否要走私有化模型文件存储是否必须完全内网这会直接影响成本和技术路线。3. 内部系统对接清单实施前先把这些现有系统摸清楚系统需要确认用户/组织用户、部门、角色接口权限系统数据权限规则待办系统创建、查询、更新接口流程系统模板、发起、审批节点文件系统上传、下载、目录权限消息通知站内信、邮件、企微/钉钉审计系统是否已有操作日志体系AI 不是孤立功能接入成本很大程度取决于你原系统接口是否规范。八、按场景分别要准备什么场景 1AI 待办知识意图识别实体抽取时间语义理解人工确认流程组件大模型 APIPrompt 模板待办业务 APIRedis 缓存审计日志环境普通应用服务器即可无需向量库场景 2AI 处理文件事务知识文档解析文件分类字段抽取业务规则映射组件文件存储文档解析器OCRMQ 异步任务大模型 API业务单据接口环境较大文件上传带宽文件存储空间异步任务队列解析任务监控场景 3AI 流程知识意图识别流程模板映射表单字段抽取审批摘要生成组件流程引擎大模型 API流程模板配置表业务 API环境与现有流程系统同环境即可注意接口超时和事务一致性场景 4语义识别知识分类意图识别实体抽取规则 模型混合判断组件大模型 API统一 NLU 服务分类规则表日志与样本库环境普通应用环境建议沉淀识别样本方便后续优化场景 5文件检索知识RAGEmbedding向量检索权限过滤引用溯源组件文档解析Embedding 服务向量数据库大模型 API文件权限系统检索日志环境向量库服务器足够文件存储异步入库任务环境重建索引机制九、数据库与配置项准备虽然不写代码但你要提前规划这些表和配置。1. 建议新增的数据表表用途ai_prompt_templatePrompt 模板ai_model_config模型配置ai_chat_session会话记录ai_chat_message对话消息ai_call_log模型调用日志ai_task_record文件处理/AI 任务状态ai_document_index文档索引状态ai_document_chunk文档切片ai_intent_rule意图规则ai_tool_registry可调用业务工具ai_audit_log审计日志ai_usage_stat调用统计2. 建议提前准备的配置项配置示例模型供应商qwen / deepseekAPI Key密钥管理默认模型qwen-plus最大 Token4096 / 8192超时时间30s / 60s重试次数2 次每人每日调用上限100 次上传文件大小50MB检索 TopK5相似度阈值0.75是否开启人工确认true是否记录原始 Prompttrue十、团队实施前要准备的文档建议你先产出这 6 份文档后面会省很多时间文档内容场景清单先做哪 3 个场景业务流程图AI 待办、文件事务、流程发起怎么走权限规则谁能查哪些文件、谁能发起什么Prompt 清单每个场景用什么提示词接口清单现有系统哪些 API 要被 AI 调用验收标准什么叫“可用”例如文件检索验收标准可以是能回答公司制度问题回答带原文出处无权限文件检索不到响应时间可接受十一、分阶段准备计划第一阶段环境与底座准备1~2 周目标 把底座搭起来不接复杂业务准备内容Spring Boot 新加ai-module申请模型 API准备 MySQL / Redis / MQ / MinIO准备向量库打通文档上传与解析建立 AI 调用日志交付标准能调通大模型能上传文件能把文档切片入库能做简单语义检索第二阶段核心场景准备2~4 周目标 做出 3 个可演示场景准备内容文件检索 RAGAI 待办一种文件事务场景如发票/合同人工确认页权限过滤调用审计交付标准用户能问文件用户能一句话建待办用户上传文件后能生成业务草稿第三阶段流程与治理准备按需准备内容AI 流程发起审批摘要调用成本统计失败重试索引重建部门知识库十二、最低配准备清单如果你想先以最小成本启动下面这份就是“最低配开工包”。知识Spring Boot 接口开发Prompt 基础RAG 基础文档解析基础权限与审计意识组件Spring Boot 现有项目大模型 APIEmbedding APIMySQLRedisRabbitMQMinIOPostgreSQL pgvectorTika / POI环境2~3 台 4核8G 服务器JDK 17/21Docker出网访问模型 API文件存储 200GB 起业务准备待办接口文件上传接口流程模板权限规则1~2 个试点部门十三、常见坑提前规避坑说明只买模型不做文档入库文件检索做不起来没有权限过滤内部数据泄露所有请求同步调模型接口超时、体验差没有人工确认业务风险大Prompt 散落难维护、效果不稳定没有调用日志出问题无法追溯一开始支持所有文件类型实施周期过长向量库和业务库混用不设限后期难扩容十四、给你的最终建议如果你现在就要开工按这个顺序准备最稳第一步准备环境和组件Spring Boot 项目加ai-moduleMySQL / Redis / RabbitMQ / MinIO向量库PostgreSQL pgvector大模型 API先选 1 家Embedding API先选云厂商第二步补关键知识PromptRAG文档解析权限审计异步任务第三步先做一个场景优先文件语义检索因为组件复用率最高对 AI 待办、文件事务、流程都有帮助最容易看到价值第四步再接业务AI 待办AI 文件事务AI 流程十五、一句话结论基于传统 Spring Boot 做内部 AI最该准备的是AI 接入层、文档处理链路、向量检索环境、权限审计体系以及现有待办/文件/流程接口对接能力。最低成本路线就是Spring Boot 国内大模型 API Embedding pgvector MinIO RabbitMQ 文档解析 人工确认