如果你是一名Java开发者最近一定被各种AI技术名词轰炸过Spring AI、AI Agent、Langchain4j、RAG…… 它们看起来都很酷但当你真正想在自己的项目中引入AI能力时却立刻陷入迷茫这些框架到底有什么区别我该选哪个从何入手会不会学了半天发现根本不适合自己的业务场景这篇文章要解决的就是Java开发者面对AI技术栈时最真实的痛点如何根据你的项目需求从眼花缭乱的选项中做出一个清晰、可落地、不踩坑的技术选型决策。我们不会空谈概念而是以一个具体的、有代表性的场景——“AI智能航空客服”——作为贯穿全文的案例带你一步步拆解需求对比方案并最终用代码实现一个核心功能模块。读完本文你将获得一张清晰的Java AI技术栈地图理解Spring AI、Langchain4j、AI Agent、RAG等核心概念的本质、定位和适用边界。一套可复用的选型方法论学会从业务复杂度、团队技能、性能要求、成本等维度评估技术方案。一个完整的实战Demo基于Spring AI Alibaba亲手搭建一个具备知识库问答RAG能力的智能客服原型并理解其背后的Agent思想。你会发现AI赋能Java应用不再是“魔法黑盒”而是一系列有迹可循的工程决策。1. 这篇文章真正要解决的问题Java开发者如何不被AI浪潮“拍晕”很多Java开发者对AI既向往又焦虑。向往的是AI能解决传统规则引擎和简单NLP难以处理的复杂对话、意图识别和知识检索问题焦虑的是AI生态似乎被Python统治Java领域的工具链零散、文档不全、最佳实践模糊。这种焦虑直接导致了几个典型误区误区一盲目追新。听说LangChain火就硬套进Spring Boot项目结果发现大量胶水代码架构变得臃肿。误区二概念混淆。分不清RAG和Agent以为用了向量数据库就是做了Agent导致技术方案与业务目标错配。误区三过度设计。一个简单的FAQ问答场景却引入了完整的Agent工作流徒增复杂度和维护成本。本文的核心判断是对于大多数Java后台服务AI能力的集成应当遵循“渐进式”和“场景驱动”原则。Spring AI项目及其生态如Spring AI Alibaba是目前Java领域最贴近Spring开发者习惯、降低AI集成门槛的官方选择而Langchain4j等框架则在需要高度定制化AI工作流或对接特定模型时具备优势。我们将通过“智能航空客服”这个场景具象化这些选择。这个场景需求明确基础问答回答“航班延误怎么办”、“行李额是多少”等标准问题。知识检索从庞大的航司手册、政策文档中精准找到答案。流程处理能理解用户意图如“我要改签”并引导或调用后端API完成多步骤操作。上下文记忆在同一个会话中记住用户之前的信息如航班号。接下来我们就从厘清这些纷繁复杂的概念开始。2. 核心概念拆解Spring AI、Langchain4j、Agent、RAG到底是什么在开始选型前必须统一语言。这些概念并非并列关系而是处于不同层次。2.1 AI应用框架Spring AI vs. Langchain4j这是最容易被拿来比较的一层。你可以把它们理解为Java领域的“Spring”和“Apache Commons”。特性Spring AILangchain4j定位Spring官方项目旨在为Spring应用提供一流的AI功能集成体验。受Python LangChain启发的Java实现提供构建基于LLM应用的组件和模式。设计哲学约定优于配置深度融入Spring生态自动配置、依赖注入、Spring Boot Actuator等。灵活与模块化提供大量“乐高积木”式的底层组件供开发者自由组装。核心价值降低Java开发者使用AI的门槛提供熟悉的编程模型。提供丰富的AI应用模式实现链、代理、记忆、工具等功能更底层、更全面。适用场景希望在现有Spring Boot项目中快速、优雅地集成AI能力如聊天、嵌入、文生图。需要构建复杂、定制化的AI工作流或研究、实验新的AI应用模式。与云厂商集成通过Spring AI Alibaba等子项目深度集成阿里云百炼、灵积等国产模型平台。主要通过扩展或自定义模块集成社区有相关适配器。通俗理解如果你想在Spring Boot项目里“加个AI聊天功能”Spring AI像是一套“精装修套餐”开箱即用而Langchain4j像是一个“毛坯房全套建材”给你最大自由度但也需要自己动手装修。2.2 架构模式RAG vs. AI Agent这是两种构建AI应用的核心架构思想它们解决的是不同维度的问题。RAG增强检索生成解决什么问题大模型“幻觉”胡编乱造和知识陈旧问题。模型无法记住训练数据之外的最新、私有知识。核心原理检索 生成。先将用户问题与私有知识库如向量数据库进行相似性检索找到最相关的文档片段然后将这些片段作为上下文连同问题一起提交给大模型让模型基于给定的上下文生成答案。在航空客服中的体现用户问“乘坐国航CA1234航班经济舱的免费行李额是多少”。系统会从航司的行李规定PDF中检索出相关条款把条款文本交给模型模型据此生成准确答案。关键组件文档加载器、文本分割器、嵌入模型Embedding Model、向量数据库Vector Database。AI Agent智能体解决什么问题让大模型不仅能“回答”还能“行动”完成复杂、多步骤的任务。核心原理规划 执行 反思。Agent拥有“大脑”LLM和“手脚”Tools。大脑接收目标规划步骤决定调用哪个工具如查询数据库、调用API、执行计算并根据工具返回的结果决定下一步行动直至完成任务。在航空客服中的体现用户说“帮我改签到明天最早一班CA1234航班”。Agent需要1. 理解改签意图2. 调用“查询航班列表”工具获取明天CA1234的航班3. 调用“检查座位”工具4. 调用“执行改签”工具5. 将结果组织成自然语言回复给用户。关键组件LLM决策大脑、Tools可执行动作、Memory记忆、Planning规划逻辑。关系与选择RAG和Agent不是二选一而是可以结合使用。一个强大的Agent可以使用RAG作为它的一个“工具”Tool当需要查询知识库时就调用RAG工具。对于航空客服系统如果核心需求是准确回答知识性问题优先实现RAG。如果核心需求是处理多步骤业务办理则需要设计Agent。更常见的架构是Agent作为顶层调度器RAG作为其知识查询工具。3. 环境准备构建你的Java AI开发沙箱在深入代码之前我们需要一个干净、可复现的开发环境。本文的实战部分将基于Spring AI Alibaba进行因为它与Spring Boot的集成度最高最适合Java开发者快速上手。3.1 基础环境要求JDK: 17 或更高版本Spring AI 需要 JDK 17构建工具: Maven 3.6 或 Gradle 7.xIDE: IntelliJ IDEA推荐或 Eclipse with STS模型平台账号: 我们需要一个大模型API。本文示例使用阿里云灵积DashScope因为它对国内开发者友好且Spring AI Alibaba提供了原生支持。你需要访问 阿里云官网 注册账号。开通灵积DashScope服务。在控制台创建API Key并确保有足够的额度新用户有免费额度。3.2 初始化Spring Boot项目使用 Spring Initializr 或IDE的创建向导生成一个基础项目。关键依赖选择Project: MavenLanguage: JavaSpring Boot: 3.2.x (与Spring AI版本兼容)Dependencies:Spring Web(用于构建Web接口)Lombok(简化代码可选但推荐)Spring AI Alibaba(核心AI依赖)你的pom.xml文件关键部分应如下所示?xml version1.0 encodingUTF-8? project xmlnshttp://maven.apache.org/POM/4.0.0 xmlns:xsihttp://www.w3.org/2001/XMLSchema-instance xsi:schemaLocationhttp://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd modelVersion4.0.0/modelVersion parent groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-parent/artifactId version3.2.5/version !-- 使用稳定版本 -- relativePath/ /parent groupIdcom.example/groupId artifactIdai-airline-assistant/artifactId version0.0.1-SNAPSHOT/version nameai-airline-assistant/name descriptionAI Airline Customer Service Assistant/description properties java.version17/java.version spring-ai.version0.8.1/spring-ai.version !-- 确认最新版本 -- /properties dependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency !-- Spring AI Alibaba 集成 -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-alibaba-ai-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency dependency groupIdorg.projectlombok/groupId artifactIdlombok/artifactId optionaltrue/optional /dependency dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-test/artifactId scopetest/scope /dependency /dependencies build plugins plugin groupIdorg.springframework.boot/groupId artifactIdspring-boot-maven-plugin/artifactId configuration excludes exclude groupIdorg.projectlombok/groupId artifactIdlombok/artifactId /exclude /excludes /configuration /plugin /plugins /build /project3.3 配置模型连接在application.yml或application.properties中配置你的阿里云灵积API Key。# application.yml spring: application: name: ai-airline-assistant ai: alibaba: dashscope: # 从阿里云控制台获取的API Key api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx # 指定使用的模型例如通义千问Max chat: options: model: qwen-max # 嵌入模型配置用于RAG embedding: options: model: text-embedding-v2重要提醒永远不要将真实的API Key提交到代码仓库。请使用环境变量或配置中心管理。上述配置可以改写为spring: ai: alibaba: dashscope: api-key: ${ALIBABA_AI_API_KEY:} # 优先从环境变量读取然后在启动应用前设置环境变量export ALIBABA_AI_API_KEYsk-xxx4. 实战第一步用Spring AI实现基础对话让我们先验证环境实现一个最简单的AI对话接口感受Spring AI的便捷。4.1 创建对话控制器创建一个REST控制器注入ChatClient。// 文件路径src/main/java/com/example/aiassistant/controller/ChatController.java package com.example.aiassistant.controller; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.ChatResponse; import org.springframework.ai.chat.prompt.Prompt; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import java.util.Map; RestController public class ChatController { private final ChatClient chatClient; Autowired public ChatController(ChatClient chatClient) { this.chatClient chatClient; } /** * 最简单的对话接口 * param message 用户消息 * return AI回复 */ GetMapping(/chat) public String chat(RequestParam(value message, defaultValue 你好) String message) { // 直接调用ChatClient生成回复 return chatClient.call(message); } /** * 使用PromptTemplate进行结构化对话 * 模拟航空客服场景 */ GetMapping(/chat/airline) public String chatWithTemplate(RequestParam String question) { // 定义一个提示词模板为模型设定角色和任务 String template 你是一名专业的航空客服助手。 请用友好、专业且简洁的语气回答用户关于航空旅行的问题。 如果问题超出你的知识范围请如实告知并建议用户联系人工客服。 用户问题{question} 助手回答 ; PromptTemplate promptTemplate new PromptTemplate(template); Prompt prompt promptTemplate.create(Map.of(question, question)); ChatResponse response chatClient.call(prompt); return response.getResult().getOutput().getContent(); } }4.2 运行与测试启动Spring Boot应用mvn spring-boot:run使用浏览器或curl命令测试# 测试基础对话 curl http://localhost:8080/chat?message介绍一下你自己 # 测试航空客服场景 curl http://localhost:8080/chat/airline?question我的航班延误了该怎么办你应该能收到来自大模型的回复。这证明你的Spring AI环境已成功连接到大模型服务。这一步的意义你用了不到50行代码就为你的Java应用接入了世界级的AI对话能力。这就是Spring AI“降低门槛”的直观体现。但你会发现对于“航班延误标准处理流程是什么”这种具体问题模型的回答可能笼统或过时。这就需要引入RAG。5. 实战核心为客服系统注入“专业记忆”RAG实现RAG的核心是将外部知识“喂”给模型。我们需要四个步骤文档加载 - 文本分割 - 向量化 - 存储与检索。5.1 选择向量数据库Spring AI支持多种向量数据库如Redis、PgVectorPostgreSQL扩展、Chroma等。为了简单演示我们使用内存向量存储它不需要额外安装数据库适合原型开发。在pom.xml中添加依赖dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-vector-store-simple/artifactId version${spring-ai.version}/version /dependency5.2 构建知识库并实现RAG服务我们模拟一份简单的航空公司的《旅客服务指南》作为知识源。// 文件路径src/main/java/com.example.aiassistant/service/RagService.java package com.example.aiassistant.service; import jakarta.annotation.PostConstruct; import org.springframework.ai.document.Document; import org.springframework.ai.embedding.EmbeddingClient; import org.springframework.ai.reader.TextReader; import org.springframework.ai.transformer.splitter.TokenTextSplitter; import org.springframework.ai.vectorstore.SimpleVectorStore; import org.springframework.ai.vectorstore.VectorStore; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.core.io.Resource; import org.springframework.core.io.ResourceLoader; import org.springframework.stereotype.Service; import java.io.IOException; import java.util.List; Service public class RagService { Autowired private EmbeddingClient embeddingClient; // 用于生成向量 Autowired private ResourceLoader resourceLoader; private VectorStore vectorStore; /** * 应用启动时加载知识文档到向量库 */ PostConstruct public void init() throws IOException { // 1. 初始化向量存储使用内存实现 this.vectorStore new SimpleVectorStore(embeddingClient); // 2. 加载知识文档这里从类路径读取一个模拟的txt文件 Resource resource resourceLoader.getResource(classpath:knowledge/airline_guide.txt); TextReader textReader new TextReader(resource); textReader.getCustomMetadata().put(source, airline_guide); // 添加元数据 ListDocument documents textReader.get(); // 3. 分割文本避免文档过长超出模型上下文 TokenTextSplitter textSplitter new TokenTextSplitter(); ListDocument splitDocuments textSplitter.apply(documents); // 4. 将分割后的文档转换为向量并存储 vectorStore.add(splitDocuments); System.out.println(知识库加载完成共 splitDocuments.size() 个文本片段。); } /** * RAG核心方法检索相关文档并组装成增强的Prompt * param query 用户问题 * return 与问题最相关的文档内容作为上下文 */ public String retrieveRelevantContext(String query) { // 从向量库中检索最相关的3个文档片段 ListDocument similarDocuments vectorStore.similaritySearch(query, 3); if (similarDocuments.isEmpty()) { return 未在知识库中找到相关信息。; } // 将检索到的文档内容拼接成上下文 StringBuilder contextBuilder new StringBuilder(根据以下航空公司服务指南信息回答问题\n\n); for (Document doc : similarDocuments) { contextBuilder.append(doc.getContent()).append(\n\n); } return contextBuilder.toString(); } }创建模拟知识文件src/main/resources/knowledge/airline_guide.txt《XX航空公司旅客服务指南》节选 第一章 行李运输 1.1 免费行李额 - 国内航线经济舱免费托运1件每件重量不超过20公斤尺寸三边之和不超过158厘米。 - 国际航线经济舱免费托运1件每件重量不超过23公斤。 - 白金卡/金卡会员可在上述基础上额外增加1件免费托运额度。 第二章 航班延误与取消 2.1 延误处理 - 航班延误超过2小时将为旅客提供餐食或点心。 - 延误超过4小时将安排旅客至协议酒店休息或提供一定金额的补偿券。 - 因公司原因造成的取消旅客可免费改签至后续航班或选择退票。 第三章 客票变更与退票 3.1 自愿变更 - 航班起飞前2小时以上可免费变更一次后续变更或航班起飞前2小时内变更将收取手续费。 - 变更至更高舱位需补差价。5.3 创建RAG增强的对话接口现在我们将检索到的上下文与用户问题结合发送给大模型。// 文件路径src/main/java/com/example/aiassistant/controller/RagChatController.java package com.example.aiassistant.controller; import com.example.aiassistant.service.RagService; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.ChatResponse; import org.springframework.ai.chat.prompt.Prompt; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import java.util.Map; RestController public class RagChatController { private final ChatClient chatClient; private final RagService ragService; Autowired public RagChatController(ChatClient chatClient, RagService ragService) { this.chatClient chatClient; this.ragService ragService; } GetMapping(/chat/rag) public String chatWithRag(RequestParam String question) { // 1. 从知识库检索相关上下文 String context ragService.retrieveRelevantContext(question); // 2. 构建包含上下文的Prompt模板 String template 你是一名专业的航空客服助手请严格根据提供的《航空公司服务指南》信息来回答问题。 如果指南中有明确答案请引用指南内容。 如果指南中没有相关信息请如实告知用户“根据现有资料未找到相关规定建议您联系人工客服确认”。 请保持回答友好、简洁、准确。 相关指南信息 {context} 用户问题 {question} 助手回答 ; PromptTemplate promptTemplate new PromptTemplate(template); MapString, Object variables Map.of(context, context, question, question); Prompt prompt promptTemplate.create(variables); // 3. 调用模型生成答案 ChatResponse response chatClient.call(prompt); return response.getResult().getOutput().getContent(); } }5.4 测试RAG效果重启应用并测试curl http://localhost:8080/chat/rag?question经济舱的免费行李额是多少 curl http://localhost:8080/chat/rag?question航班延误超过4小时有什么补偿 curl http://localhost:8080/chat/rag?question我可以带宠物上飞机吗 # 测试知识库外问题此时模型的回答将严格基于你提供的《服务指南》对于指南中没有的“宠物”问题它会如实告知未知。这极大地提升了回答的准确性和可信度解决了大模型的“幻觉”问题。6. 进阶架构引入AI Agent处理复杂业务流程当用户的问题不再是简单的知识问答而是涉及多步骤操作时如“我要改签”、“查询我的订单状态”就需要AI Agent出场了。Spring AI Alibaba Graph 模块提供了构建Agent的能力。6.1 定义Agent的“工具”工具是Agent可以调用的具体函数。我们模拟两个工具FlightQueryTool查询航班和TicketChangeTool改签。首先在pom.xml中添加Spring AI Alibaba Graph依赖如果尚未添加dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-alibaba-ai-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency !-- Graph模块通常包含在starter中确保版本一致 --然后定义工具类。Spring AI 通过Tool注解来声明工具。// 文件路径src/main/java/com/example/aiassistant/tool/FlightQueryTool.java package com.example.aiassistant.tool; import org.springframework.ai.alibaba.tool.AlibabaTool; import org.springframework.stereotype.Component; import java.util.List; Component public class FlightQueryTool { /** * 工具查询航班信息 * param flightNumber 航班号如 CA1234 * param date 日期格式 YYYY-MM-DD * return 航班信息列表 */ AlibabaTool(name queryFlights, description 根据航班号和日期查询航班详情包括起降时间、状态和剩余座位。) public ListString queryFlights(String flightNumber, String date) { // 这里模拟调用一个外部航班查询API或数据库 // 实际项目中这里会是HTTP客户端调用或MyBatis查询 System.out.println([Tool Invoked] queryFlights: flightNumber flightNumber , date date); // 模拟返回数据 return List.of( 航班 flightNumber 日期 date 计划起飞: 08:00计划到达: 11:00状态: 计划经济舱剩余座位: 5, 航班 flightNumber 日期 date 计划起飞: 14:00计划到达: 17:00状态: 计划经济舱剩余座位: 12 ); } }// 文件路径src/main/java/com/example/aiassistant/tool/TicketChangeTool.java package com.example.aiassistant.tool; import org.springframework.ai.alibaba.tool.AlibabaTool; import org.springframework.stereotype.Component; Component public class TicketChangeTool { /** * 工具执行客票改签 * param originalOrderId 原订单号 * param targetFlightNumber 目标航班号 * param targetDate 目标日期 * return 改签结果 */ AlibabaTool(name changeTicket, description 根据原订单号将客票改签至指定的目标航班和日期。) public String changeTicket(String originalOrderId, String targetFlightNumber, String targetDate) { // 模拟调用改签核心系统API System.out.println([Tool Invoked] changeTicket: orderId originalOrderId , targetFlight targetFlightNumber , targetDate targetDate); // 模拟成功响应 return 改签成功订单 originalOrderId 已改签至航班 targetFlightNumber ( targetDate )。新的票号是TK-789012。; } }6.2 配置并调用AgentSpring AI Alibaba Graph 简化了Agent的组装。我们可以通过配置将上述工具、聊天模型和提示词模板组合成一个可执行的Agent。// 文件路径src/main/java/com/example/aiassistant/service/AgentService.java package com.example.aiassistant.service; import org.springframework.ai.alibaba.AiStreamClient; import org.springframework.ai.alibaba.graph.Agent; import org.springframework.ai.alibaba.graph.AgentExecutor; import org.springframework.ai.alibaba.graph.agent.AgentBuilder; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service; import java.util.Map; Service public class AgentService { private final AgentExecutor agentExecutor; Autowired public AgentService(ChatClient chatClient, FlightQueryTool flightQueryTool, TicketChangeTool ticketChangeTool) { // 1. 构建Agent Agent agent new AgentBuilder() .id(airline-customer-agent) .name(航空客服智能体) // 系统提示词定义Agent的角色和能力 .systemPrompt( 你是一个航空公司的智能客服助手。你的目标是帮助用户完成航班查询、客票改签等任务。 你可以使用以下工具 - queryFlights: 查询航班信息。 - changeTicket: 执行客票改签。 如果用户的问题不明确请主动询问缺少的信息如航班号、日期、订单号。 请用清晰、有条理的方式与用户对话并最终给出任务执行结果。 ) .chatClient(chatClient) // 注入大脑LLM .tools(flightQueryTool, ticketChangeTool) // 注入工具 .build(); // 2. 创建执行器 this.agentExecutor new AgentExecutor(agent); } /** * 执行用户指令 * param userInput 用户输入 * return Agent的回复 */ public String executeTask(String userInput) { // 将用户输入作为对话的开始 String result agentExecutor.execute(userInput); return result; } }6.3 创建Agent控制器// 文件路径src/main/java/com/example/aiassistant/controller/AgentController.java package com.example.aiassistant.controller; import com.example.aiassistant.service.AgentService; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; RestController public class AgentController { private final AgentService agentService; Autowired public AgentController(AgentService agentService) { this.agentService agentService; } GetMapping(/agent) public String handleAgentRequest(RequestParam String command) { return agentService.executeTask(command); } }6.4 测试Agent工作流重启应用并进行测试curl http://localhost:8080/agent?command帮我查一下明天CA1234的航班观察控制台日志你会看到类似[Tool Invoked] queryFlights...的输出证明Agent成功识别了用户意图并调用了工具。然后它会将工具返回的航班信息组织成自然语言回复给你。再测试一个多轮交互的场景模拟# 假设上一轮对话中用户提供了订单号实际需要会话记忆此处简化 curl http://localhost:8080/agent?command把我的订单OB123456改签到明天最早的CA1234航班Agent会尝试调用changeTicket工具并返回改签结果。至此你已经实现了一个具备RAG知识库查询和Agent业务流程处理能力的智能航空客服原型核心。RAG负责“知道”Agent负责“做到”。7. 技术选型决策清单与常见问题排查基于以上实践我们可以总结出Java AI技术栈的选型决策清单7.1 选型决策清单你的需求场景推荐技术栈理由快速在现有Spring Boot项目中添加聊天/文本生成功能Spring AI无缝集成配置简单学习成本最低。需要基于私有文档进行精准问答如客服知识库、产品手册Spring AI RAG (向量数据库)Spring AI提供了完整的Embedding和Vector Store抽象能快速搭建RAG流水线。需要实现复杂的、多步骤的自动化业务流程如订单处理、数据查询分析Spring AI Alibaba Graph (或 Langchain4j)需要Agent的规划与工具调用能力。Spring AI Alibaba Graph更Spring化Langchain4j更灵活。团队精通Spring希望统一技术栈快速出原型Spring AI 全家桶保持技术栈纯净降低团队协作和运维成本。需要深度定制AI工作流或对接Spring AI尚未官方支持的模型/工具Langchain4j提供了更底层的组件和更大的灵活性社区生态中有更多连接器。项目是纯Java/非Spring环境Langchain4j不依赖Spring容器可以独立使用。7.2 常见问题与排查思路问题现象可能原因排查方式解决方案启动报错No qualifying bean of type ChatClientSpring AI自动配置未生效或依赖缺失。1. 检查pom.xml中Spring AI依赖版本。2. 检查application.yml中spring.ai.alibaba.dashscope.api-key配置是否正确。3. 查看启动日志是否有AI相关自动配置信息。1. 确认依赖版本兼容性。2. 确保API Key有效且已设置环境变量或配置文件。3. 在启动类上添加EnableAlibabaAi如果使用的是特定Starter可能需要。调用聊天接口超时或返回空1. 网络问题无法访问模型API。2. API Key无效或额度不足。3. 模型名称配置错误。1. 使用curl或Postman直接测试模型API。2. 登录云平台控制台检查API Key状态和调用日志。3. 检查application.yml中的model参数是否为平台支持的模型。1. 检查网络代理或防火墙设置。2. 更换或充值API Key。3. 查阅官方文档使用正确的模型名称。RAG检索结果不相关1. 嵌入模型Embedding Model不适合中文或领域。2. 文本分割策略不合理破坏了语义。3. 检索数量k值设置不当。1. 检查嵌入模型配置。2. 查看分割后的文档片段是否过于零碎或过长。3. 调整similaritySearch的k值如从3调到5。1. 尝试不同的嵌入模型如text-embedding-v2。2. 调整TokenTextSplitter的参数如块大小、重叠大小。3. 对检索结果进行重排序Re-ranking或优化查询语句。Agent不调用工具直接回答问题1. 系统提示词System Prompt未明确要求使用工具。2. 工具描述不够清晰模型无法理解何时调用。3. 用户指令意图不明确。1. 检查Agent构建时的systemPrompt。2. 检查AlibabaTool注解中的description是否准确描述了工具功能和参数。3. 在提示词中要求模型“必须使用工具”。1. 优化系统提示词明确Agent的角色和工具使用规则。2. 为工具编写更精确、详细的描述。3. 在对话中引导用户提供更明确的信息。内存向量存储重启后数据丢失SimpleVectorStore是内存实现数据不持久化。这是预期行为。在生产环境中替换为持久化的向量数据库如Redis、PgVector或Chroma。Spring AI提供了统一的VectorStore接口更换存储后端通常只需修改依赖和配置。8. 生产环境最佳实践与进阶建议将原型推向生产还需要考虑以下关键点向量数据库选型PgVector如果你的技术栈中已有PostgreSQL这是最自然的选择。利用关系型数据库的事务、备份等成熟特性。Redis性能极高适合对检索延迟要求非常高的场景。Spring AI有很好的支持。专业向量数据库如Milvus, Weaviate适用于超大规模、高并发的向量检索场景但运维复杂度较高。选择建议从PgVector开始平衡功能、性能和复杂度。提示词工程系统提示词是Agent的“宪法”精心设计明确角色、职责、约束和输出格式。可以将其外部化到配置文件中便于管理。Few-Shot示例在提示词中提供几个输入输出的例子能显著提升模型在复杂任务上的表现。RAG提示词优化在给模型的上下文中明确指示“请根据以下信息回答”并可以要求模型引用来源片段。性能与成本优化缓存对常见的、不变的知识问答结果进行缓存如Redis避免重复的向量检索和模型调用。异步处理对于耗时的文档嵌入向量化过程使用异步任务如SpringAsync避免阻塞主线程。模型选择在效果和成本间权衡。简单的分类任务可以用小模型复杂的创作、推理再用大模型。阿里云灵积等平台提供了不同规格的模型。可观测性与监控日志记录详细记录Agent的思考过程、工具调用详情、模型输入输出。这对于调试和优化至关重要。链路追踪集成Micrometer、SkyWalking等追踪一次AI调用的完整链路包括向量检索、模型API调用耗时。业务指标定义并监控关键指标如问答准确率、用户满意度、工具调用成功率等。安全与合规输入输出过滤对用户输入和模型输出进行必要的敏感词过滤和内容安全审核。权限控制确保Agent调用的工具如改签、查询有严格的业务权限校验不能因为模型的一个指令就执行。数据隐私上传到向量数据库的文档需脱敏。考虑使用本地化部署的嵌入模型避免敏感数据上传至云端。9. 总结从技术选型到架构演进通过“智能航空客服”这个案例我们走完了Java AI应用从技术选型、环境搭建、核心功能RAG、Agent实现到生产考量的完整路径。回顾开头的核心判断Spring AI特别是Spring AI Alibaba是Java开发者切入AI应用的最快路径。它让你用熟悉的Spring方式快速获得AI能力特别适合在现有系统中增量引入AI。RAG和Agent是互补的架构模式。RAG解决“知识”问题Agent解决“行动”问题。在复杂系统中它们往往协同工作。Langchain4j提供了更高的灵活性当你的需求超出Spring AI的“舒适区”时它是强大的备选方案。对于你的项目建议的演进路线是MVP阶段使用Spring AI 内存向量库快速验证核心AI功能如智能问答的价值。成长阶段引入持久化向量数据库如PgVector和Spring AI Alibaba Graph构建更稳定、更智能的RAG和Agent能力。成熟阶段根据业务复杂度评估是否需要引入Langchain4j来实现更定制化的AI工作流并建立完善的监控、安全、性能优化体系。AI技术的迭代日新月异但扎实的软件工程原则——模块化、可观测、可维护——永远不会过时。将AI能力作为你系统中的一个组件来设计和集成而不是颠覆性的重构是保持技术栈健康、团队可控的关键。现在你可以基于文中的代码动手搭建属于你自己的第一个Java AI应用了。 Java AI技术选型实战：基于Spring AI与RAG构建智能航空客服系统
如果你是一名Java开发者最近一定被各种AI技术名词轰炸过Spring AI、AI Agent、Langchain4j、RAG…… 它们看起来都很酷但当你真正想在自己的项目中引入AI能力时却立刻陷入迷茫这些框架到底有什么区别我该选哪个从何入手会不会学了半天发现根本不适合自己的业务场景这篇文章要解决的就是Java开发者面对AI技术栈时最真实的痛点如何根据你的项目需求从眼花缭乱的选项中做出一个清晰、可落地、不踩坑的技术选型决策。我们不会空谈概念而是以一个具体的、有代表性的场景——“AI智能航空客服”——作为贯穿全文的案例带你一步步拆解需求对比方案并最终用代码实现一个核心功能模块。读完本文你将获得一张清晰的Java AI技术栈地图理解Spring AI、Langchain4j、AI Agent、RAG等核心概念的本质、定位和适用边界。一套可复用的选型方法论学会从业务复杂度、团队技能、性能要求、成本等维度评估技术方案。一个完整的实战Demo基于Spring AI Alibaba亲手搭建一个具备知识库问答RAG能力的智能客服原型并理解其背后的Agent思想。你会发现AI赋能Java应用不再是“魔法黑盒”而是一系列有迹可循的工程决策。1. 这篇文章真正要解决的问题Java开发者如何不被AI浪潮“拍晕”很多Java开发者对AI既向往又焦虑。向往的是AI能解决传统规则引擎和简单NLP难以处理的复杂对话、意图识别和知识检索问题焦虑的是AI生态似乎被Python统治Java领域的工具链零散、文档不全、最佳实践模糊。这种焦虑直接导致了几个典型误区误区一盲目追新。听说LangChain火就硬套进Spring Boot项目结果发现大量胶水代码架构变得臃肿。误区二概念混淆。分不清RAG和Agent以为用了向量数据库就是做了Agent导致技术方案与业务目标错配。误区三过度设计。一个简单的FAQ问答场景却引入了完整的Agent工作流徒增复杂度和维护成本。本文的核心判断是对于大多数Java后台服务AI能力的集成应当遵循“渐进式”和“场景驱动”原则。Spring AI项目及其生态如Spring AI Alibaba是目前Java领域最贴近Spring开发者习惯、降低AI集成门槛的官方选择而Langchain4j等框架则在需要高度定制化AI工作流或对接特定模型时具备优势。我们将通过“智能航空客服”这个场景具象化这些选择。这个场景需求明确基础问答回答“航班延误怎么办”、“行李额是多少”等标准问题。知识检索从庞大的航司手册、政策文档中精准找到答案。流程处理能理解用户意图如“我要改签”并引导或调用后端API完成多步骤操作。上下文记忆在同一个会话中记住用户之前的信息如航班号。接下来我们就从厘清这些纷繁复杂的概念开始。2. 核心概念拆解Spring AI、Langchain4j、Agent、RAG到底是什么在开始选型前必须统一语言。这些概念并非并列关系而是处于不同层次。2.1 AI应用框架Spring AI vs. Langchain4j这是最容易被拿来比较的一层。你可以把它们理解为Java领域的“Spring”和“Apache Commons”。特性Spring AILangchain4j定位Spring官方项目旨在为Spring应用提供一流的AI功能集成体验。受Python LangChain启发的Java实现提供构建基于LLM应用的组件和模式。设计哲学约定优于配置深度融入Spring生态自动配置、依赖注入、Spring Boot Actuator等。灵活与模块化提供大量“乐高积木”式的底层组件供开发者自由组装。核心价值降低Java开发者使用AI的门槛提供熟悉的编程模型。提供丰富的AI应用模式实现链、代理、记忆、工具等功能更底层、更全面。适用场景希望在现有Spring Boot项目中快速、优雅地集成AI能力如聊天、嵌入、文生图。需要构建复杂、定制化的AI工作流或研究、实验新的AI应用模式。与云厂商集成通过Spring AI Alibaba等子项目深度集成阿里云百炼、灵积等国产模型平台。主要通过扩展或自定义模块集成社区有相关适配器。通俗理解如果你想在Spring Boot项目里“加个AI聊天功能”Spring AI像是一套“精装修套餐”开箱即用而Langchain4j像是一个“毛坯房全套建材”给你最大自由度但也需要自己动手装修。2.2 架构模式RAG vs. AI Agent这是两种构建AI应用的核心架构思想它们解决的是不同维度的问题。RAG增强检索生成解决什么问题大模型“幻觉”胡编乱造和知识陈旧问题。模型无法记住训练数据之外的最新、私有知识。核心原理检索 生成。先将用户问题与私有知识库如向量数据库进行相似性检索找到最相关的文档片段然后将这些片段作为上下文连同问题一起提交给大模型让模型基于给定的上下文生成答案。在航空客服中的体现用户问“乘坐国航CA1234航班经济舱的免费行李额是多少”。系统会从航司的行李规定PDF中检索出相关条款把条款文本交给模型模型据此生成准确答案。关键组件文档加载器、文本分割器、嵌入模型Embedding Model、向量数据库Vector Database。AI Agent智能体解决什么问题让大模型不仅能“回答”还能“行动”完成复杂、多步骤的任务。核心原理规划 执行 反思。Agent拥有“大脑”LLM和“手脚”Tools。大脑接收目标规划步骤决定调用哪个工具如查询数据库、调用API、执行计算并根据工具返回的结果决定下一步行动直至完成任务。在航空客服中的体现用户说“帮我改签到明天最早一班CA1234航班”。Agent需要1. 理解改签意图2. 调用“查询航班列表”工具获取明天CA1234的航班3. 调用“检查座位”工具4. 调用“执行改签”工具5. 将结果组织成自然语言回复给用户。关键组件LLM决策大脑、Tools可执行动作、Memory记忆、Planning规划逻辑。关系与选择RAG和Agent不是二选一而是可以结合使用。一个强大的Agent可以使用RAG作为它的一个“工具”Tool当需要查询知识库时就调用RAG工具。对于航空客服系统如果核心需求是准确回答知识性问题优先实现RAG。如果核心需求是处理多步骤业务办理则需要设计Agent。更常见的架构是Agent作为顶层调度器RAG作为其知识查询工具。3. 环境准备构建你的Java AI开发沙箱在深入代码之前我们需要一个干净、可复现的开发环境。本文的实战部分将基于Spring AI Alibaba进行因为它与Spring Boot的集成度最高最适合Java开发者快速上手。3.1 基础环境要求JDK: 17 或更高版本Spring AI 需要 JDK 17构建工具: Maven 3.6 或 Gradle 7.xIDE: IntelliJ IDEA推荐或 Eclipse with STS模型平台账号: 我们需要一个大模型API。本文示例使用阿里云灵积DashScope因为它对国内开发者友好且Spring AI Alibaba提供了原生支持。你需要访问 阿里云官网 注册账号。开通灵积DashScope服务。在控制台创建API Key并确保有足够的额度新用户有免费额度。3.2 初始化Spring Boot项目使用 Spring Initializr 或IDE的创建向导生成一个基础项目。关键依赖选择Project: MavenLanguage: JavaSpring Boot: 3.2.x (与Spring AI版本兼容)Dependencies:Spring Web(用于构建Web接口)Lombok(简化代码可选但推荐)Spring AI Alibaba(核心AI依赖)你的pom.xml文件关键部分应如下所示?xml version1.0 encodingUTF-8? project xmlnshttp://maven.apache.org/POM/4.0.0 xmlns:xsihttp://www.w3.org/2001/XMLSchema-instance xsi:schemaLocationhttp://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd modelVersion4.0.0/modelVersion parent groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-parent/artifactId version3.2.5/version !-- 使用稳定版本 -- relativePath/ /parent groupIdcom.example/groupId artifactIdai-airline-assistant/artifactId version0.0.1-SNAPSHOT/version nameai-airline-assistant/name descriptionAI Airline Customer Service Assistant/description properties java.version17/java.version spring-ai.version0.8.1/spring-ai.version !-- 确认最新版本 -- /properties dependencies dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-web/artifactId /dependency !-- Spring AI Alibaba 集成 -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-alibaba-ai-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency dependency groupIdorg.projectlombok/groupId artifactIdlombok/artifactId optionaltrue/optional /dependency dependency groupIdorg.springframework.boot/groupId artifactIdspring-boot-starter-test/artifactId scopetest/scope /dependency /dependencies build plugins plugin groupIdorg.springframework.boot/groupId artifactIdspring-boot-maven-plugin/artifactId configuration excludes exclude groupIdorg.projectlombok/groupId artifactIdlombok/artifactId /exclude /excludes /configuration /plugin /plugins /build /project3.3 配置模型连接在application.yml或application.properties中配置你的阿里云灵积API Key。# application.yml spring: application: name: ai-airline-assistant ai: alibaba: dashscope: # 从阿里云控制台获取的API Key api-key: sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx # 指定使用的模型例如通义千问Max chat: options: model: qwen-max # 嵌入模型配置用于RAG embedding: options: model: text-embedding-v2重要提醒永远不要将真实的API Key提交到代码仓库。请使用环境变量或配置中心管理。上述配置可以改写为spring: ai: alibaba: dashscope: api-key: ${ALIBABA_AI_API_KEY:} # 优先从环境变量读取然后在启动应用前设置环境变量export ALIBABA_AI_API_KEYsk-xxx4. 实战第一步用Spring AI实现基础对话让我们先验证环境实现一个最简单的AI对话接口感受Spring AI的便捷。4.1 创建对话控制器创建一个REST控制器注入ChatClient。// 文件路径src/main/java/com/example/aiassistant/controller/ChatController.java package com.example.aiassistant.controller; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.ChatResponse; import org.springframework.ai.chat.prompt.Prompt; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import java.util.Map; RestController public class ChatController { private final ChatClient chatClient; Autowired public ChatController(ChatClient chatClient) { this.chatClient chatClient; } /** * 最简单的对话接口 * param message 用户消息 * return AI回复 */ GetMapping(/chat) public String chat(RequestParam(value message, defaultValue 你好) String message) { // 直接调用ChatClient生成回复 return chatClient.call(message); } /** * 使用PromptTemplate进行结构化对话 * 模拟航空客服场景 */ GetMapping(/chat/airline) public String chatWithTemplate(RequestParam String question) { // 定义一个提示词模板为模型设定角色和任务 String template 你是一名专业的航空客服助手。 请用友好、专业且简洁的语气回答用户关于航空旅行的问题。 如果问题超出你的知识范围请如实告知并建议用户联系人工客服。 用户问题{question} 助手回答 ; PromptTemplate promptTemplate new PromptTemplate(template); Prompt prompt promptTemplate.create(Map.of(question, question)); ChatResponse response chatClient.call(prompt); return response.getResult().getOutput().getContent(); } }4.2 运行与测试启动Spring Boot应用mvn spring-boot:run使用浏览器或curl命令测试# 测试基础对话 curl http://localhost:8080/chat?message介绍一下你自己 # 测试航空客服场景 curl http://localhost:8080/chat/airline?question我的航班延误了该怎么办你应该能收到来自大模型的回复。这证明你的Spring AI环境已成功连接到大模型服务。这一步的意义你用了不到50行代码就为你的Java应用接入了世界级的AI对话能力。这就是Spring AI“降低门槛”的直观体现。但你会发现对于“航班延误标准处理流程是什么”这种具体问题模型的回答可能笼统或过时。这就需要引入RAG。5. 实战核心为客服系统注入“专业记忆”RAG实现RAG的核心是将外部知识“喂”给模型。我们需要四个步骤文档加载 - 文本分割 - 向量化 - 存储与检索。5.1 选择向量数据库Spring AI支持多种向量数据库如Redis、PgVectorPostgreSQL扩展、Chroma等。为了简单演示我们使用内存向量存储它不需要额外安装数据库适合原型开发。在pom.xml中添加依赖dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-vector-store-simple/artifactId version${spring-ai.version}/version /dependency5.2 构建知识库并实现RAG服务我们模拟一份简单的航空公司的《旅客服务指南》作为知识源。// 文件路径src/main/java/com.example.aiassistant/service/RagService.java package com.example.aiassistant.service; import jakarta.annotation.PostConstruct; import org.springframework.ai.document.Document; import org.springframework.ai.embedding.EmbeddingClient; import org.springframework.ai.reader.TextReader; import org.springframework.ai.transformer.splitter.TokenTextSplitter; import org.springframework.ai.vectorstore.SimpleVectorStore; import org.springframework.ai.vectorstore.VectorStore; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.core.io.Resource; import org.springframework.core.io.ResourceLoader; import org.springframework.stereotype.Service; import java.io.IOException; import java.util.List; Service public class RagService { Autowired private EmbeddingClient embeddingClient; // 用于生成向量 Autowired private ResourceLoader resourceLoader; private VectorStore vectorStore; /** * 应用启动时加载知识文档到向量库 */ PostConstruct public void init() throws IOException { // 1. 初始化向量存储使用内存实现 this.vectorStore new SimpleVectorStore(embeddingClient); // 2. 加载知识文档这里从类路径读取一个模拟的txt文件 Resource resource resourceLoader.getResource(classpath:knowledge/airline_guide.txt); TextReader textReader new TextReader(resource); textReader.getCustomMetadata().put(source, airline_guide); // 添加元数据 ListDocument documents textReader.get(); // 3. 分割文本避免文档过长超出模型上下文 TokenTextSplitter textSplitter new TokenTextSplitter(); ListDocument splitDocuments textSplitter.apply(documents); // 4. 将分割后的文档转换为向量并存储 vectorStore.add(splitDocuments); System.out.println(知识库加载完成共 splitDocuments.size() 个文本片段。); } /** * RAG核心方法检索相关文档并组装成增强的Prompt * param query 用户问题 * return 与问题最相关的文档内容作为上下文 */ public String retrieveRelevantContext(String query) { // 从向量库中检索最相关的3个文档片段 ListDocument similarDocuments vectorStore.similaritySearch(query, 3); if (similarDocuments.isEmpty()) { return 未在知识库中找到相关信息。; } // 将检索到的文档内容拼接成上下文 StringBuilder contextBuilder new StringBuilder(根据以下航空公司服务指南信息回答问题\n\n); for (Document doc : similarDocuments) { contextBuilder.append(doc.getContent()).append(\n\n); } return contextBuilder.toString(); } }创建模拟知识文件src/main/resources/knowledge/airline_guide.txt《XX航空公司旅客服务指南》节选 第一章 行李运输 1.1 免费行李额 - 国内航线经济舱免费托运1件每件重量不超过20公斤尺寸三边之和不超过158厘米。 - 国际航线经济舱免费托运1件每件重量不超过23公斤。 - 白金卡/金卡会员可在上述基础上额外增加1件免费托运额度。 第二章 航班延误与取消 2.1 延误处理 - 航班延误超过2小时将为旅客提供餐食或点心。 - 延误超过4小时将安排旅客至协议酒店休息或提供一定金额的补偿券。 - 因公司原因造成的取消旅客可免费改签至后续航班或选择退票。 第三章 客票变更与退票 3.1 自愿变更 - 航班起飞前2小时以上可免费变更一次后续变更或航班起飞前2小时内变更将收取手续费。 - 变更至更高舱位需补差价。5.3 创建RAG增强的对话接口现在我们将检索到的上下文与用户问题结合发送给大模型。// 文件路径src/main/java/com/example/aiassistant/controller/RagChatController.java package com.example.aiassistant.controller; import com.example.aiassistant.service.RagService; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.ChatResponse; import org.springframework.ai.chat.prompt.Prompt; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import java.util.Map; RestController public class RagChatController { private final ChatClient chatClient; private final RagService ragService; Autowired public RagChatController(ChatClient chatClient, RagService ragService) { this.chatClient chatClient; this.ragService ragService; } GetMapping(/chat/rag) public String chatWithRag(RequestParam String question) { // 1. 从知识库检索相关上下文 String context ragService.retrieveRelevantContext(question); // 2. 构建包含上下文的Prompt模板 String template 你是一名专业的航空客服助手请严格根据提供的《航空公司服务指南》信息来回答问题。 如果指南中有明确答案请引用指南内容。 如果指南中没有相关信息请如实告知用户“根据现有资料未找到相关规定建议您联系人工客服确认”。 请保持回答友好、简洁、准确。 相关指南信息 {context} 用户问题 {question} 助手回答 ; PromptTemplate promptTemplate new PromptTemplate(template); MapString, Object variables Map.of(context, context, question, question); Prompt prompt promptTemplate.create(variables); // 3. 调用模型生成答案 ChatResponse response chatClient.call(prompt); return response.getResult().getOutput().getContent(); } }5.4 测试RAG效果重启应用并测试curl http://localhost:8080/chat/rag?question经济舱的免费行李额是多少 curl http://localhost:8080/chat/rag?question航班延误超过4小时有什么补偿 curl http://localhost:8080/chat/rag?question我可以带宠物上飞机吗 # 测试知识库外问题此时模型的回答将严格基于你提供的《服务指南》对于指南中没有的“宠物”问题它会如实告知未知。这极大地提升了回答的准确性和可信度解决了大模型的“幻觉”问题。6. 进阶架构引入AI Agent处理复杂业务流程当用户的问题不再是简单的知识问答而是涉及多步骤操作时如“我要改签”、“查询我的订单状态”就需要AI Agent出场了。Spring AI Alibaba Graph 模块提供了构建Agent的能力。6.1 定义Agent的“工具”工具是Agent可以调用的具体函数。我们模拟两个工具FlightQueryTool查询航班和TicketChangeTool改签。首先在pom.xml中添加Spring AI Alibaba Graph依赖如果尚未添加dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-alibaba-ai-spring-boot-starter/artifactId version${spring-ai.version}/version /dependency !-- Graph模块通常包含在starter中确保版本一致 --然后定义工具类。Spring AI 通过Tool注解来声明工具。// 文件路径src/main/java/com/example/aiassistant/tool/FlightQueryTool.java package com.example.aiassistant.tool; import org.springframework.ai.alibaba.tool.AlibabaTool; import org.springframework.stereotype.Component; import java.util.List; Component public class FlightQueryTool { /** * 工具查询航班信息 * param flightNumber 航班号如 CA1234 * param date 日期格式 YYYY-MM-DD * return 航班信息列表 */ AlibabaTool(name queryFlights, description 根据航班号和日期查询航班详情包括起降时间、状态和剩余座位。) public ListString queryFlights(String flightNumber, String date) { // 这里模拟调用一个外部航班查询API或数据库 // 实际项目中这里会是HTTP客户端调用或MyBatis查询 System.out.println([Tool Invoked] queryFlights: flightNumber flightNumber , date date); // 模拟返回数据 return List.of( 航班 flightNumber 日期 date 计划起飞: 08:00计划到达: 11:00状态: 计划经济舱剩余座位: 5, 航班 flightNumber 日期 date 计划起飞: 14:00计划到达: 17:00状态: 计划经济舱剩余座位: 12 ); } }// 文件路径src/main/java/com/example/aiassistant/tool/TicketChangeTool.java package com.example.aiassistant.tool; import org.springframework.ai.alibaba.tool.AlibabaTool; import org.springframework.stereotype.Component; Component public class TicketChangeTool { /** * 工具执行客票改签 * param originalOrderId 原订单号 * param targetFlightNumber 目标航班号 * param targetDate 目标日期 * return 改签结果 */ AlibabaTool(name changeTicket, description 根据原订单号将客票改签至指定的目标航班和日期。) public String changeTicket(String originalOrderId, String targetFlightNumber, String targetDate) { // 模拟调用改签核心系统API System.out.println([Tool Invoked] changeTicket: orderId originalOrderId , targetFlight targetFlightNumber , targetDate targetDate); // 模拟成功响应 return 改签成功订单 originalOrderId 已改签至航班 targetFlightNumber ( targetDate )。新的票号是TK-789012。; } }6.2 配置并调用AgentSpring AI Alibaba Graph 简化了Agent的组装。我们可以通过配置将上述工具、聊天模型和提示词模板组合成一个可执行的Agent。// 文件路径src/main/java/com/example/aiassistant/service/AgentService.java package com.example.aiassistant.service; import org.springframework.ai.alibaba.AiStreamClient; import org.springframework.ai.alibaba.graph.Agent; import org.springframework.ai.alibaba.graph.AgentExecutor; import org.springframework.ai.alibaba.graph.agent.AgentBuilder; import org.springframework.ai.chat.ChatClient; import org.springframework.ai.chat.prompt.PromptTemplate; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service; import java.util.Map; Service public class AgentService { private final AgentExecutor agentExecutor; Autowired public AgentService(ChatClient chatClient, FlightQueryTool flightQueryTool, TicketChangeTool ticketChangeTool) { // 1. 构建Agent Agent agent new AgentBuilder() .id(airline-customer-agent) .name(航空客服智能体) // 系统提示词定义Agent的角色和能力 .systemPrompt( 你是一个航空公司的智能客服助手。你的目标是帮助用户完成航班查询、客票改签等任务。 你可以使用以下工具 - queryFlights: 查询航班信息。 - changeTicket: 执行客票改签。 如果用户的问题不明确请主动询问缺少的信息如航班号、日期、订单号。 请用清晰、有条理的方式与用户对话并最终给出任务执行结果。 ) .chatClient(chatClient) // 注入大脑LLM .tools(flightQueryTool, ticketChangeTool) // 注入工具 .build(); // 2. 创建执行器 this.agentExecutor new AgentExecutor(agent); } /** * 执行用户指令 * param userInput 用户输入 * return Agent的回复 */ public String executeTask(String userInput) { // 将用户输入作为对话的开始 String result agentExecutor.execute(userInput); return result; } }6.3 创建Agent控制器// 文件路径src/main/java/com/example/aiassistant/controller/AgentController.java package com.example.aiassistant.controller; import com.example.aiassistant.service.AgentService; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; RestController public class AgentController { private final AgentService agentService; Autowired public AgentController(AgentService agentService) { this.agentService agentService; } GetMapping(/agent) public String handleAgentRequest(RequestParam String command) { return agentService.executeTask(command); } }6.4 测试Agent工作流重启应用并进行测试curl http://localhost:8080/agent?command帮我查一下明天CA1234的航班观察控制台日志你会看到类似[Tool Invoked] queryFlights...的输出证明Agent成功识别了用户意图并调用了工具。然后它会将工具返回的航班信息组织成自然语言回复给你。再测试一个多轮交互的场景模拟# 假设上一轮对话中用户提供了订单号实际需要会话记忆此处简化 curl http://localhost:8080/agent?command把我的订单OB123456改签到明天最早的CA1234航班Agent会尝试调用changeTicket工具并返回改签结果。至此你已经实现了一个具备RAG知识库查询和Agent业务流程处理能力的智能航空客服原型核心。RAG负责“知道”Agent负责“做到”。7. 技术选型决策清单与常见问题排查基于以上实践我们可以总结出Java AI技术栈的选型决策清单7.1 选型决策清单你的需求场景推荐技术栈理由快速在现有Spring Boot项目中添加聊天/文本生成功能Spring AI无缝集成配置简单学习成本最低。需要基于私有文档进行精准问答如客服知识库、产品手册Spring AI RAG (向量数据库)Spring AI提供了完整的Embedding和Vector Store抽象能快速搭建RAG流水线。需要实现复杂的、多步骤的自动化业务流程如订单处理、数据查询分析Spring AI Alibaba Graph (或 Langchain4j)需要Agent的规划与工具调用能力。Spring AI Alibaba Graph更Spring化Langchain4j更灵活。团队精通Spring希望统一技术栈快速出原型Spring AI 全家桶保持技术栈纯净降低团队协作和运维成本。需要深度定制AI工作流或对接Spring AI尚未官方支持的模型/工具Langchain4j提供了更底层的组件和更大的灵活性社区生态中有更多连接器。项目是纯Java/非Spring环境Langchain4j不依赖Spring容器可以独立使用。7.2 常见问题与排查思路问题现象可能原因排查方式解决方案启动报错No qualifying bean of type ChatClientSpring AI自动配置未生效或依赖缺失。1. 检查pom.xml中Spring AI依赖版本。2. 检查application.yml中spring.ai.alibaba.dashscope.api-key配置是否正确。3. 查看启动日志是否有AI相关自动配置信息。1. 确认依赖版本兼容性。2. 确保API Key有效且已设置环境变量或配置文件。3. 在启动类上添加EnableAlibabaAi如果使用的是特定Starter可能需要。调用聊天接口超时或返回空1. 网络问题无法访问模型API。2. API Key无效或额度不足。3. 模型名称配置错误。1. 使用curl或Postman直接测试模型API。2. 登录云平台控制台检查API Key状态和调用日志。3. 检查application.yml中的model参数是否为平台支持的模型。1. 检查网络代理或防火墙设置。2. 更换或充值API Key。3. 查阅官方文档使用正确的模型名称。RAG检索结果不相关1. 嵌入模型Embedding Model不适合中文或领域。2. 文本分割策略不合理破坏了语义。3. 检索数量k值设置不当。1. 检查嵌入模型配置。2. 查看分割后的文档片段是否过于零碎或过长。3. 调整similaritySearch的k值如从3调到5。1. 尝试不同的嵌入模型如text-embedding-v2。2. 调整TokenTextSplitter的参数如块大小、重叠大小。3. 对检索结果进行重排序Re-ranking或优化查询语句。Agent不调用工具直接回答问题1. 系统提示词System Prompt未明确要求使用工具。2. 工具描述不够清晰模型无法理解何时调用。3. 用户指令意图不明确。1. 检查Agent构建时的systemPrompt。2. 检查AlibabaTool注解中的description是否准确描述了工具功能和参数。3. 在提示词中要求模型“必须使用工具”。1. 优化系统提示词明确Agent的角色和工具使用规则。2. 为工具编写更精确、详细的描述。3. 在对话中引导用户提供更明确的信息。内存向量存储重启后数据丢失SimpleVectorStore是内存实现数据不持久化。这是预期行为。在生产环境中替换为持久化的向量数据库如Redis、PgVector或Chroma。Spring AI提供了统一的VectorStore接口更换存储后端通常只需修改依赖和配置。8. 生产环境最佳实践与进阶建议将原型推向生产还需要考虑以下关键点向量数据库选型PgVector如果你的技术栈中已有PostgreSQL这是最自然的选择。利用关系型数据库的事务、备份等成熟特性。Redis性能极高适合对检索延迟要求非常高的场景。Spring AI有很好的支持。专业向量数据库如Milvus, Weaviate适用于超大规模、高并发的向量检索场景但运维复杂度较高。选择建议从PgVector开始平衡功能、性能和复杂度。提示词工程系统提示词是Agent的“宪法”精心设计明确角色、职责、约束和输出格式。可以将其外部化到配置文件中便于管理。Few-Shot示例在提示词中提供几个输入输出的例子能显著提升模型在复杂任务上的表现。RAG提示词优化在给模型的上下文中明确指示“请根据以下信息回答”并可以要求模型引用来源片段。性能与成本优化缓存对常见的、不变的知识问答结果进行缓存如Redis避免重复的向量检索和模型调用。异步处理对于耗时的文档嵌入向量化过程使用异步任务如SpringAsync避免阻塞主线程。模型选择在效果和成本间权衡。简单的分类任务可以用小模型复杂的创作、推理再用大模型。阿里云灵积等平台提供了不同规格的模型。可观测性与监控日志记录详细记录Agent的思考过程、工具调用详情、模型输入输出。这对于调试和优化至关重要。链路追踪集成Micrometer、SkyWalking等追踪一次AI调用的完整链路包括向量检索、模型API调用耗时。业务指标定义并监控关键指标如问答准确率、用户满意度、工具调用成功率等。安全与合规输入输出过滤对用户输入和模型输出进行必要的敏感词过滤和内容安全审核。权限控制确保Agent调用的工具如改签、查询有严格的业务权限校验不能因为模型的一个指令就执行。数据隐私上传到向量数据库的文档需脱敏。考虑使用本地化部署的嵌入模型避免敏感数据上传至云端。9. 总结从技术选型到架构演进通过“智能航空客服”这个案例我们走完了Java AI应用从技术选型、环境搭建、核心功能RAG、Agent实现到生产考量的完整路径。回顾开头的核心判断Spring AI特别是Spring AI Alibaba是Java开发者切入AI应用的最快路径。它让你用熟悉的Spring方式快速获得AI能力特别适合在现有系统中增量引入AI。RAG和Agent是互补的架构模式。RAG解决“知识”问题Agent解决“行动”问题。在复杂系统中它们往往协同工作。Langchain4j提供了更高的灵活性当你的需求超出Spring AI的“舒适区”时它是强大的备选方案。对于你的项目建议的演进路线是MVP阶段使用Spring AI 内存向量库快速验证核心AI功能如智能问答的价值。成长阶段引入持久化向量数据库如PgVector和Spring AI Alibaba Graph构建更稳定、更智能的RAG和Agent能力。成熟阶段根据业务复杂度评估是否需要引入Langchain4j来实现更定制化的AI工作流并建立完善的监控、安全、性能优化体系。AI技术的迭代日新月异但扎实的软件工程原则——模块化、可观测、可维护——永远不会过时。将AI能力作为你系统中的一个组件来设计和集成而不是颠覆性的重构是保持技术栈健康、团队可控的关键。现在你可以基于文中的代码动手搭建属于你自己的第一个Java AI应用了。