1. 项目缘起为什么现在要关注 Spring AI Alibaba最近在和一些做企业级应用开发的朋友聊天发现一个挺有意思的现象大家一提到AI能力集成第一反应还是去调OpenAI的API或者自己吭哧吭哧去部署开源模型。但当问到模型管理、成本控制、私有化部署这些实际生产问题的时候往往就开始头疼了。这让我想起了大概十年前当大家刚开始用云服务的时候也是类似的情况——直到出现了Spring Cloud Alibaba这样一套“开箱即用”的解决方案才真正把微服务架构在企业里推开了。现在AI能力的集成似乎也走到了这个节点。Spring AI Alibaba的出现在我看来就是试图扮演这个“破局者”的角色。它不是一个全新的框架而是Spring AI这个“标准接口”在阿里云生态下的具体实现。简单来说Spring AI定义了一套统一的编程模型让你写代码调用AI服务比如聊天、画图、Embedding时不用关心背后到底是通义千问、ChatGPT还是自家的模型。而Spring AI Alibaba则负责把阿里云灵积平台上的各种模型服务无缝地接入到这套模型里。所以如果你正在或者计划在基于Spring Boot的应用里引入AI能力并且对模型的稳定性、可控性、成本有要求那么花点时间搞明白Spring AI Alibaba的搭建和用法很可能是一笔划算的投资。它帮你省去的是和不同AI服务商API打交道的琐碎以及未来切换模型供应商时的重构成本。2. 环境准备从零开始搭建你的第一个AI应用搭建的第一步永远是准备好战场。这里我会假设你是一个有一定Spring Boot基础的开发者从最干净的环境开始。2.1 基础环境与工具选型操作系统推荐LinuxUbuntu 20.04 / CentOS 7或 macOSWindows用户建议使用WSL2以获得最佳体验。这不是强制要求但后续的一些命令行操作和依赖安装在Unix-like环境下更顺畅。Java这是基石。必须使用JDK 17 或更高版本。Spring AI 框架本身对JDK版本有要求低于17将无法运行。我个人的习惯是直接上JDK 21 LTS版本用Amazon Corretto或OpenJDK官方发行版都可以。安装后记得检查环境变量java -version # 应该看到类似 openjdk version 21.0.3 2024-04-16 LTS 的输出构建工具Maven 3.6或Gradle 7.x。本文将以Maven为例因为它的POM文件结构更直观对于依赖管理一目了然。如果你团队用Gradle转换配置也不难。IDEIntelliJ IDEA终极版或社区版均可或 VS Code Java扩展包。IDEA对Spring Boot的支持是顶级的特别是自动补全和配置提示能极大提升效率。网络确保你的开发机能够稳定访问Maven中央仓库和阿里云的Maven镜像。后者对于下载Alibaba相关的构件会快很多。你可以在Maven的settings.xml文件中配置镜像。2.2 创建Spring Boot项目骨架最快的方式是使用 Spring Initializr 。在页面上进行如下选择Project: Maven ProjectLanguage: JavaSpring Boot: 选择当前最新的稳定版如 3.2.x。Spring AI Alibaba 通常需要较新的Boot版本。Project Metadata按需填写Group如com.example、Artifact如ai-demo。Dependencies这里先只选择最基础的Spring Web。因为Spring AI Alibaba的依赖我们稍后手动添加这样能更清楚地了解引入了哪些东西。点击“GENERATE”下载压缩包解压后用IDE打开。打开项目后你会看到一个标准的Spring Boot工程结构。现在我们来编辑核心的pom.xml文件引入关键依赖。2.3 引入Spring AI Alibaba依赖这是最关键的一步。我们需要添加两个核心依赖spring-ai-alibaba-spring-boot-starter和spring-ai-alibaba-dashscope-spring-boot-starter。它们有什么区别呢spring-ai-alibaba-spring-boot-starter这是基础启动器。它提供了与阿里云灵积平台交互的核心基础设施比如通用的客户端、配置属性、健康指示器等。几乎所有场景下你都需要它。spring-ai-alibaba-dashscope-spring-boot-starter这是模型特定的启动器。DashScope灵积是阿里云模型服务的品牌这个starter包含了调用具体模型如通义千问、通义万相的客户端实现。你需要根据想用的模型来选择对应的starter。目前DashScope是主要支持。在你的pom.xml的dependencies部分添加如下内容dependency groupIdcom.alibaba.cloud.ai/groupId artifactIdspring-ai-alibaba-spring-boot-starter/artifactId version${spring-ai-alibaba.version}/version !-- 使用最新版本 -- /dependency dependency groupIdcom.alibaba.cloud.ai/groupId artifactIdspring-ai-alibaba-dashscope-spring-boot-starter/artifactId version${spring-ai-alibaba.version}/version /dependency注意这里的${spring-ai-alibaba.version}。你需要去 Maven中央仓库 查看最新稳定版本。在我撰写本文时最新版本是1.0.0-M2。这是一个里程碑版本API基本稳定可用于学习和预生产环境。对于绝对稳定的生产环境建议关注其GA正式版发布。重要提示Spring AI Alibaba 的版本命名可能包含M里程碑或RC候选版。初期探索建议直接用最新版以体验全部特性。如果求稳可以寻找最新的稳定版不带M/RC后缀的版本如果有的话。同时确保Spring Boot版本与Spring AI Alibaba版本兼容通常starter的文档或GitHub仓库的README会说明。添加后IDE应该会自动下载依赖。如果下载慢记得检查Maven镜像配置。3. 核心配置详解连接阿里云灵积平台依赖引入后项目还不能运行因为它不知道如何去连接阿里云的AI服务。接下来我们需要进行配置这相当于给我们的应用一把“钥匙”。3.1 获取阿里云API密钥Spring AI Alibaba 通过阿里云的API密钥来进行身份认证和计费。你需要一个阿里云账号。登录 阿里云控制台 。在右上角头像处进入“AccessKey管理”。创建或使用一个已有的AccessKey。你会得到一对AccessKey ID和AccessKey Secret。请像保护密码一样保护它们特别是Secret一旦泄露可能造成资源盗用和经济损失。开通灵积平台服务在控制台搜索“灵积”或“DashScope”进入服务页面确保服务已开通。新用户通常有一定量的免费额度足够用于开发和测试。3.2 配置application.yml在Spring Boot中我们通常在src/main/resources/application.yml或application.properties中配置属性。YAML格式更清晰推荐使用。打开或创建application.yml添加以下配置spring: application: name: ai-demo # Spring AI Alibaba 核心配置 spring: ai: alibaba: # 基础连接配置 base: # 从阿里云控制台获取 access-key-id: your-access-key-id-here access-key-secret: your-access-key-secret-here # 灵积API的端点通常不需要改除非使用特殊区域或私有化部署 endpoint: dashscope.aliyuncs.com # 连接超时和读取超时毫秒根据网络情况调整 connection-timeout: 5000 read-timeout: 30000 # DashScope 模型服务配置 dashscope: # 默认使用的聊天模型例如通义千问系列 chat: options: model: qwen-turbo # 模型名称例如 qwen-turbo, qwen-plus, qwen-max temperature: 0.8 # 温度参数控制随机性 (0~1越高越随机) top-p: 0.8 # 核采样参数控制生成多样性 max-tokens: 2000 # 生成的最大token数 enable-search: false # 是否启用联网搜索部分模型支持配置项逐行解析access-key-idaccess-key-secret替换成你从控制台获取的真实密钥。绝对不要将真实的密钥提交到代码仓库在生产环境中必须使用环境变量、配置中心如Nacos或Kubernetes Secrets来管理。可以在本地开发时使用环境变量export SPRING_AI_ALIBABA_BASE_ACCESS_KEY_IDyour-id export SPRING_AI_ALIBABA_BASE_ACCESS_KEY_SECRETyour-secret然后在application.yml中这样引用access-key-id: ${SPRING_AI_ALIBABA_BASE_ACCESS_KEY_ID} access-key-secret: ${SPRING_AI_ALIBABA_BASE_ACCESS_KEY_SECRET}endpoint一般保持默认即可。如果你使用的是阿里云内部专有云或特定区域的服务需要修改为此区域对应的端点。connection-timeoutread-timeout网络超时设置。connection-timeout是建立TCP连接的超时read-timeout是等待服务器响应的超时。对于AI生成这种可能较慢的任务read-timeout可以设得长一些比如30秒。dashscope.chat.options.model指定默认使用的聊天模型。qwen-turbo是响应速度最快、成本较低的版本适合对话和简单任务。qwen-max是能力最强的版本适合复杂推理和创作。你可以在灵积平台的模型广场查看所有可用模型及其特性。temperaturetop-p这两个参数共同控制生成的“创造性”和“稳定性”。简单理解temperature越高输出越随机、越有创意也可能更胡言乱语top-p越高候选词范围越广。通常两者设置一个即可建议temperature在0.7~0.9之间平衡创意与可控性。max-tokens限制模型单次回复的最大长度约等于字数*某个系数。设置一个合理的值可以控制成本和响应时间。enable-search部分模型如qwen-max支持联网搜索。开启后模型在回答问题时可以获取实时信息。注意这可能会增加调用延迟和成本。4. 编写第一个AI对话服务配置完成后我们就可以编写业务代码了。Spring AI Alibaba 的核心是提供了高度抽象的ChatClient和ChatModel接口让调用AI变得像调用本地方法一样简单。4.1 创建ChatController我们先创建一个简单的REST API端点接收用户消息并返回AI的回复。在src/main/java/com/example/aiemo/你的包名下创建controller包然后创建ChatController.javapackage com.example.aidemo.controller; import com.alibaba.cloud.ai.dashscope.chat.api.ChatCompletion; import com.alibaba.cloud.ai.dashscope.chat.api.ChatCompletionMessage; import com.alibaba.cloud.ai.dashscope.chat.api.ChatCompletionParam; import org.springframework.ai.alibaba.chat.AlibabaChatClient; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.*; import java.util.Arrays; RestController RequestMapping(/api/chat) public class ChatController { // 方式一使用高级的 AlibabaChatClient (推荐) Autowired private AlibabaChatClient chatClient; PostMapping(/simple) public String chatSimple(RequestBody String userMessage) { // 最简单的调用方式 String aiResponse chatClient.call(userMessage); return aiResponse; } // 方式二使用更底层的 DashScope API进行更精细的控制 PostMapping(/advanced) public ChatCompletion chatAdvanced(RequestBody AdvancedChatRequest request) { // 构建消息历史 ChatCompletionMessage userMsg ChatCompletionMessage.builder() .role(ChatCompletionMessage.Role.USER) .content(request.getMessage()) .build(); // 构建请求参数可以覆盖application.yml中的默认配置 ChatCompletionParam param ChatCompletionParam.builder() .model(qwen-plus) // 临时指定另一个模型 .messages(Arrays.asList(userMsg)) .temperature(0.5) // 临时调整温度 .topP(0.9) .maxTokens(1000) .build(); // 执行调用 ChatCompletion response chatClient.chatCompletion(param); return response; // 返回完整的响应对象包含更多元数据 } // 请求体定义 public static class AdvancedChatRequest { private String message; // getters and setters public String getMessage() { return message; } public void setMessage(String message) { this.message message; } } }代码解读与避坑点两种调用方式chatSimple这是最快捷的方式。直接注入AlibabaChatClient调用其call方法传入用户消息字符串即可。框架会自动使用你在application.yml中配置的默认模型和参数。适合快速原型和简单场景。chatAdvanced这种方式提供了完整的控制力。我们手动构建ChatCompletionParam可以临时覆盖全局配置比如切换模型、调整参数。返回的ChatCompletion对象包含了choices候选回复列表、usage本次调用的token消耗等丰富信息对于需要记录成本或分析响应的场景非常有用。Autowiredvs 构造器注入上述代码使用了字段注入Autowired简单直观。但在正式的、尤其是需要测试的项目中更推荐使用构造器注入因为它明确声明了依赖且便于单元测试。private final AlibabaChatClient chatClient; public ChatController(AlibabaChatClient chatClient) { this.chatClient chatClient; }消息角色Role在构建ChatCompletionMessage时我们指定了Role.USER。灵积的API遵循常见的聊天格式消息角色还有Role.SYSTEM系统指令用于设定AI行为和Role.ASSISTANTAI之前的回复。要实现多轮对话你需要将历史消息用户问、AI答按顺序放入messages列表。错误处理上面的代码没有处理异常。在实际项目中AI服务调用可能因为网络、配额不足、模型过载、输入违规等原因失败。务必添加全局或局部的异常处理ControllerAdviceExceptionHandler对不同类型的异常如AlibabaApiException进行友好处理返回适当的HTTP状态码和错误信息给前端。4.2 创建System Prompt配置进阶很多时候我们希望AI扮演一个特定的角色比如“翻译助手”、“代码专家”、“客服机器人”。这可以通过系统提示词System Prompt来实现。我们可以在配置中定义默认的系统提示词也可以在每个请求中动态指定。在application.yml中配置默认系统提示词spring: ai: alibaba: dashscope: chat: options: # ... 其他参数同上 system-prompt: | 你是一个专业的Java开发助手精通Spring Boot和阿里云生态。 你的回答应该简洁、准确并且提供可执行的代码示例。 如果用户的问题与Java开发无关请礼貌地拒绝回答。这样配置后通过AlibabaChatClient发起的每次对话都会默认带上这个系统指令。在代码中动态指定系统提示词PostMapping(/translation) public String translate(RequestBody TranslateRequest request) { ChatCompletionMessage systemMsg ChatCompletionMessage.builder() .role(ChatCompletionMessage.Role.SYSTEM) .content(你是一个专业的英汉互译助手。只进行翻译工作不要添加任何解释。) .build(); ChatCompletionMessage userMsg ChatCompletionMessage.builder() .role(ChatCompletionMessage.Role.USER) .content(Translate the following to Chinese: request.getText()) .build(); ChatCompletionParam param ChatCompletionParam.builder() .messages(Arrays.asList(systemMsg, userMsg)) // 系统消息在前 .build(); ChatCompletion response chatClient.chatCompletion(param); return response.getChoices().get(0).getMessage().getContent(); }注意消息列表messages的顺序很重要。通常SYSTEM消息在最前面然后是交替的USER和ASSISTANT历史消息最后是当前的USER消息。5. 运行、测试与问题排查配置和代码都写好了让我们把它跑起来看看效果如何。5.1 启动应用与健康检查在IDE中找到主启动类通常名为AiDemoApplication运行它。或者在项目根目录下使用Maven命令mvn spring-boot:run如果一切顺利控制台会输出Spring Boot的启动日志最后看到类似Started AiDemoApplication in 5.123 seconds的信息。Spring AI Alibaba Starter 会自动注册一个健康检查端点。打开浏览器访问http://localhost:8080/actuator/health。你应该能看到一个JSON响应其中包含alibabaAi的状态。如果配置正确它应该是UP。如果状态是DOWN通常意味着API密钥错误或网络无法连接到灵积端点请检查控制台日志中的错误信息。5.2 使用工具测试API现在我们来测试刚才写的两个接口。推荐使用Postman或curl命令行工具。测试/api/chat/simple# 使用curl curl -X POST http://localhost:8080/api/chat/simple \ -H Content-Type: application/json \ -d 你好请介绍一下Spring Boot的核心优势。 # 预期返回一个包含AI回复的字符串例如 # Spring Boot是一个用于简化Spring应用初始搭建和开发过程的框架...测试/api/chat/advancedcurl -X POST http://localhost:8080/api/chat/advanced \ -H Content-Type: application/json \ -d {message: 用Java写一个快速排序算法的示例} # 预期返回一个更复杂的JSON对象包含模型、回复内容、token使用情况等。5.3 常见启动与运行问题排查即使按照步骤操作你也可能会遇到一些问题。这里列出几个我踩过的坑和解决方案启动报错Failed to configure a DataSource现象应用启动失败日志提示数据源配置错误。原因Spring Boot的自动配置机制检测到了JDBC相关的依赖可能是你项目里间接引入的但没有配置数据库连接信息。解决检查你的pom.xml排除不必要的JDBC或数据相关依赖。如果确实不需要数据库可以在主启动类上添加排除自动配置的注解SpringBootApplication(exclude {DataSourceAutoConfiguration.class})调用API返回401 Unauthorized或InvalidAccessKeyId现象健康检查alibabaAi状态为DOWN或调用接口时返回认证错误。原因API密钥AccessKey ID/Secret错误、失效或者没有开通灵积服务。解决仔细核对application.yml或环境变量中的密钥确保没有多余空格。登录阿里云控制台确认该AccessKey处于“启用”状态。在灵积平台控制台确认服务已开通并且查看该AccessKey是否有调用权限通常主账号的AK都有权限。调用超时Read timed out现象接口调用长时间无响应最终抛出超时异常。原因网络问题或者模型处理复杂请求时间过长。解决首先适当增加spring.ai.alibaba.base.read-timeout的值比如设为6000060秒。检查本地网络是否能正常访问dashscope.aliyuncs.com。简化你的请求内容或者换用响应更快的模型如qwen-turbo。依赖版本冲突现象启动时抛出NoSuchMethodError或ClassNotFoundException。原因Spring AI Alibaba 依赖的某个库的版本与你项目中其他依赖的版本不兼容。解决这是Maven/Gradle项目的老大难问题。使用mvn dependency:tree命令查看完整的依赖树找到冲突的库。然后可以在pom.xml中通过exclusions标签排除冲突的传递性依赖或者使用dependencyManagement统一管理版本。Spring AI Alibaba的BOM物料清单尚未广泛提供因此需要手动处理。6. 生产级考量与进阶配置一个玩具级的Demo跑通了但要上生产环境还有不少事情需要考虑。这部分内容决定了你的AI应用是否健壮、可维护、成本可控。6.1 配置管理告别硬编码如前所述API密钥绝不能写在代码或配置文件中提交到Git。在生产环境你应该使用环境变量这是最简单的方式。在Kubernetes Deployment、Docker Compose或服务器启动脚本中设置环境变量。使用配置中心对于微服务架构推荐使用Nacos、Apollo等配置中心。将spring.ai.alibaba.base.access-key-id等敏感信息存储在配置中心应用启动时拉取。使用云厂商的密钥管理服务例如阿里云的KMS密钥管理服务或RAM角色实现更安全的动态密钥获取。6.2 连接池与客户端优化高并发场景下频繁创建和销毁HTTP连接会带来巨大开销。Spring AI Alibaba底层使用的HTTP客户端可能是OkHttp或Apache HttpClient通常自带连接池但我们需要优化其参数。这些配置可能在spring.ai.alibaba.base下或者通过自定义RestTemplate或WebClientBean来配置。你需要查阅当前版本Spring AI Alibaba的官方文档寻找关于连接池、最大连接数、存活时间等配置项。一个常见的模式是spring: ai: alibaba: base: # ... 其他配置 max-connections: 200 # 连接池最大连接数 connection-ttl: 300000 # 连接存活时间(毫秒) connection-time-to-live: 300000 # 连接最大存活时间如果没有直接配置项你可能需要自己定义一个ConnectionProvider或HttpClientBean来替换默认实现。6.3 熔断、降级与重试AI服务是外部依赖存在不稳定性风险。必须为AI调用添加弹性能力。熔断Circuit Breaker使用Resilience4j或Sentinel。当调用失败率超过阈值时快速失败避免雪崩。CircuitBreaker(name aiChatService, fallbackMethod fallbackResponse) public String callAiWithCircuitBreaker(String prompt) { return chatClient.call(prompt); } public String fallbackResponse(String prompt, Throwable t) { return AI服务暂时不可用请稍后再试。; }降级Fallback如上例当主服务不可用时返回一个预设的、功能简化的响应保证核心业务流程不中断。重试Retry对于网络抖动等临时性错误自动重试可以提高成功率。同样可以用Resilience4j的Retry注解。Retry(name aiChatService, fallbackMethod fallbackResponse) public String callAiWithRetry(String prompt) { return chatClient.call(prompt); }配置重试策略如最大重试次数、重试间隔、重试哪些异常等。6.4 监控与可观测性你需要知道你的AI应用运行得怎么样。指标MetricsSpring Boot Actuator 集成了Micrometer可以轻松暴露应用指标。Spring AI Alibaba 应该会自动记录一些关键指标如调用次数、成功/失败次数、延迟分布等。通过配置可以将这些指标推送到Prometheus、Grafana进行可视化。日志Logging确保AI调用的请求和响应至少是元数据如模型、token用量、耗时被记录到日志中。你可以通过实现一个ClientInterceptor或类似机制在AlibabaChatClient调用前后打印日志。注意不要记录完整的请求/响应内容可能包含用户隐私只记录摘要信息。链路追踪Tracing在微服务环境中使用SkyWalking、Jaeger等工具将一次用户请求背后的AI调用也纳入追踪链路便于排查复杂问题。6.5 成本控制与用量统计AI API调用是按token计费的费用可能快速增长。记录usage每次调用返回的ChatCompletion对象里都有usage字段包含了本次请求消耗的prompt_tokens、completion_tokens和total_tokens。务必在业务代码中捕获并存储这些数据到数据库或监控系统。设置预算与告警在阿里云费用中心为灵积服务设置预算和消费告警。当月度消费达到预算的80%、90%时及时收到通知。限流Rate Limiting在应用层面根据用户或API端点实施限流。例如使用Guava的RateLimiter或Spring的ControllerAdvice配合计数器防止单个用户恶意刷量消耗token。模型选型根据业务场景选择性价比合适的模型。简单的问答用qwen-turbo复杂的分析再用qwen-max。可以在代码中根据请求的复杂度动态选择模型。7. 扩展探索超越简单的聊天Spring AI Alibaba 不仅仅支持聊天。灵积平台提供了多种模型能力理论上都可以通过相应的Starter或自定义客户端集成。7.1 多模态图像生成与理解除了文本AI还能处理图像。例如使用通义万相进行文生图。你需要引入对应的依赖如果存在独立的starter或者研究如何使用基础的AlibabaChatClient配合特定的模型参数来调用图像生成API。通常这需要构建不同的请求参数体指定model为图像生成模型如wanx-v1并在messages中提供图像生成的描述prompt。// 伪代码具体API需参考官方文档 ImageGenerationParam param ImageGenerationParam.builder() .model(wanx-v1) .prompt(一只戴着礼帽、喝着咖啡的卡通猫数字艺术风格) .size(1024x1024) .n(1) // 生成数量 .build(); ImageGenerationResponse response imageClient.generate(param); String imageUrl response.getData().get(0).getUrl(); // 获取生成图片的URL7.2 Embedding与向量检索这是构建AI知识库、实现智能搜索的基石。Embedding模型可以将文本转换为高维向量。Spring AI 提供了统一的EmbeddingClient接口。引入Embedding Starter查找是否有spring-ai-alibaba-dashscope-embedding-spring-boot-starter。配置Embedding模型在application.yml中配置Embedding相关参数如模型text-embedding-v2。注入并使用EmbeddingClientAutowired private EmbeddingClient embeddingClient; public ListDouble getEmbedding(String text) { // 将文本转换为向量 ListDouble vector embeddingClient.embed(text); return vector; }构建向量数据库将得到的向量存入专业的向量数据库如Milvus, Weaviate, pgvector等后续即可进行相似度检索实现“基于自有知识库的问答”。7.3 函数调用Function Calling这是让AI与你的业务系统交互的强大功能。你可以定义一系列工具函数如“查询天气”、“创建订单”让AI在对话中判断是否需要调用这些函数并生成结构化的参数。Spring AI 对函数调用有抽象支持。你需要定义工具函数一个普通的Java方法用Tool注解描述。将这些函数注册到ChatClient或ChatModel。在对话中AI会输出一个包含函数调用请求的特殊响应你的代码需要解析这个响应执行对应的Java函数并将结果返回给AI由AI整合成最终回复给用户。这涉及到更复杂的消息流处理是构建智能Agent的关键一步。7.4 流式响应Streaming对于长文本生成等待全部生成完毕再返回给用户体验很差。流式响应允许服务器端一边生成一边以SSEServer-Sent Events或WebSocket的形式将片段推送给前端实现打字机效果。Spring AI 的ChatClient通常提供了stream方法。你需要调整你的Controller返回一个Flux响应式编程或使用SseEmitter。GetMapping(value /chat/stream, produces MediaType.TEXT_EVENT_STREAM_VALUE) public FluxString streamChat(RequestParam String message) { return chatClient.stream(message) .map(chunk - chunk.getContent()); // 将响应流中的每个片段映射为内容 }前端则需要使用EventSourceAPI来接收这个流。搭建一个Spring AI Alibaba项目从引入依赖到写出第一个可用的接口其实门槛并不高。真正的挑战在于后续的“生产化”如何管理配置、如何保证稳定性、如何控制成本、如何扩展能力。这篇文章详细走通了从零到一的过程并指出了从一到一百需要考虑的方向。我的建议是先从简单的聊天功能入手快速验证业务场景的可行性。一旦验证通过立刻着手完善监控、熔断和成本统计。当这些基础设施就位后再逐步探索Embedding、函数调用等更高级的特性这样步子迈得稳也不容易在后期陷入架构混乱的泥潭。