Spring AI 实战：构建多模型智能应用的一站式开发指南

1. 为什么需要Spring AI框架如果你最近尝试过同时接入多个大模型API肯定遇到过这样的烦恼每个模型厂商的接口规范都不一样有的用RESTful有的用WebSocket返回的数据结构千奇百怪错误处理逻辑更是五花八门。光是写适配代码就占用了大量开发时间更别提后期维护成本了。去年我在开发智能客服系统时就深有体会。客户要求同时支持ChatGPT和Claude模型还要保留切换国产模型的灵活性。当时用传统方式写了2000多行适配代码结果每次模型升级都要重写逻辑。直到发现Spring AI这个宝藏框架才真正体会到什么叫一次编写到处运行。Spring AI最核心的价值在于统一抽象层。它把不同模型的差异封装在底层开发者只需要面对标准化的接口。就像JDBC屏蔽了数据库差异一样你现在可以用同样的方式调用ChatGPT、Claude或者GLM。我实测下来原本需要3天完成的模型接入工作现在2小时就能搞定。2. 环境准备与项目搭建2.1 基础环境配置在开始之前确保你的开发环境满足这些要求JDK 17我推荐用Amazon Corretto 17实测最稳定Spring Boot 3.2.x注意必须是3.x系列Maven 3.6或Gradle 8.x这里有个坑要特别注意如果你的项目还在用Spring Boot 2.x需要先完成版本升级。去年我强行在Spring Boot 2.7上集成Spring AI结果各种ClassNotFound异常浪费了一整天时间。2.2 依赖管理技巧建议采用Maven的dependencyManagement统一管理版本避免依赖冲突。这是我在实际项目中验证过的配置dependencyManagement dependencies dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-bom/artifactId version1.1.0/version typepom/type scopeimport/scope /dependency /dependencies /dependencyManagement对于多模块项目我习惯单独创建ai-integration模块来集中管理AI相关依赖。这样做有两个好处一是避免污染其他模块二是方便后续扩展新模型。下面是典型的多模型依赖配置dependencies !-- OpenAI -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-openai/artifactId /dependency !-- Claude -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-anthropic/artifactId /dependency !-- 国产模型 -- dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-zhipuai/artifactId /dependency dependency groupIdorg.springframework.ai/groupId artifactIdspring-ai-starter-model-deepseek/artifactId /dependency /dependencies3. 多模型配置实战3.1 配置文件优化方案在application.yml中配置多个模型时我推荐这种结构化写法spring: ai: openai: api-key: ${OPENAI_KEY} chat: options: model: gpt-4o-mini temperature: 0.7 anthropic: api-key: ${CLAUDE_KEY} options: model: claude-3-5-sonnet max-tokens: 1024 zhipuai: api-key: ${GLM_KEY} chat: options: model: glm-4.6 top-p: 0.9几个实用技巧使用环境变量管理API Key千万别把密钥硬编码在配置文件里为不同环境创建profile-specific配置通过spring.ai.*.enabledfalse可以快速禁用某个模型3.2 动态模型切换技巧在实际项目中经常需要根据业务场景动态切换模型。我在电商客服系统中是这样实现的Service public class ModelRouterService { Autowired private MapString, ChatModel modelMap; // Spring会自动注入所有ChatModel实现 public String generateResponse(String modelName, String prompt) { ChatModel model modelMap.get(modelName ChatModel); if(model null) { throw new IllegalArgumentException(Unsupported model: modelName); } PromptOptions options switch(modelName) { case openai - OpenAiChatOptions.builder() .temperature(0.5) .build(); case claude - AnthropicChatOptions.builder() .maxTokens(500) .build(); default - null; }; Prompt promptObj options ! null ? new Prompt(prompt, options) : new Prompt(prompt); return model.call(promptObj).getResult().getOutput().getText(); } }这种方法的好处是新增模型时无需修改路由逻辑可以针对不同模型设置特定参数方便实现A/B测试等功能4. 高级功能实现4.1 流式响应处理对于需要实时展示结果的场景如聊天应用流式响应至关重要。这是我在项目中使用的SSE(Server-Sent Events)实现方案GetMapping(value /stream, produces MediaType.TEXT_EVENT_STREAM_VALUE) public FluxString streamChat( RequestParam String message, RequestParam String modelName) { ChatModel model modelRouter.getModel(modelName); Prompt prompt new Prompt(message); return model.stream(prompt) .map(response - { // 处理中间结果 return response.getResults().get(0).getOutput().getText(); }) .onErrorResume(e - { // 错误处理逻辑 return Flux.just([ERROR] e.getMessage()); }); }前端可以通过EventSource API轻松接入const eventSource new EventSource(/api/ai/stream?message你好modelNameopenai); eventSource.onmessage (event) { console.log(event.data); };4.2 多模态处理实战最新的大模型都支持图片理解能力。这是我实现的图片处理端点PostMapping(/analyze-image) public String analyzeImage( RequestParam MultipartFile image, RequestParam String question, RequestParam(defaultValue openai) String modelName) throws IOException { Resource imageResource new ByteArrayResource(image.getBytes()); ListMessage messages new ArrayList(); messages.add(new UserMessage(question)); messages.add(new UserMessage(imageResource)); ChatModel model modelRouter.getModel(modelName); ChatResponse response model.call(new Prompt(messages)); return response.getResult().getOutput().getText(); }使用时需要注意OpenAI目前只支持GPT-4系列模型处理图片图片大小最好控制在20MB以内建议添加图片类型校验逻辑5. 生产环境最佳实践5.1 性能优化方案在大流量场景下我总结出这些优化经验连接池配置为HTTP客户端配置合理的连接超时和最大连接数spring: ai: openai: client: connect-timeout: 10s read-timeout: 30s max-connections: 100缓存策略对常见问题答案使用Redis缓存Cacheable(value aiResponses, key #question.hashCode()) public String getCachedResponse(String question, String modelName) { // 原始调用逻辑 }批量请求合并多个问题一次性发送部分模型支持5.2 监控与告警在生产环境必须添加完善的监控使用Micrometer暴露指标Bean public MeterRegistryCustomizerMeterRegistry metricsCommonTags() { return registry - registry.config().commonTags(application, ai-service); }关键指标监控请求延迟P99 5s错误率 0.1%Token使用量设置合理的告警规则连续3次500错误平均延迟超过10秒API调用配额即将用完6. 架构设计思考在实际项目中我建议采用这样的分层架构┌─────────────────┐ │ API Layer │ ← 处理HTTP请求/响应 └────────┬────────┘ ↓ ┌─────────────────┐ │ Service Layer │ ← 业务逻辑编排 └────────┬────────┘ ↓ ┌─────────────────┐ │ AI Proxy Layer │ ← 模型路由/参数转换 └────────┬────────┘ ↓ ┌─────────────────┐ │ Spring AI Layer │ ← 标准接口调用 └─────────────────┘这种架构的优势在于各层职责清晰便于维护替换AI框架时只需修改最底层方便添加缓存、限流等中间件对于复杂场景可以考虑引入策略模式来处理不同模型的特殊逻辑。比如在处理超长文本时Claude需要特殊的分块处理方式public interface ModelStrategy { String processLongText(String text); } Service public class ClaudeStrategy implements ModelStrategy { Override public String processLongText(String text) { // Claude特有的分块逻辑 return chunkAndProcess(text); } }最后想说的是虽然Spring AI极大简化了开发工作但开发者仍需深入理解各模型的特性和限制。比如Claude对提示词更敏感GLM在处理中文时更有优势等等。只有结合业务需求选择合适的模型才能真正发挥AI的价值。