Spring AI项目中处理Prompt内联JSON的最佳实践

在Spring AI 1.0.0-M6版本中，开发者使用ChatClient进行大语言模型交互时，可能会遇到一个典型问题：当Prompt中包含内联JSON内容时，如果尝试通过.entity(clazz)方法获取结构化响应，系统会抛出IllegalArgumentException异常，提示"模板字符串无效"。

问题本质分析

这个问题的根源在于Spring AI内部使用的StringTemplate模板引擎。该引擎默认将花括号{}作为模板语法标记，而JSON格式恰好也使用花括号作为结构标识。当系统尝试将用户Prompt与自动生成的JSON响应格式指令合并时，StringTemplate会将JSON中的花括号误认为模板语法，导致解析失败。

解决方案

目前推荐的解决方案是对Prompt中的JSON内容进行转义处理：

1. 手动转义：将所有花括号{替换为\{，}替换为\}
2. 使用工具类：Spring AI提供了CurlyBracketEscaper工具类辅助完成转义

示例对比

问题代码

chatClient.prompt().user("""
What is the current weather in {"city":"Bucharest"}?
""").call().entity(ChatResponse.class);

修正后代码

chatClient.prompt().user("""
What is the current weather in \{"city":"Bucharest"\}?
""").call().entity(ChatResponse.class);

技术背景

Spring AI在实现.entity()方法时，会自动添加JSON响应格式指令。这个过程涉及：

1. 将用户Prompt与系统指令合并
2. 根据目标类生成JSON Schema
3. 使用模板引擎组合最终Prompt

这种设计虽然提供了便利的响应结构化功能，但在处理特殊内容时需要开发者注意转义问题。

未来改进

Spring AI团队已经意识到这个问题，正在开发更灵活的模板处理机制。后续版本可能会：

1. 提供更智能的内容检测
2. 支持自定义模板分隔符
3. 改进内容转义策略

最佳实践建议

1. 当Prompt包含JSON时，优先考虑使用转义处理
2. 如果不需要结构化响应，可以使用.content()方法替代
3. 关注项目更新，及时了解模板处理机制的改进

通过理解这些技术细节，开发者可以更有效地利用Spring AI的强大功能，同时避免常见的陷阱。