Spring AI项目中Prompt模板渲染问题的深度解析与解决方案

问题背景

在Spring AI框架的最新版本（M8）中，开发者在使用PromptChatMemoryAdvisor进行聊天记忆管理时，可能会遇到一个与模板渲染相关的异常问题。当用户输入包含特殊字符（如花括号{}）时，系统会抛出IllegalArgumentException异常，提示"模板字符串无效"。

技术原理分析

这个问题源于Spring AI M8版本对模板渲染流程的优化。在新版本中：

1. 渲染时机变化：ChatClient在构建Prompt对象时会先进行一次模板渲染，然后再传递给advisor链执行
2. 模板引擎机制：默认使用StringTemplate引擎，以{}作为占位符分隔符
3. 二次渲染问题：当用户输入包含{}时，这些字符会被误认为是模板占位符，导致渲染失败

典型场景

这个问题特别容易出现在以下场景中：

• 用户输入包含JSON数据（天然包含花括号）
• 使用结构化输出功能时自动生成的JSON Schema
• 任何需要包含特殊字符作为文本内容的情况

解决方案

方案一：修改模板分隔符（推荐）

通过自定义模板渲染器的分隔符，可以避免与内容冲突：

@Bean
ChatClient chatClient(ChatClient.Builder builder) {
    return builder
        .defaultAdvisors(new PromptChatMemoryAdvisor(...))
        .defaultUser(new ClassPathResource("user.st"))
        .defaultTemplateRenderer(
            StTemplateRenderer.builder()
                .startDelimiterToken('<')
                .endDelimiterToken('>')
                .build())
        .build();
}

同时需要修改模板文件，使用新的分隔符：

How would you answer the following question:
<question>

方案二：禁用模板验证（谨慎使用）

虽然可以临时解决问题，但不推荐在生产环境使用：

.defaultTemplateRenderer(
    StTemplateRenderer.builder()
        .validationMode(ValidationMode.NONE)
        .build())

最佳实践建议

1. 内容安全：当处理用户输入时，建议总是使用自定义分隔符，避免潜在的"模板注入"风险
2. JSON处理：对于包含JSON的场景，方案一是最安全可靠的选择
3. 版本适配：从M7升级到M8时，需要特别注意此渲染流程的变化

框架演进

值得注意的是，Spring AI团队已经在快照版本中修复了结构化输出相关的模板问题，预计将在RC1版本中发布。这体现了框架对开发者实际使用场景的持续优化。

总结

Spring AI的模板渲染机制提供了强大的灵活性，但也需要开发者理解其工作原理。通过合理配置模板引擎，可以既保持功能强大性，又避免特殊字符带来的问题。对于需要处理复杂输入（如JSON）的应用，采用自定义分隔符是最佳实践。