Spring AI框架中Prompt对象元数据丢失问题分析与解决方案

在Spring AI框架的早期版本中，开发者在使用Advisor机制处理Prompt请求时可能会遇到一个典型问题：通过AdvisedRequest.toPrompt()方法转换后的Prompt对象会丢失原始消息中的元数据。这个问题在1.0.0-M6版本中较为明显，但在后续版本中已得到修复。

问题本质

当开发者创建带有元数据的UserMessage对象时，例如：

Map<String, Object> metadata = new HashMap<>();
metadata.put("conversationId", "12345");
metadata.put("userId", "user1");

UserMessage userMessage = new UserMessage("查询内容", 
    Collections.emptyList(), 
    metadata);

这些元数据在通过AdvisedRequest.toPrompt()方法转换时会意外丢失。这是因为框架在早期版本中实现toPrompt()方法时，会创建新的Message对象而没有保留原始元数据。

技术影响

元数据丢失会导致以下问题：

1. 会话跟踪失效：无法通过conversationId追踪完整对话链
2. 用户隔离困难：缺少userId信息难以实现多租户隔离
3. 审计日志不完整：关键上下文信息缺失

解决方案演进

Spring AI团队在1.0.0-M8版本中重构了相关机制：

1. 引入ChatClientRequest替代AdvisedRequest
2. 直接提供完整的Prompt对象访问
3. 保持元数据在整个调用链中的完整性

新版本的正确使用方式：

@Override
ChatClientResponse adviseCall(ChatClientRequest request, CallAdvisorChain chain) {
    // 直接获取完整Prompt对象
    Prompt prompt = request.prompt();
    
    // 元数据保持完整
    Message lastMessage = prompt.getMessages().get(prompt.getMessages().size()-1);
    if (lastMessage instanceof UserMessage userMessage) {
        // 现在可以正确获取元数据
        Map<String, Object> metadata = userMessage.getMetadata();
    }
    
    return chain.next(request);
}

最佳实践建议

1. 版本选择：建议使用1.0.0-M8或更高版本
2. 元数据处理：对于关键业务元数据，建议同时采用以下方式：
   • 消息元数据（用于AI上下文理解）
   • 线程局部变量（用于业务逻辑处理）
   • 自定义请求头（用于跨服务传递）
3. 兼容性考虑：如需支持多版本，可编写适配器模式处理不同版本的元数据获取方式

技术原理深入

新版本的实现改进主要基于以下设计原则：

1. 不变性模式：Prompt对象在调用链中保持不可变
2. 装饰器模式：通过ChatClientRequest包装原始请求
3. 深度复制：在必要的数据转换时保持元数据完整复制

这种设计既保证了线程安全性，又确保了关键业务信息的完整传递，体现了Spring框架一贯的设计哲学。

总结

Spring AI框架对Prompt处理机制的演进展示了开源项目持续改进的典型过程。开发者应当关注框架的版本变更日志，及时了解API的演进方向，特别是涉及核心数据结构的变更。对于元数据处理这类关键功能，建议在项目初期就建立完整的测试用例，确保业务关键信息在调用链中的可靠传递。