Spring AI Alibaba中Jmanus模块createPlan方法的流式返回问题分析

问题概述

在Spring AI Alibaba项目的Jmanus模块中，开发人员发现了一个关于createPlan方法流式返回的异常现象。当使用toolCallbacks参数并传入实际值时，方法无法实现流式返回，而是会一次性阻塞输出所有结果。然而，当传入Collections.empty()时，却能正常实现流式返回。

技术背景

在AI服务开发中，流式返回(Streaming Response)是一种重要的技术手段，它允许服务端在处理过程中逐步返回部分结果，而不是等待全部处理完成后再一次性返回。这种机制特别适用于处理时间较长或结果较大的场景，能够显著提升用户体验和系统响应速度。

问题分析

通过代码审查，我们发现问题的根源在于returnDirect参数的设置。当该参数为true时，系统会直接生成一个完整的响应(just一个完整的response)，导致返回一个大块数据(chunk)。而当参数为false时，系统则能够实现预期的流式返回效果。

解决方案讨论

虽然从技术角度讲，将returnDirect参数设为false可以解决流式返回的问题，但项目维护者提出了一个值得思考的观点：在function call场景下实现流式返回可能并不具备特别大的实际意义，反而会增加前后端交互的复杂度。

技术建议

对于开发者而言，在实际应用中应当考虑以下几点：

1. 根据业务场景决定是否需要流式返回
2. 在确实需要流式返回的场景下，确保returnDirect参数设置为false
3. 权衡流式实现带来的复杂度与用户体验提升之间的平衡
4. 对于简单的function call场景，可以考虑使用一次性返回以简化系统设计

总结

这个问题反映了在AI服务开发中，功能实现与系统设计之间需要做出的权衡。Spring AI Alibaba项目团队通过这个issue展示了他们对技术细节的关注和对系统设计的审慎态度，为开发者提供了有价值的参考案例。