Spring AI项目中的Ollama模型工具调用问题解析

在Spring AI项目中集成Ollama大语言模型时，开发者在尝试使用最新的Stream+Tools功能时遇到了一个关键的技术问题。本文将深入分析该问题的成因、影响范围以及解决方案。

问题现象

当开发者配置Ollama模型进行工具调用（Tool Calling）并启用流式响应时，系统会抛出NullPointerException异常。错误信息明确指出问题出在"evalDuration"字段为null的情况下，程序尝试调用Duration.plus()方法。

技术背景

Ollama作为开源大语言模型服务，近期新增了对流式工具调用的支持。这一功能允许模型在流式响应过程中动态调用外部工具，极大增强了交互的灵活性。Spring AI项目通过OllamaChatModel类实现了与Ollama服务的对接。

问题根源

经过深入分析，发现问题源于以下技术细节：

1. Ollama API规范中，eval_duration字段仅在最终响应时才有值
2. 在工具调用过程中，该字段为null
3. Spring AI的OllamaChatModel.from()方法未对null值进行充分校验
4. 当处理工具调用的中间响应时，直接尝试对null的evalDuration执行plus操作

影响范围

该问题具有以下特点：

• 仅在启用工具调用功能时出现
• 影响所有流式响应场景
• 与具体模型无关（测试验证了多种模型）
• 在Spring AI 1.0.0和Ollama 0.8.0环境下可稳定复现

解决方案

Spring AI团队已通过代码提交修复了此问题。主要改进包括：

1. 增强OllamaChatModel.from()方法的健壮性
2. 添加对evalDuration字段的null检查
3. 优化工具调用过程中的响应处理逻辑

最佳实践建议

对于使用Spring AI集成Ollama的开发者，建议：

1. 及时更新到包含修复的版本
2. 在自定义工具实现时注意异常处理
3. 对于关键业务场景，建议添加额外的null检查
4. 充分测试工具调用的各种边界情况

技术启示

该案例为我们提供了以下技术启示：

1. 第三方API集成时需严格遵循接口规范
2. 流式处理场景需要特别关注中间状态
3. 防御性编程在框架开发中的重要性
4. 开源社区协作解决问题的效率优势

通过这个问题的分析和解决，Spring AI项目在Ollama集成方面变得更加健壮，为开发者提供了更可靠的工具调用支持。