Spring AI项目中Ollama模型工具调用时的空指针问题解析

问题背景

在使用Spring AI框架与Ollama模型进行交互时，开发者在尝试使用最新的Stream+Tools功能时遇到了一个空指针异常。这个问题特别出现在模型进行工具调用(tool call)的过程中，错误信息显示在尝试计算evalDuration时出现了空指针。

问题现象

当开发者配置了带有工具调用的Ollama聊天模型，并尝试通过流式(stream)方式获取响应时，系统会抛出以下异常：

java.lang.NullPointerException: Cannot invoke "java.time.Duration.plus(java.time.Duration)" because "evalDuration" is null

这个错误发生在Spring AI框架内部处理Ollama模型响应的过程中，具体是在将Ollama的响应转换为Spring AI内部表示时出现的。

技术分析

根本原因

经过深入分析，发现问题的根源在于Ollama API的响应结构与Spring AI框架的预期不完全匹配。根据Ollama官方API规范，eval_duration字段仅在最终响应返回时才有值。然而，在工具调用过程中，这个字段可能为null。

Spring AI框架中的OllamaChatModel.from()方法在处理响应时，没有对eval_duration字段进行充分的空值检查，直接尝试对其进行操作，导致了空指针异常。

影响范围

这个问题会影响所有满足以下条件的应用场景：

1. 使用Spring AI框架的Ollama集成
2. 配置了工具调用功能
3. 采用流式(stream)方式获取响应

解决方案

针对这个问题，社区已经提出了修复方案，主要改进点包括：

1. 在OllamaChatModel.from()方法中添加对eval_duration字段的空值检查
2. 当字段为空时，提供合理的默认值或跳过相关操作
3. 确保工具调用和常规响应的处理逻辑都能正常执行

最佳实践

为了避免类似问题，开发者在集成Spring AI与Ollama时应注意：

1. 版本兼容性：确保使用的Spring AI版本和Ollama版本是经过测试的组合
2. 异常处理：在调用模型时添加适当的异常处理逻辑
3. 日志记录：开启详细的日志记录，便于诊断问题
4. 逐步验证：先验证基本功能，再逐步添加复杂功能如工具调用

总结

这个案例展示了在集成不同系统时可能遇到的接口预期不匹配问题。Spring AI框架通过及时修复这个问题，提高了与Ollama模型集成的稳定性。对于开发者而言，理解底层API的行为差异和框架的处理逻辑，有助于更快地定位和解决类似问题。

在实际开发中，当使用新兴的AI功能时，建议保持框架和模型的最新版本，并关注官方文档的更新，以确保获得最佳的使用体验和稳定性。