LangChain4j中Ollama工具调用重复执行问题解析

在LangChain4j项目与Ollama模型集成过程中，开发者发现了一个值得注意的问题：当使用工具调用功能时，工具方法可能会在循环中被多次执行。本文将从技术角度深入分析这一现象的原因，并提供解决方案。

问题现象

在使用LangChain4j的Ollama集成模块时，如果定义一个简单的加法工具方法：

@Tool
int add(int a, int b) {
    log.info("{} + {} is {}",a,b,a+b);
    return a + b;
}

当询问模型"3+4等于多少"时，日志显示该方法被调用了4次，而期望的行为是只调用1次。

根本原因分析

经过深入排查，发现问题出在消息历史记录的构建上。在原始实现中，当AI消息包含工具执行请求时，没有正确地将这些请求转换为Ollama API所需的tool_calls字段格式。

Ollama API规范中，工具调用涉及两个关键部分：

1. 请求中的tools字段：定义模型可用的工具列表
2. 消息中的tool_calls字段：记录模型想要调用的具体工具

原始实现缺失了第二个关键部分，导致模型无法正确识别已经执行过的工具调用，从而陷入重复调用的循环。

解决方案

修正方案主要针对OllamaMessagesUtils.otherMessages方法进行改造，当处理AI消息时，如果包含工具执行请求，需要将其转换为Ollama API期望的tool_calls格式：

private static Message otherMessages(ChatMessage chatMessage) {
    if(chatMessage instanceof AiMessage aiMessage){
        if(aiMessage.hasToolExecutionRequests()){
            List<ToolCall> toolCalls = aiMessage.toolExecutionRequests()
                    .stream().map(req->{
                        FunctionCall functionCall = FunctionCall.builder()
                                .name(req.name())
                                .arguments(Json.fromJson(req.arguments(), HashMap.class))
                                .build();
                        return ToolCall.builder()
                                .function(functionCall).build();
                    }).toList();
            return Message.builder()
                    .role(Role.ASSISTANT)
                    .toolCalls(toolCalls)
                    .build();
        }
    }
    return Message.builder()
            .role(toOllamaRole(chatMessage.type()))
            .content(chatMessage.text())
            .build();
}

技术实现细节

1. 工具调用转换：将LangChain4j内部的ToolExecutionRequest转换为Ollama API所需的ToolCall结构
2. 参数处理：使用Json工具将参数从字符串格式反序列化为Map结构
3. 角色标识：保持消息角色(ASSISTANT)的一致性
4. 兼容性处理：对非AI消息或非工具调用消息保持原有处理逻辑

最佳实践建议

1. 在使用工具调用功能时，始终开启请求/响应日志记录，便于调试
2. 对于关键工具方法，添加适当的日志记录和参数验证
3. 定期检查LangChain4j的更新，获取最新的兼容性修复
4. 针对不同模型可能需要微调工具调用的参数格式

总结

通过正确实现Ollama API规范中的工具调用消息格式，我们解决了工具方法被重复执行的问题。这一案例也提醒我们，在集成不同AI服务时，准确理解并实现其API规范至关重要。LangChain4j社区已采纳这一修复方案，确保了工具调用功能的稳定性和可靠性。