LangChain4j工具调用中引号转义问题的分析与解决

问题背景

在LangChain4j项目中使用工具调用功能时，开发人员发现当工具输入参数中包含转义引号时，会导致工具执行崩溃。这个问题主要出现在DefaultToolExecutor通过ToolExecutionRequestUtil处理参数时，对JSON字符串中的引号进行了不正确的处理。

问题现象

当LLM生成一个包含JQ兼容表达式的工具调用请求时，例如：

{
  "conditionalTaskCreation": {
    "firstNameInput": "${$context.bankAccountFormData.personal_info.first_name}",
    "lastNameInput": "${$context.bankAccountFormData.personal_info.last_name}",
    "conditionInput": "${($context.bankAccountFormData.personal_info.first_name | ascii_downcase | startswith(\"d\"))}"
  }
}

ToolExecutionRequestUtil的argumentsAsMap方法会对参数进行"规范化"处理，错误地移除了表达式中的转义引号，导致最终传递给JacksonJsonCodec的JSON字符串格式不正确，抛出JsonParseException异常。

技术分析

问题的核心在于ToolExecutionRequestUtil中的字符串处理逻辑。原始实现中，argumentsAsMap方法会无条件地对输入字符串调用normalizeJsonString方法，该方法设计用于"修复"JSON字符串格式，但会错误处理包含转义引号的合法JSON字符串。

具体来说，当输入字符串已经是格式正确的JSON时（如LLM生成的工具调用参数），这种"修复"操作反而会破坏原有的正确结构。特别是对于包含JQ表达式的字符串，其中的转义引号会被错误处理，导致JSON解析失败。

解决方案

开发团队提出了一个更合理的处理流程：

1. 首先尝试直接解析原始输入字符串
2. 只有在直接解析失败时，才尝试使用normalizeJsonString方法处理
3. 如果处理后仍然解析失败，则抛出异常

这种"尝试-失败-修复"的策略更加稳健，因为它：

• 尊重了原始输入的正确性
• 只在必要时才进行字符串处理
• 保持了向后兼容性

实现验证

在实际测试中，修改后的实现能够正确处理以下情况：

• 包含转义引号的合法JSON字符串
• JQ表达式中的引号结构
• 复杂的嵌套JSON对象
• 各种边界情况下的字符串转义

最佳实践建议

基于此问题的解决，对于使用LangChain4j工具调用的开发者，建议：

1. 明确工具参数的JSON结构
2. 在工具描述中清晰说明参数格式要求
3. 对于包含特殊字符的参数，确保LLM生成的格式正确
4. 在复杂场景下，考虑使用专门的参数对象而非原始字符串

总结

这个问题的解决不仅修复了一个具体的bug，更重要的是改进了LangChain4j处理工具参数的策略，使其更加健壮和可靠。对于开发者而言，这意味着更稳定的工具调用体验和更少的数据预处理工作。