Browser-Use项目中Gemini模型调用无参自定义动作的解决方案

Browser-Use是一个基于Python的浏览器自动化工具，它允许开发者通过自定义动作(Action)来扩展浏览器的功能。近期有开发者反馈，在使用Google的Gemini模型时，无参数的自定义动作无法被正确调用，而同样的代码在GPT-4模型上却能正常工作。

问题现象

开发者在使用Browser-Use时发现，当定义了一个无参数的自定义动作函数时，Gemini模型虽然能识别到需要调用该动作，但实际执行时却不会触发。例如以下代码：

@controller.action('Get the two factor authentication code')
async def two_factor_authentication_solver() -> Token:
    # 获取2FA验证码的逻辑
    return ActionResult(extracted_content=token)

当与Gemini模型配合使用时，这个动作不会被调用。而同样的代码如果使用GPT-4模型，则能正常工作。

问题根源

经过技术分析，这个问题源于Gemini模型在处理无参数动作时的特殊行为。当动作函数没有参数时，Gemini模型生成的调用结构会将动作参数设为null：

{
  "action": [
    {
      "two_factor_authentication_solver": null
    }
  ]
}

Browser-Use的内部机制在处理这种null参数时，可能将其解释为"不调用"，从而导致动作无法执行。这与GPT-4模型生成的结构有所不同。

解决方案

针对这个问题，开发者可以采用以下两种解决方案：

1. 为动作函数添加参数：即使不使用该参数，也至少定义一个参数。例如：

@controller.action('Get the two factor authentication code')
async def two_factor_authentication_solver(current_url: str) -> Token:
    # 获取2FA验证码的逻辑
    return ActionResult(extracted_content=token)

2. 修改Browser-Use源码：如果开发者有修改源码的权限，可以在处理动作调用时，显式检查参数是否为null，并将其转换为空字典或默认值。

第一种方案是推荐的做法，因为它简单且不依赖于修改框架代码。添加一个参数(如current_url)虽然可能不会被使用，但能确保Gemini模型生成正确的调用结构，使动作能够正常执行。

技术原理

这个问题的本质在于不同大语言模型对工具调用(Tool Calling)的实现差异。Gemini模型在处理无参数工具调用时采用了特殊的表示方式，而Browser-Use最初可能主要是针对OpenAI的模型进行优化的。

在工具调用协议中，参数通常以键值对形式存在。当没有参数时，不同模型可能有不同的表示方式：

• 有些模型会生成空对象{}
• 有些模型会完全省略参数部分
• Gemini模型则使用了null

Browser-Use的调用解析器可能没有完全覆盖所有可能的表示形式，特别是对null参数的处理不够完善。

最佳实践

为了避免类似问题，开发者在Browser-Use中使用自定义动作时，可以遵循以下最佳实践：

1. 总是为动作函数定义至少一个参数，即使不使用它
2. 在动作函数内部对参数进行合理的默认值处理
3. 测试时同时验证有参和无参的动作调用
4. 关注框架更新，及时获取对多模型支持的改进

总结

Browser-Use与Gemini模型的配合使用中出现无参动作调用失败的问题，通过为动作函数添加参数即可解决。这反映了不同大语言模型在工具调用实现上的细微差异，也提醒我们在开发跨模型应用时要考虑更全面的兼容性处理。随着Browser-Use项目的持续发展，这类多模型支持问题有望在框架层面得到更好的解决。