解决Atomic Agents项目中Instructor不支持多工具调用的错误

在使用Atomic Agents项目结合本地模型时，开发者可能会遇到一个常见的错误提示："Instructor does not support multiple tool calls, use List[Model] instead"。这个问题通常出现在使用本地模型如yi-coder-9b-chat或llama3.2时，特别是在通过LM Studio或Ollama等工具运行时。

问题本质分析

这个错误的根本原因在于Instructor库在处理模型响应时的限制。当模型尝试返回多个工具调用结果时，Instructor默认配置无法正确处理这种情况。错误信息明确提示开发者应该使用List[Model]结构来替代，但实际解决方案可能更为简单。

有效解决方案

经过实践验证，最有效的解决方法是修改Instructor的工作模式。具体来说，可以通过以下两种方式之一：

1. 使用MD_JSON模式：

client = instructor.from_openai(
    OpenAI(
        base_url="http://localhost:11434/v1",
        api_key="ollama",
    ),
    mode=instructor.Mode.MD_JSON
)

2. 使用纯JSON模式：

client = instructor.from_openai(
    OpenAI(
        base_url="http://localhost:11434/v1",
        api_key="ollama",
    ),
    mode=instructor.Mode.JSON
)

额外优化建议

为了确保模型返回有效的JSON响应，可以在输出指令中添加明确要求：

output_instructions=[
    "Your response must be a valid JSON."
]

这个额外指令可以帮助某些本地模型更好地格式化输出，避免返回无效的JSON结构。

技术背景

Instructor库默认使用特定的模式来处理模型响应，而本地模型的行为可能与云端API有所不同。MD_JSON和JSON模式提供了更灵活的方式来解析模型输出，特别是当处理复杂或非标准响应时。

结论

通过调整Instructor的工作模式，开发者可以轻松解决"不支持多工具调用"的错误。这种方法不仅适用于Atomic Agents项目，也可以推广到其他使用Instructor库结合本地模型的场景中。选择MD_JSON或JSON模式取决于具体模型的特性和响应格式要求，开发者可以根据实际情况进行测试选择最适合的模式。