BoundaryML BAML 项目中的输出格式控制技术解析

在大型语言模型(LLM)应用开发中，如何有效地控制模型输出格式是一个关键问题。BoundaryML BAML 项目提供了一种优雅的解决方案，特别是通过 ctx.output_format 指令来实现对输出结构的精确控制。

输出格式控制的基本原理

BAML 的核心功能之一是允许开发者定义严格的输出结构。通过类(class)定义和联合类型(union types)，开发者可以精确指定LLM应该返回的数据格式。例如：

class 天气信息 {
  城市 string?
  邮编 int?
}

class 提醒事项 {
  内容 string
  日期 string? @description("ISO日期格式")  
}

function 处理请求(输入: string) -> 天气信息 | 提醒事项 {
  client GPT模型
  prompt #"
    处理输入: {{ 输入 }}
    {{ ctx.output_format }}
  "#
}

输出格式的两种呈现方式

BAML 默认会将类结构内联显示在提示词中，这对于简单结构很有效。但随着类复杂度增加，这种方式会导致提示词过于冗长。例如默认输出可能如下：

请使用以下任一JSON格式响应:
{
  城市: string
  邮编: int
}
或
{
  内容: string
  日期: string
}

高级格式控制：类提升(hoisting)技术

BAML 0.89.0版本引入了类提升功能，通过 hoist_classes 参数控制类的呈现方式。这个功能可以将类定义"提升"到提示词顶部，使主指令更加简洁清晰。

使用方法

1. 提升所有类:

{{ ctx.output_format(hoist_classes=true) }}

2. 选择性提升特定类:

{{ ctx.output_format(hoist_classes=["天气信息","提醒事项"]) }}

提升后的输出格式示例：

定义:
天气信息 {
  城市: string
  邮编: int
}
提醒事项 {
  内容: string
  日期: string
}

请使用以下任一格式响应:
天气信息
或
提醒事项

技术实现考量

类提升功能在以下场景特别有用：

1. 处理复杂数据结构时保持提示词整洁
2. 当多个类有相似字段结构时，避免混淆
3. 需要强调类型区别而非具体字段时

值得注意的是，某些LLM可能不直接输出类名而只输出字段。为确保正确解析，建议为每个类添加唯一的action字段作为标识符。

最佳实践建议

1. 对于简单结构(少于3个字段)，可以使用默认内联格式
2. 对于复杂结构或联合类型，推荐使用类提升功能
3. 当类之间存在字段名冲突时，必须使用action字段或类提升来明确区分
4. 结合类描述(@@description)使用提升功能可以进一步提高模型理解

通过合理运用BAML的输出格式控制功能，开发者可以创建更加清晰、高效的LLM交互提示，同时确保返回数据的结构符合预期。