amos-1-large六种题型全攻略:noul、choice、score、multi、span、region入门实战

原创2026-11-14 18:14:371,435 阅读

amos-1-large六种题型全攻略:noul、choice、score、multi、span、region入门实战

amos-1-large 是 Amos 1 家族中最强的 27B 多模态决策模型(decision model)。给它一个案例(文本、JSON 或照片)和一组带类型的题目,它只需一次前向传播,就能为每道题的每个选项给出概率——不生成任何文本,没有需要解析的输出。本文带你从零上手它的六种题型:noul、choice、score、multi、span、region,并附上完整的请求格式、响应字段与实战技巧。

🧭 一图读懂:为什么"题型化"决策更好用

传统大模型输出自由文本,你要自己写解析逻辑、兜底非法格式。amos-1-large 的思路不同:题目在请求里用 schema 声明,答案只能是选项、案例原文片段、图片上的坐标框三类之一(见 serve/amos/model.py 的头部说明)。六大题型一览:

题型 作用 criteria 写法 响应核心字段
noul 是 / 否判断 可选 {"true": …, "false": …} noul:P(yes)
choice 单选(2–255 项) 选项名 → 说明 的字典 choice + probabilities + confidence
score 有序评分(2–255 级) 从低到高的等级列表 score(期望等级)+ legend
multi 多选,任意组合 选项名 → 说明 的字典 每个选项的独立 probabilities
span 从案例中引用原文 无 span + start/end + confidence
region 在照片上定位对象 无(但必须有图片) box + cell + confidence

完整请求/响应字段定义在 serve/amos/serve.py 的模块 docstring 中,六种类型的常量定义见 serve/amos/packing.py。

✅ noul:是非判断题

最简单的题型——对每个选项只有"是"或"否",响应是一个 P(yes) 概率:

"refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"}

响应:{"type": "noul", "noul": 0.93},0.93 即"是"的概率,业务上按 0.5(或你的阈值)二值化即可。可选地用 criteria 为两端补充说明,模型会把它们一起读进上下文:

"criteria": {"true": "customer explicitly asks for a refund", "false": "no refund requested"}

💡 在官方 typed-decisions 测试中,noul 是准确率最高的题型(82.0%),成绩明细见 typed_decisions.json。

🎯 choice:单选题

2 到 255 个选项任选其一,criteria 是一个字典,键是选项名、值是可空说明:

"team": {"type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {"billing": null, "technical": null, "sales": null}}

响应包含:选中的选项名 choice、每个选项的概率 probabilities,以及归一化的 confidence(最高概率相对均匀分布的优势程度)。选项顺序不影响结果——编码器为每题重新计算位置,答案与选项排列无关(serve/amos/packing.py)。

📊 score:有序评分题

与 choice 的区别在于选项是有序的等级,criteria 必须是一个从低到高的列表(顺序即语义,不能乱序):

"urgency": {"type": "score",
           "instructions": "How urgent is this?",
           "criteria": ["Can wait", "This week", "Today"]}

响应中的 score 是期望等级(带小数的 float,如 1.6 表示介于 "This week" 与 "Today" 之间),同时给出 legend(等级下标→文案)和每个等级的概率。适合满意度、紧急度、严重等级等"程度"类判断。

☑️ multi:多选题(可选项任意组合)

与 choice 的"必选其一"不同,multi 对每个选项独立输出一个概率(sigmoid),互不影响:

"issues": {"type": "multi",
          "instructions": "Which issues apply to this order?",
          "criteria": {"late": null, "damaged": null, "missing": null}}

响应只有每个选项的 probabilities,没有"选中"字段——阈值由你定(通常 0.5)。一个请求里可同时出现 late: 0.98、missing: 0.03,即"迟到成立、缺件不成立"。

📎 span:引用原文题

让模型从案例中原样引用一段文字,而不是自己复述。span 不需要任何 criteria:

"total": {"type": "span", "instructions": "Quote the invoice total."}

响应给出 span(引用文本)、start/end(字符偏移)和 confidence。关键设计:答案永远是案例原文的精确子串,由模型切出来,而不是生成出来的(解码逻辑见 serve/amos/model.py),所以引用 100% 可溯源。两个注意点:

  • 单次引用上限 30 个 token,长度惩罚 0.4,配置见 calibration.json;
  • 整句条款、长地址这类超长引用可能被截短(README.md 明确列出该限制),尽量让问题指向短片段。

📍 region:图片定位题

带照片的"指物"题型:照片被切成 7×7 共 49 个格子,模型对每个格子打分,再把峰值格子扩展成归一化坐标框(见 serve/ams/ 的 cell_boxes):

"damaged_box": {"type": "region", "instructions": "Point to the damaged box."}

使用 region 有两个硬性条件:请求必须带 images(base64 数据 URL),且只认第一张状态图片,缺少图片会直接返回 422。响应包含:

  • box:归一化坐标 [x0, y0, x1, y1](0–1,可直接画框);
  • cell:0–48 的格子编号(行优先);
  • confidence:框内概率质量。

🚀 一次请求回答全部六种题

所有题型可以放进同一个请求——案例只编码一次,所有题目共享同一次前向传播。完整示例(命令取自 README.md):

curl http://127.0.0.1:8000/v1/systemone -H 'Content-Type: application/json' -d '{
  "state": "Invoice INV-2231 for £306.00 was charged to my card twice. Please refund one.",
  "images": ["data:image/png;base64,..."],
  "questions": {
    "refund":  {"type": "noul",   "instructions": "Is the customer asking for a refund?"},
    "team":    {"type": "choice", "instructions": "Which team should handle this?",
                "criteria": {"billing": null, "technical": null, "sales": null}},
    "urgency": {"type": "score",  "instructions": "How urgent is this?",
                "criteria": ["Can wait", "This week", "Today"]},
    "issues":  {"type": "multi", "instructions": "Which issues apply?",
                "criteria": {"double_charge": null, "damage": null}},
    "amount":  {"type": "span",   "instructions": "Quote the invoice amount."},
    "object":  {"type": "region", "instructions": "Point to the charged card."}
  }
}'

响应结构为 {"model", "answers": {<题目id>: {...}}, "usage": {...}},每个题目返回各自题型的字段(组装逻辑见 serve/amos/serve.py)。usage 还会告诉你输入 token 数与各题目分支的 token 数,方便做成本核算。

🛠 本地部署:三步跑起 amos-1-large

环境要求:Python 3.12、NVIDIA GPU(约 80 GB 显存),单请求最多 131,072 token:

# 1. 下载模型
hf download mukaddamzaid/amos-1-large --local-dir amos-1-large

# 2. 安装服务包(依赖版本已锁定,保证与官方数字逐字节一致)
pip install ./amos-1-large/serve

# 3. 启动服务
python -m amos.serve amos-1-large --device cuda --port 8000 --max-len 131072

仓库文件分工(见 README.md):

  • model/:权重、tokenizer、图像处理配置,以及 span/region 所需的 heads.pt;
  • calibration.json:服务端读取的 span 解码参数;
  • serve/:服务包 amos.serve,其中 serve/amos/serve.py 是 HTTP 入口,--strict 模式会原样保留题目文本并拒绝超长请求而不是截断;
  • 依赖锁定在 serve/pyproject.toml(torch 2.14.0、transformers 5.17.0 等)。

启动后可访问 GET /v1/info 查看模型支持的题型与参数。

💡 实战技巧与避坑清单

  1. 能合并就合并:同一案例的多个判断放一个请求,状态编码只发生一次,多题几乎"白送"(服务端还有 state cache 进一步省时间)。
  2. score 的顺序就是语义:把最低等级写在列表最前面,写反了整个评分方向就反了。
  3. choice/multi 至少 2 个选项:1 个选项会被 422 拒绝,校验逻辑在 serve/amos/serve.py。
  4. 概率可用,不止取最大值:noul 的 P(yes)、choice 的 confidence 都适合做置信度路由——低置信时转人工。
  5. span 别指望长引用:上限 30 token,整段政策条款建议拆成多个更细的问题。
  6. region 只读第一张图:多张图时把要定位的对象放在 images 第一位。
  7. 目前仅支持英文输入:政策、工单等非英文内容需先翻译。
  8. 它是家族里最慢的成员:简单分流场景可以考虑 amos-1 家族更小的型号,large 留给多步推理、长政策这类硬判断。

📚 小结

amos-1-large 把"决策"变成了一道道有明确题型的填空题:noul 判断是非、choice 单选、score 评等级、multi 多选、span 引原文、region 指图片——每个答案都带概率,每个引用都可溯源。掌握六种题型后,你不需要再写任何输出解析代码,一次请求即可把工单分派、紧急度评分、金额引用、瑕疵定位全部跑完。官方成绩方面,它在 Decision Bench 全量 1,071 条真实记录上取得 94.9%(README.md),是目前开源决策模型的第一梯队选手。

登录后查看全文
amos-1-large