amos-1-large六种题型全攻略:noul、choice、score、multi、span、region入门实战
amos-1-large六种题型全攻略:noul、choice、score、multi、span、region入门实战
amos-1-large 是 Amos 1 家族中最强的 27B 多模态决策模型(decision model)。给它一个案例(文本、JSON 或照片)和一组带类型的题目,它只需一次前向传播,就能为每道题的每个选项给出概率——不生成任何文本,没有需要解析的输出。本文带你从零上手它的六种题型:noul、choice、score、multi、span、region,并附上完整的请求格式、响应字段与实战技巧。
🧭 一图读懂:为什么"题型化"决策更好用
传统大模型输出自由文本,你要自己写解析逻辑、兜底非法格式。amos-1-large 的思路不同:题目在请求里用 schema 声明,答案只能是选项、案例原文片段、图片上的坐标框三类之一(见 serve/amos/model.py 的头部说明)。六大题型一览:
| 题型 | 作用 | criteria 写法 | 响应核心字段 |
|---|---|---|---|
noul |
是 / 否判断 | 可选 {"true": …, "false": …} |
noul:P(yes) |
choice |
单选(2–255 项) | 选项名 → 说明 的字典 | choice + probabilities + confidence |
score |
有序评分(2–255 级) | 从低到高的等级列表 | score(期望等级)+ legend |
multi |
多选,任意组合 | 选项名 → 说明 的字典 | 每个选项的独立 probabilities |
span |
从案例中引用原文 | 无 | span + start/end + confidence |
region |
在照片上定位对象 | 无(但必须有图片) | box + cell + confidence |
完整请求/响应字段定义在 serve/amos/serve.py 的模块 docstring 中,六种类型的常量定义见 serve/amos/packing.py。
✅ noul:是非判断题
最简单的题型——对每个选项只有"是"或"否",响应是一个 P(yes) 概率:
"refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"}
响应:{"type": "noul", "noul": 0.93},0.93 即"是"的概率,业务上按 0.5(或你的阈值)二值化即可。可选地用 criteria 为两端补充说明,模型会把它们一起读进上下文:
"criteria": {"true": "customer explicitly asks for a refund", "false": "no refund requested"}
💡 在官方 typed-decisions 测试中,noul 是准确率最高的题型(82.0%),成绩明细见 typed_decisions.json。
🎯 choice:单选题
2 到 255 个选项任选其一,criteria 是一个字典,键是选项名、值是可空说明:
"team": {"type": "choice",
"instructions": "Which team should handle this?",
"criteria": {"billing": null, "technical": null, "sales": null}}
响应包含:选中的选项名 choice、每个选项的概率 probabilities,以及归一化的 confidence(最高概率相对均匀分布的优势程度)。选项顺序不影响结果——编码器为每题重新计算位置,答案与选项排列无关(serve/amos/packing.py)。
📊 score:有序评分题
与 choice 的区别在于选项是有序的等级,criteria 必须是一个从低到高的列表(顺序即语义,不能乱序):
"urgency": {"type": "score",
"instructions": "How urgent is this?",
"criteria": ["Can wait", "This week", "Today"]}
响应中的 score 是期望等级(带小数的 float,如 1.6 表示介于 "This week" 与 "Today" 之间),同时给出 legend(等级下标→文案)和每个等级的概率。适合满意度、紧急度、严重等级等"程度"类判断。
☑️ multi:多选题(可选项任意组合)
与 choice 的"必选其一"不同,multi 对每个选项独立输出一个概率(sigmoid),互不影响:
"issues": {"type": "multi",
"instructions": "Which issues apply to this order?",
"criteria": {"late": null, "damaged": null, "missing": null}}
响应只有每个选项的 probabilities,没有"选中"字段——阈值由你定(通常 0.5)。一个请求里可同时出现 late: 0.98、missing: 0.03,即"迟到成立、缺件不成立"。
📎 span:引用原文题
让模型从案例中原样引用一段文字,而不是自己复述。span 不需要任何 criteria:
"total": {"type": "span", "instructions": "Quote the invoice total."}
响应给出 span(引用文本)、start/end(字符偏移)和 confidence。关键设计:答案永远是案例原文的精确子串,由模型切出来,而不是生成出来的(解码逻辑见 serve/amos/model.py),所以引用 100% 可溯源。两个注意点:
- 单次引用上限 30 个 token,长度惩罚 0.4,配置见 calibration.json;
- 整句条款、长地址这类超长引用可能被截短(README.md 明确列出该限制),尽量让问题指向短片段。
📍 region:图片定位题
带照片的"指物"题型:照片被切成 7×7 共 49 个格子,模型对每个格子打分,再把峰值格子扩展成归一化坐标框(见 serve/ams/ 的 cell_boxes):
"damaged_box": {"type": "region", "instructions": "Point to the damaged box."}
使用 region 有两个硬性条件:请求必须带 images(base64 数据 URL),且只认第一张状态图片,缺少图片会直接返回 422。响应包含:
box:归一化坐标[x0, y0, x1, y1](0–1,可直接画框);cell:0–48 的格子编号(行优先);confidence:框内概率质量。
🚀 一次请求回答全部六种题
所有题型可以放进同一个请求——案例只编码一次,所有题目共享同一次前向传播。完整示例(命令取自 README.md):
curl http://127.0.0.1:8000/v1/systemone -H 'Content-Type: application/json' -d '{
"state": "Invoice INV-2231 for £306.00 was charged to my card twice. Please refund one.",
"images": ["data:image/png;base64,..."],
"questions": {
"refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"},
"team": {"type": "choice", "instructions": "Which team should handle this?",
"criteria": {"billing": null, "technical": null, "sales": null}},
"urgency": {"type": "score", "instructions": "How urgent is this?",
"criteria": ["Can wait", "This week", "Today"]},
"issues": {"type": "multi", "instructions": "Which issues apply?",
"criteria": {"double_charge": null, "damage": null}},
"amount": {"type": "span", "instructions": "Quote the invoice amount."},
"object": {"type": "region", "instructions": "Point to the charged card."}
}
}'
响应结构为 {"model", "answers": {<题目id>: {...}}, "usage": {...}},每个题目返回各自题型的字段(组装逻辑见 serve/amos/serve.py)。usage 还会告诉你输入 token 数与各题目分支的 token 数,方便做成本核算。
🛠 本地部署:三步跑起 amos-1-large
环境要求:Python 3.12、NVIDIA GPU(约 80 GB 显存),单请求最多 131,072 token:
# 1. 下载模型
hf download mukaddamzaid/amos-1-large --local-dir amos-1-large
# 2. 安装服务包(依赖版本已锁定,保证与官方数字逐字节一致)
pip install ./amos-1-large/serve
# 3. 启动服务
python -m amos.serve amos-1-large --device cuda --port 8000 --max-len 131072
仓库文件分工(见 README.md):
- model/:权重、tokenizer、图像处理配置,以及
span/region所需的heads.pt; - calibration.json:服务端读取的 span 解码参数;
- serve/:服务包
amos.serve,其中 serve/amos/serve.py 是 HTTP 入口,--strict模式会原样保留题目文本并拒绝超长请求而不是截断; - 依赖锁定在 serve/pyproject.toml(torch 2.14.0、transformers 5.17.0 等)。
启动后可访问 GET /v1/info 查看模型支持的题型与参数。
💡 实战技巧与避坑清单
- 能合并就合并:同一案例的多个判断放一个请求,状态编码只发生一次,多题几乎"白送"(服务端还有 state cache 进一步省时间)。
score的顺序就是语义:把最低等级写在列表最前面,写反了整个评分方向就反了。choice/multi至少 2 个选项:1 个选项会被 422 拒绝,校验逻辑在 serve/amos/serve.py。- 概率可用,不止取最大值:
noul的 P(yes)、choice的confidence都适合做置信度路由——低置信时转人工。 span别指望长引用:上限 30 token,整段政策条款建议拆成多个更细的问题。region只读第一张图:多张图时把要定位的对象放在images第一位。- 目前仅支持英文输入:政策、工单等非英文内容需先翻译。
- 它是家族里最慢的成员:简单分流场景可以考虑 amos-1 家族更小的型号,large 留给多步推理、长政策这类硬判断。
📚 小结
amos-1-large 把"决策"变成了一道道有明确题型的填空题:noul 判断是非、choice 单选、score 评等级、multi 多选、span 引原文、region 指图片——每个答案都带概率,每个引用都可溯源。掌握六种题型后,你不需要再写任何输出解析代码,一次请求即可把工单分派、紧急度评分、金额引用、瑕疵定位全部跑完。官方成绩方面,它在 Decision Bench 全量 1,071 条真实记录上取得 94.9%(README.md),是目前开源决策模型的第一梯队选手。