CLM的适配边界:候选集一变动态,打分式决策就失灵?实战踩坑记录
CLM的适配边界:候选集一变动态,打分式决策就失灵?实战踩坑记录
CLM(Contrastive Language Models)最近在 GitHub 热榜和各大技术社区刷了一波存在感:斯坦福、NVIDIA 合作出品,宣称抛弃自回归生成、用对比学习重构决策范式,在 Agent 工具调用、高频决策场景里做到与 Jev 同级的准确率、最高 9 倍的延迟优势。社区评测里反复出现同一句话:它"适用于工具调用、GUI 操作等候选集合稳定的任务"。
这句话前半段是卖点,后半段才是它的命门。CLM 的一切性能优势——预缓存嵌入、亚毫秒打分——都建立在一个隐含前提上:候选动作集合在运行时是稳定、可复用的。一旦候选集开始动态增删,"打分式决策"会以怎样具体的方式失灵?本文直接进仓库源码,把这条边界逐行拆开,再用仓库自带 T-Rex 实测数据做验证。
一次打分,两个编码器:CLM 的决策原语
先把 CLM 的决策机制看清楚。它的推理核心在 src/clm/engine.py:
# engine.answer(): state 过 state head,每个候选过 action head,点积即得分
zq = self._cached(f"{ns}/state", dim, states, tokens, head.project_states)
za = self._cached(f"{ns}/action", dim, cands, tokens, head.project_actions)
...
cos = za[k:k + len(texts)] @ zq[i]
answers[qid] = answer_from_logits(questions[qid], keys, (scale * cos / temperature).tolist())
一个 choice 问题("该调哪个工具?")被拆成两半:状态文本拼上问题说明,过一次 state head;每个候选的 description 文本各自过一次 action head。得分是 exp(logit_scale) * cos(state_head(s), action_head(c))(见 src/clm/heads.py),然后对这个问题的候选集合做一次 softmax,得到答案分布。仓库的 playground 把这个过程可视化得相当直观:
这套机制有两个值得注意的设计事实。
第一,打分是"问题内相对"的,不是"绝对"的。概率 = softmax(scale * cos),分母只包含本次请求里携带的候选。CLM 从不对候选做任何改写或生成——Engine.rank 把自由候选包成一个 choice 问题,src/clm/schema.py 里写得很直白:"a candidate reaches the encoder exactly as the caller wrote it"。候选文本怎么来的、写得好不好,CLM 一概不负责。
第二,候选之间彼此孤立。每个候选独立编码成向量,打分就是状态向量和候选向量的逐个点积,复杂度 O(N)。这正是它快的根源——但也意味着模型永远看不到"候选列表的整体形态":候选间是互斥还是递进、有没有层级、是不是同一组动作的变体,它无从判断。它能做的只有一件事:把状态向量放进候选向量堆里,找最对齐的那个。
预缓存失效:候选一变,CLM 退化成什么
CLM 的低延迟神话由三层缓存支撑,全部以"文本不变"为前提:
- src/clm/embedder.py:编码器侧 LRU 缓存,键是文本本身,容量 20 万条;
- src/clm/cache.py:
VectorArena在显存里预划一块固定大小的向量池(默认设备显存的 2%),命中的候选跳过编码器调用、跳过 host-to-device 拷贝、跳过 projection head 前向; - 热重载机制:
HeadPair.namespace = f"{name}@{generation}",权重一变 generation 递增,旧投影立即作废。
缓存命中时,一个决策的服务端耗时只有 2.6ms(T-Rex 实测 model_ms_p50)。README 的缓存对照表把这条边界画得很清楚:
| 3 个动作 | 50 个动作 | |
|---|---|---|
| 每次都是新状态 | 28.6 → 28.0 ms | 28.8 → 28.1 ms |
| 回访已有状态(20 个场景) | 1.7 → 0.6 ms | 2.0 → 0.7 ms |
注意第一行:状态一变,缓存的省力就全部归零——因为状态几乎总是新的,能复用的是候选。所以动态候选集对 CLM 是双重打击:
新增候选 = 一次必付的编码成本。 新候选的文本从没进过缓存,必然 miss,要走完整编码器前向。延迟从个位数毫秒弹回 ~28ms 量级,usage.input_tokens 也会把新候选的 token 如实计入。候选集更新频率越高,CLM 的"快"就越接近普通 embedder 的水平。
候选增删 = softmax 分布被外力重排。 这才是更深的问题。由于概率是相对归一化的,加入一个语义接近的难候选(这正是 CLM 中训练 30M 合成难负样本要防的东西)会直接分流现有概率、可能翻转 top-1;删掉最高分候选后,其余概率会被重新归一化放大,但"第二名本来就差多少"这个信息已经丢了——CLM 只会排序,不度量差距。confidence = top - mean(rest)(src/clm/schema.py)也随之剧烈抖动:候选集大而杂时,top 概率天然被稀释,置信度虚低;候选集被裁到只剩两个时,任何分数差都被放大成接近 1 的"自信"。
更隐蔽的一层:动作候选是逐条独立嵌入的,新候选永远不会被"纳入上下文"做整体推理。生成式模型能把完整候选清单塞进上下文,看到"这 5 个函数里 A 和 B 是同一 API 的别名"这类关系;CLM 的候选之间没有交互通道。候选集从固定变为开放后,它在训练分布外的新候选上没有任何质量保证——中训练阶段的难负样本(Gemini 2.5 Flash-Lite 合成)强化的是"区分相似候选",前提是候选形态在分布内。
实测记录:固定候选集上,CLM 的真实成色
仓库自带一个能直接对照的实验:T-Rex 小恐龙游戏,CLM 对 Jev。两者用同一个客户端、同一份 Choice 请求(examples/t_rex/trex/backends.py),候选永远是 jump / duck / run 三个动作——这是 CLM 最理想的"固定候选"工况。实测结果见 examples/t_rex/results/clm_realtime.json 与同目录的 jev_realtime.json:
| 指标 | CLM | Jev |
|---|---|---|
| 存活(5 seed × 60s) | 5/5 | 5/5 |
| 平均决策次数 / seed | 3341.8 | 1119.0 |
| 与 planner 最优动作一致率 | 0.658 | 0.987 |
| 端到端延迟 p50 | 16.5 ms | 149.8 ms |
| 纯模型打分 p50 | 2.6 ms | 131.9 ms |
| shield 兜底干预(全 5 seed) | 4883 次 | 28 次 |
这份数据把 CLM 的成色和短板同时摆在桌上。速度是真的:2.6ms 一次打分让它能在 60 秒里做 3341 次决策,是 Jev 的 3 倍决策密度;游戏场景里"想得慢"就是原罪,这正是 System One 模型的价值。但打分质量有水分:与 planner 的一致率只有 0.658,远低于 Jev 的 0.987,导致 4883 次决策要靠 harness 的 shield(planner 标为 unsafe 的动作被替换)兜底——而 Jev 只需要 28 次。换句话说,哪怕在候选完全固定的理想工况,CLM 也只是"快而不准到能自保",必须依赖外部物理规划器背书。
再放大到 verifier 场景看:给 38 个 DeepSWE、30 个 Terminal-Bench 2.1 任务各预采样若干候选解(Opus 5 / Fable 5),CLM 挑最优,轻量微调后达到 81.6% 和 87.6%、快 4.1–5.7 倍(见 README.md 与 evaluation/bon_eval.py)。注意这个流程的结构:候选解在打分前已经全部生成好、固定住,CLM 只做一次排序选择,窗口聚合逻辑也完全确定(末 K 步均值)。这是 CLM 的甜区——也反过来证明,它的全部算法假设就是"候选先到齐,我只排序"。
边界结论:CLM 适合什么,绝不适合什么
把源码事实和实测数据收拢,CLM 的适配边界可以画得非常明确。
它适合的,是候选集先于决策而闭合的场景:
- best-of-N 验票员。候选解预采样、固定、离线或批量嵌入,CLM 只做最高分的排序——DeepSWE / Terminal-Bench 的成绩就是这么来的,这也是 README 明确定位的"verifier"角色;
- 工具路由。候选 = 已注册工具集,改动频率低(新增工具是一次性成本),状态天天变、工具半年不变,正是缓存表里第二行"回访状态"的最优工况;
- 固定动作空间的实时控制。T-Rex、Super Mario 这类动作全集封闭的任务,动作向量一次嵌入终身复用,2.6ms 的决策周期才让它有资格做实时控制。
它绝不适合的,是候选集随推理逐轮演化的开放式任务:
- 开放式编程 Agent。每一步可能产生全新的函数名、新的代码片段、新的候选方案——候选本质上是上一个生成步的输出,是"开放流"而非"闭合集"。此时预缓存每次都在失效、编码成本全额回归,而且新候选完全在训练分布外;
- 需要对候选做改写/合并/推理的任务。CLM 对候选文本一字不动地编码,候选写得好坏它不管、候选间的互斥与层级关系它看不见;指望它像生成式模型那样"看着整个选项列表想问题",是架构上就不支持的需求;
- 候选数量不可控的场景。
examples/common.py里对 Jev 255 个选项上限做的 chunk tournament 本身就是一种妥协 hack,说明候选规模一大,任何打分式方案的工程形态都会变得拧巴。
社区对 CLM 的总结其实早就点破了这一点:它适配"工具调用、GUI 操作等候选集合稳定的任务"。这不是谦虚,是架构的诚实——CLM 把"决策"重定义成了"在闭合候选集上找最近邻",用生成能力的让渡换来了两个数量级的延迟优势。落地时最该做的判断不是"CLM 好不好",而是"我的候选集在决策时是不是闭合的"。如果答案是"否",要么在系统设计上把候选先固化下来(预采样、快照、延迟刷新),把 CLM 留在它擅长的排序位上;要么就老实承认,这一步决策需要的是会生成的模型,而不是会打分的模型。
CLM 不是万能的决策引擎,它是把"系统一"这个定位贯彻得最彻底的一次工程实践——而它的边界,恰好就是那条"候选集开始流动"的线。

