Agents-A1-4B-Q8_0-GGUF 评测成绩全解读:BrowseComp 66.8 与 GAIA 95.1 背后的真实实力
Agents-A1-4B-Q8_0-GGUF 评测成绩全解读:BrowseComp 66.8 与 GAIA 95.1 背后的真实实力
Agents-A1-4B-Q8_0-GGUF 是 InternScience 开源智能体模型 Agents-A1-4B 的 GGUF 量化版本(Q8_0),主打本地部署下的长程搜索、工具调用与科研推理能力。它的核心成绩是 BrowseComp 66.8 和 GAIA 95.1,在一个仅 4B 参数的模型上,这组数字相当炸裂。本文带你逐项拆解这些分数,看看这台"小钢炮"的真实成色。
仓库里有什么:先认识这两个模型文件
本仓库是标准的 GGUF 格式模型权重,适合用 llama.cpp、Ollama、LM Studio 等本地推理工具直接加载。核心文件只有两个:
| 文件 | 大小 | 作用 |
|---|---|---|
| Agents-A1-4B-Q8_0.gguf | 约 4.2 GB | 主模型权重(Q8_0 量化) |
| Agents-A1-4B-mmproj.gguf | 约 641 MB | 多模态视觉投影矩阵(mmproj) |
几个关键点,新手可以直接抄作业:
- Q8_0 量化:接近无损的 8 位量化方案,精度损失极小,是"性能党"首选的量化档位。4B 模型量化后仅 4.2 GB,消费级显卡(8GB 显存起步)就能流畅运行。
- 带视觉能力:mmproj 文件的存在说明它不是纯文本模型,而是一个 VLM(视觉语言模型),可以读图、看图推理。
- 262K 长上下文:官方配置支持 262144 token 上下文,这正是"长程智能体"任务的硬件基础。
评测总览:这张表该怎么看
官方评测数据完整收录在 README.md 的 Performance 表格中。评测协议统一、可复现,框架基于开源的 Agents-A1 evaluation 代码库,因此横向对比是公平的。
先说结论:Agents-A1-4B 在同参数规模的模型中全面领先,多项成绩逼近甚至超过 Qwen3.6、Nex-N2-mini 这类更大的 MoE 模型。
| 基准测试 | Qwen3.5-4B | Agents-A1-4B | Qwen3.6 | Nex-N2-mini |
|---|---|---|---|---|
| BrowseComp | 47.2 | 66.8 | 67.9 | 74.1 |
| XBench-DS-2510 | 73.0 | 90.0 | 71.0 | 82.0 |
| Seal0 | 31.5 | 45.8 | 38.7 | 49.6 |
| GAIA | 58.3 | 95.1 | 78.6 | 82.5 |
| IFEval | 89.8 | 94.8 | 91.3 | 88.4 |
| MatTools | 10.9 | 49.3 | 15.9 | 34.1 |
(注:Qwen3.6 与 Nex-N2-mini 为 35B-A3B 级别 MoE 模型,加粗表示 4B 组内最佳。)
BrowseComp 66.8:长程搜索到底强在哪
BrowseComp 考验的是模型在真实网络环境中长时间多步搜索的能力:从海量信息中定位答案、反复验证、不迷路。这类任务对上下文管理、检索策略和推理连续性要求极高。
- 同尺寸模型 Qwen3.5-4B 只拿到 47.2,Agents-A1-4B 直接拉开 19.6 分的差距,达到 66.8。
- 作为参照,参数量大 8 倍以上的 Qwen3.6 为 67.9,Agents-A1-4B 仅落后 1.1 分。
这说明它的优势不是"背题",而是训练范式上的差异:官方采用长程轨迹扩展 + 三阶段训练(全领域 SFT → 领域级教师模型 → 多教师多领域在线蒸馏),把"动作-观察-验证"的完整智能体过程变成可训练目标(详见 README.md)。
GAIA 95.1:通用智能体能力的天花板级表现
GAIA 是衡量通用 AI 智能体的经典基准,题目要求模型像人一样综合运用工具、搜索和推理完成日常复杂任务。
- Agents-A1-4B 拿到 95.1,而 Qwen3.5-4B 为 58.3,Qwen3.6 为 78.6,Nex-N2-mini 为 82.5。
- 旗舰版 35B 的 Agents-A1 为 96.0——4B 版本仅落后旗舰 0.9 分,参数却只有约 1/9。
95.1 这个分数意味着:绝大多数 GAIA 场景(查资料、跨文档核对、工具协作)它都能独立完成。对于想在本地搭"私人研究助理"的用户,这是最有说服力的一个数。
科研与工程任务:小模型的"越级"时刻
工程与研究类是本次成绩中反差最大的一组:
| 基准测试 | Qwen3.5-4B | Agents-A1-4B | Qwen3.6 |
|---|---|---|---|
| FrontierScience-Research | 1.7 | 33.3 | 2.9 |
| MLE-Lite | 7.6 | 22.7 | 34.9 |
| SciCode | 16.1 | 29.6 | 35.8 |
FrontierScience-Research(前沿科研问题)上,Agents-A1-4B 拿到 33.3,是 Qwen3.5-4B(1.7)的近 20 倍、Qwen3.6(2.9)的 10 倍以上。这类任务需要调用外部工具整合科学数据,恰好命中了它"工具调用 + 科学推理"的原生设计。当然也要客观:与旗舰 35B 的 40.0 仍有差距,极限科研场景下大模型仍有优势。
指令遵循与工具调用:被低估的"基本功"
- IFEval 94.8:4B 组并列第一,说明它对多约束复杂指令的执行很稳,适合做需要严格格式输出的自动化流程。
- MatTools 49.3:数学工具调用场景比次优的 Nex-N2-mini(34.1)高出 15 分,函数调用能力是"原生支持"而非硬调。
- VitaBench 40.3:生活化智能体任务组内第一。
这些"基本功"分数正是日常使用的体验来源——搜得准、听得懂、工具用得对。
本地部署速览:Q8_0 量化怎么用
GGUF 版本的部署门槛极低,这里给出三条实用建议:
- 加载方式:将 Agents-A1-4B-Q8_0.gguf 放入 llama.cpp / Ollama / LM Studio 即可;需要看图时再加载 Agents-A1-4B-mmproj.gguf。
- 推荐采样参数(来自 README.md):
temperature: 0.85、top_p: 0.95、top_k: 20、presence_penalty: 1.1,多轮行为更稳定。 - 系统提示词:官方给了一套完整的深度研究助手 system prompt(含 tavily_search 工具策略),建议直接使用,见 README.md。
💡 显存参考:4.2 GB 权重 + 262K 上下文的 KV cache,实际运行建议预留 8~12 GB 显存;纯文本场景可跳过视觉编码器进一步省内存。
写在最后:这份成绩单值不值得入手
给想本地部署智能体模型的用户一个简单清单:
- ✅ 长程搜索 + 工具调用是核心卖点:BrowseComp 66.8 / GAIA 95.1 的组合在小模型里几乎没有对手;
- ✅ Q8_0 量化性价比高:4.2 GB 即可运行,精度损失可忽略;
- ✅ 视觉 + 超长上下文:读图、处理 26 万字级别长文档都没问题;
- ⚠️ 极限科研/代码任务仍不如旗舰 35B,属于"够用且接近"而非"完全平替"。
一句话总结:Agents-A1-4B-Q8_0-GGUF 是目前 4B 级别"本地可跑、能干活、成绩能打"的智能体模型第一梯队选择,如果你想在自己的电脑上搭一个真正会搜索、会调工具的 AI 助理,它值得第一时间试试。
