首页
/ SmolAgents v1.15.0 发布:全面支持流式输出与搜索工具升级

SmolAgents v1.15.0 发布:全面支持流式输出与搜索工具升级

2025-06-02 10:51:47作者:仰钰奇

项目概述

SmolAgents 是一个专注于构建和运行智能代理的开源框架,它提供了丰富的工具集和模型接口,使开发者能够快速构建复杂的AI应用。该项目由HuggingFace团队维护,持续在模型集成、工具链完善和用户体验方面进行创新。

流式输出支持

本次更新的核心亮点是全面引入了流式输出功能。在传统AI应用中,用户需要等待整个响应生成完成后才能看到结果,而流式输出则实现了实时逐字显示,大幅提升了交互体验。

技术实现上,开发团队重构了生成接口,新增了ChatMessageStreamDelta数据类型专门处理流式输出。同时优化了Gradio聊天界面的集成,确保流式内容能够平滑展示。这一改进不仅适用于本地模型,也能很好地兼容各类云服务API。

对于开发者而言,现在可以通过简单的API调用就能实现:

# 示例代码:使用流式生成
for chunk in agent.generate_stream(prompt):
    print(chunk.content, end="", flush=True)

新增模型与工具

在模型支持方面,v1.15.0引入了LiteLLM Router模型,这是一个智能路由系统,可以自动将请求分发到最优的底层模型,帮助开发者平衡成本与性能。

工具链方面最大的改进是用全新的WebSearchTool替代了原有的DuckDuckGoSearchTool。新工具提供了:

  • 更稳定的搜索API接口
  • 更丰富的搜索结果处理能力
  • 更好的错误恢复机制
  • 对远程执行器的原生支持

同时修复了WikipediaSearchTool在远程环境下的运行问题,使知识检索类工具更加可靠。

执行环境优化

本次更新对执行环境进行了多项重要改进:

  1. 依赖管理:精简了核心依赖,将markdownify、duckduckgo-search等移出必须安装项,改为可选依赖
  2. 远程执行:优化了远程Python执行器的工具安装逻辑,现在能更智能地处理依赖安装
  3. Docker支持:显著减小了Docker镜像体积,移除了非必要组件

这些改进使得SmolAgents在各种部署环境下都能更加轻量高效地运行。

开发者体验提升

文档方面新增了完整的安装指南和Gemini模型使用教程,降低了新用户的上手难度。同时修复了多处文档中的笔误和过时内容。

类型系统也得到增强,现在工具可以支持Union类型的返回值,为开发者提供了更灵活的设计空间。

技术细节优化

底层方面,团队进行了多项技术债务清理:

  • 移除了与旧版流式输出相关的遗留代码
  • 更新了类型注解以符合最新Python标准
  • 将BM25检索的语义匹配改为词法匹配,提高搜索准确性
  • 修复了GAIA数据集加载问题

这些改进虽然不易察觉,但显著提升了框架的稳定性和可维护性。

总结

SmolAgents v1.15.0通过流式输出支持、工具链增强和执行环境优化,为开发者构建AI代理提供了更强大的基础设施。特别是流式输出的引入,使得构建实时交互式应用变得前所未有的简单。框架正在朝着更模块化、更轻量化的方向发展,同时保持对各类模型和工具的广泛兼容性。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
docsdocs
暂无描述
Markdown
827
5.48 K
kernelkernel
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
494
515
ops-nnops-nn
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
783
1.57 K
pytorchpytorch
作为 Ascend for PyTorch 社区的核心组件,TorchNPU 是昇腾专为 PyTorch 打造的深度学习适配插件,使 PyTorch 框架能够直接调用昇腾 NPU,为开发者提供昇腾 AI 处理器的超强算力。
Python
800
1.14 K
ops-transformerops-transformer
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
970
2.28 K
kernelkernel
deepin linux kernel
C
32
16
AscendNPU-IRAscendNPU-IR
AscendNPU-IR是基于MLIR(Multi-Level Intermediate Representation)构建的,面向昇腾亲和算子编译时使用的中间表示,提供昇腾完备表达能力,通过编译优化提升昇腾AI处理器计算效率,支持通过生态框架使能昇腾AI处理器与深度调优
C++
480
312
jiuwenswarmjiuwenswarm
JiuwenSwarm 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。
Python
3.01 K
766
cannbot-skillscannbot-skills
CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。
Markdown
1.26 K
808
cann-learning-hubcann-learning-hub
CANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。
Jupyter Notebook
647
284