dstack项目0.19.11版本发布:全面升级Python包管理与云平台支持
dstack是一个开源的机器学习工作流编排工具,它帮助数据科学家和机器学习工程师在云平台上高效地运行和管理他们的工作负载。最新发布的0.19.11版本带来了多项重要改进,特别是在Python包管理、插件系统和云平台支持方面。
Python包管理革命:从conda到uv
本次版本最显著的改变是默认Docker镜像中移除了conda,转而采用新兴的uv工具。uv是由Astral团队开发的高性能Python包管理器,在安装大型Python包时展现出惊人的速度优势。
测试数据显示,在GCP虚拟机上安装torch包时,uv仅需32秒,而传统pip则需要2分26秒,速度提升近5倍。这种性能提升对于需要频繁安装依赖的机器学习工作流来说意义重大。
为了保持兼容性,dstack现在会自动激活一个包含pip的虚拟环境。对于仍需要conda的用户,可以通过以下命令手动安装:
wget -O miniconda.sh https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash miniconda.sh -b -p /workflow/miniconda
eval "$(/workflow/miniconda/bin/conda shell.bash hook)"
插件系统创新:REST API插件支持
0.19.11版本引入了一个内置的rest_plugin功能,允许开发者通过API服务器的方式实现自定义插件,而不再局限于Python包形式。这种新架构带来三大优势:
- 彻底避免了与dstack核心的依赖冲突问题
- 支持使用任意编程语言开发插件
- 简化了Docker环境下的插件部署,无需扩展镜像或配置卷映射
开发者可以参考项目提供的插件服务器示例快速上手,REST插件API文档详细说明了接口规范。
云平台支持全面升级
AWS平台增强
新增对最新一代Intel Xeon Sapphire Rapids处理器的支持,包括M7i、C7i和R7i系列实例。同时加入了T3系列可突增性能实例的支持,扩展了用户的选择范围。
Azure平台优化
同样基于Intel Xeon Sapphire Rapids处理器,新增了Dsv6(通用型)和Esv6(内存优化型)系列实例。值得注意的是,Dsv3和Esv4系列实例已被标记为弃用状态。
GCP平台扩展
新增支持C4、M4、H3、N4和N2系列实例,大大丰富了计算选项。需要注意的是,部分新实例类型目前暂不支持卷存储功能,这是由于其依赖的Hyperdisk支持尚未完善。
新增示例:分布式训练实践
本次发布新增了一个Ray+RAGEN的分布式训练示例,展示了如何结合dstack和RAGEN框架在多节点环境下进行智能体微调。这个示例为需要进行大规模分布式训练的用户提供了实用参考。
向后兼容性说明
本次更新包含一个重要的破坏性变更:conda不再包含在默认Docker镜像中。用户如果需要使用conda环境,必须按照上述方法手动安装。
此外,Azure平台的Dsv3和Esv4系列实例已被标记为弃用状态,建议用户迁移到新的实例类型。
技术细节优化
除了上述主要特性外,0.19.11版本还包含多项技术改进:
- 优化了metrics命令的用户体验
- 修复了服务统计数据的请求过滤问题
- 改进了代码上传限制的错误提示信息
- 更新了Azure虚拟机镜像中的GRID驱动程序
- 移除了humanize依赖项,简化了项目依赖
这些改进共同提升了dstack的稳定性、性能和用户体验,使其成为机器学习工作流管理的更加强大和高效的工具选择。
GLM-5智谱 AI 正式发布 GLM-5,旨在应对复杂系统工程和长时域智能体任务。Jinja00
GLM-5-w4a8GLM-5-w4a8基于混合专家架构,专为复杂系统工程与长周期智能体任务设计。支持单/多节点部署,适配Atlas 800T A3,采用w4a8量化技术,结合vLLM推理优化,高效平衡性能与精度,助力智能应用开发Jinja00
jiuwenclawJiuwenClaw 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。Python0188- QQwen3.5-397B-A17BQwen3.5 实现了重大飞跃,整合了多模态学习、架构效率、强化学习规模以及全球可访问性等方面的突破性进展,旨在为开发者和企业赋予前所未有的能力与效率。Jinja00
AtomGit城市坐标计划AtomGit 城市坐标计划开启!让开源有坐标,让城市有星火。致力于与城市合伙人共同构建并长期运营一个健康、活跃的本地开发者生态。01
awesome-zig一个关于 Zig 优秀库及资源的协作列表。Makefile00