首页
/ dstack项目0.19.15版本发布:服务滚动部署与集群优化

dstack项目0.19.15版本发布:服务滚动部署与集群优化

2025-06-26 20:01:29作者:舒璇辛Bertina

项目简介

dstack是一个开源的机器学习工作流编排平台,它帮助数据科学家和机器学习工程师更高效地管理训练任务、服务和计算资源。该项目提供了强大的功能来简化机器学习工作流程的部署和管理,支持多种云平台和本地环境。

核心更新内容

服务滚动部署机制

本次0.19.15版本最显著的改进是引入了服务滚动部署功能,这是一个面向生产环境的重要特性。在之前的版本中,当用户更新服务配置时,dstack会直接终止现有服务实例并启动新实例,这可能导致短暂的服务中断。

新版本采用了渐进式部署策略,通过以下方式确保服务连续性:

  1. 逐步替换机制:系统会先启动新版本的服务实例,确认其正常运行后,再逐步终止旧版本实例
  2. 部署状态追踪:用户可以通过dstack apply命令的输出查看部署进度,其中会显示新旧副本的部署编号差异
  3. 实时状态监控:命令行界面会清晰展示哪些副本正在终止,哪些已经运行新版本

目前支持滚动更新的配置属性包括计算资源规格、存储卷、容器镜像、用户权限、环境变量和启动命令等关键参数。未来版本计划扩展更多可热更新的配置项。

集群环境优化

针对分布式计算场景,本次更新对默认Docker镜像进行了重要改进:

  1. MPI支持增强:镜像中预装了mpirun工具,简化了基于MPI的分布式应用部署
  2. NCCL测试工具:包含了NCCL性能测试工具,方便用户验证GPU间通信性能
  3. AWS EFA智能适配:当运行在AWS EFA(弹性光纤适配器)支持的实例上时,系统会自动选择带有相应驱动程序的镜像,显著提升节点间通信性能

这些改进特别适合大规模机器学习训练场景,用户无需手动配置复杂的集群环境即可获得优化的网络性能。

服务器监控增强

对于自建dstack服务器的用户,0.19.15版本新增了服务器健康指标监控功能:

  1. Prometheus指标导出:服务器现在会暴露关键运行指标,方便集成到现有监控系统
  2. 运维友好:管理员可以基于这些指标设置告警,及时发现潜在问题
  3. 性能基准:指标数据也可用于性能分析和容量规划

技术实现细节

滚动部署功能的实现依赖于dstack的副本管理机制。当检测到配置变更时,系统会:

  1. 创建新的部署版本号
  2. 按新配置启动副本,同时标记其所属部署版本
  3. 监控新副本的健康状态
  4. 确认新副本运行正常后,逐步终止旧版本副本
  5. 在整个过程中保持服务端点不变,确保客户端无感知

对于集群环境,默认镜像的优化特别考虑了不同云平台的特殊硬件支持。例如在AWS上,系统会检测实例是否配备了EFA网卡,并自动选择包含相应内核模块和用户空间库的镜像版本。

使用建议

对于服务部署场景,建议用户:

  1. 先在小规模测试环境验证配置变更
  2. 通过dstack apply命令观察滚动更新过程
  3. 确保应用能够正确处理新旧版本同时运行的情况

对于集群用户,特别是使用AWS EFA实例的:

  1. 无需特殊配置即可享受优化后的网络性能
  2. 可以使用内置的NCCL测试工具验证GPU间通信带宽
  3. 考虑在MPI应用中适当调整进程绑定策略以获得最佳性能

总结

dstack 0.19.15版本通过引入滚动部署和集群优化,进一步提升了平台的稳定性和性能表现。这些改进使得dstack更加适合生产环境部署,特别是对服务可用性要求高的场景。同时,默认镜像的增强降低了分布式机器学习任务的配置复杂度,让用户能够更专注于模型开发而非基础设施管理。

登录后查看全文
热门项目推荐