dstack项目0.19.11版本发布:全面升级Python包管理与云平台支持
dstack是一个开源的机器学习工作流编排工具,它帮助数据科学家和机器学习工程师在云平台上高效地运行和管理他们的工作负载。最新发布的0.19.11版本带来了多项重要改进,特别是在Python包管理、插件系统和云平台支持方面。
Python包管理革命:从conda到uv
本次版本最显著的改变是默认Docker镜像中移除了conda,转而采用新兴的uv工具。uv是由Astral团队开发的高性能Python包管理器,在安装大型Python包时展现出惊人的速度优势。
测试数据显示,在GCP虚拟机上安装torch包时,uv仅需32秒,而传统pip则需要2分26秒,速度提升近5倍。这种性能提升对于需要频繁安装依赖的机器学习工作流来说意义重大。
为了保持兼容性,dstack现在会自动激活一个包含pip的虚拟环境。对于仍需要conda的用户,可以通过以下命令手动安装:
wget -O miniconda.sh https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash miniconda.sh -b -p /workflow/miniconda
eval "$(/workflow/miniconda/bin/conda shell.bash hook)"
插件系统创新:REST API插件支持
0.19.11版本引入了一个内置的rest_plugin功能,允许开发者通过API服务器的方式实现自定义插件,而不再局限于Python包形式。这种新架构带来三大优势:
- 彻底避免了与dstack核心的依赖冲突问题
- 支持使用任意编程语言开发插件
- 简化了Docker环境下的插件部署,无需扩展镜像或配置卷映射
开发者可以参考项目提供的插件服务器示例快速上手,REST插件API文档详细说明了接口规范。
云平台支持全面升级
AWS平台增强
新增对最新一代Intel Xeon Sapphire Rapids处理器的支持,包括M7i、C7i和R7i系列实例。同时加入了T3系列可突增性能实例的支持,扩展了用户的选择范围。
Azure平台优化
同样基于Intel Xeon Sapphire Rapids处理器,新增了Dsv6(通用型)和Esv6(内存优化型)系列实例。值得注意的是,Dsv3和Esv4系列实例已被标记为弃用状态。
GCP平台扩展
新增支持C4、M4、H3、N4和N2系列实例,大大丰富了计算选项。需要注意的是,部分新实例类型目前暂不支持卷存储功能,这是由于其依赖的Hyperdisk支持尚未完善。
新增示例:分布式训练实践
本次发布新增了一个Ray+RAGEN的分布式训练示例,展示了如何结合dstack和RAGEN框架在多节点环境下进行智能体微调。这个示例为需要进行大规模分布式训练的用户提供了实用参考。
向后兼容性说明
本次更新包含一个重要的破坏性变更:conda不再包含在默认Docker镜像中。用户如果需要使用conda环境,必须按照上述方法手动安装。
此外,Azure平台的Dsv3和Esv4系列实例已被标记为弃用状态,建议用户迁移到新的实例类型。
技术细节优化
除了上述主要特性外,0.19.11版本还包含多项技术改进:
- 优化了metrics命令的用户体验
- 修复了服务统计数据的请求过滤问题
- 改进了代码上传限制的错误提示信息
- 更新了Azure虚拟机镜像中的GRID驱动程序
- 移除了humanize依赖项,简化了项目依赖
这些改进共同提升了dstack的稳定性、性能和用户体验,使其成为机器学习工作流管理的更加强大和高效的工具选择。
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00- DDeepSeek-OCRDeepSeek-OCR是一款以大语言模型为核心的开源工具,从LLM视角出发,探索视觉文本压缩的极限。Python00
MiniCPM-V-4_5MiniCPM-V 4.5 是 MiniCPM-V 系列中最新且功能最强的模型。该模型基于 Qwen3-8B 和 SigLIP2-400M 构建,总参数量为 80 亿。与之前的 MiniCPM-V 和 MiniCPM-o 模型相比,它在性能上有显著提升,并引入了新的实用功能Python00
HunyuanWorld-Mirror混元3D世界重建模型,支持多模态先验注入和多任务统一输出Python00
MiniMax-M2MiniMax-M2是MiniMaxAI开源的高效MoE模型,2300亿总参数中仅激活100亿,却在编码和智能体任务上表现卓越。它支持多文件编辑、终端操作和复杂工具链调用Jinja00
Spark-Scilit-X1-13B科大讯飞Spark Scilit-X1-13B基于最新一代科大讯飞基础模型,并针对源自科学文献的多项核心任务进行了训练。作为一款专为学术研究场景打造的大型语言模型,它在论文辅助阅读、学术翻译、英语润色和评论生成等方面均表现出色,旨在为研究人员、教师和学生提供高效、精准的智能辅助。Python00
GOT-OCR-2.0-hf阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile014
Spark-Chemistry-X1-13B科大讯飞星火化学-X1-13B (iFLYTEK Spark Chemistry-X1-13B) 是一款专为化学领域优化的大语言模型。它由星火-X1 (Spark-X1) 基础模型微调而来,在化学知识问答、分子性质预测、化学名称转换和科学推理方面展现出强大的能力,同时保持了强大的通用语言理解与生成能力。Python00- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00