Swift项目v3.1.1版本发布：大模型训练与评估能力全面升级

Swift是一个专注于大模型训练和推理优化的开源项目，旨在为研究人员和开发者提供高效、灵活的工具链。该项目近期发布了v3.1.1版本，带来了多项重要功能升级，特别是在大模型训练、多模态支持以及评估体系方面的显著增强。

核心功能升级

1. GRPO训练框架支持

本次更新最引人注目的是对GRPO（一种新型强化学习优化算法）训练框架的全面支持。该框架不仅适用于常规大语言模型，还扩展到了多模态模型和Agent智能体场景。GRPO框架的创新之处在于：

• 支持多节点分布式训练，显著提升了大规模模型的训练效率
• 针对视觉语言模型(VLM)进行了专门优化，如InternVL2.5等模型
• 引入了余弦相似度和重复奖励机制，提升了模型输出的多样性
• 支持vLLM LoRA等高效微调技术，降低资源消耗

2. 多模态与Embedding模型训练

v3.1.1版本加强了对多模态场景的支持：

• 新增对Qwen2.5-VL-72B等视觉语言模型的支持
• 专门针对Embedding模型的训练流程进行了优化
• 支持音频-文本多模态模型Step-Audio-Chat

3. 数据采样与评估体系

在数据层面，本次更新带来了多项创新：

• 引入MCTS（蒙特卡洛树搜索）采样器，提升了数据质量
• 支持知识蒸馏采样方法，便于模型间的知识迁移
• 完善了自定义数据集评估体系，用户可以灵活定义评估指标
• 新增对MathR等数学推理数据集的专门支持

新增模型与数据集

模型支持

• AIDC-AI/Ovis2-2B系列：专为中文优化的轻量级模型
• Qwen/Qwen2.5-VL-72B-Instruct-AWQ：高性能视觉语言模型
• stepfun-ai/GOT-OCR-2.0-hf：强大的OCR识别模型
• mistralai/Mistral-Small-24B-Instruct-2501：高效的指令微调模型

数据集增强

• GRPO相关：

  • MATH-lighteval：轻量级数学评估数据集
  • xlam-function-calling-60k：函数调用专项数据
  • NuminaMath-TIR：数学推理增强集

• R1相关：

  • Chinese-DeepSeek-R1-Distill-data：中文蒸馏数据
  • MathR系列：数学推理专项数据集

技术优化与问题修复

在底层技术方面，v3.1.1版本进行了多项重要改进：

1. 设备兼容性：

   • 完善了NPU设备的支持
   • 修复了CUDA操作在异构设备上的兼容问题

2. 训练稳定性：

   • 解决了GRPO训练中的NaN值问题
   • 优化了Zero3模式下的内存管理
   • 调整了温度参数默认值(0.7→0.9)

3. 功能增强：

   • 支持SwanLab实验跟踪
   • 完善了模型保存与加载流程
   • 增强了流式输出的稳定性

应用场景与展望

Swift v3.1.1版本的发布，使得以下应用场景得到了显著增强：

1. 教育领域：通过MathR等数学数据集和GRPO训练框架，可构建更强大的数学辅导AI
2. 多模态交互：视觉语言模型和音频模型的支持，为跨模态应用开发提供了便利
3. Agent开发：专门的Agent GRPO支持，为智能体系统开发提供了新的优化路径
4. 工业OCR：GOT-OCR等模型的加入，提升了文档识别和处理能力

未来，Swift项目有望在模型压缩、多模态融合等方面继续突破，为AI社区提供更强大的基础工具支持。