SCX调度器框架v1.0.11版本深度解析
2025-07-03 07:51:58作者:宣聪麟
SCX(Sched-Extended)是一个基于Linux内核的扩展调度框架,它通过BPF技术实现了用户空间调度器的开发能力。该框架允许开发者在不修改内核代码的情况下,实现自定义的任务调度策略。最新发布的v1.0.11版本带来了多项重要改进和功能增强,本文将对这些技术更新进行详细解读。
核心调度器优化
本次更新中,多个核心调度器组件获得了显著改进。scx_p2dq调度器作为重点项目,在负载均衡机制上进行了全面重构:
-
负载均衡算法升级:新增了基于LLC(Last Level Cache)负载考量的负载均衡策略,通过考虑末级缓存亲和性,减少了跨NUMA节点的内存访问延迟。同时引入了最小队列大小配置参数,防止在小负载情况下过度均衡。
-
CPU选择策略优化:改进了空闲CPU选择算法,特别针对亲和性任务处理进行了增强。新增了SCX_OPS_ALLOW_QUEUED_WAKEUP支持,允许任务在被唤醒时直接进入目标CPU的就绪队列,减少了调度延迟。
-
时间记账改进:实现了基于任务权重的vtime缩放机制,使调度决策更加公平。修复了原有vtime记账中的若干问题,确保长时间运行的任务不会获得不公平的优势。
新功能特性
-
scx_layered调度器增强:
- 新增了多种核心分配算法,包括NodeSpreadRandom等,提供了更灵活的CPU资源分配策略
- 增加了保护层标志和排除匹配规则,允许更精细地控制任务调度层级
- 改进了节点扩展算法,使其能够考虑SMT(同时多线程)因素
-
scx_bpfland改进:
- 引入了NUMA感知的负载均衡器,优化了内存局部性
- 增加了SMT感知开关,允许根据场景需求禁用SMT相关优化
- 修复了直接调度迁移中的问题,提高了调度效率
-
工具链增强:
- 新增了scxctl控制工具,提供了更便捷的调度器管理接口
- scxtop监控工具增加了硬件压力事件跟踪和fork/exec事件监控能力
- 改进了调试信息输出,便于问题诊断
性能优化
-
scx_lavd调度器:
- 实现了计算域感知的空闲CPU选择算法
- 改进了核心压缩策略,减少不必要的任务迁移
- 优化了每CPU任务处理逻辑,提高了调度效率
-
scx_wd40调度器:
- 从内核导入了高性能的自旋锁实现
- 移除了不必要的负载域映射,减少了内存开销
-
基础架构:
- 增加了CPU空闲QoS支持,允许更精细地控制空闲状态转换
- 优化了NUMA节点距离计算,提高了跨节点调度决策质量
开发者体验改进
-
scx_utils工具库:
- 新增了CPU容量查询和调试文件系统挂载辅助功能
- 提供了更完善的拓扑结构信息,包括SMT状态和NUMA距离
- 修复了跟踪点检测中的兼容性问题
-
构建系统:
- 支持RISC-V64架构交叉编译
- 改进了依赖管理,减少了构建冲突
- 增加了内核版本锁定机制,确保构建一致性
-
文档:
- 更新了Rust调度器开发指南
- 完善了scxtop工具的使用文档
- 增加了更多示例和最佳实践
稳定性修复
- 修复了scx_bpfland在处理被高优先级调度类抢占的每CPU任务时的问题
- 解决了scx_p2dq中亲和性任务处理导致的潜在死锁问题
- 修正了多个调度器中的任务亲和性检测逻辑
- 修复了scx_layered中的CPU分配波动问题
- 解决了scxtop中的时钟同步问题
总结
SCX v1.0.11版本标志着该项目在性能、功能和稳定性方面的重大进步。新版本不仅优化了核心调度算法,还提供了更丰富的工具链和开发者支持。特别是对NUMA感知、SMT优化和负载均衡的改进,使得SCX框架在复杂工作负载场景下的表现更加出色。这些改进为系统管理员和开发者提供了更强大的工具来优化系统性能,同时也为未来的功能扩展奠定了坚实基础。
登录后查看全文
热门项目推荐
相关项目推荐
atomcodeClaude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed. Get StartedRust0172
cann-learning-hubCANN 学习中心仓,支持在线互动运行、边学边练,提供教程、示例与优化方案,一站式助力昇腾开发者快速上手。Jupyter Notebook098
Step-3.7-FlashStep-3.7-Flash是一个拥有 1980 亿参数的稀疏混合专家(MoE)视觉语言模型,由 1960 亿参数的语言主干网络和 18 亿参数的视觉编码器组合而成,具备原生图像理解能力。Python00
BitCPM-CANN-8BBitCPM-CANN 是首个基于华为昇腾 NPU 原生构建的端到端 1.58 位(三值化)大语言模型训练系统。该系统将量化感知训练(QAT)集成到 Megatron-LM 框架中,并结合 MindSpeed 加速,覆盖了从自定义三值算子到基于昇腾 910B 的分布式并行训练的完整训练栈。Python00
MiniCPM5-1BMiniCPM5-1B,这是 MiniCPM5 系列的首款模型。它是一个专为端侧、本地部署和资源受限场景打造的 10 亿参数密集型 Transformer 模型,达到了 10 亿参数级开源模型的 SOTA 水平Jinja00
skillhubopenJiuwen 生态的 Skill 托管与分发开源方案,支持自建与可选 ClawHub 兼容。Python0239
项目优选
收起
暂无描述
Dockerfile
750
4.87 K
本项目是CANN提供的transformer类大模型算子库,实现网络在NPU上加速计算。
C++
841
1.84 K
本项目是CANN提供的神经网络类计算算子库,实现网络在NPU上加速计算。
C++
642
1.28 K
Ascend Extension for PyTorch
Python
689
834
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
451
419
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
1.02 K
1.04 K
Claude Code 的开源替代方案。连接任意大模型,编辑代码,运行命令,自动验证 — 全自动执行。用 Rust 构建,极致性能。 | An open-source alternative to Claude Code. Connect any LLM, edit code, run commands, and verify changes — autonomously. Built in Rust for speed.
Get Started
Rust
1.59 K
172
CANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体,本仓库为其提供可复用的 Skills 模块。
Python
956
561
昇腾LLM分布式训练框架
Python
173
212
暂无简介
Dart
998
259