推荐:uThreads——轻量级并发库,让C++更高效
2024-05-21 19:19:04作者:戚魁泉Nursing
项目简介
uThreads是一个基于协同调度的用户级线程(纤维)实现的C++并发库。它利用了用户级线程的轻量化特性,以规避传统内核级线程中的上下文切换开销、抢占式调度和优先级管理带来的额外成本。通过支持M:N映射,uThreads能够在多核处理器上更好地管理和分配计算资源,适用于对性能有高要求的应用场景。
技术剖析
uThreads的核心在于其用户级线程与内核级线程之间的M:N映射模型,以及集群(Clusters)、内核线程(kThreads)和用户线程(uThreads)的概念。每个集群有自己的调度器,并可以包含多个内核线程。用户线程在集群内被调度执行,能迁移至其他集群以适应不同任务需求。值得注意的是,uThreads还包括一个负责网络设备轮询和事件多路复用的特殊内核线程,这使得它能在用户层面上对网络事件进行阻塞,而实际上保持内核层的非阻塞状态。
应用场景
uThreads尤其适合于以下场景:
- 高性能Web服务器:如项目readme所示的简单web服务器性能测试显示,在处理大量并发请求时,uThreads相对于fasthttp、cppsp和nodejs等有显著的效率优势。
- IO密集型应用:通过避免内核级阻塞,uThreads可使应用即使在等待IO操作时也能维持较高的并发性。
- CPU敏感任务:通过在不同核心上的智能分配,uThreads有助于提升CPU缓存局部性和计算性能。
项目特点
- M:N映射:用户级线程可在多个内核线程之间动态迁移,充分利用多核硬件资源。
- 协同调度:无内核抢占,减少上下文切换开销,提高整体效率。
- 集群管理:不同任务可分配到不同的集群,优化执行策略。
- 固定栈大小:为追求性能,uThreads预设了栈大小,有效减少了内存分配时间。
结语
uThreads为开发人员提供了一个高性能的并发解决方案,尤其是在需要轻量级线程管理和高度优化的系统中。如果你正在寻找一种能够提升应用程序并发性能的方法,不妨尝试一下这个库。不过,请留意项目维护状态,目前该项目已转移到libfibre,最新的进展和改进可以在新的仓库中找到。
登录后查看全文
热门项目推荐
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
GLM-4.7-FlashGLM-4.7-Flash 是一款 30B-A3B MoE 模型。作为 30B 级别中的佼佼者,GLM-4.7-Flash 为追求性能与效率平衡的轻量化部署提供了全新选择。Jinja00
VLOOKVLOOK™ 是优雅好用的 Typora/Markdown 主题包和增强插件。 VLOOK™ is an elegant and practical THEME PACKAGE × ENHANCEMENT PLUGIN for Typora/Markdown.Less00
PaddleOCR-VL-1.5PaddleOCR-VL-1.5 是 PaddleOCR-VL 的新一代进阶模型,在 OmniDocBench v1.5 上实现了 94.5% 的全新 state-of-the-art 准确率。 为了严格评估模型在真实物理畸变下的鲁棒性——包括扫描伪影、倾斜、扭曲、屏幕拍摄和光照变化——我们提出了 Real5-OmniDocBench 基准测试集。实验结果表明,该增强模型在新构建的基准测试集上达到了 SOTA 性能。此外,我们通过整合印章识别和文本检测识别(text spotting)任务扩展了模型的能力,同时保持 0.9B 的超紧凑 VLM 规模,具备高效率特性。Python00
KuiklyUI基于KMP技术的高性能、全平台开发框架,具备统一代码库、极致易用性和动态灵活性。 Provide a high-performance, full-platform development framework with unified codebase, ultimate ease of use, and dynamic flexibility. 注意:本仓库为Github仓库镜像,PR或Issue请移步至Github发起,感谢支持!Kotlin07
compass-metrics-modelMetrics model project for the OSS CompassPython00
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
522
3.71 K
Ascend Extension for PyTorch
Python
327
384
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
875
576
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
334
161
暂无简介
Dart
762
184
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.32 K
744
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
12
1
React Native鸿蒙化仓库
JavaScript
302
349
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
112
134