Fury项目中的ThreadSafeFury与VirtualThread性能优化探讨
2025-06-25 10:00:32作者:邵娇湘
背景与问题本质
在多线程序列化场景中,Fury项目通过ThreadSafeFury实现线程安全,其核心机制是采用ThreadLocal为每个线程维护独立的Fury实例。这种设计在传统物理线程(Pooled Thread)环境下表现良好,因为线程生命周期较长,Fury实例的初始化成本可以被摊销。
但当面对Java 19引入的VirtualThread(虚拟线程)时,这种设计暴露出显著性能问题:
- 虚拟线程具有极轻量级的创建/销毁特性
- 单个任务可能涉及多个虚拟线程切换
- Fury实例初始化涉及编解码器构建、类型系统初始化等高成本操作
- 频繁的虚拟线程创建会导致大量Fury实例被初始化并快速废弃
技术解决方案分析
Fury项目提供了ThreadPoolFury作为替代方案,其设计思想值得深入探讨:
ThreadPoolFury核心机制
- 资源池化思想:维护固定数量的Fury实例池,与虚拟线程解耦
- 租借模式:虚拟线程从池中临时借用Fury实例,用后归还
- 并发控制:通过CAS或锁机制保证线程安全
实现优势对比
| 特性 | ThreadSafeFury | ThreadPoolFury |
|---|---|---|
| 实例数量 | 与线程数1:1 | 固定大小池 |
| 虚拟线程适应性 | 差 | 优 |
| 内存占用 | 线性增长 | 恒定 |
| 初始化成本 | 每次新建线程时发生 | 仅池初始化时发生 |
深入技术细节
虚拟线程的特殊性
- 栈存储特性:虚拟线程栈存储在堆上,线程切换不涉及内核调度
- 载体线程共享:多个虚拟线程可能共享同一个物理载体线程
- 内存压力:百万级虚拟线程创建会导致百万级Fury实例
ThreadPoolFury关键实现
class ThreadPoolFury {
private final Fury[] pool;
private final AtomicInteger counter = new AtomicInteger(0);
Fury get() {
return pool[counter.getAndIncrement() % pool.length];
}
}
性能优化建议
- 动态扩容:根据负载动态调整池大小
- 预热机制:系统启动时预先初始化部分实例
- 智能回收:对长时间未使用的实例进行软引用处理
- 分级池:针对不同业务类型建立专属池
最佳实践
对于不同场景的推荐方案:
- 传统Servlet容器:继续使用ThreadSafeFury
- 虚拟线程密集场景:
- 配置ThreadPoolFury
- 池大小建议设置为载体线程数的2-3倍
- 监控池利用率指标
- 混合场景:可考虑实现自动检测切换机制
未来演进方向
- 协程友好设计:适应更广泛的轻量级线程模型
- 对象池优化:借鉴Netty的Recycler设计
- 本地内存支持:减少虚拟线程切换时的缓存失效
- GraalVM适配:为原生镜像提供特殊优化
通过这种架构演进,Fury项目可以在保持高性能序列化的同时,更好地适应现代Java并发编程范式的发展。
登录后查看全文
热门项目推荐
相关项目推荐
GLM-5.1GLM-5.1是智谱迄今最智能的旗舰模型,也是目前全球最强的开源模型。GLM-5.1大大提高了代码能力,在完成长程任务方面提升尤为显著。和此前分钟级交互的模型不同,它能够在一次任务中独立、持续工作超过8小时,期间自主规划、执行、自我进化,最终交付完整的工程级成果。Jinja00
MiniMax-M2.7MiniMax-M2.7 是我们首个深度参与自身进化过程的模型。M2.7 具备构建复杂智能体应用框架的能力,能够借助智能体团队、复杂技能以及动态工具搜索,完成高度精细的生产力任务。Python00- QQwen3.5-397B-A17BQwen3.5 实现了重大飞跃,整合了多模态学习、架构效率、强化学习规模以及全球可访问性等方面的突破性进展,旨在为开发者和企业赋予前所未有的能力与效率。Jinja00
HY-Embodied-0.5这是一套专为现实世界具身智能打造的基础模型。该系列模型采用创新的混合Transformer(Mixture-of-Transformers, MoT) 架构,通过潜在令牌实现模态特异性计算,显著提升了细粒度感知能力。Jinja00
LongCat-AudioDiT-1BLongCat-AudioDiT 是一款基于扩散模型的文本转语音(TTS)模型,代表了当前该领域的最高水平(SOTA),它直接在波形潜空间中进行操作。00
ERNIE-ImageERNIE-Image 是由百度 ERNIE-Image 团队开发的开源文本到图像生成模型。它基于单流扩散 Transformer(DiT)构建,并配备了轻量级的提示增强器,可将用户的简短输入扩展为更丰富的结构化描述。凭借仅 80 亿的 DiT 参数,它在开源文本到图像模型中达到了最先进的性能。该模型的设计不仅追求强大的视觉质量,还注重实际生成场景中的可控性,在这些场景中,准确的内容呈现与美观同等重要。特别是,ERNIE-Image 在复杂指令遵循、文本渲染和结构化图像生成方面表现出色,使其非常适合商业海报、漫画、多格布局以及其他需要兼具视觉质量和精确控制的内容创作任务。它还支持广泛的视觉风格,包括写实摄影、设计导向图像以及更多风格化的美学输出。Jinja00
项目优选
收起
暂无描述
Dockerfile
674
4.3 K
deepin linux kernel
C
28
16
Ascend Extension for PyTorch
Python
515
625
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
944
884
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
398
301
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.56 K
908
暂无简介
Dart
919
225
Oohos_react_native
React Native鸿蒙化仓库
C++
335
381
昇腾LLM分布式训练框架
Python
142
169
华为昇腾面向大规模分布式训练的多模态大模型套件,支撑多模态生成、多模态理解。
Python
133
212