Twitter MySQL 5.5:为高性能数据库而生
2024-09-18 07:26:23作者:齐添朝
项目介绍
Twitter MySQL 5.5 是 Twitter 基于 Oracle 发布的 MySQL 5.5 版本进行开发的定制分支。该项目旨在分享代码和信息,虽然不建议在 Twitter 之外直接使用,但其丰富的功能和优化措施对于需要高性能数据库解决方案的用户来说,仍然具有极高的参考价值。
项目技术分析
1. 额外的状态变量
Twitter MySQL 5.5 增加了多个 InnoDB 内部状态变量,这些变量在原生 MySQL 中并未公开。新增的状态变量包括:
- InnoDB 文件和表空间文件的打开、关闭和当前打开的数量。
- 遇到的死锁数量。
- 当前日志序列号(LSN)以及已刷新和已检查点的 LSN。
这些状态变量的增加使得用户能够更有效地监控系统,深入了解生产负载下的数据库行为。
2. NUMA 架构下的内存分配优化
在多处理器系统中,NUMA(非统一内存访问)架构将系统内存分布在多个 NUMA 节点上。Twitter MySQL 5.5 针对 NUMA 系统中的内存分配问题进行了优化,具体措施包括:
- 增加了在启动时强制预分配整个缓冲池的选项,以确保系统决定页面分配和 NUMA 节点分配。
- 增加了
mysqld_safe
选项,使用numactl --interleave=all
在所有 NUMA 节点之间交错内存分配,确保内存使用均匀分布。 - 增加了在启动前刷新操作系统缓存的功能,确保 InnoDB 分配缓冲池时不会受到缓存数据的影响。
3. 服务器端查询超时
Twitter MySQL 5.5 改进了服务器端语句超时支持,允许服务器主动取消运行时间超过毫秒级超时的查询,从而减少不必要的工作。
4. 缓冲池导出和恢复
通过一种安全且轻量级的方法,Twitter MySQL 5.5 支持 InnoDB 缓冲池的导出和恢复,这为滚动重启服务提供了便利。
5. 固态硬盘(SSD)优化
针对 SSD 设备,Twitter MySQL 5.5 进行了优化,包括页面刷新行为和减少磁盘写入,以延长 SSD 的使用寿命。
项目及技术应用场景
Twitter MySQL 5.5 适用于以下场景:
- 高并发系统:通过增加的状态变量和优化措施,能够更好地监控和处理高并发负载。
- 多处理器环境:特别是在 NUMA 架构下,优化后的内存分配策略能够显著提升性能。
- SSD 存储环境:针对 SSD 的优化措施能够延长设备寿命,适用于需要高性能存储的场景。
- 需要滚动重启的服务:缓冲池的导出和恢复功能使得服务能够在不停机的情况下进行滚动重启。
项目特点
- 深度监控:通过增加的内部状态变量,提供更详细的系统监控信息。
- NUMA 优化:针对 NUMA 架构的内存分配问题进行了深入优化,确保内存使用均匀分布。
- 查询超时控制:改进了服务器端查询超时支持,减少不必要的工作。
- 缓冲池管理:支持缓冲池的导出和恢复,便于服务滚动重启。
- SSD 优化:针对 SSD 设备进行了专门优化,延长设备使用寿命。
Twitter MySQL 5.5 虽然是为 Twitter 内部使用而定制的,但其丰富的功能和优化措施对于需要高性能数据库解决方案的用户来说,仍然具有极高的参考价值。无论是高并发系统、多处理器环境,还是 SSD 存储环境,Twitter MySQL 5.5 都能提供卓越的性能和稳定性。
登录后查看全文
热门项目推荐
- QQwen3-Next-80B-A3B-InstructQwen3-Next-80B-A3B-Instruct 是一款支持超长上下文(最高 256K tokens)、具备高效推理与卓越性能的指令微调大模型00
- QQwen3-Next-80B-A3B-ThinkingQwen3-Next-80B-A3B-Thinking 在复杂推理和强化学习任务中超越 30B–32B 同类模型,并在多项基准测试中优于 Gemini-2.5-Flash-Thinking00
GitCode-文心大模型-智源研究院AI应用开发大赛
GitCode&文心大模型&智源研究院强强联合,发起的AI应用开发大赛;总奖池8W,单人最高可得价值3W奖励。快来参加吧~0230PublicCMS
266万多行代码修改 持续迭代9年 现代化java cms完整开源,轻松支撑千万数据、千万PV;支持静态化,服务器端包含,多级缓存,全文搜索复杂搜索,后台支持手机操作; 目前已经拥有全球0.0005%(w3techs提供的数据)的用户,语言支持中、繁、日、英;是一个已走向海外的成熟CMS产品Java00AI内容魔方
AI内容专区,汇集全球AI开源项目,集结模块、可组合的内容,致力于分享、交流。01- HHunyuan-MT-7B腾讯混元翻译模型主要支持33种语言间的互译,包括中国五种少数民族语言。00
GOT-OCR-2.0-hf
阶跃星辰StepFun推出的GOT-OCR-2.0-hf是一款强大的多语言OCR开源模型,支持从普通文档到复杂场景的文字识别。它能精准处理表格、图表、数学公式、几何图形甚至乐谱等特殊内容,输出结果可通过第三方工具渲染成多种格式。模型支持1024×1024高分辨率输入,具备多页批量处理、动态分块识别和交互式区域选择等创新功能,用户可通过坐标或颜色指定识别区域。基于Apache 2.0协议开源,提供Hugging Face演示和完整代码,适用于学术研究到工业应用的广泛场景,为OCR领域带来突破性解决方案。00- HHowToCook程序员在家做饭方法指南。Programmer's guide about how to cook at home (Chinese only).Dockerfile06
- PpathwayPathway is an open framework for high-throughput and low-latency real-time data processing.Python00
- Dd2l-zh《动手学深度学习》:面向中文读者、能运行、可讨论。中英文版被70多个国家的500多所大学用于教学。Python011
热门内容推荐
最新内容推荐
项目优选
收起

deepin linux kernel
C
22
6

OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
132
1.89 K

Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
8
0

React Native鸿蒙化仓库
C++
193
273

为非计算机科班出身 (例如财经类高校金融学院) 同学量身定制,新手友好,让学生以亲身实践开源开发的方式,学会使用计算机自动化自己的科研/创新工作。案例以量化投资为主线,涉及 Bash、Python、SQL、BI、AI 等全技术栈,培养面向未来的数智化人才 (如数据工程师、数据分析师、数据科学家、数据决策者、量化投资人)。
Jupyter Notebook
70
63

旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
379
389

本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
344
1.24 K

🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
915
548

openGauss kernel ~ openGauss is an open source relational database management system
C++
144
189

🔥🔥🔥ShopXO企业级免费开源商城系统,可视化DIY拖拽装修、包含PC、H5、多端小程序(微信+支付宝+百度+头条&抖音+QQ+快手)、APP、多仓库、多商户、多门店、IM客服、进销存,遵循MIT开源协议发布、基于ThinkPHP8框架研发
JavaScript
96
15