Twitter MySQL 5.5:为高性能数据库而生
2024-09-18 15:52:58作者:齐添朝
项目介绍
Twitter MySQL 5.5 是 Twitter 基于 Oracle 发布的 MySQL 5.5 版本进行开发的定制分支。该项目旨在分享代码和信息,虽然不建议在 Twitter 之外直接使用,但其丰富的功能和优化措施对于需要高性能数据库解决方案的用户来说,仍然具有极高的参考价值。
项目技术分析
1. 额外的状态变量
Twitter MySQL 5.5 增加了多个 InnoDB 内部状态变量,这些变量在原生 MySQL 中并未公开。新增的状态变量包括:
- InnoDB 文件和表空间文件的打开、关闭和当前打开的数量。
- 遇到的死锁数量。
- 当前日志序列号(LSN)以及已刷新和已检查点的 LSN。
这些状态变量的增加使得用户能够更有效地监控系统,深入了解生产负载下的数据库行为。
2. NUMA 架构下的内存分配优化
在多处理器系统中,NUMA(非统一内存访问)架构将系统内存分布在多个 NUMA 节点上。Twitter MySQL 5.5 针对 NUMA 系统中的内存分配问题进行了优化,具体措施包括:
- 增加了在启动时强制预分配整个缓冲池的选项,以确保系统决定页面分配和 NUMA 节点分配。
- 增加了
mysqld_safe选项,使用numactl --interleave=all在所有 NUMA 节点之间交错内存分配,确保内存使用均匀分布。 - 增加了在启动前刷新操作系统缓存的功能,确保 InnoDB 分配缓冲池时不会受到缓存数据的影响。
3. 服务器端查询超时
Twitter MySQL 5.5 改进了服务器端语句超时支持,允许服务器主动取消运行时间超过毫秒级超时的查询,从而减少不必要的工作。
4. 缓冲池导出和恢复
通过一种安全且轻量级的方法,Twitter MySQL 5.5 支持 InnoDB 缓冲池的导出和恢复,这为滚动重启服务提供了便利。
5. 固态硬盘(SSD)优化
针对 SSD 设备,Twitter MySQL 5.5 进行了优化,包括页面刷新行为和减少磁盘写入,以延长 SSD 的使用寿命。
项目及技术应用场景
Twitter MySQL 5.5 适用于以下场景:
- 高并发系统:通过增加的状态变量和优化措施,能够更好地监控和处理高并发负载。
- 多处理器环境:特别是在 NUMA 架构下,优化后的内存分配策略能够显著提升性能。
- SSD 存储环境:针对 SSD 的优化措施能够延长设备寿命,适用于需要高性能存储的场景。
- 需要滚动重启的服务:缓冲池的导出和恢复功能使得服务能够在不停机的情况下进行滚动重启。
项目特点
- 深度监控:通过增加的内部状态变量,提供更详细的系统监控信息。
- NUMA 优化:针对 NUMA 架构的内存分配问题进行了深入优化,确保内存使用均匀分布。
- 查询超时控制:改进了服务器端查询超时支持,减少不必要的工作。
- 缓冲池管理:支持缓冲池的导出和恢复,便于服务滚动重启。
- SSD 优化:针对 SSD 设备进行了专门优化,延长设备使用寿命。
Twitter MySQL 5.5 虽然是为 Twitter 内部使用而定制的,但其丰富的功能和优化措施对于需要高性能数据库解决方案的用户来说,仍然具有极高的参考价值。无论是高并发系统、多处理器环境,还是 SSD 存储环境,Twitter MySQL 5.5 都能提供卓越的性能和稳定性。
登录后查看全文
热门项目推荐
kernelopenEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。C037
Kimi-K2-ThinkingKimi K2 Thinking 是最新、性能最强的开源思维模型。从 Kimi K2 开始,我们将其打造为能够逐步推理并动态调用工具的思维智能体。通过显著提升多步推理深度,并在 200–300 次连续调用中保持稳定的工具使用能力,它在 Humanity's Last Exam (HLE)、BrowseComp 等基准测试中树立了新的技术标杆。同时,K2 Thinking 是原生 INT4 量化模型,具备 256k 上下文窗口,实现了推理延迟和 GPU 内存占用的无损降低。Python00
kylin-wayland-compositorkylin-wayland-compositor或kylin-wlcom(以下简称kywc)是一个基于wlroots编写的wayland合成器。 目前积极开发中,并作为默认显示服务器随openKylin系统发布。 该项目使用开源协议GPL-1.0-or-later,项目中来源于其他开源项目的文件或代码片段遵守原开源协议要求。C00
PaddleOCR-VLPaddleOCR-VL 是一款顶尖且资源高效的文档解析专用模型。其核心组件为 PaddleOCR-VL-0.9B,这是一款精简却功能强大的视觉语言模型(VLM)。该模型融合了 NaViT 风格的动态分辨率视觉编码器与 ERNIE-4.5-0.3B 语言模型,可实现精准的元素识别。Python00
GLM-4.7GLM-4.7上线并开源。新版本面向Coding场景强化了编码能力、长程任务规划与工具协同,并在多项主流公开基准测试中取得开源模型中的领先表现。 目前,GLM-4.7已通过BigModel.cn提供API,并在z.ai全栈开发模式中上线Skills模块,支持多模态任务的统一规划与协作。Jinja00
agent-studioopenJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力TSX0115
Spark-Formalizer-X1-7BSpark-Formalizer 是由科大讯飞团队开发的专用大型语言模型,专注于数学自动形式化任务。该模型擅长将自然语言数学问题转化为精确的 Lean4 形式化语句,在形式化语句生成方面达到了业界领先水平。Python00
项目优选
收起
deepin linux kernel
C
26
10
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
433
3.29 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
689
352
Ascend Extension for PyTorch
Python
237
271
暂无简介
Dart
690
162
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
9
1
仓颉编程语言运行时与标准库。
Cangjie
143
881
React Native鸿蒙化仓库
JavaScript
266
327
openJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力
TSX
211
115
仓颉编译器源码及 cjdb 调试工具。
C++
138
869