首页
/ Fluent Bit 4.0.0 版本发布:全面升级的日志处理引擎

Fluent Bit 4.0.0 版本发布:全面升级的日志处理引擎

2025-06-09 23:41:31作者:宣聪麟

Fluent Bit 是一款开源的轻量级日志处理器和转发器,专为云原生环境设计。作为 CNCF(云原生计算基金会)毕业项目,它能够高效地收集、解析、过滤和转发日志与指标数据。最新发布的 4.0.0 版本带来了多项重要改进和新功能,显著提升了性能、安全性和功能丰富度。

核心架构与性能优化

4.0.0 版本对 Fluent Bit 的核心架构进行了多项优化。任务映射系统(task_map)现在支持自动扩展,能够根据负载动态调整规模,显著提高了高负载场景下的处理能力。路由掩码(routes_mask)系统也实现了自动扩展功能,可以根据路由表的大小动态调整内存占用。

日志事件解码器(log_event_decoder)得到了增强,改进了组元数据字段的可用性,使得处理复杂日志结构更加高效。输入线程(input_thread)增加了必要的安全检查,提高了系统稳定性。

安全增强与问题修复

安全方面,4.0.0 版本修复了多个安全问题,包括 CVE-2024-50608 和 CVE-2024-50609。TLS 支持现在可以配置最小/最大版本和密码列表,提供了更灵活的加密选项。HTTP 输入层修复了内存重新分配后的解析器状态问题,防止了潜在的内存异常风险。

系统组件如 in_systemd 插件修复了缓冲区读取异常问题,in_splunk 插件修复了内存重新分配后的内存异常问题,这些都显著提升了系统的安全性。

数据处理能力扩展

4.0.0 版本在数据处理方面引入了多项新功能:

  1. 条件处理增强:新增了 NOT_REGEX、GTE(大于等于)和 LTE(小于等于)运算符,使得日志过滤更加灵活。条件处理器现在支持对日志记录进行条件处理。

  2. 记录访问器改进:支持直接数组访问表示法,简化了复杂数据结构中特定元素的访问。

  3. 处理器增强:新增了跟踪采样处理器(processor_sampling),可以基于特定条件对跟踪数据进行采样。内容修改处理器(processor_content_modifier)改进了数据类型转换功能。

  4. Zstd 压缩支持:全面引入了 Zstd 压缩算法支持,包括处理未知大小的压缩数据,提供了比传统压缩算法更高的压缩率和更快的处理速度。

协议与格式支持

新版本扩展了对多种协议和格式的支持:

  1. OpenTelemetry 增强:in_opentelemetry 插件现在支持 JSON 格式的跟踪数据,改进了日志处理和 gRPC 消息压缩。out_opentelemetry 插件在启用 gRPC 时自动配置 HTTP/2 协议。

  2. HTTP 改进:HTTP 输入层(in_http)增加了对 gzip、snappy 和 zstd 压缩的支持。out_http 插件同样增加了 zstd 和 snappy 压缩支持。

  3. Splunk 集成:out_splunk 插件增加了 OpenTelemetry 元数据支持,包括资源属性。

云服务集成

4.0.0 版本改进了与各大云服务的集成:

  1. AWS 增强:增加了对 EKS Pod Identity 的支持,简化了在 AWS 环境中的身份验证。

  2. Azure 支持:out_azure_kusto 插件增加了 Azure 托管身份支持。

  3. Stackdriver:out_stackdriver 插件增加了 cloud_logging_base_url 配置选项。

平台与构建改进

构建系统和跨平台支持方面也有显著改进:

  1. RISC-V 支持:实现了 RVV 指令集支持,提升了在 RISC-V 架构上的性能。

  2. UTF-16 支持:实现了 UTF-16LE/UTF-16BE 编码器,更好地支持非西方语言环境。

  3. 构建优化:针对不同平台(包括 Raspbian、macOS 等)进行了专门的构建优化和修复。

  4. SIMD 加速:通过 SIMD 指令集优化了 UTF 处理性能。

运维与管理功能

4.0.0 版本增加了多项有助于运维和管理的功能:

  1. 环境变量增强:支持从文件设置环境变量内容,便于敏感信息的处理。

  2. 退出控制:out_exit 插件增加了基于时间(秒)和记录计数的退出条件。

  3. 上游配置:输入客户端插件支持上游配置,提供了更灵活的网络连接管理。

  4. 性能分析:增加了性能分析信号路径,便于诊断性能问题。

Fluent Bit 4.0.0 通过这些全面的改进,进一步巩固了其作为云原生日志处理首选工具的地位,为大规模日志处理场景提供了更强大、更安全的解决方案。

登录后查看全文
热门项目推荐
相关项目推荐

项目优选

收起
kernelkernel
deepin linux kernel
C
24
6
docsdocs
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
271
2.55 K
flutter_flutterflutter_flutter
暂无简介
Dart
560
125
fountainfountain
一个用于服务器应用开发的综合工具库。 - 零配置文件 - 环境变量和命令行参数配置 - 约定优于配置 - 深刻利用仓颉语言特性 - 只需要开发动态链接库,fboot负责加载、初始化并运行。
Cangjie
152
12
nop-entropynop-entropy
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
9
1
cangjie_runtimecangjie_runtime
仓颉编程语言运行时与标准库。
Cangjie
128
104
Cangjie-ExamplesCangjie-Examples
本仓将收集和展示高质量的仓颉示例代码,欢迎大家投稿,让全世界看到您的妙趣设计,也让更多人通过您的编码理解和喜爱仓颉语言。
Cangjie
357
1.84 K
openHiTLSopenHiTLS
旨在打造算法先进、性能卓越、高效敏捷、安全可靠的密码套件,通过轻量级、可剪裁的软件技术架构满足各行业不同场景的多样化要求,让密码技术应用更简单,同时探索后量子等先进算法创新实践,构建密码前沿技术底座!
C
1.02 K
434
RuoYi-Vue3RuoYi-Vue3
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.03 K
606
cherry-studiocherry-studio
🍒 Cherry Studio 是一款支持多个 LLM 提供商的桌面客户端
TypeScript
731
70