首页
/ Fluent Bit 4.0.0 版本发布:全面升级的日志处理引擎

Fluent Bit 4.0.0 版本发布:全面升级的日志处理引擎

2025-06-09 17:35:04作者:宣聪麟

Fluent Bit 是一款开源的轻量级日志处理器和转发器,专为云原生环境设计。作为 CNCF(云原生计算基金会)毕业项目,它能够高效地收集、解析、过滤和转发日志与指标数据。最新发布的 4.0.0 版本带来了多项重要改进和新功能,显著提升了性能、安全性和功能丰富度。

核心架构与性能优化

4.0.0 版本对 Fluent Bit 的核心架构进行了多项优化。任务映射系统(task_map)现在支持自动扩展,能够根据负载动态调整规模,显著提高了高负载场景下的处理能力。路由掩码(routes_mask)系统也实现了自动扩展功能,可以根据路由表的大小动态调整内存占用。

日志事件解码器(log_event_decoder)得到了增强,改进了组元数据字段的可用性,使得处理复杂日志结构更加高效。输入线程(input_thread)增加了必要的安全检查,提高了系统稳定性。

安全增强与问题修复

安全方面,4.0.0 版本修复了多个安全问题,包括 CVE-2024-50608 和 CVE-2024-50609。TLS 支持现在可以配置最小/最大版本和密码列表,提供了更灵活的加密选项。HTTP 输入层修复了内存重新分配后的解析器状态问题,防止了潜在的内存异常风险。

系统组件如 in_systemd 插件修复了缓冲区读取异常问题,in_splunk 插件修复了内存重新分配后的内存异常问题,这些都显著提升了系统的安全性。

数据处理能力扩展

4.0.0 版本在数据处理方面引入了多项新功能:

  1. 条件处理增强:新增了 NOT_REGEX、GTE(大于等于)和 LTE(小于等于)运算符,使得日志过滤更加灵活。条件处理器现在支持对日志记录进行条件处理。

  2. 记录访问器改进:支持直接数组访问表示法,简化了复杂数据结构中特定元素的访问。

  3. 处理器增强:新增了跟踪采样处理器(processor_sampling),可以基于特定条件对跟踪数据进行采样。内容修改处理器(processor_content_modifier)改进了数据类型转换功能。

  4. Zstd 压缩支持:全面引入了 Zstd 压缩算法支持,包括处理未知大小的压缩数据,提供了比传统压缩算法更高的压缩率和更快的处理速度。

协议与格式支持

新版本扩展了对多种协议和格式的支持:

  1. OpenTelemetry 增强:in_opentelemetry 插件现在支持 JSON 格式的跟踪数据,改进了日志处理和 gRPC 消息压缩。out_opentelemetry 插件在启用 gRPC 时自动配置 HTTP/2 协议。

  2. HTTP 改进:HTTP 输入层(in_http)增加了对 gzip、snappy 和 zstd 压缩的支持。out_http 插件同样增加了 zstd 和 snappy 压缩支持。

  3. Splunk 集成:out_splunk 插件增加了 OpenTelemetry 元数据支持,包括资源属性。

云服务集成

4.0.0 版本改进了与各大云服务的集成:

  1. AWS 增强:增加了对 EKS Pod Identity 的支持,简化了在 AWS 环境中的身份验证。

  2. Azure 支持:out_azure_kusto 插件增加了 Azure 托管身份支持。

  3. Stackdriver:out_stackdriver 插件增加了 cloud_logging_base_url 配置选项。

平台与构建改进

构建系统和跨平台支持方面也有显著改进:

  1. RISC-V 支持:实现了 RVV 指令集支持,提升了在 RISC-V 架构上的性能。

  2. UTF-16 支持:实现了 UTF-16LE/UTF-16BE 编码器,更好地支持非西方语言环境。

  3. 构建优化:针对不同平台(包括 Raspbian、macOS 等)进行了专门的构建优化和修复。

  4. SIMD 加速:通过 SIMD 指令集优化了 UTF 处理性能。

运维与管理功能

4.0.0 版本增加了多项有助于运维和管理的功能:

  1. 环境变量增强:支持从文件设置环境变量内容,便于敏感信息的处理。

  2. 退出控制:out_exit 插件增加了基于时间(秒)和记录计数的退出条件。

  3. 上游配置:输入客户端插件支持上游配置,提供了更灵活的网络连接管理。

  4. 性能分析:增加了性能分析信号路径,便于诊断性能问题。

Fluent Bit 4.0.0 通过这些全面的改进,进一步巩固了其作为云原生日志处理首选工具的地位,为大规模日志处理场景提供了更强大、更安全的解决方案。

登录后查看全文
热门项目推荐