Fluent Bit在Windows上配置Kafka输出的SSL连接问题解析

问题背景

在使用Fluent Bit将日志数据输出到Kafka时，许多Windows用户遇到了SSL连接配置的问题。特别是在Windows 11 Home系统上，当尝试配置SASL_SSL或SSL协议时，会出现各种连接错误。

典型错误现象

用户报告的主要错误包括两种类型：

1. SASL_SSL配置错误：

fluent-bit#producer-1: 192.168.2.5:9092/bootstrap: Disconnected while requesting ApiVersion

2. SSL配置错误：

cannot configure 'ssl.ca.location' property
cannot configure 'ssl.certificate.location' property

根本原因分析

经过深入调查，发现这些问题主要源于Windows环境下Fluent Bit构建时OpenSSL库的配置问题。Windows系统自带的OpenSSL或者从某些第三方网站下载的OpenSSL二进制包与Fluent Bit的兼容性存在问题。

解决方案

正确的解决方法是使用vcpkg工具链来构建OpenSSL库：

1. 安装必要工具：

   • 确保已安装Visual Studio并包含"C++桌面开发"组件
   • 打开"Developer Command Prompt for Visual Studio"

2. 安装vcpkg：

cd C:\
git clone https://github.com/microsoft/vcpkg.git
cd vcpkg && bootstrap-vcpkg.bat
.\vcpkg.exe integrate install

3. 安装OpenSSL：

.\vcpkg.exe --triplet x64-windows-static install openssl

4. 设置环境变量： 添加系统环境变量：

   OPENSSL_ROOT_DIR=C:\vcpkg\installed\x64-windows-static
   

5. 重新构建Fluent Bit：

cd fluent-bit\build
cmake .. -G "Visual Studio 17 2022" -A x64
cmake --build . --config Release

配置建议

成功构建后，可以正确配置Kafka输出插件。以下是两种典型配置示例：

1. SASL_SSL配置：

[OUTPUT]
    Name kafka
    Match *
    Brokers <address>
    Topics <topic name>
    rdkafka.enable.ssl.certificate.verification true
    rdkafka.request.required.acks 1
    rdkafka.security.protocol SASL_SSL
    rdkafka.sasl.mechanism SCRAM-SHA-256
    rdkafka.compression.codec zstd
    rdkafka.sasl.username <sasl username>
    rdkafka.sasl.password <sasl password>
    rdkafka.ssl.ca.location cacert.crt

2. 纯SSL配置：

[OUTPUT]
    Name kafka
    Match *
    Brokers <broker-address>
    Topics <topic-name>
    rdkafka.enable.ssl.certificate.verification false
    rdkafka.security.protocol ssl
    rdkafka.ssl.ca.location kafka-ca-cert.crt
    rdkafka.ssl.certificate.location kafka.crt
    rdkafka.ssl.key.location kafka.key
    rdkafka.api.version.request false

技术要点

1. OpenSSL版本兼容性：Windows系统上必须使用静态链接的OpenSSL库，动态链接库可能导致运行时错误。

2. 构建环境一致性：确保构建Fluent Bit的环境与运行时环境一致，特别是SSL库的版本。

3. 证书路径处理：Windows路径需要使用正斜杠(/)或双反斜杠(\)，避免使用单反斜杠。

总结

在Windows系统上配置Fluent Bit的Kafka输出插件时，SSL连接问题通常源于不正确的OpenSSL库构建方式。通过使用vcpkg工具链正确构建OpenSSL，可以解决大多数SSL连接问题。这种方法不仅适用于Kafka输出插件，也适用于其他需要SSL/TLS支持的Fluent Bit功能模块。