iLogtail 在 Kubernetes 环境中采集容器日志的实践指南

背景介绍

iLogtail 是阿里巴巴开源的一款轻量级、高性能的日志采集工具，特别适合在 Kubernetes 环境中使用。它能够高效地采集容器标准输出和容器内文件日志，支持多种日志处理方式，并将日志发送到不同的存储后端。

容器运行时兼容性问题

在实际部署过程中，我们发现 iLogtail 对不同容器运行时的支持存在差异。具体表现为：

1. 在 CRI-Dockerd 运行时环境下，iLogtail 能够正常采集容器标准输出日志
2. 但在 Containerd 运行时环境下，相同的配置可能无法采集到日志

经过深入分析，我们发现这一问题的根源在于：

• iLogtail 目前仅完整支持 CRI v1alpha2 版本
• 对于 Containerd 2.0 及以上版本，它们默认使用 CRI v1 版本，导致兼容性问题

解决方案

针对这一问题，我们推荐以下解决方案：

1. 版本降级方案：将 Containerd 降级到 1.x 版本（如 1.7.26），这些版本默认使用 CRI v1alpha2 接口
2. 配置调整方案：对于必须使用 Containerd 2.0 的环境，可以尝试以下配置调整：

env:
  - name: USE_CONTAINERD
    value: 'true'
  - name: CONTAINERD_SOCK_PATH
    value: '/var/run/containerd/containerd.sock'
  - name: CONTAINERD_STATE_DIR
    value: '/data/data/containerd'

完整部署示例

以下是一个在 Kubernetes 环境中部署 iLogtail 并采集不同类型日志的完整示例：

1. 创建命名空间

apiVersion: v1
kind: Namespace
metadata:
  name: ilogtail

2. 部署 DaemonSet

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: ilogtail-ds
  namespace: ilogtail
spec:
  template:
    spec:
      containers:
      - name: logtail
        env:
        - name: USE_CONTAINERD
          value: 'true'
        - name: CONTAINERD_SOCK_PATH
          value: '/var/run/containerd/containerd.sock'
        image: sls-opensource-registry.cn-shanghai.cr.aliyuncs.com/ilogtail-community-edition/ilogtail:2.0.7
        volumeMounts:
        - mountPath: /var/run
          name: run
        - mountPath: /logtail_host
          name: root
      volumes:
      - hostPath:
          path: /var/run
        name: run
      - hostPath:
          path: /
        name: root

3. 配置日志采集规则

通过 ConfigMap 定义多种日志采集规则：

apiVersion: v1
kind: ConfigMap
metadata:
  name: ilogtail-user-cm
  namespace: ilogtail
data:
  # 采集Nginx容器标准输出
  nginx_stdout.yaml: |
    inputs:
      - Type: service_docker_stdout
        IncludeK8sLabel:
          app: nginx
    flushers:
      - Type: flusher_stdout
  
  # 采集特定命名空间下的容器内文件
  app_logs.yaml: |
    inputs:
      - Type: input_file
        FilePaths:
          - /data/logs/app/*.log
        EnableContainerDiscovery: true
        ContainerFilters:
          K8sNamespaceRegex: app-ns
    flushers:
      - Type: flusher_elasticsearch
        Addresses:
          - http://elasticsearch:9200

最佳实践建议

1. 版本选择：

   • Kubernetes：1.20+
   • Containerd：1.6.x 或 1.7.x
   • iLogtail：2.0.7+

2. 资源限制：

   • 建议为 iLogtail 容器设置合理的资源限制
   • CPU：400m-1000m
   • 内存：384Mi-1Gi

3. 日志处理：

   • 对于结构化日志，使用 processor_regex 或 processor_json 进行解析
   • 对于非结构化日志，考虑添加适当的元数据标签

4. 高可用性：

   • 为 iLogtail 配置 livenessProbe
   • 设置合理的日志轮转和保留策略

常见问题排查

1. 日志采集失败：

   • 检查容器运行时版本
   • 验证 iLogtail 容器是否有足够的权限访问日志文件
   • 检查 ConfigMap 中的采集规则是否正确

2. 性能问题：

   • 监控 iLogtail 的资源使用情况
   • 考虑调整日志批处理大小和刷新间隔

3. 网络连接问题：

   • 验证日志存储后端的可达性
   • 检查网络策略是否允许 iLogtail 访问目标服务

通过以上配置和实践，我们可以在 Kubernetes 环境中稳定地使用 iLogtail 采集各类容器日志，为后续的日志分析和监控提供可靠的数据源。