使用jq工具在Bash脚本中构建多层级JSON结构

在Shell脚本编程中，处理JSON数据时经常会遇到需要动态构建复杂JSON结构的需求。本文将以jq工具为例，详细介绍如何在Bash脚本中创建包含多层级结构的JSON文档。

问题背景

开发者在处理文本文件转换时，需要将文本数据转换为特定格式的JSON结构。原始脚本尝试实现以下功能：

1. 从文本文件中读取内容到数组
2. 遍历数组元素并分类处理
3. 根据内容类型构建包含时间戳和节点列表的JSON结构

关键技术点分析

1. 基础JSON创建

使用jq创建空JSON文档的基础方法是：

JSON=$(jq -n '')

2. 添加简单属性

为JSON对象添加简单属性可以通过以下方式实现：

JSON=$(echo $JSON | jq --arg timestamp "${timestamp}" '. += $ARGS.named')

3. 数组操作难点

在动态构建数组时，开发者遇到了索引指定的问题。原始尝试使用变量作为数组索引：

JSON=$(echo $JSON | jq --arg mac "${mac}" --arg count "${count}" '.nodes[$count] += {"mac": $mac}')

这种方法失败的原因是jq中变量不能直接用作数组索引。

解决方案

方法一：使用数组追加运算符

更有效的方法是使用jq的数组追加运算符：

JSON=$(echo $JSON | jq --arg mac "${mac}" '.nodes += [{"mac": $mac}]')

这种方法会自动在数组末尾添加新元素，无需手动管理索引。

方法二：利用数组长度动态定位

也可以使用数组长度作为插入位置：

JSON=$(echo $JSON | jq --arg mac "${mac}" '.nodes[.nodes|length] = {"mac": $mac}')

完整改进方案

结合上述方法，改进后的脚本核心逻辑如下：

#!/bin/bash

JSON=$(jq -n '{}')
readarray -t array < ./station.sample

for e in "${array[@]}"; do
    if [[ $e =~ ^[0-9]{10} ]]; then
        timestamp=$e
        datetime=$(date +'%Y-%m-%d %H:%M:%S' -d "@$e")
        JSON=$(jq --arg t "$timestamp" --arg d "$datetime" \
                  '. += {timestamp: $t, datetime: $d}' <<< "$JSON")
    fi

    if [[ $e =~ ^Station ]]; then
        mac=$(awk '{print $2}' <<< "$e")
        interface=$(awk '{print $4}' <<< "$e" | sed 's/.$//')
        
        JSON=$(jq --arg m "$mac" --arg i "$interface" \
                  '.nodes += [{"mac": $m, "interface": $i}]' <<< "$JSON")
    fi
done

最佳实践建议

1. 避免频繁管道操作：减少在循环中使用管道的次数，可以使用here-string(<<<)提高效率
2. 使用现代条件判断：用[[ ]]代替[ ]和grep，提高可读性和性能
3. 简化文本处理：结合awk和sed等工具进行更简洁的文本提取
4. JSON结构预设计：在编码前明确JSON的完整结构设计，避免后期重构

扩展应用

这种技术可以应用于多种场景：

• 日志文件转JSON分析
• 系统监控数据格式化
• API响应数据构建
• 配置文件生成

掌握jq在Shell脚本中的灵活运用，可以显著提高数据处理效率和脚本的可维护性。