Google Benchmark 迭代次数异常问题分析与解决

问题背景

在使用Google Benchmark进行性能测试时，开发者遇到了一个奇怪的迭代次数显示问题。测试用例包含两个基准测试：readFile和calculateAverages，但结果显示calculateAverages的迭代次数异常高（4046608次），而readFile只有1次，这与预期不符。

问题现象

测试代码的基本结构如下：

class One_BRC : public benchmark::Fixture {
protected:
    std::map<std::string, std::vector<float>> _data;
public:
    void SetUp(::benchmark::State &state) {}
    void TearDown(::benchmark::State &state) {}
};

BENCHMARK_F(One_BRC, readFile)(benchmark::State &st) {
    for (auto _: st) {
        _data = readFile();
    }
}

BENCHMARK_F(One_BRC, calculateAverages)(benchmark::State &st) {
    for (auto _: st) {
        calcAvr(_data);
    }
}

测试结果输出：

One_BRC/readFile          1.5273e+11 ns   1.5268e+11 ns            1
One_BRC/calculateAverages        178 ns          178 ns      4046608

问题分析

1. 编译器优化问题：Google Benchmark的工作原理是通过多次运行被测代码来获取稳定的性能数据。当被测代码执行时间过短时，框架会自动增加迭代次数以获得有意义的结果。然而，这里显示的异常高迭代次数表明编译器可能对代码进行了过度优化。

2. 测试夹具生命周期：Google Benchmark中，每个测试用例都会创建新的测试夹具实例。这意味着readFile测试中填充的_data并不会自动传递给calculateAverages测试，后者使用的是默认构造的空map。

3. 数据未被使用：在calculateAverages测试中，由于_data为空，calcAvr函数实际上没有做任何有意义的工作，导致执行时间极短（178ns），从而触发了框架的自动迭代次数调整机制。

解决方案

1. 防止编译器优化：使用benchmark::DoNotOptimize和benchmark::ClobberMemory来确保编译器不会优化掉关键代码。

2. 共享测试数据：将测试数据定义为全局变量，确保在多个测试用例间共享。

修正后的代码：

std::map<std::string, std::vector<float>> _data;

class One_BRC : public benchmark::Fixture {
protected:
public:
    void SetUp(::benchmark::State &state) {}
    void TearDown(::benchmark::State &state) {}
};

BENCHMARK_DEFINE_F(One_BRC, readFile)(benchmark::State &st) {
    for (auto _: st) {
        _data = readFile();
        benchmark::DoNotOptimize(_data);
    }
}

BENCHMARK_DEFINE_F(One_BRC, calculateAverages)(benchmark::State &st) {
    for (auto _: st) {
        calcAvr(_data);
    }
}

BENCHMARK_REGISTER_F(One_BRC, readFile);
BENCHMARK_REGISTER_F(One_BRC, calculateAverages);

修正后的结果

One_BRC/readFile             1675013 ns      1340255 ns          452
One_BRC/calculateAverages    2292709 ns       295267 ns         2323

性能测试最佳实践

1. 确保测试数据的有效性：测试数据应该能够代表真实场景，且足够大以避免测量误差。

2. 防止编译器优化：对于关键变量和计算结果，使用DoNotOptimize确保它们不会被优化掉。

3. 理解测试夹具生命周期：每个测试用例都会创建新的测试夹具实例，需要特别注意测试数据的共享问题。

4. 合理设置迭代次数：对于执行时间较短的测试，可以手动设置最小迭代时间(MinTime)以获得更稳定的结果。

5. 多次运行取平均值：考虑使用Repetitions选项多次运行整个测试套件，获取更可靠的统计数据。

通过以上分析和修正，我们不仅解决了迭代次数异常的问题，还对Google Benchmark的使用有了更深入的理解，为后续的性能测试工作打下了良好的基础。