CLTune 使用指南

1. 项目介绍

CLTune 是一个自动调优 OpenCL 和 CUDA 核心的 C++ 库。用户只需要提供一个可调优的内核和一个允许的参数和值列表，CLTune 将会自动迭代所有可能的组合，测试它们，并报告最佳组合。该库适用于希望优化其 GPU 计算性能的开发者。

2. 项目快速启动

环境准备

在开始之前，确保您的系统满足以下要求：

• CMake 版本 2.8.10 或更高
• 支持 C++11 的编译器，例如 GCC 4.7.0 或更新版本
• OpenCL 库，CLTune 已经测试以下版本：
  • Apple OpenCL
  • NVIDIA CUDA SDK（版本 7.5 或更高）
  • AMD APP SDK
  • Intel OpenCL
  • Beignet

编译与安装

1. 从 GitHub 克隆 CLTune 仓库到本地：

   git clone https://github.com/CNugteren/CLTune.git
   

2. 创建构建目录并进行编译：

   mkdir build
   cd build
   cmake ..
   make
   sudo make install
   

   如果需要，可以在调用 CMake 时指定自定义的安装目录：

   cmake -DCMAKE_INSTALL_PREFIX=/path/to/install/directory ..
   

3. 设置动态链接库路径，并链接到 CLTune 库：

   export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/path/to/libcltune.so
   g++ example.cc -o example -L/path/to/libcltune.so -lcltune -lOpenCL
   

示例代码

以下是一个简单的示例，展示如何使用 CLTune 来添加和调优一个内核：

// 创建一个调优器实例
cltune::Tuner my_tuner(0, 1); // 使用 OpenCL 平台 0 上的设备 1

// 添加一个调优内核
size_t id = my_tuner.AddKernel({"path/to/kernel.opencl"}, "my_kernel", {1024,512}, {16,8});

// 添加参数
my_tuner.AddParameter(id, "PARAM_1", {16, 24});
my_tuner.AddParameter(id, "PARAM_2", {0, 1, 2, 3, 4});

// 添加参考内核（可选）
my_tuner.SetReference({"path/to/reference.opencl"}, "my_reference", {8192}, {128});

// 添加内核参数
int my_variable = 900;
std::vector<float> input_vector(8192);
std::vector<float> output_vector(8192);
my_tuner.AddArgumentScalar(my_variable);
my_tuner.AddArgumentScalar(3.7);
my_tuner.AddArgumentInput(input_vector);
my_tuner.AddArgumentOutput(output_vector);

// 开始调优并打印结果
my_tuner.Tune();
my_tuner.PrintToScreen();

3. 应用案例和最佳实践

以下是一些使用 CLTune 的应用案例：

• 简单向量加法内核：通过调优工作组和线程块的尺寸来优化向量加法运算。
• 二维卷积内核：优化卷积运算中的局部内存利用和线程配置。
• 矩阵-向量乘法：对于不同的矩阵-向量乘法内核，进行参数调优。

最佳实践：

• 在调优前，确保内核代码没有编译错误。
• 针对不同的硬件平台，尝试不同的搜索策略，比如随机搜索、退火搜索、粒子群优化等。
• 使用机器学习模型进行参数预测，可以在有限的搜索空间内获得较好的结果。

4. 典型生态项目

CLTune 可以与以下生态项目结合使用：

• CLBlast：一个基于 OpenCL 的高性能 BLAS 库。
• 其他开源 GPU 计算项目：CLTune 可以集成到其他需要 GPU 性能优化的项目中。