高性能张量处理引擎项目教程

1. 项目介绍

本项目（High-Performance-Tensor-Processing-Engines）旨在探索和实现张量处理引擎的性能优化，特别是在矩阵乘累加（GEMM）操作的位权维度上进行转换。本项目使用了Synopsys官方的教育库SAED32nm来进行测试，支持设计编译器和IC编译器等工具。

2. 项目快速启动

为了快速启动本项目，你需要执行以下步骤：

环境准备

确保你的开发环境中安装了以下工具：

• Synopsys Design Compiler
• Chronologic VCS
• PrimeTime

克隆项目

使用Git克隆本项目到本地：

git clone https://github.com/wqzustc/High-Performance-Tensor-Processing-Engines.git
cd High-Performance-Tensor-Processing-Engines

编译和仿真

以下是编译和执行功能仿真的基本步骤：

# 进入PE模块仿真目录
cd OPT1/systolic_array_os/opt1_pe/sim

# 编译仿真
make vcs

# 视图调试
make vd

执行以上步骤后，你可以根据项目的具体需求调整参数，进行仿真和调试。

合成和功耗模拟

以下是合成和功耗模拟的步骤：

# 进入PE模块合成目录
cd OPT1/systolic_array_os/opt1_pe/syn

# 执行合成脚本
sh run.sh

# 进入功耗模拟目录
cd ../power

# 执行功耗模拟脚本
sh pt.sh

确保在执行上述脚本前，已经将工作路径替换为你个人的目录。

3. 应用案例和最佳实践

本项目提供了不同的张量核心配置，包括输出静态（OS-style）、权重静态（WS-style）和基于3D-Cube架构的TensorCore。以下是一个应用案例：

修改测试平台中的参数 M、N 和 K 来实现子矩阵乘法。例如，设置参数 M=36、N=47 和 K=98，然后执行100次随机GEMM测试。

# 修改测试平台参数
parameter M = 36;
parameter K = 98;
parameter N = 47;

# 执行测试
make vcs

确保测试结果输出中所有元素匹配，表示测试成功。

4. 典型生态项目

本项目的生态系统中包括以下典型项目：

• 设计编译器（Design Compiler）: 用于合成设计的工具。
• 功能仿真工具（VCS）: 用于验证设计的功能正确性。
• 功耗模拟工具（PrimeTime）: 用于评估设计的功耗。

通过这些工具和项目的结合，开发者可以优化张量处理引擎的设计，提高性能并降低功耗。