CANN/asc-devkit矩阵乘与LeakyRelu融合样例

Matmul和LeakyRelu融合样例概述本样例采用高阶API实现Matmul与LeakyRelu激活函数融合计算实现矩阵运算单元和向量运算单元的融合计算。支持的产品Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推理系列产品Atlas A2 训练系列产品/Atlas A2 推理系列产品目录结构介绍├── matmul_leakyrelu_high_level_api │ ├── CMakeLists.txt // 编译工程文件 │ ├── data_utils.h // 数据读入写出函数 │ ├── matmul_leakyrelu.asc // Ascend C样例实现 调用样例 │ └── scripts │ ├── gen_data.py // 输入数据和真值数据生成脚本文件 │ └── verify_result.py // 真值对比文件样例描述样例功能MatmulLeakyRelu的计算公式为C A * B Bias C C 0 ? C : C * 0.001样例参数M 512K 512N 1024样例规格如下表所示样例类型(OpType)MatmulLeakyRelu样例输入nameshapedata typeformatA[M, K]halfNDB[K, N]halfNDBias[N]floatND样例输出C[M, N]floatND核函数名matmul_leakyrelu_custom样例实现实现流程通过GenerateTiling实现host侧的Tiling计算通过CalcGMOffset完成分核计算通过Iterate接口完成矩阵乘计算通过LeakyRelu实现激活函数计算调用实现使用内核调用符调用核函数。编译运行在本样例根目录下执行如下步骤编译并执行样例。配置环境变量请根据当前环境上CANN开发套件包的安装方式选择对应配置环境变量的命令。默认路径root用户安装CANN软件包source /usr/local/Ascend/cann/set_env.sh默认路径非root用户安装CANN软件包source $HOME/Ascend/cann/set_env.sh指定路径install_path安装CANN软件包source ${install_path}/cann/set_env.sh样例执行mkdir -p build cd build; # 创建并进入build目录 cmake -DCMAKE_ASC_ARCHITECTURESdav-2201 ..;make -j; # 编译工程默认npu模式 python3 ../scripts/gen_data.py # 生成测试输入数据 ./demo # 执行编译生成的可执行程序执行样例 python3 ../scripts/verify_result.py output/output.bin output/golden.bin # 验证输出结果是否正确确认算法逻辑正确使用 CPU调试 或 NPU仿真 模式时添加-DCMAKE_ASC_RUN_MODEcpu或-DCMAKE_ASC_RUN_MODEsim参数即可。示例如下cmake -DCMAKE_ASC_RUN_MODEcpu -DCMAKE_ASC_ARCHITECTURESdav-2201 ..;make -j; # cpu调试模式 cmake -DCMAKE_ASC_RUN_MODEsim -DCMAKE_ASC_ARCHITECTURESdav-2201 ..;make -j; # NPU仿真模式注意切换编译模式前需清理 cmake 缓存可在 build 目录下执行rm CMakeCache.txt后重新 cmake。编译选项说明选项可选值说明CMAKE_ASC_RUN_MODEnpu默认、cpu、sim运行模式NPU 运行、CPU调试、NPU仿真CMAKE_ASC_ARCHITECTURESdav-2201默认、dav-3510NPU 架构dav-2201 对应 Atlas A2 训练系列产品/Atlas A2 推理系列产品和Atlas A3 训练系列产品/Atlas A3 推理系列产品dav-3510 对应 Ascend 950PR/Ascend 950DT执行结果执行结果如下说明精度对比成功。test pass!创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考