SetBatchNum【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持Kirin X90支持功能说明在不改变Tiling的情况下重新设置多Batch计算的Batch数。函数原型__aicore__ inline void SetBatchNum(int32_t batchA, int32_t batchB)参数说明表1参数说明参数名输入/输出描述batchA输入设置的一次计算的A矩阵Batch数。batchB输入设置的一次计算的B矩阵Batch数。返回值说明无约束说明当开启MixDualMaster双主模式场景时即模板参数enableMixDualMaster设置为true不支持使用该接口。本接口仅支持在纯Cube模式只有矩阵计算下调用。调用示例// 纯cube模式 #define ASCENDC_CUBE_ONLY typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, AType, false, LayoutMode::NORMAL aType; typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, BType, false, LayoutMode::NORMAL bType; typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, CType, false, LayoutMode::NORMAL cType; typedef AscendC::MatmulTypeAscendC::TPosition::GM, CubeFormat::ND, BiasType biasType; AscendC::MatmulaType, bType, cType, biasType mm1; mm1.SetTensorA(gm_a, isTransposeAIn); mm1.SetTensorB(gm_b, isTransposeBIn); if (tiling.isBias) { mm1.SetBias(gm_bias); } mm1.SetBatchNum(batchA, batchB); // 多batch Matmul计算 mm1.IterateBatch(gm_c, false, 0, false);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
