CANN/asc-devkit获取运行时UB大小

GetRuntimeUBSize

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

• Ascend 950PR/Ascend 950DT：支持

• Atlas A3 训练系列产品/Atlas A3 推理系列产品：不支持

• Atlas A2 训练系列产品/Atlas A2 推理系列产品：不支持

• Atlas 200I/500 A2 推理产品：不支持

• Atlas 推理系列产品AI Core：不支持

• Atlas 推理系列产品Vector Core：不支持

• Atlas 训练系列产品：不支持

功能说明

头文件路径为："basic_api/kernel_operator_sys_var_intf.h"。

获取运行时UB空间的大小，单位为Byte。开发者根据UB的大小来计算循环次数等参数值。

函数原型

__aicore__ inline uint32_t GetRuntimeUBSize()

参数说明

无

返回值说明

运行时UB空间的大小，单位为Byte。

Ascend 950PR/Ascend 950DT架构下，SIMD与SIMT混合场景中，获取到的UB大小上限为216KB，非SIMD与SIMT混合场景返回值为固定值248KB。

约束说明

无

调用示例

本调用示例通过GetRuntimeUBSize获取的UB空间大小，来计算tileNum的值。完整的算子样例参考：get_ub_size样例。

// totalLength为待处理的总数据长度(元素个数) this->totalLength = totalLength; // GetRuntimeUBSize() / sizeof(half) -> 计算UB能容纳多少个half类型元素 // 除2 -> 预留50%的UB空间 if (totalLength > AscendC::GetRuntimeUBSize() / sizeof(half) / 2) { this->tileLength = AscendC::GetRuntimeUBSize() / sizeof(half) / 2; } else { // 防止分片大小超过实际数据总量 this->tileLength = this->totalLength; } // 需要迭代的分片数量 this->tileNum = this->totalLength / this->tileLength;

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言，原生支持C和C++标准规范，主要由类库和语言扩展层构成，提供多层级API，满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit