SetSparseIndex【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明设置稀疏矩阵稠密化过程生成的索引矩阵。索引矩阵在稠密化中的作用请参考MmadWithSparse。函数原型__aicore__ inline void SetSparseIndex(const GlobalTensoruint8_t indexGlobal)参数说明表1参数说明参数名输入/输出描述indexGlobal输入索引矩阵在Global Memory上的首地址类型为GlobalTensor。索引矩阵的数据类型为uint2需要由用户拼成uint8的数据类型再传入本接口。索引矩阵的Format格式只支持NZ格式。返回值说明无约束说明索引矩阵的Format格式要求为NZ格式。本接口仅支持在纯Cube模式只有矩阵计算且MDL模板的场景使用。调用示例#define ASCENDC_CUBE_ONLY // 开启纯Cube模式(只有矩阵计算) REGIST_MATMUL_OBJ(pipe, GetSysWorkSpacePtr(), mm, tiling); mm.SetTensorA(gm_a); mm.SetTensorB(gm_b); mm.SetSparseIndex(gm_index); //设置索引矩阵 mm.SetBias(gm_bias); mm.IterateAll(gm_c);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考