Ascend C HiF8模式启用API
asc_enable_hif8【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径c_api/cube_compute/cube_compute.h。用于设置Mmad计算开启HiF8模式开启该模式后L0A Buffer/L0B Buffer中的8bit数据将在参与矩阵乘法运算前被转化为hifloat8_t类型数据。函数原型__aicore__ inline void asc_enable_hif8()返回值说明无流水类型PIPE_S约束说明无调用示例constexpr uint64_t total_length 128; // 左/右矩阵以 int8_t 存放于 L0A/L0B需先完成 GM/L1→L0 搬运 __cc__ int32_t c_matrix[total_length]; __ca__ int8_t a_matrix[total_length]; __cb__ int8_t b_matrix[total_length]; uint16_t left_height 16; // M uint16_t n_dim 16; // K uint16_t right_width 16; // N // 在 asc_mmad 前调用将 L0 中的 8bit 操作数转换为 hifloat8_t 后参与矩阵运算 asc_enable_hif8(); uint8_t unit_flag 0; bool disable_gemv false; bool c_matrix_source false; bool c_matrix_init_val true; asc_mmad_sync(c_matrix, a_matrix, b_matrix, left_height, n_dim, right_width, unit_flag, disable_gemv, c_matrix_source, c_matrix_init_val);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考