cann/asc-devkit矩阵计算搬出接口说明
# 总体说明【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit矩阵计算的搬出是Ascend C编程框架中用于数据搬运的一类核心接口主要实现L0C Buffer与Global Memory、L1 Buffer、Unified BufferUB之间的数据高效传输。该接口系列提供了多种数据搬运模式能够满足矩阵计算中的数据搬运需求通常在Mmad接口后配合使用。矩阵计算的搬出接口支持多种随路搬运场景包括随路量化、随路ReLU、随路格式转换NZ2ND、NZ2DN、随路通道拆分Channel Split、随路通道合并Channel Merge、UB双目标模式。通过灵活配置不同的参数结构体开发者可以精确控制数据的搬运路径、起始位置、搬运长度、随路搬运能力等关键信息充分利用硬件的数据搬运能力最大化算子的整体执行性能。矩阵计算的搬出整体流程如下图所示图1矩阵计算的搬出整体流程图NPU架构版本2201图2矩阵计算的搬出整体流程图NPU架构版本3510其中Fixpipe Buffer不同的量化模式对应的内存排布如下图3Fixpipe Buffer内存排布图【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考