CANN/asc-devkit bfloat16乘加ReLU函数
__hfma_relu【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明对输入bfloat16类型数据x、y、z计算x与y相乘加上z的结果并遵循CAST_RINT模式对结果进行舍入。负数结果置为0。函数原型bfloat16_t __hfma_relu(const bfloat16_t x, const bfloat16_t y, const bfloat16_t z)参数说明表1参数说明参数名输入/输出描述x输入源操作数。y输入源操作数。z输入源操作数。返回值说明x * y z的值。本接口不受全局饱和模式影响特殊值如下x为±infy为±0返回nan。x为±0y为±inf返回nan。x*y为infz为-inf返回nan。x*y为-infz为inf返回nan。x*yz超出对应类型范围的最大值返回inf。x*yz小于对应类型范围的最小值返回0。x、y、z任意一个为nan返回nan。约束说明无需要包含的头文件使用该接口需要包含simt_api/asc_bf16.h头文件。#include simt_api/asc_bf16.h调用示例SIMT编程场景__global__ __launch_bounds__(1024) void KernelHfma_relu(bfloat16_t* dst, bfloat16_t* x, bfloat16_t* y, bfloat16_t* z) { int idx threadIdx.x blockIdx.x * blockDim.x; dst[idx] __hfma_relu(x[idx], y[idx], z[idx]); }SIMD与SIMT混合编程场景__simt_vf__ __launch_bounds__(1024) inline void KernelHfma_relu(__gm__ bfloat16_t* dst, __gm__ bfloat16_t* x, __gm__ bfloat16_t* y, __gm__ bfloat16_t* z) { int idx threadIdx.x blockIdx.x * blockDim.x; dst[idx] __hfma_relu(x[idx], y[idx], z[idx]); }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考