CANN Blaze库模块索引
Blaze 库模块索引【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills定位Blaze 库各层模块的查阅索引。不重复 ops-tensor 仓已有的文档内容只提供索引和查阅路径。§1 概述ops-tensor 仓已克隆到本地由 plugin init.sh 自动完成文档位于ops-tensor/docs/API/。Blaze 库模块按 Kernel / Block / Tile / Epilogue / Policy 五层组织。各层的详细 API 文档、模板签名、参数说明和约束条件请直接查阅 ops-tensor 仓对应文档。§2 Kernel 层索引文档ops-tensor 路径说明Kernel 公共框架docs/API/gemm/kernel/kernel.md统一模板参数、Params 结构、核心方法KernelMatmulBasicdocs/API/gemm/kernel/kernel_matmul_basic.md基础矩阵乘 Kernel仅 AICKernelQbmmMxdocs/API/gemm/kernel/kernel_qbmm_mx.mdMX 量化 Batch MatmulKernelQbmmMxWithoutBatchdocs/API/gemm/kernel/kernel_qbmm_mx_without_batch.mdMX 量化单 Batch Matmul常用KernelMatmulStreamKdocs/API/gemm/kernel/kernel_matmul_streamk.mdStreamK 矩阵乘§3 Block 层索引BlockMmad文档ops-tensor 路径说明BlockMmad 公共框架docs/API/gemm/block/block_mmad.md统一模板参数9 参数、Params、Init/operator()BlockMmadMatmulBasicdocs/API/gemm/block/block_mmad_matmul_basic.md基础矩阵乘 BlockL1/L0 双缓冲BlockMmadQbmmMxdocs/API/gemm/block/block_mmad_qbmm_mx.mdMX 量化 BlockScale 反量化BlockMmadMatmulStreamKdocs/API/gemm/block/block_mmad_matmul_streamk.mdStreamK Blockworkspace 输出BlockScheduler文档ops-tensor 路径说明Scheduler 公共框架docs/API/gemm/block/block_scheduler.md统一模板参数、Z 型扫描、尾块处理BlockSchedulerMatmulBasicdocs/API/gemm/block/block_scheduler_matmul_basic.mdBasic 调度器尾块切分、SplitKBlockSchedulerMatmulStreamKdocs/API/gemm/block/block_scheduler_matmul_streamk.mdStreamK 调度器DPSK 混合BlockSchedulerQbmmMxdocs/API/gemm/block/block_scheduler_qbmm_mx.mdQBMM 调度器Batch 维度切分§4 Tile 层索引文档ops-tensor 路径说明TileMmadMXdocs/API/gemm/tile/tile_mmad_mx.mdMX Mmad Trait 定义PadMxKL1docs/API/gemm/tile/pad_mx_kl1.mdMX K 轴 PaddingL1 数据对齐补零§5 Epilogue 层索引文档ops-tensor 路径说明BlockEpilogue 公共框架docs/API/epilogue/block/block_epilogue.md统一类型别名、Params、核心方法BlockEpilogueEmptydocs/API/epilogue/block/block_epilogue_empty.md空后处理用于不支持后处理的 KernelBlockEpilogueStreamKdocs/API/epilogue/block/block_epilogue_matmul_streamk.mdStreamK 后处理workspace 汇聚§6 Policy 层Policy 定义在源码中include/blaze/gemm/policy/dispatch_policy.hPolicyScheduleType适用场景MatmulMultiBlockBasicKernelMmadMultiBlockBasic普通 matmulMatmulMultiBlockWithStreamKKernelMultiBlockStreamKStreamK 大 KMatmulWithScaleMxKernelMmadWithScaleMx或KernelMmadWithScaleMxWithoutBatchMX 量化MatmulWithScaleFixpipeQuantKernelMmadWithScaleFixpipeQuantA8W8 量化§7 场景推荐矩阵开发场景推荐路径推荐 Kernel推荐 BlockMmad推荐 Scheduler推荐 Tiling普通 MatMul 单算子 fp16/bf16/fp32blaze 库GemmUniversalBlaze::Gemm::Block::BlockMmad(Basic)BlockSchedulerMatmulBasicBasic MatMul tilingMX 量化 matmul fp8/fp4blaze 库GemmUniversalBlaze::Gemm::Block::BlockMmad(ScaleMx)BlockSchedulerQuantBatchMatmulV3QuantMatmulTilingSwatA8W8 量化 matmulblaze 库GemmUniversalBlaze::Gemm::Block::BlockMmad(FixpipeQuant)BlockSchedulerQuantBatchMatmulV3—matmul epilogue 融合blaze_customMatmulKernelFusedBlock::BlockMmad(NO_FULL_LOAD)MatmulBlockSchedulerMatmulTilingSwatGrouped matmulblaze_customGroupMatmulKernelBlock::BlockMmad(NO_FULL_LOAD)GroupMatmulBlockSchedulerSplitMMatmulTilingSwat普通 MatMul 单算子优先查阅KernelMatmulBasic、BlockMmadMatmulBasic、BlockSchedulerMatmulBasic、BlockEpilogueEmpty。blaze_custom 模块的详细使用说明见references/modules/blaze-custom/目录。【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考