MegaKernel推理加速实践
·
本场直播聚焦我们针对 DeepSeek-V4.1 开发的三个 MegaKernel,结合 CANNBot-DSL 源码与实测数据,讲解 L20/L24 层的Indexer 和 AttentionMegaKernel 的融合边界、性能优化及整网接入。面向推理框架工程师、算子开发者和模型部署人员,针对小批量推理中kernel启动耗时占比大、计算资源不充分使用、算子有并行空间等问题,选定MegaKernel融合范围,优化tiling与流水,帮助大家掌握MegaKernel的设计、融合、优化方法,理解性能收益及适用条件。
更多推荐




所有评论(0)