本场直播聚焦我们针对 DeepSeek-V4.1 开发的三个 MegaKernel,结合 CANNBot-DSL 源码与实测数据,讲解 L20/L24 层的Indexer 和 AttentionMegaKernel 的融合边界、性能优化及整网接入。面向推理框架工程师、算子开发者和模型部署人员,针对小批量推理中kernel启动耗时占比大、计算资源不充分使用、算子有并行空间等问题,选定MegaKernel融合范围,优化tiling与流水,帮助大家掌握MegaKernel的设计、融合、优化方法,理解性能收益及适用条件。

Logo

CANN开发者社区旨在汇聚广大开发者,围绕CANN架构重构、算子开发、部署应用优化等核心方向,展开深度交流与思想碰撞,携手共同促进CANN开放生态突破!

更多推荐