本次直播将介绍一种面向MoE模型的多层级协同剪枝方法:先压缩输入空间,减少无效计算;再结合专家剪枝与专家核心集选择,保留最具代表性的专家子集,在尽量维持模型效果的同时降低推理开销,并探讨其在AMCT-Pruning中的实现思路与应用价值。

Logo

CANN开发者社区旨在汇聚广大开发者,围绕CANN架构重构、算子开发、部署应用优化等核心方向,展开深度交流与思想碰撞,携手共同促进CANN开放生态突破!

更多推荐