本次直播将介绍一种面向MoE模型的多层级协同剪枝方法:先压缩输入空间,减少无效计算;再结合专家剪枝与专家核心集选择,保留最具代表性的专家子集,在尽量维持模型效果的同时降低推理开销,并探讨其在AMCT-Pruning中的实现思路与应用价值。

Logo

1331

更多推荐