登录社区云,与社区用户共同成长
邀请您加入社区
获取往期直播材料:https://gitcode.com/cann/community/tree/master/events/meetup
1331
更多推荐
Day0开源发布:CANN解锁Kimi K3昇腾NPU部署实践
基于 PyPTO 与 Agent,2周完成模型 QAT 算子开发与优化
QAT 算子的开发实践验证了 PyPTO 的简单易用:用高层张量 API 表达算法逻辑,用tile_shape和等参数完成性能调优。在此基础上,Agent 可以先围绕公式和张量关系快速完成功能实现,再根据 profiling 结果调整少量参数完成优化,2周便完成 QAT 算子的开发、调优和模型接入,实现了模型吞吐性能的显著提升。
昇腾软件说系列直播预告|7月30日19:00,推理解决方案专场
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)