3月23日直播丨HiF8高效数据格式及其应用
·
Ascend 950支持HiFloat8数据格式，这是面向AI大模型训推的新一代8位浮点数据格式。创新采用动态点位域与即时可译变长前缀码设计，突破传统FP8精度与动态范围瓶颈，阶码范围接近16位浮点，大幅减少数值溢出。
本议题聚焦HiFloat8数据类型的技术细节、CANN软件栈支持新格式的算子和工具及其在训推模型的亮眼表现，深度揭示支持HiFloat8这种新的数据格式的重要性和必要性。
B站直播预约链接： 点击预约
CANN开发者社区旨在汇聚广大开发者，围绕CANN架构重构、算子开发、部署应用优化等核心方向，展开深度交流与思想碰撞，携手共同促进CANN开放生态突破！
更多推荐
0
0- 0
已为社区贡献220条内容
所有评论(0)