聊聊主流模型为什么难以在CANN中推广，如何使用CANN来“翻译”主流的模型

华为昇腾开源CANN和Mind系列工具链，构建国产AI软硬件生态。CANN作为核心计算架构，支持PyTorch等主流框架，提供200+优化算子，显著提升模型性能。虽与CUDA生态仍有差距，但通过开源底层技术和兼容适配，正加速缩小差距。配套Ascend芯片和MindSpore框架，形成完整解决方案。开发者反馈早期体验待优化，但开源模式为国产AI生态发展奠定基础，需长期投入完善。

wanmeijuhao

614人浏览 · 2025-12-19 14:45:06

wanmeijuhao · 2025-12-19 14:45:06 发布

相信我们大部分开发者对于训练一个模型并不陌生，但对于将该模型部署到边缘侧，做成一个应用落地，华为昇腾全面开源CANN和Mind系列工具链，性能提升显著，兼容主流框架，加速国产AI生态创新。虽与CUDA仍有差距，但开源模式与生态共建正推动国产软硬件迈出坚实步伐。

在这里插入图片描述

昇腾与世界顶尖的英伟达CUDA生态相比，还是有一段距离。用行业通俗的话说，CUDA用十八年才构筑了软硬件一体的堡垒，开发社区庞大，迁移门槛极高。华为CANN，还只是刚起步六七年、的“新手”，软件生态和开发便利性短时间内难以全面跟上。去年，华为还专门派工程师团队，支持百度、科大讯飞等龙头企业，把原本用在CUDA上的训练代码移植到CANN中，既要重写不少内容，也要面对开发者习惯转变的过程。不少开发人员坦言，早期的新生态确实“不太好用”，但业内一致认为，开发者的反馈是好事，有助于后续产品持续优化升级，而软件生态的构建，本就是一场需要时间和耐心的长期战役。

硬件上推出了昇腾系列AI计算芯片 Ascend910/Ascend310，就是专门用来计算的GPU芯片，软件上使用 CANN（类比于CUDA），然后推出机器学习框架异思mindspore（对标Tensorflow/PyTorch），同时mindspore也是开放的，它支持基于 CUDA 的 GPU 以及普通的 CPU芯片，当然mindspore也是使用 Python 来开发，还提供一个 MindStudio 全流程开发工具链，也就是说华为昇腾是一个完整的生态，不再受外界掣肘。

在这里插入图片描述

CANN塞进三大硬货：

200多个优化算子提速模型训练，80个融合算子省下40%内存，100多个Ascend C API把开发周期砍到1.5周。最狠的是——PyTorch模型放上升腾芯片，推理速度暴涨3倍。

兼容性更是“无差别攻击”。 PyTorch、TensorFlow、百度飞桨……甚至小众的计图框架，CANN统统能对接。

在这里插入图片描述

为了扩大生态圈，CANN逐步兼容了更多AI框架。截至目前，CANN已支持包括PyTorch、MindSpore、TensorFlow、飞桨、ONNX、计图、OpenCV和OpenMMLab等深度学习框架与第三方库。与CANN配套的是华为自研深度学习框架MindSpore，其作用类似于PyTorch，这些工具共同构成了华为原生的AI软硬件方案，以对标以英伟达为中心的PyTorch+CUDA方案。

从生态体系以及承担的作用来看，CANN向上支持多种AI框架，如MindSpore、PyTorch、TensorFlow等，向下服务AI处理器与编程，发挥着承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台。

在这里插入图片描述

CANN 助力构筑昇腾AI算力平台

CANN（Compute Architecture for Neural Networks）是华为针对AI场景推出的异构计算架构，对上支持多种AI框架，对下服务AI处理器与编程，发挥承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台。

在这里插入图片描述
作为连接昇腾芯片与上层 AI 框架的"桥梁"，CANN 的开源不仅仅是简单的技术共享。华为首次开放了硬件任务调度器 HWTS 和异构计算编译器 HCC，让开发者能直接调用昇腾 AI 处理器的底层算力；同步开源的 Mind 系列工具链，更让开发者无需为硬件适配耗费数月时间。这种彻底的开放姿态，与 CUDA 的"有限开放"形成鲜明对比，为全球 AI 产业提供了一条新的技术路径。