登录社区云,与社区用户共同成长
邀请您加入社区
针对千万至亿级高维向量场景下 HNSW 内存开销大、构建缓慢的痛点,系统拆解 IVF、PQ、IVF_PQ、ScaNN 四类大规模向量检索索引算法。文章分别阐释 IVF 分簇检索、PQ 乘积量化的底层原理、核心参数与内存压缩逻辑,对比单算法优劣并说明 IVF+PQ 组合兼顾检索速度与内存节省的工程价值;同时详解 Google ScaNN 各向异性量化、预筛选重排序创新机制。来自华北理工大学段一凡的博
本文介绍了华为昇腾AI计算平台的核心软件栈CANN(Compute Architecture for Neural Networks)。CANN作为连接AI应用与昇腾硬件的桥梁,包含硬件抽象层、开发工具链、计算图优化和算子开发体系四大支柱。文章详细解析了AscendCL编程接口、图引擎工作原理和内存管理体系,并提供了模型训练加速、推理服务和自定义算子开发等实战场景示例。最后给出了从基础入门到项目实
刚开始学习时,我对"算子"这个词感到很陌生。后来明白了,算子其实就是AI模型中的基本计算单元。举个简单的例子:就像做菜时的"切菜"、"炒菜"、"调味"等基本操作在AI中,有"加法"、"乘法"、"卷积"等基本计算每个这样的基本计算就是一个算子Ascend C是华为为昇腾AI处理器专门设计的编程语言。类似C++:语法跟C++很像,学习成本低专门优化:针对AI计算做了很多优化简单易用:隐藏了很多复杂的硬
因此,在GDB调试时,需设置“跟踪子进程”,才能正确调试每个核的代码逻辑。而CPU域调试是算子开发的“第一站”——它无需依赖NPU硬件,能快速验证算子的逻辑正确性,大幅降低开发成本。对于 LocalTensor 的数值验证,Ascend C提供了 Local::Print() 接口,可直接打印 LocalTensor 的元素数据。当算子出现“逻辑错误”(如循环次数错误、条件判断异常)时,仅靠 pr
本文是一篇面向AI和硬件加速新手的昇腾算子入门指南。作者从大三学生的视角,用通俗语言介绍了昇腾算子和AscendC编程的基本概念。文章将算子比作"引擎零件",解释其在AI加速中的作用;通过Java方法类比说明算子的底层特性;并指出新手容易混淆算子与普通函数的误区。对于AscendC,作者强调其在AI计算加速中的核心价值,包括性能提升和功耗降低。文章还提供了向量加法核函数的完整示
本文基于[昇腾课程详情页](https://www.hiascend.com/developer/courses/detail/1691696509765107713)的生态布局与课程定位,从访问指南、核心内容、资源联动三方面,帮你全面解锁这份“技术干货大礼包”!2. 技术模块:量子算法适配昇腾硬件的核心逻辑(如何将量子门操作转化为NPU可执行指令)、核间/核内Shape管理(固定Shape适配固
B站/微信视频号搜索【昇腾CANN】观看直播,期待你的观看~点击连接获取往期直播材料:https://gitcode.com/cann/community/tree/master/events/meetup