登录社区云，与社区用户共同成长
邀请您加入社区
【中国，上海，2025年9月18日至20日，华为全联接大会2025在上海举办。会上宣布开放华为研发的HiFloat数据格式，对其格式竞争力、落地芯片产品的路标以及生态构建策略进行介绍。并诚邀生态伙伴和开发者共同构建HiFloat数据格式生态。】 在人工智能算力竞争日益激烈的背景下，低比特数据格式已成为提升芯片计算效率的关键技术。通过采用8位/4位等低精度格式，AI芯片可在保持模型精度的同时大幅提升
[新加坡，新加坡市，2026年1月22日] AAAI（AAAI Conference on Artificial Intelligence，人工智能促进协会人工智能会议）是人工智能领域历史最悠久，最具学术影响力的国际学术会议之一。2026年来自中国的投稿数量提升至两万篇左右，占比2/3以上，表明AAAI已成为中国AI研究者的重要学术交流平台。 AAAI2026于1月20日至27日在新加坡
介绍HiFloat8（HiF8）之前，我们先回顾一下AI浮点数据格式的发展，相应的基本概念，并作简单的对比分析。以便读者更容易理解这篇技术分享的内容。 传统16位浮点数 计算机用IEEE 754标准存储数据，其核心类似于十进制的科学计数法，例如，只不过是二进制版本。以半精度FP16浮点为例，它用16比特（2字节）存储一个数。这16位被划分为3块： 符号位（Sign bit）：1 bit，1表述负，
Float8单数据格式FP8/HiF8训练算法介绍 Float8混合精度训练策略 随着预训练模型（尤其是基于Transformer架构的大语言模型）参数规模突破千亿级，训练过程面临愈发严重的算力和内存瓶颈，成本极高。在此背景下，8位浮点逐渐成为学术界与工业界的关键突破方向，特别是在支持矩阵乘加速器的GPU和NPU上，相对16位浮点呈现出显著性能优势。当前推向商用的Float8单数据格式主要包括FP
1. 低比特推理背景知识 深度学习模型在训练和推理阶段通常使用 FP32 (32位浮点数) 或 BF16/FP16 (16位浮点数) 格式。然而，随着模型规模的不断增大（尤其是大型语言模型 LLM），对计算效率、显存占用和能耗的要求也越来越高。低比特推理（Low-Bit Inference）应运而生，其核心思想是使用更少的比特位
