HiFloat社区正式启动,低精度计算产业生态加速成型

HiFloat社区正式启动,低精度计算产业生态加速成型

2026-08-28

以下文章来源于微信公众号——全球计算联盟GCC

图片

GCC NEWS

8月26日,“低精度计算技术研讨暨HiFloat社区启动大会”在北京举行。大会围绕低位宽数据格式标准、软硬件协同、HiFloat技术与应用、昇腾并行加速、高效数据传输以及模型量化等方向展开,并正式启动GCC-HiFloat社区,集中发布社区阶段性成果。来自科研院校、芯片企业、人工智能企业的专家齐聚现场,共同探讨低精度计算从技术创新迈向标准化、产业化的发展路径。

图片

HiFloat社区正式启动:低精度技术走向“共同建设”

GCC智能计算产业发展委员会副秘书长黄还青介绍了HiFloat社区的整体规划。社区将以“开放、共享、共建”为基础,开放HiFloat相关技术与标准,共享低精度数据格式研究和实践成果,吸引产业链伙伴共同参与。社区围绕标准、硬件和软件框架支持、主流模型验证、开发者生态、工具链及产业研究持续产出,同时推动上游生态支持,参与国家标准、IEEE等主流标准阵地建设。

图片

大会公布了HiFloat社区技术委员会名单,包括中国电子技术标准化研究院、上海人工智能实验室、华为技术有限公司、华南理工大学、南京大学、高通无线通信技术(中国)有限公司、科大讯飞股份有限公司、上海商汤科技开发有限公司、北京趋境科技有限责任公司、北京神州鲲泰信息技术有限公司、沐曦集成电路(上海)股份有限公司。

图片

大会还集中发布了HiFloat社区三项阶段性进展,包括《HiFloat8数据格式技术规范》团体标准、《HiFloat4数据格式技术规范》团体标准征集以及IEEE ICME低位宽大模型量化挑战赛结果。

图片
图片
图片

滑动查看图片

张琦:建立低精度计算产业共同语言

中国电子技术标准化研究院人工智能标准化专家张琦带来《低位宽数据格式国家标准工作进展与规划》主题分享。他介绍《人工智能低位宽浮点数据格式技术规范》国家标准正在研制,下一阶段还将通过大模型训练和推理验证牵引芯片、模型等产业伙伴开展试点,并进一步推进国际标准工作。

图片

鲁金铭:低精度要兼顾算法、格式和硬件

南京大学助理教授、特聘研究员鲁金铭从软硬件协同角度解释了低精度计算为什么值得做。他介绍了低精度数据格式以及块浮点格式的演进,并以HiFloat4等格式为例讨论层次化设计。在极低位宽下,如何给不同数据选择合适的精度、缩放粒度、舍入方式和累加精度,需要算法、编译器、算子、芯片微架构乃至存储通信系统协同设计。

图片

罗元勇:HiFloat在效率与精度间的平衡

华为技术有限公司技术专家罗元勇进一步拆解HiFloat数据格式的设计原理和哲学,以及在训练、推理中的使用方式。低精度也并非简单地把模型“一键变成低bit”。不同权重、激活、梯度以及不同敏感层,对精度的承受能力并不相同,需要结合Scale设置、精度分配、舍入策略以及算子融合等方法进行针对性优化。

图片

李思坦:HiFloat走进真实模型实践

处理器算法专家李思坦的分享则把问题进一步推进到“真正放进模型里之后怎么样”。她现场展示了HiFloat数据格式在LongCat、DeepSeek、Wan、Qwen等模型上的实际应用与效果优化,覆盖模型训练、推理和量化优化等不同环节,也进一步说明HiFloat正在从一种数据格式方案走向可以被不同模型、不同任务实际验证的技术体系。

图片

陆璐:聚焦算子与通算融合,释放平台计算效能

华南理工大学教授陆璐围绕相关算子和模板库的性能优化以及产业生态实践展开分享。以部分通算融合测试为例,通过对数据进行切分并优化流水并发,部分场景相较基线获得两位数百分比的性能提升;相关成果也在持续通过开源模板库、编译工具以及行业项目向实际应用扩展。低精度计算要真正发挥价值,最终仍要落实到芯片、算子、编译器和具体应用的协同优化上。

图片

任峰:计算变快之后,“传输”成为新的瓶颈

趋境科技技术专家、Mooncake Transfer Engine作者任峰将视角从“计算”转向“数据传输”。他指出,低精度推理会减少内存占用,也能让计算和访存速度更快;但数据加载、KV Cache搬运和跨节点通信,就会在整体时延中占据更大比例。

低精度能够让单块数据变小,但并不会自动解决数据该放在哪里、走哪条链路、怎样充分利用多块网卡等问题,因此计算优化与传输优化必须同步推进。

图片

周容辰:低精度量化工具链让模型“瘦身”

华为技术有限公司昇腾高级工程师周容辰介绍了量化工具msModelSlim,其可以将量化过程中的人工调试流程工程化,并通过组合式配置描述不同量化算法,使一套方案可以便捷地复用到不同模型;同时通过量化模式、模型适配协议等机制打通工具、算子和推理框架。未来,工具还将结合量化知识库和Agent能力,推动量化方案、敏感层以及模型适配进一步走向自动化。

图片

低精度计算完整技术链逐步形成

本次会议汇聚了来自模型、算法、芯片、软件、网络和标准体系的产业链伙伴共同参与。会场氛围热烈,参会嘉宾展开充分研讨与深入交流。

图片

低精度计算并非依靠单一企业、单一模型或单一格式就能独立完成的工程。只有数据格式能够被芯片高效执行、被软件框架原生支持、经过不同模型充分验证,并构建起开放标准和开发者生态,低精度带来的性能和能效优势才能真正转化为产业价值。

未来,HiFloat社区将继续秉持开放、共享、共建理念,连接更多产业伙伴,共同探索AI计算在“更低精度”之下的更高效率。

如希望进一步了解或参与GCC-HiFloat社区后续技术研讨、标准共建、产业联创及生态合作活动,欢迎联系:gcc_hifloat@gccorg.com

拓展阅读

图片
图片
图片