华为五大技术华为的三个黑科技，要颠覆AI计算

用户投稿 2025年08月22日 18:10:03 34 0

华为的三个黑科技，要颠覆AI计算？

没有人不在期待大模型能够成为下一个电动车，作为代表中国的新兴产业，在世界范围内掀起狂澜。

然而主流的MoE架构大模型，却苦于其结构上的“先天不足”：巨大的硬件成本与多重拖累效率的环节，使得中国企业在这场芯片堆砌与效率挖掘的苦径上难以提速。

作为智能基础设施提供商，华为在这场战役中另辟蹊径，利用其在数学算法和工程领域的深厚积累，为DeepSeek显著提升了效率及用户体验。

山就在那里，但中国企业找到了不一样的登顶之路。

近期，虎嗅将打造《华为技术披露集》系列内容，全面揭秘超大规模MoE模型推理部署技术，通过一连串的技术报告，首次全面披露技术细节。

希望本系列内容能为业界起到参考价值，也希望更多人能与华为一起，共同打造长期持续的开放协作生态环境，让昇腾生态在中国茁壮成长。

《华为技术披露集》系列

VOL.5 ：昇腾亲和

算子是 AI 大模型执行计算的 “原子级工具”，如同乐高积木中的基础模块，负责从加减乘除到特征提取的一切核心操作。

它们不仅是模型的效率引擎，更是硬件性能的放大器 —— 通过标准化设计、硬件深度适配与复用机制，让芯片处理海量数据时如虎添翼。而昇腾此次开源的三大技术，正是算子优化的 “终极形态”。

AMLA × 融合算子 × SMTurbo：让大模型推理速度与能效双重革命

基于昇腾算力，华为团队本次发布了三项重要的硬件亲和算子技术研究：

AMLA：用“数学魔法”重构浮点运算，让昇腾芯片的算力利用率突破 70%。

融合算子优化：像指挥交响乐团一样调度硬件资源，让计算与通信 “无缝协奏”。

SMTurbo：打造内存访问的 “高速公路”，跨 384 卡延迟低至亚微秒级。

技术全景：三大黑科技如何颠覆 AI 计算？

AMLA：以加代乘的“魔法”让芯片算力利用率飙升

“数字炼金术”：对二进制表示重解析，将复杂乘法转换为加法运算，充分利用存内算力，算力利用率飙升至 71%。

针对Decode阶段的MLA计算，华为团队提出了AMLA（Ascend MLA）算子，通过数学等价变化和硬件亲和的深度优化，释放昇腾芯片澎湃算力。

具体而言，通过对浮点数二进制编码的重解析，把复杂的乘法运算变成简单的加法操作，AMLA实现了基于存内计算的变量更新，充分利用算力的同时减少数据搬运；结合一系列基于昇腾硬件的计算流程及流水优化手段，进一步提升算子的整体性能。

当前AMLA算法的Attention 算子充分发挥昇腾硬件的计算能力，平均算力利用率达到55%，最高可达71%，优于FlashMLA公开的结果。

融合算子优化：硬件资源的 “交响乐指挥家”

将多个算子合而为一，让计算、通信、存储 “三重协奏”。

基于昇腾平台部署 DeepSeek V3/R1 大模型的实践经验，华为团队提炼出三大昇腾算子融合设计原理：硬件单元间并行度优化、冗余数据搬运消除、数学等价重构计算流。

首先，利用昇腾芯片的多硬件单元并行的能力，将跨硬件单元串行算子融合为复合算子，通过指令级流水编排实现计算耗时相互掩盖。

其次，对串行向量算子实施融合处理，构建全局内存与计算单元缓存的直通数据通道，使中间结果全程驻留高速缓存。

最后，华为团队运用数学等价关系解耦算子间数据依赖，重构计算顺序实现并行加速。该技术体系在模型推理中实现了大幅性能提升。

SMTurbo：384 卡内存共享的 “超低延迟高速公路”

昇腾原生 Load/Store 语义让跨卡访存延迟进入亚微秒时代。

华为CloudMatrix 384支持384卡规模原生Load/Store语义。因其低延迟、上下文切换代价小、可细粒度流水等优势，受到业界广泛关注。基于共享内存的集合通信满足了小数据量、大范围集合通信场景需求，成为稀疏模型推理的关键能力。

面向原生Load/Store内存语义通信提供软硬件加速能力，ShmemTurbo Concurrent Push & Pull (SMTurbo-CPP) 将Load/Store在读和写两个方向上并行，发挥了昇腾芯片读写分离的微架构优势。

针对数据保序场景下的同步开销问题，引入了批处理与中转机制，降低了控制逻辑的开销。在跨机访存通信场景下，方案可以提升CloudMatrix 384中昇腾芯片每线程的访存吞吐20%以上。

写在最后

如上，在提到的三个算子层面优化技术的未来发展上：

针对AMLA，将研究仅KVCache 量化和全量化场景的MLA 算子优化，进一步扩展算子应用场景。

针对融合算子优化，将进一步探索融合算子在更多模型架构上的应用，推动大语言模型在昇腾硬件上的高效推理与广泛应用。

针对Load/Store的优化技术，将结合业务设计精巧的流水实现，平衡读写平面的负载分担，将CPP 思想引入Deepseek dispatch 与combine 场景，在大BatchSize下取得实际收益。

本内容为作者独立观点，不代表虎嗅立场。未经允许不得转载，授权事宜请联系 hezuo@huxiu.com

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4383770.html?f=jinritoutiao

华为憋了三年的大招终于炸了！2025 新品暗藏五大杀招！

家人们，华为最近搞了个大动作，2025 年的新品发布会简直就是一场科技盛宴，憋了三年的大招一放出来，直接震撼了整个科技圈。这场发布会里藏着的五大杀招，不仅让咱消费者看到了未来科技生活的模样，更是给整个行业指明了新方向。今天，咱就来好好唠唠这几个让人拍手叫绝的亮点。

华为这次 2025 新品发布会，真的是诚意满满，每一个杀招都让人兴奋不已。不管是影像技术、通信黑科技，还是鸿蒙电脑、智能穿戴设备，以及生态布局，都展示了华为强大的技术实力和创新能力。相信在未来，华为会给我们带来更多的惊喜，让我们的生活变得更加美好。家人们，你们对华为这次发布会的哪个产品最感兴趣呢？欢迎在评论区留言讨论！