华为即将发布AI推理领域突破性成果：或能降低对HBM内存依赖-AI资讯-资讯-创佳网

快科技8月10日消息，据国内媒体报道，华为将于8月12日在2025金融AI推理应用落地与发展论坛上，发布AI推理领域的突破性技术成果。

据透露，这项成果或能降低中国AI推理对HBM（高带宽内存）技术的依赖，提升国内AI大模型推理性能，完善中国AI推理生态的关键部分。

HBM（High Bandwidth Memory，高带宽内存）是一种基于3D堆叠技术的先进DRAM解决方案，多层DRAM芯片垂直集成，显著提升数据传输效率。具有超高带宽与低延迟、高容量密度、高能效比等优势。

AI推理需频繁调用海量模型参数（如千亿级权重）和实时输入数据。HBM的高带宽和大容量允许GPU直接访问完整模型，可避免传统DDR内存因带宽不足导致的算力闲置。对于千亿参数以上的大模型，HBM可显著提升响应速度。

当下，HBM已成为高端AI芯片的标配，训练侧渗透率接近100%，推理侧随模型复杂化加速普及。

然而，其产能紧张和美国出口限制倒逼国内厂商探索Chiplet封装、低参数模型优化等替代方案。

2月18日消息，据外媒报道，ChatGPT大火之后，OpenAI并未停下他们在人工智能领域的脚步，随后推出了ChatGPTPlus及新一代的自然语言处理模型GPT-4，2月15日也在官网宣布了人工智能视频生成模型“Sora”，可根据文本生...

10月17日消息，波士顿动力与丰田研究所（注：简称TRI）当地时间16日宣布达成合作，双方将在人工智能与机器人技术领域展开合作。此次合作将结合TRI的大规模行为模型与波士顿动力的Atlas机器人，旨在加速通用人形机器...

11月21日消息，随着OpenAI内斗大戏进入新的阶段，一众员工深夜又上演“逼宫”戏码。据纽约时报等媒体统计数据，目前OpenAI至少有743名员工已签署联名信逼迫董事会集体辞职，否则所有签名者集体跳槽微软，而且这一人...

IT之家5月6日消息，彭博社刚刚报道称，OpenAI已同意以约30亿美元（IT之家注：现汇率约合217.29亿元人民币）收购AI编程助手开发商Windsurf（注册名ExafunctionInc.）。彭博社称，这是OpenAI迄今为止最大的一笔收购，...

4月1日消息，过去一周，国内外AI圈子又有众多话题涌现。关于大模型的落地，成为AI大佬们热衷谈论的主题之一。近期，国内又有多个大模型及相关产品开源，开源生态建设，也成为AI大佬们关注的重点之一。谈大模型落地百...

华为即将发布AI推理领域突破性成果：或能降低对HBM内存依赖