字节跳动自主研发AI GPU,旨在减少对英伟达依赖

duoqinglieren2024-12-19 14:55:50TechWeb.com.cn

据媒体报道,字节跳动正在开发两款专门用于人工智能领域的GPU,并计划到2026年实现大规模量产。据悉,这两款AI GPU将由台积电负责制造,这将有助于字节跳动降低对英伟达的依赖,并且符合美国的出口管控法规。

目前,这两款GPU正处于设计阶段,一款专为AI训练设计,另一款则用于AI推理。预计它们将采用台积电的先进制程技术N4或N5生产,与英伟达的Blackwell系列制程技术相似。字节跳动期望在2026年实现这些GPU的大规模生产及部署。

今年,字节跳动已经投入超过20亿美元购买超过20万台英伟达H20 GPU,单价约为10000美元,其中许多订单尚未交付。由于市场上英伟达GPU供不应求且价格高昂,字节跳动决定开发自家的人工智能硬件。

英伟达为了应对去年美国实施的出口管控政策,为中国市场特别设计了DGX H20等产品。尽管HGX H20的性能相比英伟达的高端H100有所削减,但它仍然配备了96GB的HBM3内存、最高4TB/s的内存带宽和8路GPU互联能力,因此在实际应用中仍然受到企业客户的青睐。尽管字节跳动的新GPU可能会受到美国出口管制的限制,无法在性能上超越HGX H20,但其成本将大幅降低。

字节跳动在自主开发AI GPU方面面临的最大挑战是,公司目前依赖英伟达的CUDA及相应软件栈进行AI训练和推理。如果转向自家GPU,字节跳动将需要开发新的软件平台,并确保软件与硬件的兼容性。
 

产能爆满:消息称英伟达再追单AI芯片,台积电紧急增购CoWoS封装设备

9月25日消息,随着英伟达AI芯片的需求火热,代工厂台积电也一路加大产能。据台媒《经济日报》报道,台积电CoWoS(注:Chip-on-Wafer-on-Substrate)先进封装产能爆满,积极扩产之际,传出大客户英伟达扩大AI芯片下单...

有大佬曾吐槽搜索全广告!百度已有18%搜索结果由AI生成

8月23日消息,李彦宏近日在第二季度财报电话会上表示,已有18%的搜索结果由AI生成,为用户提供更准确和直接的答案。据悉,智能体在百度生态的分发量大幅增加,7月日均分发次数超800万次,为5月的两倍。本季度,百度...

灯塔AI再升级:上新票房预测解析等功能 春节期间免费开放

1月24日消息,阿里影业旗下影视数智平台灯塔专业版宣布,灯塔AI全新升级,上新票房预测解析、实时预售快报、实时票冠地图等功能。预测方面,灯塔AI开放了全新的T+3天级票房预测结果,并对单片的每日票房落点、总票房...

iPhone 17 系列被曝升级 12GB 内存,能够更好地支持端侧 AI 大模型

IT之家8月28日消息,@手机晶片达人表示,预算有限但希望体验更多AI功能的iPhone用户可以等明年的iPhone17系列。他表示,iPhone16系列只有8GB内存,主要面向的云端AI场景,而明年的iPhone17系列将升级12GB内存,可提...

消息称沙特阿拉伯计划设立400亿美元AI风投基金

IT之家3月20日消息,据《纽约时报》报道,沙特阿拉伯正计划设立400亿美元(IT之家备注:当前约2880亿元人民币)的AI初创企业风投基金。根据多位消息人士的说法,这一坐拥巨大石油财富的海湾国家正寻求支持一系列的AI...

上一篇:监管机构预测北美最早明年出现大面积停电,罪魁祸首是人工智能
下一篇:首个智能体安全生态协作组织成立:华为、荣耀、字节、蚂蚁等二十余家头部企业单位加入