Broadcom公司股价今日上涨超过9%,此前该公司宣布与OpenAI达成为期四年的基础设施合作伙伴关系。
该合作计划将在未来四年内部署价值10吉瓦的数据中心硬件。据OpenAI透露,这些基础设施将由与Broadcom共同开发的定制人工智能处理器提供支持。在今日发布的播客中,OpenAI总裁Greg Brockman表示,该AI提供商使用自己的神经网络来设计芯片。
"我们已经能够大幅缩减面积,"Brockman详细解释道。"你可以拿到人类已经优化过的组件,然后投入大量计算资源,模型就会提出自己的优化方案。"
现成的显卡面向广泛的客户群体,这意味着对某些用户重要的模块对其他用户来说可能并不必要。构建定制处理器可以移除不需要的模块,从而节省功耗和空间。这些节省的功耗和空间可以重新分配给为公司工作负载优化的电路。
OpenAI计划将其定制处理器部署在同样基于内部设计的机架中。这些系统将配备来自Broadcom的PCIe和以太网网络设备。PCIe主要用于连接内部服务器组件,而以太网则用于服务器之间的连接。
Broadcom在上周三推出了新的AI优化以太网交换机TH6-Davisson。该设备每秒可处理102.4太比特的流量,该公司表示这是最接近竞争对手吞吐量的两倍。TH6-Davisson用于通过网络传输数据的激光发射器采用现场可更换设计,旨在简化维护工作。
通常情况下,以太网交换机与称为可插拔收发器的设备一起部署。这些设备负责将电子数据转换为可通过光纤网络传输的光信号,反之亦然。TH6-Davisson配备内置收发器,无需外部光学模块,从而降低成本。
OpenAI没有明确说明将在合作中使用Broadcom的哪些PCIe产品。这家芯片制造商销售名为PEX系列的PCIe交换机产品线。它还生产重定时器,这是一种防止数据在PCIe链路传输过程中出现错误的模块。
"OpenAI和Broadcom在过去18个月里一直在合作,"OpenAI首席执行官Sam Altman在今日的播客中表示。"通过能够在整个技术栈中进行优化,我们可以获得巨大的效率提升,这将带来更好的性能、更快的模型和更便宜的模型。"
OpenAI和Broadcom计划在2026年下半年部署通过合作开发的首批数据中心机架。据这家芯片制造商透露,其余系统将在2029年之前上线。这些设备预期的10吉瓦功耗相当于数百万家庭的能源使用量。
Broadcom和OpenAI没有透露该项目的预期价格。今年8月,英伟达公司首席执行官Jensen Huang表示,1吉瓦的AI数据中心容量成本为500亿至600亿美元。他补充说,这笔资金的大部分用于英伟达硬件,这表明Broadcom有望从与OpenAI的新合作中获得数十亿美元的收入。
Q&A
Q1:OpenAI与Broadcom的合作具体包括什么内容?
A:这是一个为期四年的基础设施合作伙伴关系,将部署价值10吉瓦的数据中心硬件,使用两家公司共同开发的定制人工智能处理器,并配备Broadcom的PCIe和以太网网络设备。首批数据中心机架计划在2026年下半年部署。
Q2:定制AI处理器相比现成显卡有什么优势?
A:定制处理器可以移除不需要的模块,节省功耗和空间,然后将这些资源重新分配给为公司特定工作负载优化的电路。OpenAI还使用自己的神经网络来设计芯片,实现了大幅的面积缩减和性能优化。
Q3:这个合作项目的规模有多大?
A:项目预期功耗为10吉瓦,相当于数百万家庭的能源使用量。根据英伟达CEO的估算,1吉瓦AI数据中心容量成本约500-600亿美元,这意味着整个项目价值可能达到数千亿美元规模。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。