竞争对手三星和SK海力士正与OpenAI合作,在韩国建设本地Stargate数据中心,这是这家聊天机器人制造商全球基础设施推进计划的一部分。
Stargate是OpenAI价值5000亿美元的数据中心基础设施项目,计划为OpenAI的ChatGPT建设20个专注于AI的数据中心。目标是在2029年前投入运营。OpenAI正与软银和甲骨文在该项目上开展合作。
路透社10月早些时候报道,OpenAI正与三星和SK海力士合作在韩国建设两个数据中心,初始容量为20兆瓦。这是在"OpenAI首席执行官萨姆·奥特曼在首尔中央总统府会见了韩国总统李在明以及三星电子和SK海力士董事长"之后实现的。据韩国《朝鲜日报》报道,将在全罗南道建设SK海力士/OpenAI数据中心,在浦项建设三星/OpenAI数据中心。
据了解,这两家韩国内存制造商可能会帮助资助这些项目的一部分。
三星和SK海力士将扩大内存芯片产量,目标是每月90万片DRAM晶圆。OpenAI没有说明这是标准DRAM还是专用HBM,后者是一种堆叠式内存,为紧密连接的GPU提供比插槽式DRAM为x86 CPU提供的更多带宽和容量。
KED Global媒体称这是用于HBM的。据了解,Stargate订单可能包括服务器DRAM、图形DRAM,甚至SSD。
KED Global表示,每月90万片晶圆是当前全球产能的两倍。据了解,SK海力士目前每月运营16万片DRAM和HBM晶圆。
这意味着三星和SK海力士都必须建设新的HBM工厂。连锁反应可能是它们会减少DRAM生产,因为DRAM不如HBM盈利。
去年,我们报道了SK海力士正在增加其内存制造能力,将投资约9.4万亿韩元(68亿美元)在韩国京畿道龙仁半导体集群建设HBM制造工厂。工厂建设将于2025年3月开始,2027年5月完成。计划随后在集群中陆续增加三家工厂。SK海力士另一家新工厂——清州M15X设施应在今年年底完工。
如果OpenAI的订单率保持在该水平,Stargate交易意味着三星和SK海力士将获得超过100万亿韩元(720亿美元)的增量需求。实际上,OpenAI正在为与它们计划的两个韩国数据中心确保HBM和其他内存组件供应链。
奥特曼表示:"韩国具备成为全球AI领导者的所有要素——出色的技术人才、世界级基础设施、强有力的政府支持和蓬勃发展的AI生态系统。我们很兴奋能够通过我们的全球Stargate倡议与三星电子、SK海力士和科学技术信息通信部合作,支持韩国的AI雄心。"
三星和SK海力士还将寻求在其运营中部署ChatGPT企业版和API功能,以改善工作流程并支持创新。
OpenAI还签署了一系列协议,探索在韩国开发AI数据中心。包括与韩国科学技术信息通信部签署谅解备忘录,评估在首尔首都圈以外建设AI数据中心,支持区域经济增长和就业创造。
与SK电讯有单独的合作伙伴关系,探索在韩国建设另一个AI数据中心,以及与三星物产、三星重工和三星SDS的协议,评估在韩国增加数据中心容量的机会。
持续的聊天机器人需求
是否会有持续的AI聊天机器人需求来支撑如此庞大昂贵的数据中心建设和内存制造项目?奥特曼在"OpenAI推出包括ChatGPT中的应用程序在内的多项新举措"后,在Stratechery采访中与分析师本·汤普森进行了交谈。
OpenAI正在"介绍你可以在ChatGPT内直接聊天的新一代应用程序。开发者今天就可以开始使用新的应用程序SDK(预览版)构建它们。"
"应用程序将面向欧洲经济区、瑞士和英国以外所有登录的ChatGPT用户提供,包括免费、Go、Plus和Pro计划。我们的试点合作伙伴——Booking.com、Canva、Coursera、Figma、Expedia、Spotify和Zillow今天也在提供服务的市场上以英语开始提供服务。更多试点合作伙伴将在今年晚些时候推出,我们预计很快会向欧盟用户提供应用程序。"
我们可以想象企业应用程序也可能在ChatGPT内提供。
奥特曼告诉汤普森:"大多数人会想要一个AI服务,它需要在他们的整个生活中对他们有用。所以你会使用ChatGPT,但你希望它与其他服务集成,所以你需要在ChatGPT内有其他应用程序。"
ChatGPT将作为前端,其他应用程序集成但在其中仍然可见。奥特曼说:"我们一直在思考应用程序和ChatGPT,以及我们如何统一API和消费者业务。"
他评论道:"我最喜欢的AI类比,我最喜欢的历史类比,是晶体管……我认为它会渗透到每个消费产品和每个企业产品中。"
在这种观点中,晶体管作为基础组件支撑了IT底层硬件的发展,而ChatGPT将作为顶层而不是底层覆盖一切。
如果这能成功,ChatGPT的消费者使用将是巨大的,并让这些Stargate数据中心保持忙碌。
汤普森询问奥特曼与英伟达、AMD和台积电的巨额交易,并问道:"你期望谁来支付?这些交易是否是关于你保证购买产出,你需要这些公司投资?"
奥特曼回应:"是的,我期望OpenAI的收入来支付。"
我们想象这也适用于与三星、SK海力士和韩国其他公司的交易。
汤普森:"你是否将自己视为帮助他们获得更好利率的财务担保人?"
奥特曼:"是的,但我们会帮助融资。我们正在制定计划,能够在收入之前帮助这些公司获得这种规模所需的融资。"
汤普森还专门询问了三星和SK海力士的交易:"其中一个令人惊讶的交易,稍微深入一点,是与三星和SK海力士的交易。显然,内存是未来构建这些芯片的巨大限制,这是否与AMD交易相关?"
奥特曼:"给我们几个月时间,一切都会说得通,我们将能够谈论整个——我们不像看起来那么疯狂。这里有一个计划。"
补充说明
三星还有更多好消息。Wedbush分析师马特·布赖森告诉订阅者,黄仁勋亲自告知三星,其HBM3e已通过英伟达的质量认证测试,英伟达打算下订单。布赖森说两家公司"现在据报正在微调数量、定价和交付时间表等细节。"
Q&A
Q1:Stargate项目是什么?规模有多大?
A:Stargate是OpenAI价值5000亿美元的数据中心基础设施项目,计划建设20个专注于AI的数据中心,为ChatGPT提供服务,目标是在2029年前投入运营。
Q2:三星和SK海力士在这个项目中扮演什么角色?
A:三星和SK海力士将与OpenAI合作在韩国建设两个本地数据中心,并大幅扩大内存芯片产量至每月90万片DRAM晶圆,还可能为项目提供部分资金支持。
Q3:这些数据中心建设对韩国经济有什么影响?
A:如果OpenAI订单率保持稳定,将为三星和SK海力士带来超过100万亿韩元(720亿美元)的增量需求,同时支持区域经济增长和就业创造。
好文章,需要你的鼓励
亚马逊云服务部门与OpenAI签署了一项价值380亿美元的七年协议,为ChatGPT制造商提供数十万块英伟达图形处理单元。这标志着OpenAI从研究实验室向AI行业巨头的转型,该公司已承诺投入1.4万亿美元用于基础设施建设。对于在AI时代竞争中处于劣势的亚马逊而言,这项协议证明了其构建和运营大规模数据中心网络的能力。
Meta FAIR团队发布的CWM是首个将"世界模型"概念引入代码生成的32亿参数开源模型。与传统只学习静态代码的AI不同,CWM通过学习Python执行轨迹和Docker环境交互,真正理解代码运行过程。在SWE-bench等重要测试中表现卓越,为AI编程助手的发展开辟了新方向。
当今最大的AI数据中心耗电量相当于一座小城市。美国数据中心已占全国总电力消费的4%,预计到2028年将升至12%。电力供应已成为数据中心发展的主要制约因素。核能以其清洁、全天候供电特性成为数据中心运营商的新选择。核能项目供应链复杂,需要创新的采购模式、标准化设计、早期参与和数字化工具来确保按时交付。
卡内基梅隆大学研究团队发现AI训练中的"繁荣-崩溃"现象,揭示陈旧数据蕴含丰富信息但被传统方法错误屏蔽。他们提出M2PO方法,通过改进数据筛选策略,使模型即使用256步前的陈旧数据也能达到最新数据的训练效果,准确率最高提升11.2%,为大规模异步AI训练开辟新途径。