内存制造商正在努力跟上需求增长的步伐。在AI驱动的内存短缺背景下,SK海力士周二宣布将在韩国投资19万亿韩元(约130亿美元)建设一座先进封装测试工厂,这可能会缓解供应紧张局面,但主要针对的并非笔记本电脑和手机等消费产品。
这家韩国内存巨头公布了名为P&T7的新工厂选址,将位于韩国忠北清州科技园工业区。该工厂计划于4月开工建设,目标在2027年底完工。
该项目旨在应对数据中心GPU和AI加速器广泛使用的高带宽内存(HBM)模块需求激增。SK预计在2025年至2030年间,HBM需求将以年均33%的速度增长,这在很大程度上由对AI基础设施的极端需求推动。
HBM通过堆叠多层DRAM制造而成,最常见的是8层和12层配置,以实现更高的容量和带宽,同时降低能耗。
这一制造过程成本极高,任何一层的单个缺陷都可能导致最终模块报废。更糟糕的是,由于HBM的惊人数据传输速率(最新一代产品单模块可达2.75 TB/s),这些芯片通常需要与计算逻辑永久封装在一起。这使得利润空间极其紧张。有缺陷的模块可能会报废价值5万美元的GPU。
因此,像SK新宣布的P&T7工厂这样的专业封装测试设施,对于大规模生产HBM至关重要。
P&T7工厂的开发正值SK海力士准备启动其M15X DRAM工厂之际。这座于2024年宣布的20万亿韩元(约135亿美元)DRAM工厂旨在满足不断增长的HBM需求。该工厂于10月开放了洁净室,据SK表示,设备部署工作进展顺利。
虽然新封装工厂对AMD或英伟达等HBM内存的主要消费者来说可能是好消息,但该封装工厂对解决过去几个月消费者和企业面临的内存价格飙升问题作用有限。虽然HBM过去曾出现在消费产品中,但其极高的成本和复杂性通常排除了其在现代客户端设备中的使用。
一年前售价不到100美元的DDR5内存套件现在售价远超300美元,供应商正在应对持续的DRAM和NAND短缺问题。
正如我们此前报道的,DRAM价格预计将在未来几年保持高位,部分原因是对AI基础设施的强劲需求。分析师预测DRAM价格将在今年晚些时候达到峰值,然后在2027年趋于平稳,并在2028年再次上涨。
在客户承受高昂价格的同时,内存供应商正在赚取数十亿美元的收入。上周,三星发布了修订后的第四季度预测,预计其营业利润将增长两倍以上,而美光科技和SK海力士的利润预计也将增长一倍以上。
Q&A
Q1:SK海力士新建的P&T7工厂主要用来做什么?
A:P&T7是SK海力士投资130亿美元在韩国建设的先进封装测试工厂,专门用于生产高带宽内存(HBM)模块。这些HBM主要供应给数据中心GPU和AI加速器使用,以满足AI基础设施的巨大需求。
Q2:为什么HBM内存制造成本这么高?
A:HBM通过堆叠8-12层DRAM制造,任何一层出现缺陷都会导致整个模块报废。而且由于HBM数据传输速率极高(可达2.75 TB/s),需要与计算芯片永久封装,一旦出现问题可能报废价值5万美元的GPU。
Q3:这个新工厂能缓解消费级内存涨价问题吗?
A:不太可能。该工厂主要生产HBM内存,由于成本极高和复杂性,HBM很少用于消费产品。目前DDR5内存价格已从一年前的不到100美元涨至超过300美元,预计未来几年价格仍将保持高位。
好文章,需要你的鼓励
前OpenAI首席技术官Mira Murati创办的AI初创公司Thinking Machines Lab宣布推出"交互模型"技术。不同于现有AI的轮流对话方式,该模型采用"全双工"技术,能在接收输入的同时生成响应,实现类似真实电话通话的自然交互。其模型TML-Interaction-Small响应速度达0.40秒,优于OpenAI和谷歌同类产品。目前仍处于研究预览阶段,计划数月内开放有限测试,年内正式发布。
香港大学与哈尔滨工业大学联合发布的这项研究(arXiv:2605.06196)发现,大语言模型在扮演不同社会层级角色时,内部神经网络存在一条清晰的"粒度轴",从普通个人视角延伸至全球机构视角。这条轴是AI角色空间的主导几何方向,可被测量、被跨模型复现,并通过激活引导技术加以操控,为AI社会模拟的可信度评估和角色视角的主动调控提供了新工具。
澳大利亚各州及联邦能源部长在近期会议上达成共识,要求数据中心通过投资新建可再生能源和储能设施,完全抵消其电力需求。除昆士兰州外,所有州均支持该提议。联邦能源部长克里斯·鲍文表示,数据中心是新增能源需求的最大驱动力之一,应成为电网的助力而非负担。澳大利亚能源市场委员会将于7月前提交具体实施建议。数据显示,到2030年数据中心用电量预计将增至现在的三倍。
华盛顿大学研究团队发现,在AI数学推理训练中,将随机拼凑的拉丁文占位词(Lorem Ipsum)添加到题目前,能帮助AI突破"全部答错、训练停滞"的困境,在多个模型上平均提升推理得分2.8至6.2分。研究揭示了有效扰动的两个关键特征:使用拉丁语词汇避免语义干扰,以及保持较低困惑度确保AI能正确理解题目内容。