AI对芯片的巨大需求已经对IT市场产生了影响,而这种情况可能会进一步恶化:英伟达已与Meta签署了一项多年战略合作协议,将为这家社交网络公司的新AI数据中心提供尖端处理器。
根据协议,英伟达将向Meta供应数百万颗Blackwell和Rubin GPU,同时Meta还将把英伟达的Spectrum-X以太网交换机集成到其Facebook开放交换系统平台中。
Meta还将扩大对英伟达Grace芯片的使用,英伟达称这是"首个大规模仅使用Grace的部署"。通常情况下,Grace CPU会与英伟达的Blackwell GPU配对使用。
英伟达CEO黄仁勋在新闻发布会上表示:"没有人能像Meta这样大规模部署AI。"Meta计划今年的资本支出达到1150亿至1350亿美元,主要用于数据中心和其中的计算基础设施建设,这一数字甚至超过了一些向其他公司出租计算能力的超大规模云服务商。而Meta则将这些资源全部用于自身业务。
这对其他企业来说可能是个坏消息,因为超大规模云服务商和Meta这样的大客户的需求导致用于训练和运行AI模型的芯片供应量下降。
IDC预测,由AI驱动的更广泛的芯片短缺将在未来两年对IT市场产生重大影响,企业在更换从笔记本电脑到服务器等各种设备时将面临困难。特别是,寻求英伟达处理器的企业可能被迫寻找其他替代方案。
Q&A
Q1:Meta与英伟达签署的协议包含哪些内容?
A:英伟达将向Meta供应数百万颗Blackwell和Rubin GPU,Meta还将把英伟达的Spectrum-X以太网交换机集成到其Facebook开放交换系统平台中,同时Meta还将扩大对英伟达Grace芯片的使用。
Q2:Meta今年在AI基础设施上的投入有多大?
A:Meta计划今年的资本支出达到1150亿至1350亿美元,主要用于数据中心和其中的计算基础设施建设,这一数字甚至超过了一些向其他公司出租计算能力的超大规模云服务商。
Q3:芯片短缺会对其他企业造成什么影响?
A:IDC预测,由AI驱动的芯片短缺将在未来两年对IT市场产生重大影响,企业在更换从笔记本电脑到服务器等各种设备时将面临困难,寻求英伟达处理器的企业可能被迫寻找其他替代方案。
好文章,需要你的鼓励
谷歌近期悄然调整账户存储政策:新注册用户若未绑定手机号,免费存储空间将从原来的15GB缩减至5GB。用户需验证手机号后,方可获得完整的15GB空间,用于Gmail、Drive和Photos的共享使用。谷歌表示,此举旨在确保存储空间"每人仅限一份",有效防止滥用。有分析认为,存储硬件成本上升也是推动此次政策调整的重要原因之一。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
AT&T、Verizon和T-Mobile宣布计划组建合资企业,利用卫星技术消除美国境内的网络覆盖盲区,重点服务农村及网络欠发达地区。该合资企业将整合知识产权与地面频谱资源,推动下一代直连设备(D2D)通信发展。目前三方尚未签署正式协议,现有运营商与卫星服务协议不受影响。此前,T-Mobile已与SpaceX合作推出星链卫星服务,美国联邦通信委员会也刚批准了价值400亿美元的EchoStar频谱出售案。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。