突发新闻:又一科技巨头加速其 AI 研发进程。这一次的主角是 Meta,据路透社报道,该公司正在测试其首款自研的 AI 训练芯片。此举旨在降低其庞大的基础设施成本,并减少对 NVIDIA 的依赖 (据说 NVIDIA 经常让扎克伯格说出"成人用语")。如果一切顺利,Meta 希望能在 2026 年将其用于训练。
据报道,Meta 已开始小规模部署这款专用加速器芯片,该芯片专门设计用于 AI 任务 (因此比通用型 NVIDIA GPU 更节能)。在完成首次"流片"后,公司随即开始部署。流片是硅芯片开发中的一个阶段,即将完整设计送去进行制造测试。
该芯片属于 Meta Training and Inference Accelerator (MTIA) 系列,这是该公司专注于生成式 AI、推荐系统和高级研究的自研芯片系列。
去年,该公司开始使用 MTIA 芯片进行推理,这是 AI 模型在后台进行的预测过程。Meta 已开始在 Facebook 和 Instagram 的新闻推送推荐系统中使用推理芯片。据路透社报道,该公司计划也开始使用训练芯片。两种芯片的长期计划据称是从推荐系统开始,最终用于像 Meta AI 聊天机器人这样的生成式产品。
在 2022 年订购了价值数十亿美元的 GPU 后,该公司成为 NVIDIA 最大的客户之一。这是 Meta 的一个转折点,此前该公司放弃了一款在小规模测试部署中失败的自研推理芯片——这与现在正在进行的训练芯片测试类似。
好文章,需要你的鼓励
谷歌近期悄然调整账户存储政策:新注册用户若未绑定手机号,免费存储空间将从原来的15GB缩减至5GB。用户需验证手机号后,方可获得完整的15GB空间,用于Gmail、Drive和Photos的共享使用。谷歌表示,此举旨在确保存储空间"每人仅限一份",有效防止滥用。有分析认为,存储硬件成本上升也是推动此次政策调整的重要原因之一。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
AT&T、Verizon和T-Mobile宣布计划组建合资企业,利用卫星技术消除美国境内的网络覆盖盲区,重点服务农村及网络欠发达地区。该合资企业将整合知识产权与地面频谱资源,推动下一代直连设备(D2D)通信发展。目前三方尚未签署正式协议,现有运营商与卫星服务协议不受影响。此前,T-Mobile已与SpaceX合作推出星链卫星服务,美国联邦通信委员会也刚批准了价值400亿美元的EchoStar频谱出售案。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。