随着AI芯片需求激增而供应趋紧,Meta正在自主承担AI计算需求,加大自研芯片开发力度。公司计划在未来两年内推出四代新芯片产品。
包括Meta、AWS和谷歌在内的云计算巨头都热衷于开发自主芯片,以提升自家数据中心的性能表现。Meta于2023年启动自主芯片项目,推出了Meta训练与推理加速器(MTIA),这是一系列定制硅芯片家族,专门为高效驱动AI工作负载而设计。
Meta表示,用于排序和推荐训练的MTIA 300已投入生产。公司计划将其他芯片产品MTIA 400、450和500主要用于生成式AI推理生产环节。
作为Facebook的母公司,Meta在AI领域越来越倾向于走自主发展道路。尽管公司早期支持开源大语言模型,但现已退出推广开放模型的行业组织,转而计划开发可收费的专有模型。
不过,Meta并非完全独立发展,仍继续从AMD和ARM采购芯片产品。
除了设计自主芯片外,Meta还在寻求更紧密整合业务各个环节的其他方式。今年1月,公司宣布将网络和AI数据中心开发统一到单一管理框架下。
Q&A
Q1:Meta为什么要自主开发AI芯片?
A:随着AI芯片需求激增而供应趋紧,Meta选择自主承担AI计算需求。通过开发定制芯片可以提升数据中心性能,更好地满足自身AI工作负载的特殊需求,减少对外部供应商的依赖。
Q2:MTIA芯片系列有哪些产品?分别用于什么用途?
A:MTIA系列包括四款芯片:MTIA 300已投入生产,用于排序和推荐训练;MTIA 400、450和500主要用于生成式AI推理生产环节。这些芯片专门为高效驱动AI工作负载而定制设计。
Q3:Meta是否完全停止采购外部AI芯片?
A:Meta并非完全独立发展,仍继续从AMD和ARM等厂商采购芯片产品。自主开发芯片是为了更好地满足特定需求,而不是完全替代外部供应商。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。