谷歌云于周三宣布,其第八代定制AI芯片——张量处理单元(TPU)将分化为两款独立产品:一款名为TPU 8t,专为模型训练设计;另一款名为TPU 8i,则主要面向推理场景。
所谓推理,指的是模型在部署后持续运行的过程,即用户提交提示词后系统所执行的操作。
与前几代产品相比,谷歌为这两款新TPU列出了一系列亮眼的性能指标:AI模型训练速度最高提升3倍,每美元算力性能提升80%,并且支持超过100万块TPU在单一集群中协同工作。总体来看,新款芯片在能耗和客户使用成本上均有望大幅低于前代产品。谷歌将这类芯片命名为TPU而非GPU,是因为其最初专为张量运算设计的低功耗芯片就沿用了"Tensor"这一命名。
不过,谷歌的芯片并不构成对英伟达的全面冲击,至少目前还不是。与微软、亚马逊等其他云计算巨头一样,谷歌推出这些芯片的目的是补充其基础设施中现有的英伟达体系,而非直接取而代之。事实上,谷歌承诺将在今年晚些时候在其云平台上提供英伟达最新款芯片Vera Rubin。
从长远来看,随着企业将AI需求迁移至云端、并将应用程序移植到自研芯片上,亚马逊、微软、谷歌等超大规模云服务商对英伟达的依赖程度或许会逐渐降低。
但就眼下而言,押注英伟达失势并不是明智之举。知名芯片市场分析师帕特里克·摩尔曾在X平台上半开玩笑地提到,他早在2016年谷歌推出第一款TPU时就预测该芯片将对英伟达和英特尔构成威胁。然而如今,英伟达的市值已接近5万亿美元,足以说明当年那个预测经不起时间的检验。
如果一切按照英伟达的计划推进,谷歌作为AI云服务提供商的成长反而会为这家芯片巨头带来更多业务,而非削减——即便众多工作负载运行在谷歌自家芯片上,这一趋势也不会逆转。
值得一提的是,谷歌还宣布将与英伟达展开合作,共同优化计算机网络技术,使基于英伟达芯片的系统在谷歌云中运行得更加高效。两家科技巨头具体合作的方向,是进一步强化名为Falcon的软件定义网络技术。该技术由谷歌自主研发,并于2023年通过开源数据中心硬件领域的权威组织——开放计算项目(Open Compute Project)对外开源。
Q&A
Q1:TPU 8t和TPU 8i有什么区别?
A:TPU 8t是谷歌第八代AI芯片中专为模型训练设计的版本,追求高吞吐量的计算性能;TPU 8i则专注于推理场景,即模型部署后响应用户请求的过程。两款芯片针对不同的使用阶段进行了定向优化,与前代产品相比,整体训练速度提升最高达3倍,每美元性能提升80%,并支持超过100万块TPU组成单一集群。
Q2:谷歌推出自研TPU芯片,会取代英伟达吗?
A:目前不会。谷歌推出TPU 8t和TPU 8i的目的是补充现有的英伟达基础设施,而非直接替代。谷歌甚至承诺今年晚些时候将在云平台上提供英伟达最新款芯片Vera Rubin,并与英伟达合作优化网络技术。从市场角度看,英伟达市值已接近5万亿美元,其地位短期内难以撼动。
Q3:谷歌和英伟达在Falcon网络技术上的合作是怎么回事?
A:Falcon是谷歌自主研发的一种软件定义网络技术,于2023年通过开放计算项目(Open Compute Project)正式开源。谷歌与英伟达合作的目标是在此基础上进一步升级优化,使英伟达芯片在谷歌云基础设施中的运行效率得到显著提升,实现两家公司在AI基础设施层面的协同。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。