英伟达正将异构化视为企业AI发展的下一阶段。
为了给客户提供更多选择和灵活性,这家芯片巨头宣布与Marvell Technology建立新的合作伙伴关系,将这家半导体公司连接到英伟达AI工厂和AI-RAN生态系统中。
英伟达还将向Marvell投资20亿美元,两家公司将在支持AI工作负载的下一代5G/6G网络方面展开合作。
英伟达似乎每天都在签署新协议,与服务于技术栈各个层面的公司建立合作。但分析师认为这次与Marvell的合作是基于企业需求的战略举措。
"我们从英伟达身上看到的信号表明市场的必然需求:一个连接和管理异构企业AI环境的通用控制层,"Moor Insights & Strategy副总裁兼首席分析师Matt Kimball表示,"异构化是几乎每个企业的发展方向。"
合作伙伴关系详情
通过新的合作伙伴关系,Marvell将提供与英伟达NVLink Fusion机架级平台兼容的定制XPU(专用处理单元)和扩展网络。客户现在可以使用英伟达NVLink开发"半定制"AI基础设施,并与英伟达的GPU、大型处理单元(LPU)以及网络和存储平台集成。这些包括Vera CPU、ConnectX网卡、Bluefield数据处理单元(DPU)、NVLink互连和Spectrum-X交换机以及机架级AI计算。
Kimball解释说,构建英伟达连接AI环境的企业现在能够在该环境中部署非英伟达加速器。因此,半定制硅片可以"更直接地"集成到基于英伟达的AI系统中。
通过这一举措,英伟达"进一步承认了AI推理环境将呈现的异构化特征",Kimball指出。
Info-Tech Research Group高级顾问分析师Yaz Palanichamy同意,将Marvell纳入其NVLink生态系统增加了英伟达对半定制和异构架构的支持,同时允许客户继续使用其平台。"企业客户在创建AI系统时将拥有更大灵活性,但仍将为英伟达在更大AI生态系统中创造更大影响力",他说。
正如Kimball进一步指出的,即使英伟达是企业基础设施中的主导芯片,也会有需要第三方芯片的使用案例和部署场景。因此,关键在于控制连接这个异构环境的架构和软件,这正是英伟达的目标。
他指出,这里存在某种"竞争"。虽然NVLink为英伟达环境提供高性能互连,但竞争对手Ultra Accelerator Link(UALink)是一个基于联盟的规范,提供相同功能,并得到Astera Labs、AMD、英特尔、Meta、博通和Marvell本身等公司的支持。
"开放性-普遍性是真正获胜的关键",Kimball说,"英伟达正在努力从专有模式转向普遍模式。"
对企业的影响
分析师指出,这一合作伙伴关系可能只会间接惠及大多数企业。
Kimball强调,绝大多数企业IT组织不会构建基于NVLink或UALink的系统。许多企业已经通过云提供商或原始设备制造商(OEM)在这一领域获得支持。
然而,他指出,英伟达是市场份额领导者,NVLink得到越来越多芯片公司如英特尔和Marvell的支持,使其在企业中更容易部署和支持。但UALink不支持英伟达芯片,最终限制了其有效性。
英伟达继续在整个技术栈上下投资数十亿美元,并与业界最大的参与者建立合作伙伴关系,包括向Marvell投资20亿美元,向光子公司Coherent和Lumentum总共投资40亿美元以加速AI光学和网络技术,以及购买50亿美元英特尔股票以使用NVLink连接英伟达和英特尔Xeon架构。
Kimball指出,该公司显然在投资构建围绕其GPU、LPU和硅片产品组合的生态系统。他补充说,这是一个明智的举措。它扩大了"生态系统对齐",同时改善了英伟达驱动企业的整体性能。
"如果成功,英伟达将增加硅片的多样性,同时巩固对连接所有这些的架构和软件的控制",Kimball指出。
网络基础设施影响
除了AI技术栈本身,英伟达和Marvell还将合作使用英伟达的Aerial AI-RAN为5G和6G网络调整现有电信基础设施AI。他们还将致力于增强先进光学互连解决方案(在长距离传输信号)和硅光子技术(使用光而不是电信号在计算机芯片之间传输数据)。
Info-Tech的Palanichamy指出,"随着AI更多地集成到电信网络基础设施中,它将有助于加速AI-RAN的推广并实现更好的边缘推理。"他补充说,这对于正在开发的新实时应用至关重要,也是推理变得越来越分布式的需要。
最终,Kimball指出,这一举措表明英伟达不仅仅在传统意义上考虑数据中心。"它正在考虑一个扩展到运营商网络的更分布式AI架构。"
迄今为止,英伟达一直以数据中心为中心,但它正在更多地转向边缘,他指出。随着这种情况的发生,网络不仅仅是传输,而是计算架构的核心部分。
"如果电信网络发展成为AI驱动的基础设施,它可能对延迟敏感和运营AI使用案例产生真正的影响",Kimball说。
Q&A
Q1:英伟达与Marvell合作的核心内容是什么?
A:英伟达向Marvell投资20亿美元,将其连接到英伟达AI工厂和AI-RAN生态系统。Marvell将提供与英伟达NVLink Fusion平台兼容的定制XPU和扩展网络,让企业可以在英伟达AI环境中部署非英伟达加速器,实现半定制AI基础设施。
Q2:这次合作对普通企业有什么实际意义?
A:大多数企业不会直接构建NVLink系统,而是通过云提供商或设备制造商间接受益。这次合作让NVLink得到更多芯片公司支持,使其在企业中更容易部署和维护,为企业提供更大的AI系统构建灵活性。
Q3:英伟达为什么要投资这么多合作伙伴?
A:英伟达正在构建围绕其GPU和芯片产品组合的生态系统,试图从专有模式转向普遍模式。通过控制连接异构AI环境的架构和软件,英伟达能在保持技术领先的同时,适应企业对异构化AI基础设施的需求。
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。