人工智能芯片初创公司Groq Inc.今天宣布,英伟达公司将以非独家方式许可其技术。
此次交易还将看到这家显卡制造商雇佣Groq的几名核心员工,包括创始首席执行官Jonathan Ross和总裁Sunny Madra。Groq投资方Disruptive Technology Advisers的首席执行官Alex Davis告诉CNBC,这笔交易价值200亿美元。
通过这种方式,公司无需直接收购就能获得初创公司的人才和技术,这种交易被称为反向收购。它们避免了收购通常面临的反垄断审查。在过去三年中,微软公司和Meta平台公司等科技巨头已经签署了多项此类交易来推进其AI路线图。
英伟达据报道将支付200亿美元许可Groq的知识产权,这比该初创公司9月份的估值溢价131亿美元。两家公司表示,许可协议涵盖Groq的"推理技术",这可能指的是其旗舰LPU推理芯片。
该公司声称,LPU运行推理工作负载的功耗比显卡低十倍。据Groq介绍,该芯片的效率源于其确定性设计特征。这意味着它能够高精度地控制计算时序。相比之下,标准的非确定性芯片经常遇到意外的处理延迟,打乱计算完成的顺序。
LPU还通过其他方式优化AI性能。它包含数百兆字节的片上SRAM,这是市场上最快的内存类型。该内存池比显卡使用的HBM内存性能更强,功耗更低。
Groq使用内部开发的互连技术RealScale将配备LPU的服务器连接成推理集群。据该公司介绍,这项技术解决了被称为晶体漂移的技术问题,该问题使AI服务器协调变得困难。
处理器使用时钟来控制其电路执行计算的频率。通常,时钟被实现为一个微小的石英晶体。晶体漂移是一种导致时钟意外降低频率的现象,这可能会给AI推理工作流程带来效率低下问题。Groq表示,RealScale可以自动调整处理器时钟以缓解这个问题。
英伟达首席执行官黄仁勋据报道在内部备忘录中告诉员工:"我们计划将Groq的低延迟处理器集成到英伟达AI工厂架构中,扩展平台以服务更广泛的AI推理和实时工作负载。"
交易完成后,Groq将继续作为独立公司运营。该公司首席财务官Simon Edwards将接替Jonathan Ross担任首席执行官。
截至7月,据报道Groq预计年底收入将达到5亿美元。该公司通过名为GroqCloud的云平台销售其芯片访问权限。该平台还提供开源AI模型库和搜索引擎等工具,这些模型可以使用这些工具来处理提示。
Q&A
Q1:Groq公司是做什么的?它的核心技术是什么?
A:Groq是一家人工智能芯片初创公司,其核心技术是LPU推理芯片。该芯片采用确定性设计,能够高精度控制计算时序,运行推理工作负载的功耗比显卡低十倍,并配备数百兆字节的片上SRAM高速内存。
Q2:英伟达为什么要花200亿美元许可Groq的技术?
A:英伟达看中了Groq的低延迟推理技术,计划将其集成到英伟达AI工厂架构中,以扩展平台服务更广泛的AI推理和实时工作负载。这笔交易还能让英伟达获得Groq的核心人才,包括创始CEO和总裁等关键员工。
Q3:什么是反向收购?为什么科技巨头喜欢用这种方式?
A:反向收购是指公司无需直接收购就能获得初创公司人才和技术的交易方式。它能够避免收购通常面临的反垄断审查。过去三年中,微软、Meta等科技巨头都采用这种方式来推进AI发展路线图。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。