人工智能芯片初创公司Groq Inc.今天宣布,英伟达公司将以非独家方式许可其技术。
此次交易还将看到这家显卡制造商雇佣Groq的几名核心员工,包括创始首席执行官Jonathan Ross和总裁Sunny Madra。Groq投资方Disruptive Technology Advisers的首席执行官Alex Davis告诉CNBC,这笔交易价值200亿美元。
通过这种方式,公司无需直接收购就能获得初创公司的人才和技术,这种交易被称为反向收购。它们避免了收购通常面临的反垄断审查。在过去三年中,微软公司和Meta平台公司等科技巨头已经签署了多项此类交易来推进其AI路线图。
英伟达据报道将支付200亿美元许可Groq的知识产权,这比该初创公司9月份的估值溢价131亿美元。两家公司表示,许可协议涵盖Groq的"推理技术",这可能指的是其旗舰LPU推理芯片。
该公司声称,LPU运行推理工作负载的功耗比显卡低十倍。据Groq介绍,该芯片的效率源于其确定性设计特征。这意味着它能够高精度地控制计算时序。相比之下,标准的非确定性芯片经常遇到意外的处理延迟,打乱计算完成的顺序。
LPU还通过其他方式优化AI性能。它包含数百兆字节的片上SRAM,这是市场上最快的内存类型。该内存池比显卡使用的HBM内存性能更强,功耗更低。
Groq使用内部开发的互连技术RealScale将配备LPU的服务器连接成推理集群。据该公司介绍,这项技术解决了被称为晶体漂移的技术问题,该问题使AI服务器协调变得困难。
处理器使用时钟来控制其电路执行计算的频率。通常,时钟被实现为一个微小的石英晶体。晶体漂移是一种导致时钟意外降低频率的现象,这可能会给AI推理工作流程带来效率低下问题。Groq表示,RealScale可以自动调整处理器时钟以缓解这个问题。
英伟达首席执行官黄仁勋据报道在内部备忘录中告诉员工:"我们计划将Groq的低延迟处理器集成到英伟达AI工厂架构中,扩展平台以服务更广泛的AI推理和实时工作负载。"
交易完成后,Groq将继续作为独立公司运营。该公司首席财务官Simon Edwards将接替Jonathan Ross担任首席执行官。
截至7月,据报道Groq预计年底收入将达到5亿美元。该公司通过名为GroqCloud的云平台销售其芯片访问权限。该平台还提供开源AI模型库和搜索引擎等工具,这些模型可以使用这些工具来处理提示。
Q&A
Q1:Groq公司是做什么的?它的核心技术是什么?
A:Groq是一家人工智能芯片初创公司,其核心技术是LPU推理芯片。该芯片采用确定性设计,能够高精度控制计算时序,运行推理工作负载的功耗比显卡低十倍,并配备数百兆字节的片上SRAM高速内存。
Q2:英伟达为什么要花200亿美元许可Groq的技术?
A:英伟达看中了Groq的低延迟推理技术,计划将其集成到英伟达AI工厂架构中,以扩展平台服务更广泛的AI推理和实时工作负载。这笔交易还能让英伟达获得Groq的核心人才,包括创始CEO和总裁等关键员工。
Q3:什么是反向收购?为什么科技巨头喜欢用这种方式?
A:反向收购是指公司无需直接收购就能获得初创公司人才和技术的交易方式。它能够避免收购通常面临的反垄断审查。过去三年中,微软、Meta等科技巨头都采用这种方式来推进AI发展路线图。
好文章,需要你的鼓励
OpenAI、Anthropic和Google的AI代码助手现在能够在人工监督下连续工作数小时,编写完整应用、运行测试并修复错误。但这些工具并非万能,可能会让软件项目变得复杂。AI代码助手的核心是大语言模型,通过多个LLM协作完成任务。由于存在上下文限制和"注意力预算"问题,系统采用上下文压缩和多代理架构来应对。使用时需要良好的软件开发实践,避免"氛围编程",确保代码质量和安全性。研究显示经验丰富的开发者使用AI工具可能反而效率降低。
香港大学研究团队发布GenieDrive技术,通过引入4D占用空间概念,让AI真正理解驾驶的物理规律。该系统能将复杂驾驶场景分解为物理预测和视频生成两步,解决了传统AI只会模仿、容易产生偏见的问题。测试显示其预测准确度提升7.2%,视频质量提升20.7%,且能准确响应各种驾驶指令,为开发更安全的自动驾驶系统提供了新范式。
英伟达与AI芯片竞争对手Groq达成非独家授权协议,将聘请Groq创始人乔纳森·罗斯、总裁桑尼·马德拉等员工。据CNBC报道,英伟达以200亿美元收购Groq资产,但英伟达澄清这并非公司收购。Groq开发的LPU语言处理单元声称运行大语言模型速度快10倍,能耗仅为十分之一。该公司今年9月融资7.5亿美元,估值69亿美元,为超200万开发者的AI应用提供支持。
这项由孟加拉国工程技术大学、澳大利亚莫纳什大学和卡塔尔计算研究所联合开展的研究,首次让网页机器人具备了"后悔能力"和"战略思维"。WebOperator系统通过树状搜索、安全回退和破坏性动作识别三大创新,在WebArena测试中达到54.6%成功率,显著超越以往记录。该技术有望革命性改变电子商务、办公自动化和内容管理等领域的效率和可靠性。