人工智能芯片初创公司Groq Inc.今天宣布,英伟达公司将以非独家方式许可其技术。
此次交易还将看到这家显卡制造商雇佣Groq的几名核心员工,包括创始首席执行官Jonathan Ross和总裁Sunny Madra。Groq投资方Disruptive Technology Advisers的首席执行官Alex Davis告诉CNBC,这笔交易价值200亿美元。
通过这种方式,公司无需直接收购就能获得初创公司的人才和技术,这种交易被称为反向收购。它们避免了收购通常面临的反垄断审查。在过去三年中,微软公司和Meta平台公司等科技巨头已经签署了多项此类交易来推进其AI路线图。
英伟达据报道将支付200亿美元许可Groq的知识产权,这比该初创公司9月份的估值溢价131亿美元。两家公司表示,许可协议涵盖Groq的"推理技术",这可能指的是其旗舰LPU推理芯片。
该公司声称,LPU运行推理工作负载的功耗比显卡低十倍。据Groq介绍,该芯片的效率源于其确定性设计特征。这意味着它能够高精度地控制计算时序。相比之下,标准的非确定性芯片经常遇到意外的处理延迟,打乱计算完成的顺序。
LPU还通过其他方式优化AI性能。它包含数百兆字节的片上SRAM,这是市场上最快的内存类型。该内存池比显卡使用的HBM内存性能更强,功耗更低。
Groq使用内部开发的互连技术RealScale将配备LPU的服务器连接成推理集群。据该公司介绍,这项技术解决了被称为晶体漂移的技术问题,该问题使AI服务器协调变得困难。
处理器使用时钟来控制其电路执行计算的频率。通常,时钟被实现为一个微小的石英晶体。晶体漂移是一种导致时钟意外降低频率的现象,这可能会给AI推理工作流程带来效率低下问题。Groq表示,RealScale可以自动调整处理器时钟以缓解这个问题。
英伟达首席执行官黄仁勋据报道在内部备忘录中告诉员工:"我们计划将Groq的低延迟处理器集成到英伟达AI工厂架构中,扩展平台以服务更广泛的AI推理和实时工作负载。"
交易完成后,Groq将继续作为独立公司运营。该公司首席财务官Simon Edwards将接替Jonathan Ross担任首席执行官。
截至7月,据报道Groq预计年底收入将达到5亿美元。该公司通过名为GroqCloud的云平台销售其芯片访问权限。该平台还提供开源AI模型库和搜索引擎等工具,这些模型可以使用这些工具来处理提示。
Q&A
Q1:Groq公司是做什么的?它的核心技术是什么?
A:Groq是一家人工智能芯片初创公司,其核心技术是LPU推理芯片。该芯片采用确定性设计,能够高精度控制计算时序,运行推理工作负载的功耗比显卡低十倍,并配备数百兆字节的片上SRAM高速内存。
Q2:英伟达为什么要花200亿美元许可Groq的技术?
A:英伟达看中了Groq的低延迟推理技术,计划将其集成到英伟达AI工厂架构中,以扩展平台服务更广泛的AI推理和实时工作负载。这笔交易还能让英伟达获得Groq的核心人才,包括创始CEO和总裁等关键员工。
Q3:什么是反向收购?为什么科技巨头喜欢用这种方式?
A:反向收购是指公司无需直接收购就能获得初创公司人才和技术的交易方式。它能够避免收购通常面临的反垄断审查。过去三年中,微软、Meta等科技巨头都采用这种方式来推进AI发展路线图。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。