距与英伟达签署价值200亿美元的芯片授权协议仅七个月,Groq公司今日宣布完成6.5亿美元新一轮融资。本轮融资由成长型投资机构Disruptive和对冲基金Infinitum联合领投。
Groq自主研发了一款名为LPU的芯片架构,专为AI推理工作负载进行优化。去年12月,英伟达与其达成协议,取得该处理器底层技术的授权,并招募了包括Groq创始首席执行官在内的多位核心员工。
双方合作的成果是英伟达Grok LPU 3推理处理器,该芯片于今年3月正式亮相,以机架尺寸液冷一体机形式出货,产品名为LPQ。该系统包含32个托盘,每个托盘搭载3块Groq LPU 3、1个中央处理器及网络设备。
在推理集群中,每块加速芯片都配有石英晶振来调控处理速度,晶振同时承担协调芯片间数据流转的重要角色。一旦各芯片的时钟出现同步偏差,数据传输效率便会下降,进而影响AI模型的响应速度。LPU 3内置了自动校正时钟漂移的功能,可有效避免数据传输瓶颈。根据英伟达的介绍,该芯片配备92条数据通道,每条通道传输速率达112Gbps,双向带宽合计高达2.5Tbps。
提升芯片间数据传输速度并非LPU 3加速推理工作负载的唯一手段。该处理器还板载了500MB的SRAM高速内存。相比其他AI加速芯片通常采用的片外RAM,SRAM性能更优,由此带来更快的推理速度。
Groq运营着一个基于LPU的云平台,供企业部署推理工作负载。公司今日披露,该平台目前每周为500万名开发者处理数万亿个Token。
Groq的云基础设施横跨多大洲、覆盖13个数据中心。公司计划将本轮融资所得用于扩充推理算力,目标是在2027年前将总算力规模提升至200兆瓦。据Groq透露,部分新增算力将来自英伟达3月推出的液冷LPU 3一体机LPX。
其他云服务商理论上也可基于LPQ构建自己的推理服务,Groq若想在潜在竞争中脱颖而出,可通过拓展托管数据库等增值服务来强化平台能力。值得注意的是,另一家专注AI的云服务商CoreWeave同样已将业务重心从基础设施向上层服务延伸。
Q&A
Q1:Groq的LPU芯片有什么技术优势?
A:Groq的LPU芯片专为AI推理工作负载优化,具备多项技术亮点:板载500MB高速SRAM,性能优于其他AI加速芯片常用的片外RAM;配备92条数据通道,每条传输速率达112Gbps,双向总带宽高达2.5Tbps;同时内置自动时钟漂移校正功能,可防止多芯片协同时出现数据传输瓶颈,从而提升推理响应速度。
Q2:Groq云平台目前规模有多大?
A:Groq云平台目前每周为500万名开发者处理数万亿个Token,云基础设施覆盖全球多大洲共13个数据中心。公司计划利用本轮6.5亿美元融资持续扩充算力,目标是到2027年将总算力规模达到200兆瓦。
Q3:Groq与英伟达的合作关系是怎样的?
A:Groq与英伟达于2024年12月达成价值200亿美元的芯片技术授权协议,英伟达获得LPU底层技术授权,并招募了包括Groq创始CEO在内的多名核心员工。双方合作推出了英伟达Grok LPU 3推理处理器,该芯片于2025年3月以液冷一体机形式正式发布。
好文章,需要你的鼓励
Uber年度失物报告首次纳入无人驾驶出租车数据。过去一年,乘客在Uber平台的机器人出租车中遗留了数千件物品,包括手机、钥匙、钱包等常见物品,以及假牙、15磅溜溜球等奇特物件。乘客可通过App联系客服找回失物,支付15美元即可享受同城配送,或前往车辆停放站自取。Uber表示,将依托现有运营体系为自动驾驶业务提供全面支持,计划2025年底前在全球15座城市开通无人驾驶打车服务。
TREK方法通过引入外部验证解法对AI进行短期校准,解决了GRPO训练在困难题目上因无法探索正确解法区域而陷入瓶颈的问题,在数学推理和智能体任务上均取得明显提升。
Uber周三发布了一款基于现代Ioniq 5改装的数据采集原型车,搭载14个摄像头、8个固态激光雷达和9个雷达,通过英伟达双驱Thor计算机处理数据。Uber计划今年在全球部署500辆此类车辆,每月可采集200万英里高保真驾驶数据,供Avride、Waymo、WeRide等30余家自动驾驶合作伙伴使用。这是Uber自2020年出售自动驾驶部门以来首次自主组装车辆,也是其AV Labs部门的重要进展。
SkillOpt-Lite通过将智能体技能优化形式化为零阶优化问题,提出极简流水线:把执行轨迹存为文本文件,让AI直接用文件系统工具翻日志、找规律、改技能,配合独立验证门控,比复杂的多智能体优化框架跑得更快效果更好,并自然延伸至执行框架自动优化(HarnessOpt),使轻量模型能够超越大模型。