距与英伟达签署价值200亿美元的芯片授权协议仅七个月,Groq公司今日宣布完成6.5亿美元新一轮融资。本轮融资由成长型投资机构Disruptive和对冲基金Infinitum联合领投。
Groq自主研发了一款名为LPU的芯片架构,专为AI推理工作负载进行优化。去年12月,英伟达与其达成协议,取得该处理器底层技术的授权,并招募了包括Groq创始首席执行官在内的多位核心员工。
双方合作的成果是英伟达Grok LPU 3推理处理器,该芯片于今年3月正式亮相,以机架尺寸液冷一体机形式出货,产品名为LPQ。该系统包含32个托盘,每个托盘搭载3块Groq LPU 3、1个中央处理器及网络设备。
在推理集群中,每块加速芯片都配有石英晶振来调控处理速度,晶振同时承担协调芯片间数据流转的重要角色。一旦各芯片的时钟出现同步偏差,数据传输效率便会下降,进而影响AI模型的响应速度。LPU 3内置了自动校正时钟漂移的功能,可有效避免数据传输瓶颈。根据英伟达的介绍,该芯片配备92条数据通道,每条通道传输速率达112Gbps,双向带宽合计高达2.5Tbps。
提升芯片间数据传输速度并非LPU 3加速推理工作负载的唯一手段。该处理器还板载了500MB的SRAM高速内存。相比其他AI加速芯片通常采用的片外RAM,SRAM性能更优,由此带来更快的推理速度。
Groq运营着一个基于LPU的云平台,供企业部署推理工作负载。公司今日披露,该平台目前每周为500万名开发者处理数万亿个Token。
Groq的云基础设施横跨多大洲、覆盖13个数据中心。公司计划将本轮融资所得用于扩充推理算力,目标是在2027年前将总算力规模提升至200兆瓦。据Groq透露,部分新增算力将来自英伟达3月推出的液冷LPU 3一体机LPX。
其他云服务商理论上也可基于LPQ构建自己的推理服务,Groq若想在潜在竞争中脱颖而出,可通过拓展托管数据库等增值服务来强化平台能力。值得注意的是,另一家专注AI的云服务商CoreWeave同样已将业务重心从基础设施向上层服务延伸。
Q&A
Q1:Groq的LPU芯片有什么技术优势?
A:Groq的LPU芯片专为AI推理工作负载优化,具备多项技术亮点:板载500MB高速SRAM,性能优于其他AI加速芯片常用的片外RAM;配备92条数据通道,每条传输速率达112Gbps,双向总带宽高达2.5Tbps;同时内置自动时钟漂移校正功能,可防止多芯片协同时出现数据传输瓶颈,从而提升推理响应速度。
Q2:Groq云平台目前规模有多大?
A:Groq云平台目前每周为500万名开发者处理数万亿个Token,云基础设施覆盖全球多大洲共13个数据中心。公司计划利用本轮6.5亿美元融资持续扩充算力,目标是到2027年将总算力规模达到200兆瓦。
Q3:Groq与英伟达的合作关系是怎样的?
A:Groq与英伟达于2024年12月达成价值200亿美元的芯片技术授权协议,英伟达获得LPU底层技术授权,并招募了包括Groq创始CEO在内的多名核心员工。双方合作推出了英伟达Grok LPU 3推理处理器,该芯片于2025年3月以液冷一体机形式正式发布。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。