推理芯片初创公司SambaNova完成10亿美元融资，估值达110亿美元

芯片初创公司SambaNova今日宣布，完成10亿美元融资，投后估值达110亿美元。

本轮F轮融资由General Atlantic领投，另有十余家机构参与跟投，投资方包括Intel Capital、Vista Equity Partners及摩根大通。此前，SambaNova于今年2月刚完成一轮3.5亿美元融资。

SambaNova在2月融资时同步推出了其旗舰产品——推理芯片SN50。公司表示，该加速芯片的吞吐量是英伟达B200显卡的三倍以上，峰值速度则达到后者的五倍。

AI模型通过迭代流程生成响应：一组人工神经元分析用户输入并生成初步响应，将结果暂存至内存；另一组神经元随后提取该响应并进行优化，再写回内存。这一流程反复执行，直至AI输出最终答案。

数据在内存之间的频繁流转，是生成响应所需时间的主要来源。SambaNova指出，SN50的高性能源于其专为提升片上数据传输速度而设计的架构。

SN50由数十个称为"Tile"的模块组成，每个模块将处理电路与高速SRAM内存紧密集成。内存与处理电路的物理距离极短，大幅缩短了数据传输时延，从而加快了推理速度。当某个Tile完成计算后，其结果将直接传递至下一个Tile继续处理。

SN50共使用三种内存类型，Tile中的SRAM是其中之一。此外，SN50还配备了HBM内存池，用于存储AI模型的活跃权重与KV缓存——这些组件承担了处理用户请求的大部分计算工作。芯片还集成了DRAM模块，可存储多个非活跃神经网络，当应用需要切换AI模型时，芯片能在数毫秒内将神经网络从DRAM加载至HBM。

SambaNova以16芯片集成机架的形式销售SN50，该产品名为SambaRack SN50，整机功耗约为20瓦，发热量相对较低，因此可采用标准风冷散热方案，无需高端GPU服务器通常配备的液冷系统。

作为本轮融资参与方之一，摩根大通今日宣布计划采用SN50芯片，同时也将引入上一代SN40芯片，并将两款处理器整合至其本地推理基础设施中。

SambaNova表示，本轮融资所得资金将用于扩展芯片产品线、优化机架设计及软件能力，并加快市场推广步伐。

Q&A

Q1：SambaNova的推理芯片SN50和英伟达B200相比性能如何？

A：据SambaNova介绍，SN50的吞吐量是英伟达B200显卡的三倍以上，峰值速度是B200的五倍。SN50采用了将处理电路与高速SRAM内存紧密集成的Tile模块架构，大幅缩短了数据传输时延，从而提升了整体推理性能。

Q2：SambaRack SN50机架系统有什么优势？

A：SambaRack SN50是由16块SN50芯片组成的集成机架系统，整机功耗约为20瓦，发热量较低，可使用标准风冷散热设备，无需配置高端GPU服务器通常所需的液冷系统，有效降低了部署和运维成本。

Q3：摩根大通打算怎么使用SambaNova的芯片？

A：摩根大通宣布计划采用SambaNova的SN50芯片及上一代SN40芯片，并将这两款处理器整合至其本地推理基础设施中，用于在自有数据中心内部署和运行AI推理任务。