AI基础设施初创公司Fireworks AI宣布完成15亿美元D轮融资,此轮融资由Atreides Management、Index Ventures和TCV联合领投,英伟达等六余家机构跟投,公司估值达175亿美元。
Fireworks AI专注于帮助开发者训练和部署AI模型。此次融资公告显示,公司年化营收已突破10亿美元大关,客户涵盖三星电子、GitLab等知名科技企业,平台每日为用户处理的Token数量超过40万亿个。
Fireworks AI运营着一套云端平台,开发者可通过该平台对开源AI模型进行微调与定制,并以按需计费的方式使用托管GPU集群。平台还内置了一款AI智能体,可自动化处理AI训练的完整工作流——开发者只需描述微调目标,上传训练数据集,智能体便会自动处理技术细节。
在模型训练方面,AI模型中包含一类被称为超参数的配置项,用于定义神经元数量等关键特性。Fireworks AI的智能体能够自动找到使模型输出质量最优的超参数组合,并可在必要时用DPO文件对用户提供的训练数据集进行扩充。DPO文件是一类包含模型应答指令的数据集,用于引导模型以特定方式回应提示词。
训练并行化方面,Fireworks AI平台支持四种不同的并行化技术,分别针对不同类型的模型进行优化,开发团队可同时运行四种方法,也可单独选用其中一种。
模型微调完成后,客户可通过Fireworks AI提供的两种推理服务进行托管。其一为无服务器环境,用户无需配置底层基础设施;其二为"Deployments"专属推理服务,提供独立GPU集群,性能表现优于无服务器方案,同时支持更丰富的定制选项,包括弹性扩缩容策略调整以及基于量化技术的模型压缩,以降低基础设施资源占用。
"每家公司都掌握着独一无二的资产:自身的数据、工作流、客户关系以及对质量的定义,"联合创始人兼CEO林乔表示,"Fireworks AI的使命,就是将这些知识转化为企业专属的智能能力,让他们能够持续迭代优化。"
本轮融资所得资金将用于扩展基础设施建设并招募更多工程师。
Q&A
Q1:Fireworks AI是做什么的?主要提供哪些服务?
A:Fireworks AI是一家AI基础设施初创公司,主要帮助开发者训练和部署AI模型。其核心服务包括:基于云端的开源模型微调平台、按需计费的GPU集群、以及自动化AI训练工作流的AI智能体。此外,还提供无服务器推理环境和专属GPU集群两种推理服务,满足不同场景下的部署需求。
Q2:Fireworks AI的AI智能体在模型训练中具体能做什么?
A:Fireworks AI的AI智能体可以自动化完成整个AI训练工作流。开发者只需描述希望微调模型的任务目标并上传训练数据集,智能体便会自动寻找最优超参数组合,以最大化模型的输出质量。在需要时,还能用DPO文件对训练数据集进行补充扩展,DPO文件包含指导模型如何回应提示词的指令数据。
Q3:Fireworks AI的两种推理服务有什么区别?
A:Fireworks AI提供两种推理服务:一是无服务器推理环境,用户无需配置底层基础设施,上手门槛低;二是"Deployments"专属推理服务,提供独立GPU集群,性能更强,并支持更多定制化选项,例如自定义弹性扩缩容策略以及通过量化技术压缩模型以降低资源消耗。
好文章,需要你的鼓励
这项来自明尼苏达大学等机构的研究发现,大语言模型在强化学习后训练中,只需训练中间少数几层即可匹配甚至超越全参数训练效果,且这一规律跨模型、跨任务高度稳定,为更高效的AI训练策略提供了新思路。
本文介绍VIBE框架,一套通过开放式任务评估大型音频语言模型声音诱发偏见的系统,测试12个模型后发现每个模型均存在显著性别或口音偏见。