人工智能初创公司Modular Inc.今日宣布完成2.5亿美元的第三轮融资,公司估值达到16亿美元。
本轮融资由Thomas Tull的美国创新技术基金领投,DFJ Growth跟投。所有现有投资者均参与了此轮融资,包括谷歌风投、General Catalyst和Greylock Ventures。此次融资使该公司的融资总额达到3.8亿美元。
Modular成立于2022年,为开发者提供了一个平台,允许他们在不同的计算机芯片上运行AI应用程序——包括中央处理器、图形处理器、专用集成电路和定制硅芯片——而无需重写或迁移代码。
在过去三年中,该公司构建了软件基础设施层和专门的编程语言,旨在让企业能够在混合芯片和服务器上部署AI模型。
Modular的长期目标是为企业用户提供AI部署解决方案,解决当前碎片化生态系统中需要为每个特定架构编写专门代码的问题。该公司的平台是企业级AI推理堆栈,能够抽象化硬件复杂性。
首席执行官Chris Lattner在声明中表示:"当我们创立Modular时,我们相信世界需要一个统一的AI平台,而如今,这一愿景比以往任何时候都更加重要。"
英伟达目前在AI加速器市场占据主导地位。据估计,其Hopper和更新的Blackwell架构为70%至95%的AI数据中心GPU提供动力。这种主导地位得到了CUDA的加强,CUDA是英伟达的专有编程框架,凭借其强大的并行计算能力已成为AI开发的事实标准。
挑战者也存在,最notable的是Advanced Micro Devices Inc.,该公司生产Instinct AI加速器并维护开源ROCm软件堆栈。但由于众多开发工具和推理平台都是为CUDA编写的,迁移到ROCm往往困难重重,使AMD处于劣势。
这正是Modular看到的机会——通过给企业更多选择硬件的自由来打破这种供应商锁定。其平台已经支持来自英伟达、AMD和苹果定制硅芯片的架构。该公司表示,其最新版本在下一代加速器(包括英伟达的B200和AMD的MI355)上与领先框架(如vLLM和SGLang)相比,性能提升了20%至50%。
这一愿景似乎引起了共鸣:AMD、英伟达和亚马逊都已加入成为生态系统合作伙伴。Modular还与AI应用开发商合作,如与Inworld AI合作加速语音合成,与运营GPU集群市场的San Francisco Compute Co.合作。
该公司已发展到130多名员工,总部位于旧金山湾区。凭借新的资金,Modular计划在北美和欧洲扩大招聘,扩展其云平台规模,扩展对云和边缘硬件的支持,并将重点从推理扩展到AI训练。
Q&A
Q1:Modular是什么公司?主要做什么业务?
A:Modular是一家成立于2022年的人工智能初创公司,主要提供一个平台,允许开发者在不同的计算机芯片上运行AI应用程序,包括CPU、GPU、专用集成电路和定制硅芯片,而无需重写或迁移代码。
Q2:Modular如何解决AI硬件部署的问题?
A:Modular通过构建软件基础设施层和专门的编程语言,让企业能够在混合芯片和服务器上部署AI模型,解决了当前碎片化生态系统中需要为每个特定架构编写专门代码的问题,其平台能够抽象化硬件复杂性。
Q3:Modular的融资情况和发展计划如何?
A:Modular刚完成2.5亿美元的第三轮融资,公司估值达到16亿美元,融资总额达到3.8亿美元。公司计划用这笔资金在北美和欧洲扩大招聘,扩展云平台规模,扩展硬件支持,并将重点从推理扩展到AI训练。
好文章,需要你的鼓励
亚马逊云服务部门与OpenAI签署了一项价值380亿美元的七年协议,为ChatGPT制造商提供数十万块英伟达图形处理单元。这标志着OpenAI从研究实验室向AI行业巨头的转型,该公司已承诺投入1.4万亿美元用于基础设施建设。对于在AI时代竞争中处于劣势的亚马逊而言,这项协议证明了其构建和运营大规模数据中心网络的能力。
Meta FAIR团队发布的CWM是首个将"世界模型"概念引入代码生成的32亿参数开源模型。与传统只学习静态代码的AI不同,CWM通过学习Python执行轨迹和Docker环境交互,真正理解代码运行过程。在SWE-bench等重要测试中表现卓越,为AI编程助手的发展开辟了新方向。
当今最大的AI数据中心耗电量相当于一座小城市。美国数据中心已占全国总电力消费的4%,预计到2028年将升至12%。电力供应已成为数据中心发展的主要制约因素。核能以其清洁、全天候供电特性成为数据中心运营商的新选择。核能项目供应链复杂,需要创新的采购模式、标准化设计、早期参与和数字化工具来确保按时交付。
卡内基梅隆大学研究团队发现AI训练中的"繁荣-崩溃"现象,揭示陈旧数据蕴含丰富信息但被传统方法错误屏蔽。他们提出M2PO方法,通过改进数据筛选策略,使模型即使用256步前的陈旧数据也能达到最新数据的训练效果,准确率最高提升11.2%,为大规模异步AI训练开辟新途径。