GPU租赁服务商CoreWeave在周三继续其AI服务领域的扩张,推出了一个旨在让企业客户更容易获得强化学习技术的平台。
强化学习是机器学习的一种方法,模型通过试错来自我学习,对积极结果给予奖励,对消极结果进行惩罚。在过去一年中,这种方法作为微调语言模型的手段越来越受欢迎。例如,DeepSeek R1的"推理"能力就是通过强化学习实现的。
CoreWeave周三推出的无服务器强化学习平台建立在其最近收购的两家公司基础上:专门使用强化学习构建定制AI智能体的OpenPipe,以及提供GPU加速工作负载无服务器平台的Weights & Biases。
在这种情况下,无服务器架构很有意义,因为工作负载可以分布在可用的空闲或未充分利用的GPU上,消除资源闲置。此外,许多AI工作负载本质上是无状态的,这意味着它们不需要存储先前会话的信息就能工作。
根据CoreWeave的说法,这消除了客户手动配置虚拟机或裸机服务器来使用强化学习构建定制AI智能体的需要。相反,他们只需为微调过程中生成的Token付费。
如果CoreWeave的说法可信,这种方法比使用本地托管的英伟达H100快约1.4倍,成本降低约40%。
目前,CoreWeave通过Weights & Biases平台提供这项服务。然而,展望未来,这家新兴云服务商旨在将其AI服务业务扩展到新领域。
就在本周,该公司宣布收购Monolith AI,这家公司专门从事不同类型的AI。与生成式模型不同,Monolith使用AI来加速传统上属于高性能计算的物理和工程仿真。
CoreWeave进军AI服务业务是其更广泛努力的一部分,旨在实现客户群多样化。无论好坏,其客户群一直由大型超大规模云服务商、云提供商和模型构建者主导。当该公司今年早些时候申请上市时,在其IPO招股说明书中警告称,2024年收入的77%来自两个客户,没有任何其他单一客户贡献超过10%的收入。现在情况可能没那么严峻,谷歌和IBM都是其客户,但尽管如此,对于这家负债累累的公司来说,多样化仍然至关重要。
Q&A
Q1:CoreWeave的无服务器强化学习平台有什么优势?
A:该平台消除了客户手动配置虚拟机或裸机服务器的需要,用户只需为微调过程中生成的Token付费。工作负载可以分布在可用的空闲GPU上,避免资源浪费,比使用本地英伟达H100快约1.4倍,成本降低约40%。
Q2:强化学习在AI领域有什么应用?
A:强化学习是一种机器学习方法,模型通过试错自我学习,对积极结果奖励,对消极结果惩罚。目前主要用于微调语言模型,例如DeepSeek R1的推理能力就是通过强化学习实现的,在过去一年中越来越受欢迎。
Q3:CoreWeave为什么要推出AI服务业务?
A:CoreWeave希望实现客户群多样化。根据其IPO招股说明书,2024年收入的77%来自两个客户,过度依赖大型超大规模云服务商、云提供商和模型构建者。作为一家负债累累的公司,多样化对其发展至关重要。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。