人工智能先驱杨立昆联合创立的新创公司AMI Labs今日宣布,已完成10.3亿美元融资。
这轮种子轮融资由Cathay Innovation、Greycroft、Hiro Capital、HV Capital、杰夫·贝佐斯的Bezos Expeditions以及多家未具名投资方共同领投。英伟达和三星电子等十多家公司也参与了此轮投资。AMI Labs目前估值达35亿美元。
杨立昆在去年离开Meta后不久便创立了这家公司。此前,他曾领导Facebook母公司的AI研究团队超过十年,期间监督开发了Llama大语言模型系列。在Llama发布之前,Meta还推出了广泛使用的PyTorch模型开发框架。
这位研究者在计算机视觉领域的早期工作同样闻名。1988年,他开发了LeNet图像处理模型系列,帮助证明了该技术的实用性。这个AI模型家族是第一个融入反向传播算法的模型,该算法是现代神经网络的核心组件,为其学习能力提供动力。
AMI Labs计划开发能够分析来自摄像头和其他传感器数据的世界模型。杨立昆向Wired杂志表示,硬件设计是公司希望应用其软件的领域之一。据该出版物报道,AMI Labs设想客户使用其模型执行诸如分析飞机组件设计以寻找优化机会等任务。
公司还计划为包括医疗保健和机器人技术在内的其他垂直领域开发软件。
公司的一则招聘启事透露了其打算追求的机器人应用案例。根据职位描述,公司正在开发能够预测系统环境未来状态的模型,并利用这些预测来规划"行动序列"。这种技术可能有助于机器人规划如何完成包裹准备等任务。
AMI Labs的网站也包含了有关其模型基础架构的线索。一个页面表明,公司打算避免"生成式方法",这包括了如大语言模型的Transformer架构等设计。一则招聘启事补充说,AMI Labs将基于"新架构"构建神经网络。
在Meta工作期间,杨立昆开发了一种名为JEPA的AI模型架构。该技术的一个重要特征是能够忽略输入数据中的无关细节。AMI Labs的网站表明,其AI模型将能够"忽略"处理数据中的"不可预测细节"。
神经网络将视频等视觉信息存储在抽象数学表示中。在Transformer模型中,每个表示包含诸如单个像素等小块数据。JEPA架构使用的表示存储更复杂、更高层次的数据,如完整图像。
杨立昆向Wired杂志表示,AMI Labs计划"快速"发布其首批模型。TechCrunch随后报道,公司将开源部分技术并发布学术论文。AMI Labs的长期目标是创建能够在多个行业自动化任务的通用世界模型。
Q&A
Q1:杨立昆的AMI Labs公司主要做什么?
A:AMI Labs专注于开发世界模型,这些模型能够分析来自摄像头和其他传感器的数据。公司计划将技术应用于硬件设计、医疗保健和机器人技术等多个领域,最终目标是创建能够在多个行业自动化任务的通用世界模型。
Q2:AMI Labs的技术与传统大语言模型有什么不同?
A:AMI Labs避免使用传统的"生成式方法"如Transformer架构,而是基于杨立昆开发的JEPA架构构建新的神经网络。JEPA的特点是能够忽略输入数据中的无关细节,并且其数学表示存储的是完整图像等更复杂的高层次数据,而非单个像素。
Q3:AMI Labs什么时候会发布产品?
A:杨立昆表示AMI Labs计划"快速"发布其首批模型。公司还将开源部分技术并发布学术论文。不过具体的发布时间表尚未公布,目前公司刚完成10.3亿美元的种子轮融资。
好文章,需要你的鼓励
研究人员意外发现,标准MOSFET晶体管可同时模拟神经元和突触行为,形成"神经突触随机存取存储器"(NSRAM)。该技术仅需一至两个晶体管即可实现传统需数十乃至数百个元件才能完成的神经信号处理,且与现有硅基制造工艺完全兼容,良率达100%。未来有望应用于边缘AI及高能效神经形态芯片,长远或可挑战GPU地位。
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
本文提出一种评估人工智能风险的新方法,借鉴生态学与演化论视角,从理论生态模型中推导出三项风险指标,涵盖种群模型与生态系统模型。研究旨在为AI治理策略提供量化工具,并对分析局限性及政策改进方向进行了深入探讨,为构建更科学的AI风险评估体系提供参考框架。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。