根据周三发布的新闻稿,OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 的新 AI 创业公司 Safe Superintelligence (SSI) 正在使用 Google Cloud 的 TPU 芯片为其 AI 研究提供算力支持,这是两家公司最新宣布的合作伙伴关系的一部分。
Google Cloud 表示,SSI 正在使用 TPU 来"加速其研发工作,以构建安全的超级智能 AI"。
云服务提供商正在争夺少数几家每年在计算能力上花费数亿美元用于训练 AI 基础模型的独角兽 AI 创业公司。SSI 与 Google Cloud 的协议表明,前者将在 Google Cloud 上投入大量计算预算。据知情人士向 TechCrunch 透露,Google Cloud 是 SSI 的主要计算服务提供商。
Google Cloud 一直有与其前 AI 研究人员达成计算服务协议的传统,这些研究人员中的许多人现在都在经营价值数十亿美元的 AI 创业公司(Sutskever 曾在 Google 工作)。去年 10 月,Google Cloud 宣布将成为由前 Google Cloud AI 首席科学家李飞飞创立的 World Labs 的主要计算服务提供商。
目前尚不清楚 SSI 是否与其他云服务或计算服务提供商建立了合作关系。Google Cloud 发言人拒绝发表评论。Safe Superintelligence 的发言人没有立即回应置评请求。
SSI 于 2024 年 6 月结束秘密运营,这是在 Sutskever 离开 OpenAI 首席科学家职位数月后。该公司获得了来自 Andreessen Horowitz、Sequoia Capital、DST Global、SV Angel 等机构共计 10 亿美元的投资支持。
自 SSI 成立以来,我们对这家创业公司的活动了解相对较少。在其网站上,SSI 表示,开发安全的超级智能 AI 系统是"我们的使命、我们的名字,也是我们整个产品路线图,因为这是我们唯一的关注点"。Sutskever 此前表示,他已经找到了"一座新的需要攀登的山峰",正在研究提升前沿 AI 模型性能的新方法。
在联合创立 OpenAI 之前,Sutskever 在 Google Brain 度过了数年时间研究神经网络。在领导 OpenAI 的 AI 安全工作多年后,Sutskever 在 2023 年 11 月参与了罢免 OpenAI CEO Sam Altman 的关键决策。随后,Sutskever 加入了要求恢复 Altman CEO 职位的员工运动。
在这场风波之后,据报道 Sutskever 数月未在 OpenAI 办公室露面,最终离开该公司创立了 SSI。
好文章,需要你的鼓励
研究人员意外发现,标准MOSFET晶体管可同时模拟神经元和突触行为,形成"神经突触随机存取存储器"(NSRAM)。该技术仅需一至两个晶体管即可实现传统需数十乃至数百个元件才能完成的神经信号处理,且与现有硅基制造工艺完全兼容,良率达100%。未来有望应用于边缘AI及高能效神经形态芯片,长远或可挑战GPU地位。
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
本文提出一种评估人工智能风险的新方法,借鉴生态学与演化论视角,从理论生态模型中推导出三项风险指标,涵盖种群模型与生态系统模型。研究旨在为AI治理策略提供量化工具,并对分析局限性及政策改进方向进行了深入探讨,为构建更科学的AI风险评估体系提供参考框架。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。