根据周三发布的新闻稿,OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 的新 AI 创业公司 Safe Superintelligence (SSI) 正在使用 Google Cloud 的 TPU 芯片为其 AI 研究提供算力支持,这是两家公司最新宣布的合作伙伴关系的一部分。
Google Cloud 表示,SSI 正在使用 TPU 来"加速其研发工作,以构建安全的超级智能 AI"。
云服务提供商正在争夺少数几家每年在计算能力上花费数亿美元用于训练 AI 基础模型的独角兽 AI 创业公司。SSI 与 Google Cloud 的协议表明,前者将在 Google Cloud 上投入大量计算预算。据知情人士向 TechCrunch 透露,Google Cloud 是 SSI 的主要计算服务提供商。
Google Cloud 一直有与其前 AI 研究人员达成计算服务协议的传统,这些研究人员中的许多人现在都在经营价值数十亿美元的 AI 创业公司(Sutskever 曾在 Google 工作)。去年 10 月,Google Cloud 宣布将成为由前 Google Cloud AI 首席科学家李飞飞创立的 World Labs 的主要计算服务提供商。
目前尚不清楚 SSI 是否与其他云服务或计算服务提供商建立了合作关系。Google Cloud 发言人拒绝发表评论。Safe Superintelligence 的发言人没有立即回应置评请求。
SSI 于 2024 年 6 月结束秘密运营,这是在 Sutskever 离开 OpenAI 首席科学家职位数月后。该公司获得了来自 Andreessen Horowitz、Sequoia Capital、DST Global、SV Angel 等机构共计 10 亿美元的投资支持。
自 SSI 成立以来,我们对这家创业公司的活动了解相对较少。在其网站上,SSI 表示,开发安全的超级智能 AI 系统是"我们的使命、我们的名字,也是我们整个产品路线图,因为这是我们唯一的关注点"。Sutskever 此前表示,他已经找到了"一座新的需要攀登的山峰",正在研究提升前沿 AI 模型性能的新方法。
在联合创立 OpenAI 之前,Sutskever 在 Google Brain 度过了数年时间研究神经网络。在领导 OpenAI 的 AI 安全工作多年后,Sutskever 在 2023 年 11 月参与了罢免 OpenAI CEO Sam Altman 的关键决策。随后,Sutskever 加入了要求恢复 Altman CEO 职位的员工运动。
在这场风波之后,据报道 Sutskever 数月未在 OpenAI 办公室露面,最终离开该公司创立了 SSI。
好文章,需要你的鼓励
从浙江安吉的桌椅,到广东佛山的沙发床垫、河南洛阳的钢制家具,再到福建福州的竹藤制品,中国各大高度专业化的家具产业带,都在不约而同地探索各自的数字化出海路径。
哥伦比亚大学研究团队开发了MathBode动态诊断工具,通过让数学题参数按正弦波变化来测试AI的动态推理能力。研究发现传统静态测试掩盖了AI的重要缺陷:几乎所有模型都表现出低通滤波特征和相位滞后现象,即在处理快速变化时会出现失真和延迟。该方法覆盖五个数学家族的测试,为AI模型选择和部署提供了新的评估维度。
研究人员正探索AI能否预测昏迷患者的医疗意愿,帮助医生做出生死决策。华盛顿大学研究员Ahmad正推进首个AI代理人试点项目,通过分析患者医疗数据预测其偏好。虽然准确率可达三分之二,但专家担心AI无法捕捉患者价值观的复杂性和动态变化。医生强调AI只能作为辅助工具,不应替代人类代理人,因为生死决策依赖具体情境且充满伦理挑战。
这项研究首次发现AI推理模型存在"雪球效应"问题——推理过程中的小错误会逐步放大,导致AI要么给出危险回答,要么过度拒绝正常请求。研究团队提出AdvChain方法,通过训练AI学习"错误-纠正"过程来获得自我纠错能力。实验显示该方法显著提升了AI的安全性和实用性,用1000个样本达到了传统方法15000个样本的效果,为AI安全训练开辟了新方向。