Hugging Face Inc. 的研究人员表示,他们正在尝试重新打造中国初创公司 DeepSeek 的 R1 "推理模型"。
这项计划是在 R1 以远低于美国公司的成本,却达到了同等性能表现而震惊人工智能界之后启动的。Hugging Face 研究人员表示,Open-R1 项目旨在创建一个完全开源的 R1 模型复制品,并向 AI 社区开放其所有组件。
负责该项目的 Hugging Face 工程师之一 Elie Bakouch 向 TechCrunch 表示,尽管 DeepSeek 声称 R1 是开源的,因为它可以无限制使用,但事实上它并不符合开源软件的标准定义。这是因为许多用于构建它的组件以及用于训练的数据都未公开。
他说,由于缺乏关于 DeepSeek 内部构成的信息,它实际上只是另一个"黑盒子",类似于 OpenAI 的 GPT 系列等专有模型,这使得 AI 社区无法在其基础上进行改进。
DeepSeek(由杭州深度求索人工智能有限公司和北京深度求索人工智能有限公司运营)上周在 Hugging Face 上发布其两个主要推理模型 - DeepSeek-R1-Zero 和 DeepSeek-R1 时引起轰动。同时,该公司还在 arxiv.com 上发表了一篇论文,概述了这些模型的开发过程。
根据开发者的说法,R1 模型仅花费 560 万美元就能够匹配 OpenAI 的 GPT-4o 和 Anthropic PBC 的 Claude 等先进大语言模型的性能,这引起了广泛关注。相比之下,OpenAI 和 Google LLC、Meta Platforms Inc. 等美国公司在开发自己的模型时投入了数十亿美元。
DeepSeek 的模型证明了不需要投入巨资也能取得同样的进展,这一发现在本周早些时候引发了金融市场的动荡,参与 AI 开发的美国公司股票在周一大跌。AI 芯片制造商 Nvidia Corp. 股价下跌 15%,Broadcom Inc. 股价下跌 16%,台湾积体电路制造公司下跌 14%。
与此同时,DeepSeek 的 iOS 聊天机器人应用程序(提供 R1 模型的免费访问)突然跃居本周 Apple App Store 生产力应用排行榜榜首。
这家中国公司声称,R1 的开发使用了更少且性能较低的图形处理器,这与开发 GPT-4o 和 Llama 3 等模型所用的设备形成鲜明对比,这引发了人们对 AI 领域数十亿美元投资是否真有必要的质疑。在多个基准测试中,R1 已经展示出可以匹配甚至超越 OpenAI 的 o1 推理模型的性能。
推理模型以其在输出响应前进行"事实核查"的能力而著称,这有助于避免标准大语言模型常见的"幻觉"问题。虽然由于准确性检查需要一定时间,它们生成响应的速度稍慢,但在物理、科学和数学等领域表现得更加可靠。
Hugging Face 表示,他们试图复制 R1 是为了造福 AI 研究社区,并计划在几周内完成这项工作。为此,他们将利用公司配备了 768 个 Nvidia H100 GPU 的专用研究服务器"Science Cluster"。计划是通过逆向工程 R1 模型,以了解其训练数据和构建组件。
Open-R1 项目正在寻求更广泛的 AI 研究社区的协助,以重建 DeepSeek 使用的训练数据集。该项目已经引起了广泛关注,其 GitHub 页面在发布三天后就获得了超过 100,000 个星标。
Bakouch 表示,这个项目并非零和游戏,而是可能为更广泛的 AI 行业带来更多益处的开端。他希望他们最终建立的成果能够成为新一代更先进的开源推理模型的基础。他解释说,如果他们能够重建 R1,整个 AI 社区都可以研究其工作原理并尝试改进它。
他说:"开源开发立即使所有人受益,包括前沿实验室和模型提供商,因为他们都可以使用相同的创新成果。"
好文章,需要你的鼓励
本文探讨如何使用生成式AI和大语言模型作为倾听者,帮助用户表达内心想法。许多主流AI如ChatGPT、Claude等被设计成用户的"最佳伙伴",或试图提供心理健康建议,但有时用户只想要一个尊重的倾听者。文章提供了有效的提示词技巧,指导AI保持中性、尊重的态度,专注于倾听和理解,而非给出建议或判断。同时提醒用户注意隐私保护和AI的局限性。
北京大学团队开发出WoW世界模型,这是首个真正理解物理规律的AI系统。通过200万机器人互动数据训练,WoW不仅能生成逼真视频,更能理解重力、碰撞等物理定律。其创新的SOPHIA框架让AI具备自我纠错能力,在物理理解测试中达到80.16%准确率。该技术将推动智能机器人、视频制作等领域发展,为通用人工智能奠定重要基础。
人工通用智能和超级人工智能的出现,可能会创造出一种全新的外星智能形态。传统AI基于人类智能模式构建,但AGI和ASI一旦存在,可能会选择创造完全不同于人类认知方式的新型智能。这种外星人工智能既可能带来突破性进展,如找到癌症治愈方法,也可能存在未知风险。目前尚不确定这种新智能形态是否会超越人类智能,以及我们是否应该追求这一可能改变人类命运的技术突破。
香港大学和蚂蚁集团联合推出PromptCoT 2.0,这是一种让AI自动生成高质量训练题目的创新方法。通过"概念-思路-题目"的三步策略,AI能像老师备课一样先构思解题思路再出题,大幅提升了题目质量和训练效果。实验显示该方法在数学竞赛和编程任务上都取得了显著提升,为解决AI训练数据稀缺问题提供了新思路。