被誉为"AI教父"的诺贝尔奖获得者杰弗里·辛顿(Geoffrey Hinton)近日发出了迄今为止最为严厉的警告,质疑人工智能未来发展的乐观预测。在接受《金融时报》采访时,辛顿挑战了硅谷领袖们推广的乐观愿景,认为关于AI社会效益的积极叙述充其量是误导性的。
辛顿认为,科技公司CEO们在声称AI将惠及大多数工作者时,是在"自欺欺人"。在他看来,经济逻辑很简单:AI将被用作削减成本的机制,在提高生产力的同时大规模替代人力。"富人将使用AI来替代工人,"他警告说,"这将造成大规模失业和利润大幅增长,让少数人变得更富有,而大多数人变得更贫穷。"
辛顿强调,这种影响并非AI本身的固有缺陷,而是资本主义制度引导创新货币化的结果。当企业因为用机器替代人力而获得经济回报时,逻辑结果就是大规模的工作岗位流失,而非共同繁荣。
这位在2023年离开谷歌大脑团队的AI领袖,在过去两年中不断发出越来越紧迫的预警。虽然他没有给出大规模失业可能发生的具体时间表,但承认严峻现实:这种情况已经在经济的某些领域开始了。与自动化直接相关的裁员正在增加。就在上周,Salesforce CEO马克·贝尼奥夫宣布裁员4000名客服岗位,因为AI智能体接管了这些工作。贝尼奥夫表示,由于技术能够处理超过100万次消费者对话并将支持成本降低了17%,他现在需要"更少的人员"。
OpenAI CEO萨姆·奥特曼等AI支持者提出的一个解决方案是全民基本收入(UBI)。UBI可以作为社会安全网,缓解失业工人的冲击。但辛顿认为这是一个不完整的解决方案。虽然金钱可能抵消经济损失,但对于真正定义人类存在的东西——工作、意义和尊严——却帮助有限。剥夺数百万人的职业可能会让整个社区迷失方向,这是UBI无法解决的问题。
除了经济问题,辛顿还指出了第二个迫在眉睫的转变——可能更加重大的变化:超级智能AI的崛起。据他说,该领域的许多顶尖科学家都认为,当机器超越人类智能时(这不是是否的问题,而是何时的问题),时间窗口是以十年而非世纪为单位。"很多科学家都认为是在5到20年之间,"辛顿解释说,"这是最好的估计。"
在这种背景下,辩论从渐进式颠覆转向了生存风险。一台能够在各个层面都超越人类思维的机器,引发了关于控制、安全和治理的深刻问题。对辛顿和其他人来说,这不是一个假设情景,而是社会尚未准备好应对的即将到来的现实。
当被问及年轻一代如何在面对这样的前景时保持乐观时,辛顿拒绝提供虚假的安慰。"我很想说,'他们为什么要保持积极?'"他说道。他认为,面对如此规模的即将到来的转变,过度自信可能是错误的反应。相反,我们需要的是紧迫感。
辛顿提供了一个严峻的类比:如果人类能够看到外星舰队准备在10年内到达地球,我们不会通过保持"积极"来安慰自己。我们会动员起来、创新并制定计划,就像生存取决于此一样。对辛顿来说,超级智能AI的崛起与那个想象中的入侵同样紧迫。
技术革命不断重塑经济和社会,但AI不仅仅是另一个工具——它可能很快成为竞争对手的智能。辛顿一直站在进步的前沿,但现在他似乎同样决心充当其良心。他的信息很明确:认真准备,质疑企业乐观主义的叙述,认识到这项技术带来的机遇和危险,因为它将重新定义人类的存在。
Q&A
Q1:辛顿为什么说科技CEO们在AI问题上自欺欺人?
A:辛顿认为科技CEO们声称AI将惠及大多数工作者是误导性的。他指出,AI实际上将作为削减成本的机制,大规模替代人力,造成大规模失业和利润大幅增长,让少数人更富有而大多数人更贫穷。
Q2:全民基本收入能解决AI造成的失业问题吗?
A:辛顿认为全民基本收入是不完整的解决方案。虽然金钱可能抵消经济损失,但对于工作、意义和尊严这些真正定义人类存在的东西帮助有限。剥夺数百万人的职业会让整个社区迷失方向,这是UBI无法解决的。
Q3:超级智能AI什么时候会出现?
A:根据辛顿的说法,该领域的许多顶尖科学家都认为机器超越人类智能的时间窗口是5到20年之间。他强调这不是是否会发生的问题,而是何时发生的问题,社会对此尚未做好准备。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。