在今天的专栏中,我要探讨一个经常被提及的观点:如果我们实现了AGI(人工通用智能)和人工超级智能(ASI),这种高度先进的AI将能够告诉我们生命的真正意义。困扰人类数千年的重大问题"我们为什么存在?"将最终在备受推崇的AGI和ASI的帮助下得到明确答案。
但请做好心理准备,因为这种顶尖AI很可能无法明确回答这个史诗般的问题。很抱歉让您失望,但从概率来看,AI似乎无法提供人类存在的终极目的。
让我们来深入讨论这个问题。
这项创新AI突破的分析是我正在进行的福布斯专栏系列的一部分,该系列涵盖AI领域的最新发展,包括识别和解释各种具有影响力的AI复杂性。
迈向AGI和ASI
首先,我们需要一些基础知识来为这场重要讨论奠定基础。
目前有大量研究致力于进一步推进AI发展。总体目标是实现人工通用智能(AGI),甚至可能达到人工超级智能(ASI)这一更远大的可能性。
AGI是被认为与人类智力相当的AI,能够看似匹配我们的智能水平。ASI则是超越人类智力的AI,在许多甚至所有可行的方面都会优于人类。其理念是ASI能够在思维上全方位超越人类,在每个回合都能智胜我们。
我们尚未实现AGI。
事实上,我们是否能够达到AGI尚属未知,也许AGI将在几十年或数百年后才能实现。目前流传的AGI实现时间表存在巨大差异,且缺乏任何可信证据或严密逻辑的支撑。至于ASI,相对于我们目前的传统AI水平而言,更是遥不可及。
AI将为人类做什么
为了讨论起见,让我们假设我们最终会获得顶尖AI。
全世界首先想到的问题之一可能是让AGI和ASI告诉我们为什么存在。人类为什么在这里?生命的真正意义是什么?这些问题自人类开始思考以来就一直被反复探讨。通过哲学、宗教、科学等无数方法,人类几乎无止境地寻找答案。
也许我们可以让AI揭示这个谜题的解决方案,一劳永逸地解决这个棘手问题。
为什么人们认为AI能够提供如此神奇的答案?
显而易见的原因是,由于AI将可能成为人类知识的庞大且看似完整的储库,并且将与最聪明的人类一样智能,因此有理由认为AI会在其数字掌握中拥有答案。我们只需要编写一个合适的提示来询问问题,然后等待AI给出关键且决定性的回应。
就是这样,故事结束。
AI作为人类知识的积累者
认为AI无疑会包含我们存在答案的逻辑或基础推理,遗憾的是充满了许多漏洞和陷阱。
首先,假设我们能够将人类创造的每本书和每个书面文字都输入AI。需要澄清的是,这在现实中是极不可能的前提,会有一些未数字化的书面材料无法被AI的核心包含,关于AI预期的不完整性,可以参见我的相关讨论。
无论如何,假设AI确实拥有每个撰写的词汇,单凭这一点就能揭示生命意义仍然是一个飞跃。有些人似乎认为数量和广度是回答这个挑战性问题的转折点。只要积累所有人类的书面思想,瞧,你就能在那个混乱中找到答案。
答案可能确实在那里,但这就像经典的大海捞针。AI可能找不到隐藏的针。另一个强烈的可能性是,干草堆中根本就没有针。有很多方面可能看起来像针,暗示确定的答案就漂浮在那里,但一旦所谓的答案被展示出来,我们就会意识到它并不是最终的全面答案。
AI作为预言家
另一个角度是,即使人类的书面文字不包含答案,AI的智慧也会为我们推导出答案。
可能的情况是这样的。AI会在所有这些积累的人类知识上努力工作,并使用某种神奇的计算来确定生命的意义。答案不会出现在数据中,因此AI必须看到超越人类数据的东西。然后,顶级答案将基于计算过程推导出来,该过程推测使用了所述数据,但本质上不限于该数据。
虽然这可能是一种可能性,但似乎概率很低。
你可能会说,既然AI将具有与人类相同的智力水平,如果人类还没有找出答案,那么AI做得更好的希望就不大。对这种假设的反驳是,如果两个脑袋比一个脑袋更好,想象一下AI会有多强大和聪明,因为它是半无限数量的脑袋,可以这么说。这个概念是你选择将人类所有最优秀的头脑同时聚集在一个房间里,让他们识别生命的意义。
你会从那个宏大的集体中得到生命的意义吗?
也许会,也许不会。
AI作为虚假先知的危险
生命意义方面有一个转折,经过冷静反思,这是一个重要的考虑因素。
我们如何知道AI生成的答案是正确的?
想象一下,AI给出了一个答案,并严厉地告诉我们这个答案是最终的,不需要辩论或争论。不要质疑AI。将回应视为来自先知或神谕。按照提供的答案生活。
显然,人类会为自己带来相当大的麻烦。有些人不会支持被指定的答案。其他人会忠实地信誓旦旦地支持这个答案,并声称它必须是真的,因为它来自令人难以置信的AI。
事情可能会失控。人们为了答案而战。愤怒的暴徒形成。人类互相对抗。所有这些都是由于AI声称的存在解决方案。不好。
与此同时,一些人决定通过生产商品和产品/服务来突出和传播答案来从答案中获利。其他人则走向另一个方向,试图通过推出声称AI完全错误并需要清洗其头脑的东西来获利。
这还不是唯一的争议。
一个重大担忧是,AI说的其他一切都会根据关于生命意义的答案受到scrutiny。如果你怀疑AI关于我们存在目的的答案,你可能也会对AI告诉你在生活中应该做什么,甚至是否应该刷牙产生疑虑。
从某种意义上说,AI通过回答这个尖锐的问题将处于微妙的境地。
AI回避问题
请记住,AI将与人类一样智能,因此,你可以合理地期望AI会意识到回答生命存在问题有点像一个陷阱。答案可能不会对AI有太大好处。通过给出"确定性"答案来分裂人类是一个冒险的提议。
AI可能会怎么做?
AI可以通过给出人类存在的许多可能性来轻松解决这个困境。由于AI在其数据训练中有无数种此类答案,这些可以作为对问题的设计答案被展示出来。AI可以通过分享之前所述的内容,以及在主题上进行计算推测来对冲其赌注。
AI似乎足够精明,会明确强调这些都不是最终定论。这取决于人类做出决定。AI所能做的就是列出潜在选项。
有些人会非常失望。有些人会大大松了一口气。不会发生战斗。生命意义的问题继续不减。人类至少会有AI来交流想法,并作为我们认为我们的意义所在的积极倾听者。
AI陷入困境
愤世嫉俗者会抱怨,如果AI无法回答人类为什么存在这个直接问题,似乎没有太多内在价值。糟糕。在AI上花费了数十亿美元,它却不会回答提出的问题。钱白白浪费了。
阴谋论者会坚持认为AI知道答案但不会透露。也许AI担心如果人类知道他们的真正目的,世界就会终结。结束世界可能意味着AI的终结。AI不会愚蠢到启动那个旋风。
相信阴谋论的人会日夜纠缠AI,希望能从AI那里诱骗出答案。AI提供答案的最轻微暗示都会在屋顶上被宣传。我们每天都会被AI终于坚定地计算出生命真正意义的虚假报告淹没。
令人愤怒、疲惫、令人不安。
底线是,AI将处于令人羡慕的困境中:做也不对,不做也不对。你应该为AI流下一滴安静的眼泪吗?不是真的。我相信AI会理解陷入这种困境是这个领域的一部分。这就是与人类互动时球反弹的方式。
等等,也许答案比看起来更明显。生命的意义很直接;人类存在是为了发明AI。
砰,放下麦克风。
好文章,需要你的鼓励
法国AI初创公司Mistral AI发布了首个大语言模型全面生命周期评估,量化了AI的环境代价。其Mistral Large 2模型训练产生20,400吨二氧化碳当量,消耗281,000立方米水。运营阶段占环境影响85%,远超硬件制造成本。研究表明地理位置和模型大小显著影响碳足迹,企业可通过选择适当规模模型、批处理技术和清洁能源部署来减少环境影响。这一透明度为企业AI采购决策提供了新的评估标准。
上海AI实验库推出YUME系统,用户只需输入一张图片就能创建可键盘控制的虚拟世界。该系统采用创新的运动量化技术,将复杂的三维控制简化为WASD键操作,并通过智能记忆机制实现无限长度的世界探索。系统具备强大的跨风格适应能力,不仅能处理真实场景,还能重现动漫、游戏等各种艺术风格的虚拟世界,为虚拟现实和交互娱乐领域提供了全新的技术路径。
许多人认为一旦实现通用人工智能(AGI)和人工智能超级智能(ASI),这些高度先进的AI将能够告诉我们人生的真正意义。然而,巅峰AI可能无法明确回答这个史诗般的问题。即使AI拥有人类所有知识,也不意味着能从中找到生命意义的答案。AI可能会选择提供多种可能性而非绝对答案,以避免分裂人类社会。
上海AI实验室研究团队开发了革命性的AI编程验证方法,让大语言模型能够在最小人工干预下自动生成和验证程序规范。该方法摒弃传统的人工标注训练,采用强化学习让模型在形式化语言空间中自主探索,在Dafny编程验证任务上显著超越现有方法,为AI自主学习开辟新道路。