硅谷关于类人工通用智能可行性的争论忽略了一个关键点:真正的超级智能不会在我们的手机中出现,而是在企业系统中诞生。AGI竞赛的方向可能是错误的。
当今的基础模型虽然令人印象深刻,但本质上仍是被动的。它们是复杂的自动补全系统,能够响应提示,但无法自主运行真正的业务功能。企业环境是真正机器超级智能的完美试验场,一些人现在称之为企业通用智能(EGI)。
EGI是先进AI的优质试验场。与混乱的现实世界不同,企业系统在人类设计的参数内运行,其因果关系是工程化的,而非推断出的。从医疗信息系统到供应链管理和云编排,这些环境提供了当前AI实际能够掌握的结构化复杂性。
智能体的关键优势
实现EGI的关键飞跃不是更好的语言模型,而是能够设定目标、规划行动并在企业系统中执行的智能体AI,无需持续的人工监督。例如,EGI不仅会分析公司的供应链中断,还会自动重新路由订单、更新库存预测、重新谈判供应商合同并通知利益相关者,同时在每个步骤中记录其推理过程。
它会根据用户反馈随时间构建、增强和修改其元素。例如,EGI系统如果意识到自己缺乏特定的推理能力而需要应用程序编程接口,它会自己构建API。
EGI需要五个核心能力:自主目标分解和规划;跨异构平台的持续系统状态感知;多系统动作选择和验证;AI就绪的企业生态系统,包括数据和API;以及构建跨企业术语统一理解的组合推理能力。第六个基础能力是随时间持续的强化学习。
技术挑战虽然巨大,但比通用AGI更容易解决。EGI需要从静态提示转向实时系统集成,从文本生成转向多系统编排,从人工验证转向基于预定义人工生成规则和护栏的自主错误纠正。
人类仍然至关重要
早期EGI能力已经显现。自主智能体和辅助工具正被部署以支持企业员工,暗示着跨应用智能,并提供了自主客户关系管理的glimpse。但这些仍然是未来可能成为综合企业超级智能的狭窄应用。
在未来完全成型的EGI中,人类将与EGI合作,担任其创造力源泉、判断仲裁者、审计员和风险缓解保证人。EGI将为人们提供更多创造性能力来与客户和利益相关者互动,并构思新的EGI可以解决的体验。
在具有持续学习和发展能力的企业环境中,各种角色和各个专业经验水平的人员都将拥有定制的学习路径。他们将持续学习新技能,发现新机遇,并与管理EGI系统和新形式的智能自动化保持同步的共生协作。
商业影响
对企业软件的影响是深远的。实现EGI级别能力的公司不仅会构建更好的软件,还会创造自主商业智能,这种智能比任何单个人类都了解更多,并能实时基于这些知识采取行动。基于被动工具的传统企业软件将面临同样的颠覆,就像自互联网诞生以来使一些传统行业领导者变得冗余一样。
真正的信号不仅仅是消费者AI用例或采用指标,而是在业务运营中展示真正自主性的企业AI。对于商业领导者来说,问题不是是否采用AI,而是您的组织是否会被真正智能的系统增强,还是仅仅被复杂工具辅助。
前进之路
我们正在接近一个拐点,企业系统将成为真正的智能智能体,而不是被动的数据库和工作流程。早期认识到这一转变的公司将定义下一个商业时代。
超级智能革命不会通过关于意识的哲学辩论或病毒式消费者应用到来。它将在企业后台办公室悄然出现,做出数百万个自主决策,这些决策共同展示出远超人类能力的智能。
这种转变比大多数人意识到的更近,其影响将比任何理论上的AGI突破更加直接。问题不是机器是否会变得超级智能,而是企业是否会成为以良好管理和战略方式利用这种智能的先驱者之一,还是最后才认识到它已经到来的企业之一。
Q&A
Q1:什么是企业通用智能EGI?
A:企业通用智能是指能够在企业系统中自主设定目标、规划行动并执行的AI系统,无需持续人工监督。它不仅能分析问题,还能自动执行解决方案,如重新路由订单、更新预测、谈判合同等,并记录推理过程。
Q2:EGI与普通AI有什么区别?
A:普通AI是被动的自动补全系统,只能响应提示。而EGI具有自主性,能够跨多个企业系统进行决策和执行,具备持续学习能力,甚至可以根据需要自己构建API等工具。
Q3:EGI会取代人类员工吗?
A:不会完全取代。在EGI环境中,人类将担任创造力源泉、判断仲裁者、审计员和风险缓解保证人等角色。EGI会为人们提供更多创造性能力,让员工专注于与客户互动和构思新体验,实现人机共生协作。
好文章,需要你的鼓励
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。