AI智能体需要技能——特定的程序性知识——才能良好地执行任务,但它们无法自我学习,一项新研究表明。
研究作者开发了一个新的基准测试工具SkillsBench,该工具在11个领域的84项任务上评估智能体AI的表现,包括医疗保健、制造业、网络安全和软件工程等领域。研究人员在三种条件下观察每项任务:无技能(智能体仅接收指令)、有策划技能(提供目录、代码片段和资源来帮助它)以及自生成技能(智能体没有技能但被提示开发它们)。
典型任务包括对npm依赖项进行安全审计以查找漏洞,或分析癌细胞系数据中的差异蛋白质表达。
最佳表现来自具有策划技能的智能体,其得分平均比无技能智能体高16.2个百分点,这表明AI目前还无法摆脱人类干预。即便如此,在84项任务中的16项任务里,人类指导对结果产生了负面影响。
不同行业领域的表现差异很大,策划技能在医疗保健任务中影响最大,但在软件工程方面影响很小。
被要求生成自己技能的智能体表现没有提升,显示AI仍然需要一些人类提示才能完成工作。
Q&A
Q1:SkillsBench是什么?它能做什么?
A:SkillsBench是研究人员开发的新基准测试工具,用于评估智能体AI在84项任务上的表现,涵盖医疗保健、制造业、网络安全和软件工程等11个领域。
Q2:AI智能体在哪种条件下表现最好?
A:具有策划技能的智能体表现最佳,其得分平均比无技能智能体高16.2个百分点,这表明人类提供的技能指导对AI表现至关重要。
Q3:AI智能体能否自己学会新技能?
A:研究显示不能。被要求生成自己技能的智能体表现没有任何提升,证明AI仍然需要人类的提示和指导才能有效完成工作。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。