AI智能体需要技能——特定的程序性知识——才能良好地执行任务,但它们无法自我学习,一项新研究表明。
研究作者开发了一个新的基准测试工具SkillsBench,该工具在11个领域的84项任务上评估智能体AI的表现,包括医疗保健、制造业、网络安全和软件工程等领域。研究人员在三种条件下观察每项任务:无技能(智能体仅接收指令)、有策划技能(提供目录、代码片段和资源来帮助它)以及自生成技能(智能体没有技能但被提示开发它们)。
典型任务包括对npm依赖项进行安全审计以查找漏洞,或分析癌细胞系数据中的差异蛋白质表达。
最佳表现来自具有策划技能的智能体,其得分平均比无技能智能体高16.2个百分点,这表明AI目前还无法摆脱人类干预。即便如此,在84项任务中的16项任务里,人类指导对结果产生了负面影响。
不同行业领域的表现差异很大,策划技能在医疗保健任务中影响最大,但在软件工程方面影响很小。
被要求生成自己技能的智能体表现没有提升,显示AI仍然需要一些人类提示才能完成工作。
Q&A
Q1:SkillsBench是什么?它能做什么?
A:SkillsBench是研究人员开发的新基准测试工具,用于评估智能体AI在84项任务上的表现,涵盖医疗保健、制造业、网络安全和软件工程等11个领域。
Q2:AI智能体在哪种条件下表现最好?
A:具有策划技能的智能体表现最佳,其得分平均比无技能智能体高16.2个百分点,这表明人类提供的技能指导对AI表现至关重要。
Q3:AI智能体能否自己学会新技能?
A:研究显示不能。被要求生成自己技能的智能体表现没有任何提升,证明AI仍然需要人类的提示和指导才能有效完成工作。
好文章,需要你的鼓励
海外博主做了一次 Siri AI、ChatGPT、Claude 横评。看完之后我最大的感受是,AI 助手的竞争已经不只是模型能力,而是谁离用户更近。
南京大学提出Light-Omni框架,通过全局状态与潜在状态双机制,让AI视频助理无需反复推理即可实现精准记忆检索,速度提升逾12倍,准确率同步提高。
Uber年度失物报告首次纳入无人驾驶出租车数据。过去一年,乘客在Uber平台的机器人出租车中遗留了数千件物品,包括手机、钥匙、钱包等常见物品,以及假牙、15磅溜溜球等奇特物件。乘客可通过App联系客服找回失物,支付15美元即可享受同城配送,或前往车辆停放站自取。Uber表示,将依托现有运营体系为自动驾驶业务提供全面支持,计划2025年底前在全球15座城市开通无人驾驶打车服务。
TREK方法通过引入外部验证解法对AI进行短期校准,解决了GRPO训练在困难题目上因无法探索正确解法区域而陷入瓶颈的问题,在数学推理和智能体任务上均取得明显提升。