AI智能体需要技能——具体的程序性知识——才能很好地执行任务,但新研究表明它们无法自我学习这些技能。
研究人员开发了一个名为SkillsBench的新基准测试,评估智能体AI在11个领域84项任务中的表现,涵盖医疗保健、制造业、网络安全和软件工程等领域。研究人员在三种条件下测试每项任务:无技能(智能体仅接收指令)、有策划技能(提供目录、代码片段和资源帮助)以及自生成技能(智能体无技能但被提示开发技能)。
典型任务包括对npm依赖项进行安全审计以发现漏洞,或分析癌细胞系数据中的差异蛋白表达。
最佳表现来自具有策划技能的智能体,其平均得分比无技能智能体高16.2个百分点,表明AI仍然离不开人类干预。即便如此,在84项任务中的16项中,人类指导对结果产生了负面影响。
不同行业领域的表现差异很大,策划技能对医疗保健任务影响最大,但对软件工程影响较小。
被要求生成自己技能的智能体没有表现出性能提升,显示AI仍需要一些人类提示才能完成工作。
Q&A
Q1:什么是SkillsBench基准测试?
A:SkillsBench是研究人员开发的一个新基准测试,用于评估智能体AI在11个领域84项任务中的表现,涵盖医疗保健、制造业、网络安全和软件工程等领域。它通过三种不同条件测试智能体的技能表现。
Q2:AI智能体能否自己学习技能?
A:研究表明AI智能体无法自我学习技能。被要求生成自己技能的智能体没有表现出性能提升,显示AI仍需要人类提示和指导才能有效完成工作,不能完全独立运作。
Q3:人类指导对AI智能体的效果如何?
A:具有人类策划技能的智能体平均得分比无技能智能体高16.2个百分点,表明人类指导总体上是有效的。但在84项任务中的16项中,人类指导对结果产生了负面影响,且不同行业领域效果差异很大。
好文章,需要你的鼓励
今天讲的出海案例是依米康,这家数据中心温控与液冷设备厂商正在把泰国纳入海外交付体系,并用生产线、总装车间和焓差实验室承接算力设施订单。
BioMatrix是首个将分子序列、分子三维结构、蛋白质序列、蛋白质三维结构和自然语言统一在单一语言模型中的生物基础模型,在80项任务中77项达到最优或第二优。
Salesforce正式推出Help Agent,这是基于Agentforce平台的预封装AI客服智能体,可在数分钟内连接企业知识库、操作功能及网页、短信、语音等沟通渠道。该产品同步推出按解决率计费模式,每次成功自主解决客户问题收费2美元,无需按token或操作次数计费。Help Agent支持低代码构建,内置测试功能,并配备全新客户服务门户。该产品预计于2026年7月正式上线。
浙江大学提出SKILLHARNESS框架,通过为AI电脑助手的每项技能附加安全边界,从成功、失败和风险三类经历中学习,使AI在动态危险环境中安全高效地完成任务。