关于人工智能成功率的争论一直不断,人们担心对AI工具和基础设施的投资增长未能达到供应商和咨询师经常承诺的预期效果。
对于在一线努力将AI集成到技术栈中的技术团队来说,这一挑战令人望而生畏,一项新调查显示了这一点。BlueOptima AI重构评估报告显示,即使是最优秀的AI编码模型在处理真实生产代码时,成功率也不到23%。更重要的是,基准测试分数并不能反映真实世界的表现。大多数模型在流行基准测试中得分超过85%,但在生产维护任务中平均成功率仅为17%。
该研究对57个大语言模型进行了基准测试,测试任务涉及来自4,276个真实源代码文件的维护导向重构任务,涵盖9种编程语言(C、C++、C#、Go、Java、JavaScript、PHP、Python、TypeScript),产生了243,732个模型文件评估对。
AI编码投资回报率因语言和任务而差异巨大。成功率从JavaScript的32%到C语言的仅4%不等,在复杂架构任务上甚至低至1.5%。
那么,AI是否未能发挥其潜力,还是只是被过度宣传了?这项研究再次提供了现实检验:将AI简单投入运营不会在没有幕后工作的情况下产生结果,包括在可维护性方面的努力。
报告作者解释说:"要算作成功,AI生成的代码需要满足严格的标准。"代码"需要能够编译和正确运行;保持行为不出现回归;提高可维护性,这是可测量的,而不是假定的。"
来自供应商、咨询师和其他人对AI的大量赞美往往方便地掩盖了AI后端的艰苦工作。简而言之,经典格言通常适用于AI营销:'如果听起来太美好而不真实,那可能就是假的。'
因此,AI被大大过度销售了,多年来一直是技术领域理性声音代表的David Linthicum说。在最近的一个视频中,他敦促管理者警惕那些"急于利用技术魅力的人。只有以清醒、基于证据的视角,我们才能超越炒作,确保技术为业务服务,而不是相反。"
Linthicum说,AI工具和平台的最大风险是它们可能"成本是传统系统的10到20倍"。当今太多的AI推广活动"得到了强大公关活动的支持,其步伐超过了实际理解的深度",他继续说道。随着AI成为董事会的优先事项,风险在增长。
"关于组织战略、投资和创新的决策可能取决于那些技术掌握程度不够深入的人的建议。"不明智的指导可能导致"代价高昂的过度支出和战略失误",他警告说。
证据表明,你还可以将AI流行词的误用添加到这个组合中。Linthicum警告说:"虽然大多数受众缺乏技术背景来质疑大胆的主张,但自封的专家使用复杂的语言来掩饰他们的局限性。"
"社交媒体和更广泛的数字对话加剧了这个问题,奖励那些有惊人故事和毫无根据乐观态度的人,而不是那些承认权衡并倡导细致进步的人。公司往往重视迷人的讲故事者,而不是真正理解地形的实施者。"
风险很高,Linthicum继续说:"今天的AI系统复杂且昂贵,远超大多数传统解决方案。盲目采用,被不受检查的乐观主义推动,既威胁资源又威胁组织未来。"
专业人士应该培养敏锐的眼光来识别"真正的专业知识",他敦促说:"将合格者与大众区分开来——那些既欣赏AI局限性又了解其潜力的人——对任何在这个高风险环境中导航的企业都至关重要。领导者必须寻找那些拥抱AI等式两面的人:承诺和陷阱,机遇和固有风险。"
成功公式的关键要素是"确保推动你的AI战略的人会做出好决策",Linthicum说。"我们需要了解他们知道什么,不知道什么。我们需要了解他们应该如何做决策,包括让那些了解使用这项技术的利弊、知道如何构建这些东西以确保不犯错误的人参与进来。"
他建议平衡的视角很重要,因为人们需要听到使用技术的不利之处:"现实是,除非你同时考虑利弊,否则你不会为企业提供可行的解决方案,最终你会把企业推下悬崖。"
Q&A
Q1:BlueOptima AI重构评估报告显示了什么结果?
A:报告显示即使最优秀的AI编码模型在处理真实生产代码时成功率也不到23%。虽然大多数模型在流行基准测试中得分超过85%,但在生产维护任务中平均成功率仅为17%。成功率因编程语言差异巨大,从JavaScript的32%到C语言的仅4%不等。
Q2:为什么说AI技术被过度营销了?
A:AI被过度营销主要体现在:供应商的宣传往往掩盖了AI实施的艰苦后端工作;AI工具成本可能是传统系统的10到20倍;许多推广活动依靠强大公关而非深入理解;自封专家用复杂语言掩饰局限性;社交媒体奖励夸大故事而非务实进步。
Q3:企业如何理性应对AI技术的过度营销?
A:企业应该培养识别真正专业知识的敏锐眼光,寻找既了解AI潜力又认识其局限性的专家;确保推动AI战略的人能做出明智决策;同时考虑AI技术的利弊两面;避免盲目采用,需要基于证据的清醒视角来超越炒作,确保技术真正为业务服务。
好文章,需要你的鼓励
市场研究公司Klue本月初遭黑客入侵,大量客户数据被窃。Klue表示正与黑客组织Icarus沟通,并相信对方正在删除所盗数据。受影响客户包括Gong、LastPass、HackerOne等多家知名企业。然而事态趋于复杂——另一黑客团伙声称从Icarus处获取了Klue客户数据,并向客户发出勒索威胁。Klue提醒客户勿向第二方支付赎金,并建议索取数据样本以核实其真实性。
KAIST等机构提出3D HAMSTER,通过为视觉语言模型加入深度编码器和几何重建损失,让机器人规划器直接输出三维轨迹,解决了分层机器人系统中规划与执行的维度不匹配问题,显著提升了操作鲁棒性。
苹果公司对OpenAI提起诉讼,指控其窃取商业机密。据披露,前苹果系统电气工程师刘畅(Chang Liu)在离职加入OpenAI后,利用一个此前未知的身份验证零日漏洞,持续数周从苹果内部网络存储中下载大量机密文件,内容涵盖未发布产品信息、工程演示文稿及技术规格等。苹果已修复该漏洞并终止相关访问权限。此案已提交加州北区联邦法院,并要求陪审团审判。
南京大学提出Light-Omni框架,通过全局状态与潜在状态双机制,让AI视频助理无需反复推理即可实现精准记忆检索,速度提升逾12倍,准确率同步提高。