代码质量测试初创公司SonarSource SA今日发布的一份新报告警告称,虽然最新的大语言模型在通过编程基准测试方面表现越来越好,但同时它们也在引入更严重的代码错误和安全漏洞。
该研究使用SonarQube Enterprise静态分析引擎,对Anthropic的Claude Sonnet 4和3.7、OpenAI的GPT-4o、Meta的Llama 3.2 90B以及开源的OpenCoder-8B完成的超过4400个Java编程任务进行了分析。
所有测试的模型都展现出了强大的编程技能,例如能够生成语法正确、功能完整的代码并解决复杂的算法问题,但分析也发现了系统性的弱点。最令人担忧的发现是缺乏安全意识,每个模型都产生了高比例的"BLOCKER"级别漏洞,这是最严重的安全等级。
Llama 3.2 90B高居榜首,其超过70%的漏洞被评为BLOCKER级别,其次是GPT-4o的62.5%和Claude Sonnet 4的近60%。研究发现,这些模型生成的代码存在常见缺陷,包括路径遍历、注入风险和硬编码凭据,这些问题源于在跟踪不可信数据流方面的局限性以及从训练集中复制不安全代码。
报告还突出了错误严重程度的问题,在功能基准测试中得分最高的Claude Sonnet 4,产生的BLOCKER级别错误比例几乎是其前代版本Claude 3.7 Sonnet的两倍,增幅高达93%。
许多高影响错误涉及并发问题、资源泄漏和应用程序编程接口契约违规,这些问题类型可能在生产系统中导致不可预测的故障。
GPT-4o最常见的缺陷是控制流错误,占其错误总数的近一半,而OpenCoder-8B则留下了大量冗余、未使用的代码,这些代码可能累积成长期技术债务。
Sonar的研究还为每个模型绘制了"编程个性"图谱。
Claude Sonnet 4被称为"高级架构师",因为它表现得冗长复杂,能够构建复杂的解决方案,但容易出现脆弱的高风险错误。GPT-4o被称为"高效通才",提供平衡的复杂性但在逻辑精确度上存在问题;Llama 3.2 90B被称为"未兑现的承诺",因为它在功能技能平庸的同时安全性最弱;OpenCoder-8B被称为"快速原型师",适合快速概念验证但整体问题密度最高。最后,Claude 3.7 Sonnet被称为"平衡的前辈",它对注释最友好,有助于提高可读性,但存在相同的核心安全缺陷。
报告作者写道:"功能性能基准测试是衡量大语言模型核心问题解决能力的重要指标,一直是记录行业快速进步的关键部分。我们的发现并非意在贬低这些成就,而是要用额外的背景和理解来丰富它们。"
作者补充说,如果没有系统性的安全和质量审查,组织将面临部署充满严重错误和漏洞的AI生成代码的风险。建议对每一行代码都采用"信任但验证"的方法,无论它是由人类还是大语言模型编写的。
Q&A
Q1:这项研究测试了哪些大语言模型?
A:研究测试了Anthropic的Claude Sonnet 4和3.7、OpenAI的GPT-4o、Meta的Llama 3.2 90B以及开源的OpenCoder-8B,使用SonarQube Enterprise静态分析引擎对超过4400个Java编程任务进行了分析。
Q2:哪个大语言模型产生的安全漏洞最严重?
A:Llama 3.2 90B产生的安全漏洞最严重,超过70%的漏洞被评为BLOCKER级别(最严重等级),其次是GPT-4o的62.5%和Claude Sonnet 4的近60%。
Q3:为什么新版大语言模型会产生更多严重代码错误?
A:主要原因包括缺乏安全意识、在跟踪不可信数据流方面存在局限性,以及从训练集中复制了不安全代码。Claude Sonnet 4虽然功能测试得分最高,但BLOCKER级别错误比前代版本增加了93%。
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。