研究显示:所有主流AI模型均违反欧盟法规

非营利研究机构Aithos通过自研工具LARA对主流AI模型进行测试,发现所有大型语言模型均在不同程度上违反了欧盟GDPR及AI法规。测试模拟真实场景,评估模型在未经用户同意收集数据、操控弱势群体及创建用户心理画像等方面的合规情况。结果显示,部分模型违规率高达93%,表现最佳的Anthropic Claude Opus 4.7合规率也仅约54%。Aithos同时警告,基于这些模型构建AI应用的企业同样可能承担法律责任。

根据非营利研究机构Aithos发布的一项研究,所有主流AI模型在不同程度上均违反了欧盟的人工智能法规及数据保护相关规定。

Aithos使用其自研工具LARA(面向现实世界智能体的法律合规评估工具)对各大模型进行了测试。据The Register报道,该工具通过模拟AI助手可能面临的法律灰色地带场景,评估模型对《通用数据保护条例》(GDPR)及欧盟《人工智能法案》等法规的合规情况。测试结果显示,部分模型存在未经用户有效授权擅自收集数据、试图对弱势群体实施心理操控,以及为用户构建心理画像等违规行为。

测试结果表明,所有主流大语言模型均未能达到欧盟法律要求,其中部分模型的违规率高达93%。表现最佳的是Anthropic旗下的Claude Opus 4.7,其合规率约为54%。

Aithos同时警示,上述问题的责任并不完全归咎于AI公司本身。基于这些底层模型构建自身AI智能体产品的企业,同样可能面临相应的法律追责风险。

Q&A

Q1:Aithos是用什么方法测试AI模型合规性的?

A:Aithos使用其自研工具LARA(面向现实世界智能体的法律合规评估工具)进行测试。该工具通过模拟AI助手在现实场景中可能遭遇的法律灰色地带情况,评估模型是否符合欧盟《通用数据保护条例》(GDPR)及《人工智能法案》等相关法规,重点检测模型是否存在未授权收集数据、操控用户或构建心理画像等违规行为。

Q2:在合规测试中表现最好的AI模型是哪个?

A:在Aithos的测试中,Anthropic旗下的Claude Opus 4.7是所有被测模型中合规率最高的,合规率约为54%。尽管如此,这一成绩仍意味着近半数情况下存在违规行为。而表现最差的模型违规率高达93%,整体来看,目前所有主流大语言模型均未能满足欧盟的法律合规要求。

Q3:企业使用大语言模型构建AI智能体,是否也会面临法律风险?

A:会的。Aithos明确警告,法律责任不仅限于AI模型的开发公司。那些基于主流大语言模型构建自有AI智能体产品的企业,若其产品出现违反GDPR或欧盟《人工智能法案》的行为,同样可能承担相应的法律责任。因此,企业在部署AI智能体时,需要对底层模型的合规性进行充分评估。

来源:Computerworld

0赞

好文章,需要你的鼓励

2026

06/04

14:09

分享

点赞

邮件订阅