大型科技公司对AI越来越依赖,但许多公司对监管却颇为抗拒,经常回避版权法要求和训练数据透明化的建议。在一个罕见的举动中,谷歌确认将签署欧盟的AI实践准则,这是一个该公司最初因过于严苛而反对的框架。然而,谷歌并不完全支持欧洲遏制AI爆发式发展的努力。该公司全球事务负责人肯特·沃克指出,如果不谨慎实施,该准则可能抑制创新,这是谷歌希望避免的。
虽然谷歌最初反对实践准则,但沃克表示,公司向欧盟委员会提供的意见得到了良好回应,最终形成的法律框架能为欧洲提供"安全、一流的AI工具"。该公司声称,这些工具在欧洲大陆的推广到2034年每年可推动经济增长8%(约1.8万亿欧元)。
这些所谓的经济收益被作为诱饵,吸引欧盟商业利益集团在实践准则上与谷歌保持一致。虽然该公司正在签署协议,但它似乎有意影响实施方式。沃克表示,谷歌仍然担心版权指导方针的收紧和强制披露可能的商业秘密会减缓创新。拥有话语权可能比像某些竞争对手那样拒绝自愿合规更容易影响监管走向。
谷歌的立场与Meta形成鲜明对比,后者坚决拒绝签署协议。这家Facebook母公司声称,自愿实践准则可能对前沿模型开发施加过多限制,考虑到该公司正在加速推进所谓的"超级智能"项目,这种立场并不令人意外。微软仍在考虑该协议,可能最终会签署,但ChatGPT制造商OpenAI已表态将签署该准则。
AI系统监管可能是大型科技公司部署所谓变革性和对未来至关重要技术时面临的下一个障碍。谷歌的搜索和Android等产品多年来一直受到欧盟监管机构关注,因此在AI准则制定之初就参与其中,有助于应对必将动荡的法律环境。
**全面的AI框架**
美国一直回避AI监管,当前政府正积极努力移除现有的少数限制。白宫甚至在最近的税收法案中试图禁止所有州级AI监管长达十年。与此同时,欧洲正通过快速发展的监管框架认真对待AI工具可能产生的负面影响。
AI实践准则旨在为AI公司在不断变化的环境中提供更多确定性。该准则是在超过1000个公民团体、学者和行业专家参与下制定的。欧盟委员会表示,采用自愿准则的公司将享受较低的官僚负担,更容易遵守去年生效的欧盟AI法案。
根据准则条款,谷歌必须发布模型训练数据摘要,并向监管机构披露更多模型特征。该准则还包括关于公司如何管理安全和保障以符合AI法案的指导。同样,它包括使公司模型开发与欧盟版权法在AI方面保持一致的路径,这是谷歌等公司的痛点。
像Meta这样不签署准则的公司也无法逃避监管。所有在欧洲运营的AI公司都必须遵守AI法案,该法案包含世界上针对生成式AI系统最详细的监管框架。该法律禁止AI的高风险应用,如故意欺骗或操纵用户、社会评分系统以及在公共场所进行实时生物识别扫描。违反AI法案规定的公司可能面临高达3500万欧元(4010万美元)的罚款,或高达违规者全球收入7%的处罚。
好文章,需要你的鼓励
从浙江安吉的桌椅,到广东佛山的沙发床垫、河南洛阳的钢制家具,再到福建福州的竹藤制品,中国各大高度专业化的家具产业带,都在不约而同地探索各自的数字化出海路径。
哥伦比亚大学研究团队开发了MathBode动态诊断工具,通过让数学题参数按正弦波变化来测试AI的动态推理能力。研究发现传统静态测试掩盖了AI的重要缺陷:几乎所有模型都表现出低通滤波特征和相位滞后现象,即在处理快速变化时会出现失真和延迟。该方法覆盖五个数学家族的测试,为AI模型选择和部署提供了新的评估维度。
研究人员正探索AI能否预测昏迷患者的医疗意愿,帮助医生做出生死决策。华盛顿大学研究员Ahmad正推进首个AI代理人试点项目,通过分析患者医疗数据预测其偏好。虽然准确率可达三分之二,但专家担心AI无法捕捉患者价值观的复杂性和动态变化。医生强调AI只能作为辅助工具,不应替代人类代理人,因为生死决策依赖具体情境且充满伦理挑战。
这项研究首次发现AI推理模型存在"雪球效应"问题——推理过程中的小错误会逐步放大,导致AI要么给出危险回答,要么过度拒绝正常请求。研究团队提出AdvChain方法,通过训练AI学习"错误-纠正"过程来获得自我纠错能力。实验显示该方法显著提升了AI的安全性和实用性,用1000个样本达到了传统方法15000个样本的效果,为AI安全训练开辟了新方向。