英国金融服务监管机构正在采取行动,以降低人工智能在金融领域应用所带来的风险。
英格兰银行与金融行为监管局(FCA)均已承诺采取相应措施,此前英国议会财政委员会于今年1月发布报告,对两家机构的监管力度提出批评。
财政委员会主席梅格·希利尔议员表示,尽管英格兰银行"在一定程度上正在积极应对",但她对财政部在将金融行业主要IT供应商纳入关键第三方监管制度(CTPR)问题上"表现出的明显惰性感到困惑"。
报告中,财政委员会议员指出:"由于金融领域监管机构行动不足,英国公众及国家金融体系正面临潜在的严重风险。"议员们将监管机构的态度形容为"静观其变"。
对此,英格兰银行副行长(金融稳定)萨拉·布里登回应称:"我们认同委员会的判断,即AI对英国金融体系服务实体经济具有广泛、复杂且可能是长远的影响。但我们不认同委员会所描述的'静观其变'这一说法。"
她补充道:"我们不仅没有静观其变,反而在分析AI在金融服务领域当前及未来风险、以及AI在更广泛经济层面的投资与应用方面投入了大量资源。"
金融监管机构回应财政委员会报告
英格兰银行已确认计划在金融交易市场中测试AI智能体的应用,以研究AI智能体出现"羊群效应"(即行为高度趋同)时可能带来的潜在影响。
FCA在回应委员会报告时表示:"我们认识到,AI正在以前所未有的速度推动根本性变革。正因如此,我们的监管思路刻意避开了传统的规则与指引模式,因为这项突破性技术的本质决定了必须采取不同的方式。"
FCA确认将向金融服务机构分享AI使用的最佳实践案例,以回应行业对于在现行规则框架下厘清AI合规路径的明确指引需求。
希利尔表示:"AI领域的最新进展,例如Anthropic的Project Mythos项目,让我们清楚地看到这一变革性技术的演进速度之快。对于负责维护英国金融稳定的相关机构而言,主动理解并防范AI可能对金融体系构成的风险,其重要性从未如此迫切。"
本周,英国多家大型银行已与监管机构以及金融和国家安全机构展开磋商,起因是Anthropic最新发布的AI模型Mythos揭示了数十年来潜藏的安全漏洞。
希利尔还着重强调,应尽快将金融行业主要IT供应商纳入CTPR框架。她指出:"某一主要供应商一旦发生服务中断,对金融服务体系造成的破坏可能极为严重。CTPR所赋予的监管权力至今仍未得到有效运用,而我们的风险敞口依然存在。我实在无法理解为何这一进程拖延至此,我们将持续密切关注这一问题。"
财政部经济事务国务秘书露西·里格比议员表示,财政部"正在收集必要证据,以支持针对多项潜在指定事项的决策工作,预计将于今年内做出初步指定决定"。
Q&A
Q1:英格兰银行计划如何测试AI智能体在金融市场中的应用?
A:英格兰银行已确认计划在金融交易市场中测试AI智能体的使用,重点研究AI智能体出现"羊群效应"时的潜在影响,即多个AI系统在交易行为上高度趋同,可能引发市场系统性风险。此举旨在提前评估并防范AI在金融市场中集体行为所带来的不稳定因素。
Q2:FCA针对金融行业AI使用会出台哪些具体指引?
A:FCA表示将向金融服务机构分享AI使用的最佳实践案例,帮助行业更清晰地理解如何在现行监管规则框架下合规使用AI。FCA的监管思路刻意避开传统规则与指引模式,强调针对AI技术的突破性特质采取更灵活的监管方式。
Q3:关键第三方监管制度(CTPR)为什么对金融行业的AI风险管理很重要?
A:CTPR旨在对金融行业的主要IT供应商实施专项监管。一旦某一大型供应商发生服务中断,可能对整个金融服务体系造成严重冲击。议员希利尔指出,目前CTPR所赋予的监管权力尚未得到有效使用,金融体系仍存在较大风险敞口,财政部正在推进相关指定决策工作。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。