英国金融监管机构高级官员近日发出警告,称监管机构正身处一场"军备竞赛"之中,以求跟上人工智能在金融服务领域的快速应用步伐。目前,已有数百万人借助AI技术辅助个人理财决策。
英国金融行为监管局(FCA)执行董事谢尔顿·米尔斯在接受英国《金融时报》采访时表示,监管机构需要获得更大权力,才能应对AI的快速扩张态势。他同时呼吁英国相关部门重新审视ChatGPT、Claude、Gemini及其他大语言模型的使用,是否应纳入现行监管规则的适用范围。
米尔斯受FCA委托撰写了一份关于AI对金融服务影响的报告,该报告已于周一正式发布。他在报告发布前表示,金融领域的监管机构必须主动拥抱AI,以跟上这项技术为行业带来的"速度、节奏与规模变革",同时借助AI"监测、识别并应对相关风险"。他强调:"这就是一场军备竞赛。"
报告指出了AI在金融服务领域日益普及所带来的机遇与风险。报告称:"高度个性化服务有助于更好地将产品与需求匹配,但也可能引发偏见、不透明定价及个性化操纵等问题。"
报告建议FCA在未来三至六个月内开展专项审查,重点评估游离于监管范围之外的金融服务公司所带来的风险,以及大语言模型被用于个人理财管理这一日益普遍趋势所导致的"消费者损害"风险。
米尔斯委托开展的调研发现,英国已有五分之一的成年人表示愿意使用AI来替其做出储蓄或借贷等财务决策,尽管此类服务目前不受监管保护,一旦出现问题也无法申请赔偿。
米尔斯援引现行对持牌机构提供类似建议的"相当严格"规定,指出一些企业认为这类AI服务"在经济意义上与受监管服务相当,却游离于监管边界之外"。他同时提出疑问:"聊天模型能够响应提示并进行对话,这是否更接近于一种建议或指引?"
尽管如此,米尔斯也认为AI有望通过扩大获取渠道,使目前仅富裕客户才能享有的高端金融服务惠及更广泛人群,从而实现金融的"民主化"。他表示,年收入仅2万英镑的人也可以获得通常只有"坐拥千万英镑资产者"才能享受的理财建议,并感叹道:"这样的前景,有什么不好的呢?"
报告还建议FCA召集公私部门代表,共同开发一套"AI赋能金融能力服务"平台,为英国公众提供免费的金融选择信息与指导。
目前,众多金融服务公司已在试点AI智能体,这类系统能够自主代表企业和消费者执行金融交易。即将在FCA任职八年后离任的米尔斯表示,管理人员仍须为AI系统的行为承担责任:"必须有人为其所作所为负责到底。"
报告还指出,AI可能"放大"欺诈与网络攻击的威胁,并呼吁将该技术用于系统防御。报告称:"深度伪造、合成身份及个性化社会工程学攻击,正将欺诈和网络风险带入全新时代,改变欺诈与网络攻击的形态。"
报告还建议扩大FCA在"关键第三方"监管框架下的权限,该框架允许FCA对Anthropic、OpenAI、亚马逊、谷歌、微软等金融行业核心技术供应商实施监督。目前,英国政府尚未决定将哪些大型科技集团纳入该框架,该框架允许监管机构施加更严格的信息披露要求,包括年度自评估及抵御重大风险的"情景测试"。
此外,报告还提出FCA可在"指定活动监管"框架下寻求额外权力,从而对特定活动实施监管,而无需强制要求相关企业取得经营授权。
FCA董事会将就米尔斯的报告展开讨论,再决定如何回应其中的建议。
值得一提的是,FCA此前因与美国科技公司Palantir签订一份为期12周的合同而受到部分议员批评。该合同旨在测试AI系统是否能够协助打击金融犯罪,但有议员担忧此举可能使美国当局得以访问英国敏感金融信息。对此,FCA与Palantir均予以否认。米尔斯拒绝就Palantir合同一事置评。
Q&A
Q1:英国FCA为何要审查ChatGPT、Claude、Gemini等大语言模型在金融领域的应用?
A:FCA执行董事米尔斯指出,目前已有大量英国消费者使用大语言模型辅助个人理财决策,但这类服务游离于现行监管框架之外,用户一旦受损也无法申请赔偿。报告建议FCA在三至六个月内开展审查,评估相关风险,并厘清AI模型的对话功能是否构成"投资建议"或"指引",从而决定是否将其纳入监管范围。
Q2:AI智能体在金融服务中的应用现状如何,监管上有哪些要求?
A:目前许多金融服务公司已在试点AI智能体,用于自主执行金融交易。米尔斯强调,尽管智能体具备高度自动化能力,相关管理人员仍须对其行为承担责任,必须有人为AI的决策和操作负责,以防止责任真空的出现。
Q3:AI技术在金融领域有哪些主要风险?
A:报告指出,AI在金融领域面临多项风险:一是高度个性化服务可能引发偏见、不透明定价及操纵行为;二是深度伪造、合成身份和个性化社会工程学攻击将放大欺诈与网络安全威胁;三是大量消费者在缺乏监管保护的情况下使用AI做出重要财务决策,存在较大的消费者权益受损风险。
好文章,需要你的鼓励
OpenAI在与多家新闻机构的版权诉讼中陷入困境。以《纽约时报》为首的原告指控OpenAI在长达两年时间里向法庭撒谎,刻意隐瞒其已对ChatGPT日志进行大规模搜索的事实。据悉,OpenAI实际上已拥有包含1000万和7800万条记录的日志样本,并曾用于研究版权内容过滤器,却对外声称无法进行此类搜索。原告据此提出制裁动议,要求法院追责。OpenAI则否认相关指控,坚称其立场基于合理使用原则。
斯坦福与UC伯克利提出LLM-as-a-Verifier框架,通过提取AI模型内部概率分布生成连续评分,在代码、机器人、医疗领域均达到最优性能,且无需额外训练。
美国加州大学圣地亚哥分校研究团队在《自然》期刊发表研究成果:外科医生通过远程操控宇树G1仿人机器人,成功完成两例活体猪胆囊切除手术,创下全球首例。与造价数十至数百万美元的达芬奇手术机器人相比,仿人机器人成本更低、体积更小,未来有望部署于农村、战地乃至太空等资源匮乏的医疗场景。但目前仍存在需频繁重新校准、机械臂活动范围受限等挑战。
字节跳动Seed团队发现AI智能体在真实环境中学习的进步曲线精确遵循对数S形规律,R?达0.998,且前沿模型的学习速度每三个月翻倍。