合作内容 从取款机的使用到在线银行业务,金融服务行业一直走在科技前沿。如今,它正引领 AI 领域的发展。英国央行和金融行为监管局在第三次年度金融机构调查中发现,已有 75% 的公司在使用 AI,另有 10% 的公司计划在未来三年内开始使用该技术。
AI 在欺诈检测、数据分析等多个领域带来了机遇,但作为一项商业技术,它仍相对较新。调查显示,仅有不到三分之一的金融机构认为自己完全理解 AI 的运作机制。
这些公司必须拓展对其所使用 AI 工作原理的认识。它们的对手已经深谙其中奥妙,并且会利用这一点为己所用。
准备迎接对抗性 AI 对抗性 AI 攻击者通过对 AI 算法或供应这些算法的数据进行轻微篡改,从而改变算法的输出,使之符合攻击者的利益。例如,他们可能操纵市场预测以便据此进行交易,或者使算法对精心设计的欺诈交易视而不见。这对金融领域构成了巨大威胁。
这些攻击不属于金融机构传统的网络安全防御措施(例如防火墙、恶意软件检测和访问控制)所能覆盖的范围。针对这种风险,需要采用更灵活的安全策略。金融机构必须了解数据中毒、推理时攻击、模型污染以及 AI 供应链风险等概念。
监管机构也在努力掌握这些新概念。未来合规要求势必会扩展,以涵盖对抗性 AI 所带来的复杂风险。当这一天到来时,金融服务企业必须做好充足准备。
QA 拥有多年追踪和研究 AI 技术发展以及其在金融等领域影响的经验。我们不仅是您应对这些新兴威胁的培训伙伴,同时也是您在行业中的倡导者。我们的工作包括提高公众意识以及推动监管框架更新,引入最佳实践,确保金融机构及其客户的安全。
当前,并非所有金融机构都全面理解 AI,但它们对风险有着清晰认识。与此同时,它们也明白,随着攻击者掌握这项强大新技术,必须及时消化并管理其风险。完善的培训体系能为金融服务企业提供必要技能,使其既能充分利用 AI 的强大应用,又能有效防御潜在风险。
好文章,需要你的鼓励
微软宣布为Word和Excel推出基于OpenAI的AI代理模式,通过简单提示即可自动生成文档和分析数据。Word用户可享受"氛围写作"功能,利用现有文档组装报告和提案。Excel代理能分析电子表格数据并生成可视化报告。尽管在SpreadsheetBench基准测试中准确率仅为57.2%,低于人类平均水平71.3%,但微软强调其针对实际工作场景优化。此外,微软还发布了基于Anthropic的Office代理,显示其正逐步减少对OpenAI的依赖。
POSTECH研究团队开发出VideoFrom3D框架,能够仅凭粗糙3D模型、摄像机轨迹和参考图片生成高质量场景视频。该方法巧妙结合图像和视频扩散模型优势,通过稀疏锚点生成和几何引导插值两个模块,实现了传统3D制作流程的革命性简化。实验证明该方法在多种复杂场景下表现优异,为3D内容创作提供了更高效的解决方案。
OpenAI为美国ChatGPT用户推出"即时结账"功能,用户可在对话中直接购买Etsy和Shopify商品,无需跳转至外部网站。该功能支持Apple Pay、Google Pay等多种支付方式,并计划接入超过100万家Shopify商户。OpenAI还将开源其代理商务协议技术,与谷歌的代理支付协议形成竞争。这标志着电商购物模式的重大转变,AI聊天机器人可能重塑在线零售发现和支付生态系统。
Meta超级智能实验室开发了ARE平台和Gaia2基准测试,为AI智能体创造了更真实的训练和评估环境。ARE支持异步交互,模拟真实世界的复杂性和不确定性。Gaia2包含1120个场景,评估AI的七项核心能力。实验显示最强模型成功率仅42%,特别在时间管理和处理歧义方面表现较差,揭示了当前AI技术的局限性和改进方向。