合作内容 从取款机的使用到在线银行业务,金融服务行业一直走在科技前沿。如今,它正引领 AI 领域的发展。英国央行和金融行为监管局在第三次年度金融机构调查中发现,已有 75% 的公司在使用 AI,另有 10% 的公司计划在未来三年内开始使用该技术。
AI 在欺诈检测、数据分析等多个领域带来了机遇,但作为一项商业技术,它仍相对较新。调查显示,仅有不到三分之一的金融机构认为自己完全理解 AI 的运作机制。
这些公司必须拓展对其所使用 AI 工作原理的认识。它们的对手已经深谙其中奥妙,并且会利用这一点为己所用。
准备迎接对抗性 AI 对抗性 AI 攻击者通过对 AI 算法或供应这些算法的数据进行轻微篡改,从而改变算法的输出,使之符合攻击者的利益。例如,他们可能操纵市场预测以便据此进行交易,或者使算法对精心设计的欺诈交易视而不见。这对金融领域构成了巨大威胁。
这些攻击不属于金融机构传统的网络安全防御措施(例如防火墙、恶意软件检测和访问控制)所能覆盖的范围。针对这种风险,需要采用更灵活的安全策略。金融机构必须了解数据中毒、推理时攻击、模型污染以及 AI 供应链风险等概念。
监管机构也在努力掌握这些新概念。未来合规要求势必会扩展,以涵盖对抗性 AI 所带来的复杂风险。当这一天到来时,金融服务企业必须做好充足准备。
QA 拥有多年追踪和研究 AI 技术发展以及其在金融等领域影响的经验。我们不仅是您应对这些新兴威胁的培训伙伴,同时也是您在行业中的倡导者。我们的工作包括提高公众意识以及推动监管框架更新,引入最佳实践,确保金融机构及其客户的安全。
当前,并非所有金融机构都全面理解 AI,但它们对风险有着清晰认识。与此同时,它们也明白,随着攻击者掌握这项强大新技术,必须及时消化并管理其风险。完善的培训体系能为金融服务企业提供必要技能,使其既能充分利用 AI 的强大应用,又能有效防御潜在风险。
好文章,需要你的鼓励
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。