当前,生成式人工智能(AI)正以惊人的创造力和应用潜力在全球范围内掀起一场革命。在中国,各行各业都在思考如何利用生成式AI技术实现自身行业的自动化和高质量、高效率发展。然而,正如光明与阴影相伴,生成式AI的进一步发展也让网络攻击的潜力达到前所未有的水平。
Jumio发布的《2023年在线身份研究》验证了这一点,67%的消费者意识到这类生成式AI工具可以制作捏造的内容,包括视频、图像和音频等,将会为身份欺诈带来更大风险。假冒诈骗已经成为一个全球性问题,其影响深远且代价巨大。仅在 2022 年,冒名欺诈就给英国消费者造成了 1.07 亿英镑的损失,给美国消费者造成了 26 亿美元的损失,给新加坡造成了 1.01 亿新元的损失。在中国也有真实的案例发生,去年6月在内蒙古包头,骗子通过AI换脸和拟声技术佯装好友实施诈骗,导致被害人10分钟内被骗走430万元。
为什么生成式AI会带来如此大的欺诈风险?
生成式AI工具如果被欺诈团伙所利用,将为个人和企业带来严重的安全威胁。以网络钓鱼电子邮件为例。以前,大家经过仔细观察一般很容易发现钓鱼邮件的异常之处,因为它们充满了错别字和语病。而借助生成式AI工具,欺诈者可以轻松起草一封精美的专业电子邮件,从而更难识别为冒名顶替。
再比如,机器人现在能够在社交媒体上开设账户,并使用生成式AI撰写看起来很可靠的消息。如果这一消息被自动化地传播出去,虚假信息的规模将达到前所未有的水平,用户将很难辨别真实信息和虚假信息。生成式AI也被欺诈者滥用于制造逼真的深度伪造内容。估计市场上有 50 多种工具可以让人在 10 到 15 分钟内就制作出一份深度伪造内容。今年2月份,有媒体报道称,诈骗团伙利用深伪技术在视频会议中冒充企业高管,导致一家大型跨国公司香港分公司的财务人员被骗取高达2,500万美金。
对于企业而言,以金融行业为例,尽管很多企业已经意识到KYC(了解您的客户)流程的重要性并开始部署,但在生成式AI的挑战下,这一流程正面临着前所未有的考验。例如,诈骗团伙利用生成式AI技术伪造身份证件和护照,通过线上银行进行诈骗活动,往往造成巨大的经济损失。
应对之策在于永远保持领先于欺诈技术
面对生成式AI带来的欺诈风险,我们必须以AI对抗AI驱动的欺诈,保持永远领先于欺诈技术。例如,AI可用于检测篡改迹象,如文字和照片篡改。采用基于面部的生物识别技术和先进的活体检测技术,可以检测到复杂的欺骗攻击,如人脸互换和人脸变形等。
事实上,越来越多的企业正在利用基于AI的生物识别和活体检测技术来加固其欺诈预防系统。Jumio 数字身份调查表明,由于生成式AI的兴起和深伪图像的出现,54% 的全球受访者认为面部识别技术在身份验证方面将发挥更大价值。
对于金融行业来说,在拥有强大的eKYC流程之外,结合生物识别认证技术将有助于增强安全性。此外,在注册过程中加上被动风险信号可提供更多一层保障。例如,验证用户的个人身份信息 (PII)、验证年龄、评估用户电子邮件和电话号码的信用级别、通过 IP 地址验证用户的位置,评估设备的可信度以评估用户的风险等级。拥有高度准确和主动化的身份验证解决方案,将有助于实时拦截可疑交易并迅速采取适当的行动。对于出海企业来说,还需要考虑不同国家和地区的客户尽调标准和跨境支付工作流程。
基于生物识别的身份验证变得更加重要
作为全球生物识别和身份验证解决方案的领导者,Jumio以创新的生物识别、活体检测、欺诈分析等技术,提供了一种有效的以AI对抗AI的策略。Jumio的流程简洁而高效,用户只需拍摄身份证照片,然后自拍,系统便会迅速完成身份验证。在这一过程中,Jumio运用AI技术进行实时分析,不仅验证身份证的真实性,还确保了验证过程的真实性。
在区分机器生成和人类交互越来越具有挑战性的环境中,基于生物识别的身份验证变得更加重要。Jumio将继续致力于推动身份验证技术的进步,确保在AI时代,安全、便捷的身份验证不再是奢侈品,而是每一笔交易的标准配置。
好文章,需要你的鼓励
瑞典央行与金融机构及国家安全部门深化合作,共同应对网络威胁。今年5月,瑞典遭遇大规模分布式拒绝服务攻击,政府和金融机构受到严重冲击。总理克里斯特松承诺增加资金支持,建立更强大的公私合作伙伴关系。央行将举办第二届在线网络安全挑战峰会,鼓励金融机构提升网络安全能力。瑞典金融协会敦促建立危机管理机制,与国家网络安全中心等机构协调配合。
字节跳动发布Seedream 4.0多模态图像生成系统,实现超10倍速度提升,1.4秒可生成2K高清图片。该系统采用创新的扩散变换器架构,统一支持文字生成图像、图像编辑和多图合成功能,在两大国际竞技场排行榜均获第一名,支持4K分辨率输出,已集成至豆包、剪映等平台,为内容创作带来革命性突破。
工作压力源于大脑储存混乱而非系统。本文介绍5个ChatGPT提示词,帮你将工作压力转化为结构化行动:优先级排序任务清单、快速撰写专业邮件回复、从冗长文档中提取关键信息、生成问题解决方案、高效准备会议内容。通过系统化处理工作事务,将分散的精力转为专注执行,让大脑专注于决策而非重复劳动。
红帽公司研究团队提出危险感知系统卡(HASC)框架,为AI系统建立类似"体检报告"的透明度文档,记录安全风险、防护措施和问题修复历史。同时引入ASH识别码系统,为AI安全问题建立统一标识。该框架支持自动生成和持续更新,与ISO/IEC 42001标准兼容,旨在平衡透明度与商业竞争,建立更可信的AI生态系统,推动行业协作和标准化。