随着更多公司在没有监管的情况下采用 AI,它们面临的安全风险也在增加。这是IBM年度数据泄露报告的重要发现之一,该报告今年首次关注了 AI 的影响。这家科技巨头发现,过去一年中16%的数据泄露涉及使用 AI 工具。此外,20%的组织报告称,由于员工在公司电脑上使用未经授权的 AI 工具而导致数据泄露。在遭遇 AI 相关泄露的组织中,97%没有任何访问控制措施,63%没有 AI 治理政策。
"数据显示,AI 采用与监管之间的差距已经存在,威胁行为者正开始利用这一漏洞,"IBM安全副总裁Suja Viswesan在声明中表示。
风险很高:在美国,每次数据泄露的平均成本已达到创纪录的1022万美元——尽管全球平均成本下降至444万美元。医疗保健是数据泄露成本最高的行业:平均每次事件成本约742万美元,尽管比2024年的977万美元大幅下降。
公司在管理数据泄露方面也在改善:数据泄露事件的平均生命周期——从发现到恢复——下降至241天,相比去年的258天和2020年IBM确定的280天有所改善。这部分是因为更多公司自主发现泄露,而不是从攻击者那里得知——部分原因是更多公司使用 AI 监控网络并保持安全。
社交媒体清理可能适得其反——甚至损害求职前景
对于寻找工作或实习的大学生,关于社交媒体的标准建议是:在LinkedIn上建立专业档案,但清理其他社交媒体账户(那些显示政治观点或聚会活动的)或将其设为私人。
然而最近的发展可能让这种做法过时,因为学生面临潜在的两难困境:他们在社交媒体上说的话可能在求职时伤害他们。但学生删除或隐藏公开在线存在也可能以不可预测的方式适得其反。
一些潜在雇主正在采用 AI 工具筛选社交媒体,以确定申请者是否真实,因为 AI 导致欺诈者伪造(或窃取)身份激增。这些工具筛选社交账户年龄、发布和点赞活动以及LinkedIn连接等信息,这使得清理档案成为更冒险的举动。
Q&A
Q1:AI工具导致数据泄露的情况有多严重?
A:根据IBM年度报告,过去一年中16%的数据泄露涉及使用AI工具,20%的组织因员工使用未经授权的AI工具而遭遇泄露。在AI相关泄露的组织中,97%没有访问控制措施,63%缺乏AI治理政策。
Q2:为什么清理社交媒体档案现在可能有害?
A:一些雇主正使用AI工具筛选社交媒体来确定申请者身份真实性,因为AI导致虚假身份激增。这些工具检查账户年龄、活动记录和LinkedIn连接等,使得清理档案变得有风险。
Q3:美国数据泄露的成本有多高?
A:在美国,每次数据泄露的平均成本已达到创纪录的1022万美元。医疗保健行业成本最高,平均每次事件约742万美元。尽管全球平均成本下降至444万美元,但美国的成本仍在上升。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。