随着更多公司在没有监管的情况下采用 AI,它们面临的安全风险也在增加。这是IBM年度数据泄露报告的重要发现之一,该报告今年首次关注了 AI 的影响。这家科技巨头发现,过去一年中16%的数据泄露涉及使用 AI 工具。此外,20%的组织报告称,由于员工在公司电脑上使用未经授权的 AI 工具而导致数据泄露。在遭遇 AI 相关泄露的组织中,97%没有任何访问控制措施,63%没有 AI 治理政策。
"数据显示,AI 采用与监管之间的差距已经存在,威胁行为者正开始利用这一漏洞,"IBM安全副总裁Suja Viswesan在声明中表示。
风险很高:在美国,每次数据泄露的平均成本已达到创纪录的1022万美元——尽管全球平均成本下降至444万美元。医疗保健是数据泄露成本最高的行业:平均每次事件成本约742万美元,尽管比2024年的977万美元大幅下降。
公司在管理数据泄露方面也在改善:数据泄露事件的平均生命周期——从发现到恢复——下降至241天,相比去年的258天和2020年IBM确定的280天有所改善。这部分是因为更多公司自主发现泄露,而不是从攻击者那里得知——部分原因是更多公司使用 AI 监控网络并保持安全。
社交媒体清理可能适得其反——甚至损害求职前景
对于寻找工作或实习的大学生,关于社交媒体的标准建议是:在LinkedIn上建立专业档案,但清理其他社交媒体账户(那些显示政治观点或聚会活动的)或将其设为私人。
然而最近的发展可能让这种做法过时,因为学生面临潜在的两难困境:他们在社交媒体上说的话可能在求职时伤害他们。但学生删除或隐藏公开在线存在也可能以不可预测的方式适得其反。
一些潜在雇主正在采用 AI 工具筛选社交媒体,以确定申请者是否真实,因为 AI 导致欺诈者伪造(或窃取)身份激增。这些工具筛选社交账户年龄、发布和点赞活动以及LinkedIn连接等信息,这使得清理档案成为更冒险的举动。
Q&A
Q1:AI工具导致数据泄露的情况有多严重?
A:根据IBM年度报告,过去一年中16%的数据泄露涉及使用AI工具,20%的组织因员工使用未经授权的AI工具而遭遇泄露。在AI相关泄露的组织中,97%没有访问控制措施,63%缺乏AI治理政策。
Q2:为什么清理社交媒体档案现在可能有害?
A:一些雇主正使用AI工具筛选社交媒体来确定申请者身份真实性,因为AI导致虚假身份激增。这些工具检查账户年龄、活动记录和LinkedIn连接等,使得清理档案变得有风险。
Q3:美国数据泄露的成本有多高?
A:在美国,每次数据泄露的平均成本已达到创纪录的1022万美元。医疗保健行业成本最高,平均每次事件约742万美元。尽管全球平均成本下降至444万美元,但美国的成本仍在上升。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。