DoorDash证实了一则关于送餐司机使用AI生成图片虚假送餐的病毒式传播故事。
据Nexstar报道,奥斯汀居民Byrne Hobart在X平台上发帖称遇到了这种情况:"太神奇了。DoorDash司机接受了订单,立即标记为已送达,并提交了一张AI生成的DoorDash订单照片(左图)放在我们前门的图片(右图)。"
在他的帖子引起关注后,Hobart提供了更多细节。他承认自己的故事"很容易"伪造,但指出:"有人在评论中说同样的事情也发生在他身上,也是在奥斯汀,同一个司机显示名称。"
关于司机如何做到这一点,Hobart推测他们使用了越狱手机上的被黑账户,通过DoorDash显示先前送餐照片的功能获得了他前门的图片。
DoorDash发言人对TechCrunch表示:"在快速调查此事件后,我们的团队永久移除了该送餐员的账户,并确保客户得到了妥善处理。我们对欺诈行为零容忍,使用技术和人工审核相结合的方式来检测和防止不良行为者滥用我们的平台。"
Q&A
Q1:DoorDash司机是如何使用AI伪造送餐照片的?
A:据推测,司机使用越狱手机上的被黑账户,通过DoorDash显示先前送餐照片的功能获得了客户前门的图片,然后使用AI技术生成虚假的送餐照片来证明已完成配送。
Q2:DoorDash如何处理这起AI欺诈事件?
A:DoorDash在快速调查后永久封禁了该送餐员的账户,并确保受害客户得到妥善处理。公司表示对欺诈行为零容忍,使用技术和人工审核相结合的方式防止平台滥用。
Q3:这种AI伪造送餐照片的情况是否常见?
A:根据报道,至少在奥斯汀地区出现了多起类似案例,有其他用户表示遇到了同一个司机的相同欺诈行为,这表明可能不是个例。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。