众所周知,雷朋Meta和雷朋合作的Ray-Ban Meta 智能眼镜在今年早些时候就已经售出了 100 多万台,这也让Meta有信心在9月份发布首款AR智能眼镜Orion。
许多人都认为眼镜是未来AI最好的载体之一,但两位哈佛大学生用一个实验无情的揭示了AI眼镜最大的风险——隐私泄露。
AI眼镜识别,隐私不复存在
两位哈佛大学生,AnhPhu Nguyen 和 Caine Ardayfio,做了一个有趣的实验。他们戴着 Meta 的智能眼镜 Meta Ray-Ban,在校园、地铁等随机识别了数十个陌生人。拍下某人的一张照片,几秒之后,这个人的信息就会出现在手机上。
当然,Meta的智能眼镜本身并没有如此强大的功能。之所以会产生这样的节目效果是因为他们做了一些技术上的改动。先通过 Meta 智能眼镜的直播功能,将视频实时传输到 Instagram,然后用一个计算机程序监控这个视频流,并使用 AI 进行人脸识别。
随后,在互联网上搜索到某个人的更多照片,以及基于公共数据库,查找这个人的姓名、住址、电话号码,甚至亲属信息。最后,这些信息会传送到他们编写的一个手机 app,方便查看。
只是两个高材生为了视频效果就能够做到这种程度,那如果是不法分子呢?或许隐私问题将让所有人头疼,甚至于连外出都不敢以真面目示人。
如果再搭配上各类AI换脸工具,或许每个人都将“赤裸”的活着。此前,在仅三万人居住的西班牙阿尔门德拉莱霍 (Almendralejo) ,一个话题正在以“病毒”似的速度传播着,网上有学校里三十多名女孩子们的裸照。
西班牙国家司法警察总署就对此案作出了一些解释和报告:涉案人员总共有十人,其中三人使用了ClothOff,这是一款免费的人工智能应用程序,它可以让用户“脱掉”任何想要的人的衣服,这也意味着任何人都可以通过这样一款AI应用,以极低的成本来实施犯罪。
包括很早之前的案例,一位广州女生在地铁拍的美照,被个别网友,用AI一键脱衣软件生成了裸体照片。换脸的前提是需要拍下照片,普通手机举起的瞬间就有很大概率被注意到,而眼镜则可以悄无声息的进行拍摄。
AI眼镜正趋向于日常化、普通化,它长得像普通墨镜,让偷拍更加方便。Meta Ray-Ban 实际上是有提醒功能的,它有一个 LED 指示灯,当用户录制视频,它就会自动打开,提醒旁边的路人,但是,谁会去特地注意他人眼镜上的细节是个问题。
之前外媒The Verge 测评发现,在明亮的室外,Meta Ray-Ban 的 LED 和快门声都不明显,在拥挤嘈杂的公共场所,很多人往往不会注意到这种细节。
警惕但不必过于担心
当然,上述的情况也并非能够轻易达成的,毕竟主人公是两位哈佛高材生。两位学生是把各种现有的、成熟的技术组合在了一起,连生成式 AI 也参与了,才能实现隐私泄露。
智能眼镜:配备摄像头的智能眼镜,在公共场合捕捉人脸图像。
反向面部识别:通过 PimEyes 等人脸搜索引擎,将人脸图像与互联网的公开图像进行匹配,并返回这些图像的网页链接。
爬虫工具:使用 FireCrawl 爬虫工具,从这些网页链接中抓取所需的数据。
大语言模型:大语言模型从抓取的、杂乱的数据中推断出姓名、职业等细节。
数据库:在 FastPeopleSearch 等网站输入姓名,从公开记录、社交媒体中查找家庭住址、电话号码和亲属姓名等个人信息。
隐私泄露老生常谈,面部识别并不新鲜,偷拍问题也不是出现一天两天,大模型在两年间已经成了很多人离不开的生产力工具。彼此之间强强联合的化学反应,才导致了一个细思极恐的结果——仅凭大街上偶然的相遇,我们的个人信息就可能被有心人提取。两位学生没有对外公开技术细节,做这个实验的目的,是为了提醒人们保持警惕。
事实上,随着各类技术飞跃式的发展,许多国家都已经注意到了隐私问题。2016年以来,各国陆续发布相关政策法规,但进展仍赶不上技术的进步。去年10月,拜登签署美国首项人工智能监管行政令,为人工智能建立安全和隐私保护标准,但被指缺乏强制执行效能。
欧盟方面,虽然欧洲议会于3月13日通过《人工智能法案》,但是法案中的相关条款将分阶段实施,部分规则要到2025年才生效。日本执政党自民党直到最近才宣布计划在年内提议政府引入生成式人工智能立法。
近年来,我国也出台了《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策,一方面给AI有关技术的创新发展“鼓劲儿”,一方面又给其“立规矩”“划红线”,以确保相关技术的开发和使用遵守法律法规、尊重社会公德和伦理道德。
写在最后
传播学者罗伯特·切斯尼形象地称之为,“说谎者的红利”,前所未有的隐私泄露和AI伪造问题让那个曾经遥远的问题,骤然变得现实而紧迫。
隐私和便利,在很多时候都是相伴而生的,当我们享受各种 AI 产品的趣味和个性化时,风险也如影随形。但我们也不能因噎废食,或许未来的AI眼镜会像如今的日版iPhone一样,拍摄或录制时强制开启快门声,或是其它手段最大限度防止隐私泄露。
好文章,需要你的鼓励
OpenAI 本周为 ChatGPT 添加了 AI 图像生成功能,用户可直接在对话中创建图像。由于使用量激增,CEO Sam Altman 表示公司的 GPU "正在融化",不得不临时限制使用频率。新功能支持工作相关图像创建,如信息图表等,但在图像编辑精确度等方面仍存在限制。值得注意的是,大量用户正在使用该功能创作吉卜力动画风格的图像。
Synopsys 近期推出了一系列基于 AMD 最新芯片的硬件辅助验证和虚拟原型设计工具,包括 HAPS-200 原型系统和 ZeBu-200 仿真系统,以及面向 Arm 硬件的 Virtualizer 原生执行套件。这些创新工具显著提升了芯片设计和软件开发的效率,有助于加快产品上市速度,满足当前 AI 时代下快速迭代的需求。
人工智能正在深刻改变企业客户关系管理 (CRM) 的方方面面。从销售自动化、营销内容生成到客服智能化,AI不仅提升了运营效率,还带来了全新的服务模式。特别是自主代理AI (Agentic AI) 的出现,有望在多渠道无缝接管客户服务职能,开创CRM发展新纪元。
数据孤岛长期困扰着组织,影响着人工智能的可靠性。它们导致信息分散、模型训练不完整、洞察力不一致。解决方案包括实施强大的数据治理、促进跨部门协作、采用现代数据集成技术等。克服数据孤岛对于充分发挥AI潜力至关重要。