谷歌今日详细介绍了Private AI Compute,这是一个云端系统,专门用于为其Pixel手机的人工智能功能提供动力支持。
由于最新的Pixel 10智能手机系列所使用的一些AI模型体积过大,无法在设备上直接运行,因此谷歌将这些模型托管在其云端。Private AI Compute的设计目的是保护Pixel 10手机向谷歌云端大语言模型发送的用户数据。
这些模型运行在配备谷歌定制张量处理单元机器学习加速器的服务器上。该公司在今年4月推出了最新的TPU产品Ironwood,该产品在包含多达9,216个芯片的集群中运行,总性能达到42.5 exaflops。
驱动Private AI Compute的TPU安装在专门的加固服务器中。谷歌已经禁用了这些机器的shell访问功能,这种功能通常允许管理员修改敏感的软件组件。许多网络攻击都是通过利用shell访问来安装恶意软件的。
Pixel设备不会直接连接到TPU,而是通过由Advanced Micro Devices公司的中央处理器驱动的中介服务器进行连接。谷歌使用了AMD在其CPU中提供的SEV-SNP功能来降低数据泄露的风险。
SEV-SNP将服务器的内存分割成加密段,只有使用这些内存段的虚拟机才能访问它们。因此,这些内存无法被虚拟机监视程序或操作系统解密。这意味着底层基础设施的运营商(在这种情况下是谷歌)无法查看用户的数据。
SEV-SNP还包含针对侧信道攻击的缓解措施。这些网络攻击试图通过分析物理服务器属性(如机器功耗的波动)来提取敏感数据。
Pixel手机通过加密连接连接到谷歌的AMD驱动中介服务器。在建立连接之前,谷歌使用一种称为认证的技术来验证服务器。这种方法使用系统的技术数据来检查其是否恶意。
谷歌通过称为IP盲化中继的系统来路由Private AI Compute网络流量。这些系统的目的是隐藏Pixel用户的IP地址。没有IP地址,试图窃听特定用户的黑客就无法将该用户的流量与其他网络数据区分开来,这使得网络攻击在实际操作中变得不可行。
该公司正在使用Private AI Compute为Pixel的录音机转录应用提供动力。据谷歌表示,该系统使录音机能够提供比其他方式更多语言的转录摘要。Private AI Compute还支持Magic Cue,这是一套帮助用户查找存储在谷歌服务中数据的新Pixel功能。
谷歌AI创新和研究副总裁Jay Yagnik在博客文章中写道:"这仅仅是开始。Private AI Compute为有用的AI体验开辟了新的可能性,现在我们可以在最敏感的用例中同时使用设备端和高级云端模型。"
Q&A
Q1:Private AI Compute系统是什么?它有什么作用?
A:Private AI Compute是谷歌开发的云端系统,专门用于为Pixel手机的人工智能功能提供动力支持。由于Pixel 10系列使用的AI模型体积过大无法在设备上运行,谷歌将其托管在云端,而Private AI Compute的主要作用是保护用户数据在传输和处理过程中的安全性。
Q2:谷歌是如何保护用户数据安全的?
A:谷歌通过多重安全措施保护用户数据:使用AMD的SEV-SNP功能将服务器内存分割成加密段,禁用服务器shell访问功能,通过IP盲化中继隐藏用户IP地址,使用加密连接和认证技术验证服务器安全性,确保即使是谷歌本身也无法查看用户数据。
Q3:Private AI Compute目前支持哪些Pixel功能?
A:目前Private AI Compute主要支持两个功能:一是Pixel的录音机转录应用,能够提供多种语言的转录摘要;二是Magic Cue功能集,这是一套帮助用户查找存储在谷歌服务中数据的新功能。谷歌表示这只是开始,未来会有更多AI体验功能。
好文章,需要你的鼓励
这项研究开发了CaptionQA系统,通过测试AI生成的图片描述能否支持实际任务来评估其真正价值。研究发现即使最先进的AI模型在图片描述实用性方面也存在显著不足,描述质量比直接看图时下降9%-40%。研究涵盖自然、文档、电商、机器人四个领域,为AI技术的实用性评估提供了新标准。
AI改变的远不止一间课堂,而是学生的学习方式、未来的职场场景和社会对工作者能力的要求,整个商业文明中的每一位参与者,都将被推着一起改变。
以色列理工学院研究团队提出了一种将专家混合模型融入YOLOv9目标检测的创新方法。该方法让多个专门化的YOLOv9-T专家分工协作,通过智能路由器动态选择最适合的专家处理不同类型图像。实验显示,在COCO数据集上平均精度提升超过10%,在VisDrone数据集上提升近30%,证明了"分工合作"比单一模型更有效,为AI视觉系统提供了新思路。