谷歌今日详细介绍了Private AI Compute,这是一个云端系统,专门用于为其Pixel手机的人工智能功能提供动力支持。
由于最新的Pixel 10智能手机系列所使用的一些AI模型体积过大,无法在设备上直接运行,因此谷歌将这些模型托管在其云端。Private AI Compute的设计目的是保护Pixel 10手机向谷歌云端大语言模型发送的用户数据。
这些模型运行在配备谷歌定制张量处理单元机器学习加速器的服务器上。该公司在今年4月推出了最新的TPU产品Ironwood,该产品在包含多达9,216个芯片的集群中运行,总性能达到42.5 exaflops。
驱动Private AI Compute的TPU安装在专门的加固服务器中。谷歌已经禁用了这些机器的shell访问功能,这种功能通常允许管理员修改敏感的软件组件。许多网络攻击都是通过利用shell访问来安装恶意软件的。
Pixel设备不会直接连接到TPU,而是通过由Advanced Micro Devices公司的中央处理器驱动的中介服务器进行连接。谷歌使用了AMD在其CPU中提供的SEV-SNP功能来降低数据泄露的风险。
SEV-SNP将服务器的内存分割成加密段,只有使用这些内存段的虚拟机才能访问它们。因此,这些内存无法被虚拟机监视程序或操作系统解密。这意味着底层基础设施的运营商(在这种情况下是谷歌)无法查看用户的数据。
SEV-SNP还包含针对侧信道攻击的缓解措施。这些网络攻击试图通过分析物理服务器属性(如机器功耗的波动)来提取敏感数据。
Pixel手机通过加密连接连接到谷歌的AMD驱动中介服务器。在建立连接之前,谷歌使用一种称为认证的技术来验证服务器。这种方法使用系统的技术数据来检查其是否恶意。
谷歌通过称为IP盲化中继的系统来路由Private AI Compute网络流量。这些系统的目的是隐藏Pixel用户的IP地址。没有IP地址,试图窃听特定用户的黑客就无法将该用户的流量与其他网络数据区分开来,这使得网络攻击在实际操作中变得不可行。
该公司正在使用Private AI Compute为Pixel的录音机转录应用提供动力。据谷歌表示,该系统使录音机能够提供比其他方式更多语言的转录摘要。Private AI Compute还支持Magic Cue,这是一套帮助用户查找存储在谷歌服务中数据的新Pixel功能。
谷歌AI创新和研究副总裁Jay Yagnik在博客文章中写道:"这仅仅是开始。Private AI Compute为有用的AI体验开辟了新的可能性,现在我们可以在最敏感的用例中同时使用设备端和高级云端模型。"
Q&A
Q1:Private AI Compute系统是什么?它有什么作用?
A:Private AI Compute是谷歌开发的云端系统,专门用于为Pixel手机的人工智能功能提供动力支持。由于Pixel 10系列使用的AI模型体积过大无法在设备上运行,谷歌将其托管在云端,而Private AI Compute的主要作用是保护用户数据在传输和处理过程中的安全性。
Q2:谷歌是如何保护用户数据安全的?
A:谷歌通过多重安全措施保护用户数据:使用AMD的SEV-SNP功能将服务器内存分割成加密段,禁用服务器shell访问功能,通过IP盲化中继隐藏用户IP地址,使用加密连接和认证技术验证服务器安全性,确保即使是谷歌本身也无法查看用户数据。
Q3:Private AI Compute目前支持哪些Pixel功能?
A:目前Private AI Compute主要支持两个功能:一是Pixel的录音机转录应用,能够提供多种语言的转录摘要;二是Magic Cue功能集,这是一套帮助用户查找存储在谷歌服务中数据的新功能。谷歌表示这只是开始,未来会有更多AI体验功能。
好文章,需要你的鼓励
本文揭示了AI时代CIO的七项关键行为特征,基于对多位CIO和AI专家的深度访谈。专家指出,AI精通的CIO需具备实用AI素养、战略视野和变革领导力,能将技术与业务战略对齐,建立强大数据治理基础。文章详细解析了分析型AI、生成式AI和智能体AI三大技术领域,强调数据基础的重要性,并提出CIO应从项目思维转向产品思维,通过跨职能团队实现端到端价值交付。
斯坦福大学等机构联合开发的CIFT系统首次解决了机器人"近视眼"问题,通过精确控制真实数据和合成数据的混合比例,让机器人在陌生环境中的表现提升54%以上。该系统包含多视角视频增强引擎MVAug和数据组合优化策略,能够预测数据失效的"去相干点",确保机器人学习真正重要的任务特征而非环境表象,为实用化通用机器人奠定了重要基础。
尽管苹果在AI竞赛中看似落后,但其私有云计算基础设施展现了技术优势。当行业为追赶大语言模型而降低隐私标准时,苹果坚持原则,开发出保护用户数据隐私的技术方案。谷歌最新宣布的类似实施方案验证了苹果技术路线的正确性,这可能推动其他AI实验室采用相同做法,为用户隐私带来重大胜利。
香港中文大学研究团队开发的Search-R3系统成功解决了大语言模型推理与搜索分离的问题,通过两阶段训练让AI在深度思考过程中直接生成搜索向量。该系统在多个领域测试中显著超越现有方法,特别是启用推理后性能提升明显,为AI系统设计提供了推理与搜索统一的新范式,展现了从专门化向通用化发展的重要方向。