谷歌今日详细介绍了Private AI Compute,这是一个云端系统,专门用于为其Pixel手机的人工智能功能提供动力支持。
由于最新的Pixel 10智能手机系列所使用的一些AI模型体积过大,无法在设备上直接运行,因此谷歌将这些模型托管在其云端。Private AI Compute的设计目的是保护Pixel 10手机向谷歌云端大语言模型发送的用户数据。
这些模型运行在配备谷歌定制张量处理单元机器学习加速器的服务器上。该公司在今年4月推出了最新的TPU产品Ironwood,该产品在包含多达9,216个芯片的集群中运行,总性能达到42.5 exaflops。
驱动Private AI Compute的TPU安装在专门的加固服务器中。谷歌已经禁用了这些机器的shell访问功能,这种功能通常允许管理员修改敏感的软件组件。许多网络攻击都是通过利用shell访问来安装恶意软件的。
Pixel设备不会直接连接到TPU,而是通过由Advanced Micro Devices公司的中央处理器驱动的中介服务器进行连接。谷歌使用了AMD在其CPU中提供的SEV-SNP功能来降低数据泄露的风险。
SEV-SNP将服务器的内存分割成加密段,只有使用这些内存段的虚拟机才能访问它们。因此,这些内存无法被虚拟机监视程序或操作系统解密。这意味着底层基础设施的运营商(在这种情况下是谷歌)无法查看用户的数据。
SEV-SNP还包含针对侧信道攻击的缓解措施。这些网络攻击试图通过分析物理服务器属性(如机器功耗的波动)来提取敏感数据。
Pixel手机通过加密连接连接到谷歌的AMD驱动中介服务器。在建立连接之前,谷歌使用一种称为认证的技术来验证服务器。这种方法使用系统的技术数据来检查其是否恶意。
谷歌通过称为IP盲化中继的系统来路由Private AI Compute网络流量。这些系统的目的是隐藏Pixel用户的IP地址。没有IP地址,试图窃听特定用户的黑客就无法将该用户的流量与其他网络数据区分开来,这使得网络攻击在实际操作中变得不可行。
该公司正在使用Private AI Compute为Pixel的录音机转录应用提供动力。据谷歌表示,该系统使录音机能够提供比其他方式更多语言的转录摘要。Private AI Compute还支持Magic Cue,这是一套帮助用户查找存储在谷歌服务中数据的新Pixel功能。
谷歌AI创新和研究副总裁Jay Yagnik在博客文章中写道:"这仅仅是开始。Private AI Compute为有用的AI体验开辟了新的可能性,现在我们可以在最敏感的用例中同时使用设备端和高级云端模型。"
Q&A
Q1:Private AI Compute系统是什么?它有什么作用?
A:Private AI Compute是谷歌开发的云端系统,专门用于为Pixel手机的人工智能功能提供动力支持。由于Pixel 10系列使用的AI模型体积过大无法在设备上运行,谷歌将其托管在云端,而Private AI Compute的主要作用是保护用户数据在传输和处理过程中的安全性。
Q2:谷歌是如何保护用户数据安全的?
A:谷歌通过多重安全措施保护用户数据:使用AMD的SEV-SNP功能将服务器内存分割成加密段,禁用服务器shell访问功能,通过IP盲化中继隐藏用户IP地址,使用加密连接和认证技术验证服务器安全性,确保即使是谷歌本身也无法查看用户数据。
Q3:Private AI Compute目前支持哪些Pixel功能?
A:目前Private AI Compute主要支持两个功能:一是Pixel的录音机转录应用,能够提供多种语言的转录摘要;二是Magic Cue功能集,这是一套帮助用户查找存储在谷歌服务中数据的新功能。谷歌表示这只是开始,未来会有更多AI体验功能。
好文章,需要你的鼓励
购买笔记本电脑时,用户现在需要了解Copilot+ PC、NPU和本地AI处理等新概念。搭载专用神经处理单元(NPU)的Copilot+ PC能提供至少40 TOPS的AI算力,支持实时字幕翻译、视频通话优化、AI图像编辑等功能,同时提升续航表现。戴尔最新产品线涵盖多种选择:Dell 14 Plus适合学生和通勤族,Dell 16 Plus适合多任务办公用户,XPS 14面向轻度创作者,XPS 16则以31小时超长续航和3.6磅轻薄机身成为内容创作者的旗舰之选。
上交大与爱丁堡大学提出InfoKV,将信息熵与注意力权重结合用于KV缓存压缩,让大模型在仅保留12.5%缓存的条件下实现接近甚至超越完整缓存的长推理性能。
圣安德鲁斯大学博士Henry Legg在《自然》杂志发表同行评审论文,对微软拓扑间隙协议(TGP)框架提出质疑,认为该框架在推断Majorana粒子量子态存在方面存在缺陷,且实验数据分析结论可能有误。微软此前宣称将于2029年实现可扩展量子计算机,并推出Majorana 2芯片。对此,微软坚持立场,表示已发表正式反驳并获《自然》收录,对研发路线图充满信心。
强化学习训练AI时悄悄留下的"进展优势"信号,可作为免费的步骤级评分器,无需额外训练,在多个智能体任务上超越专用奖励模型。