谷歌今日详细介绍了Private AI Compute,这是一个云端系统,专门用于为其Pixel手机的人工智能功能提供动力支持。
由于最新的Pixel 10智能手机系列所使用的一些AI模型体积过大,无法在设备上直接运行,因此谷歌将这些模型托管在其云端。Private AI Compute的设计目的是保护Pixel 10手机向谷歌云端大语言模型发送的用户数据。
这些模型运行在配备谷歌定制张量处理单元机器学习加速器的服务器上。该公司在今年4月推出了最新的TPU产品Ironwood,该产品在包含多达9,216个芯片的集群中运行,总性能达到42.5 exaflops。
驱动Private AI Compute的TPU安装在专门的加固服务器中。谷歌已经禁用了这些机器的shell访问功能,这种功能通常允许管理员修改敏感的软件组件。许多网络攻击都是通过利用shell访问来安装恶意软件的。
Pixel设备不会直接连接到TPU,而是通过由Advanced Micro Devices公司的中央处理器驱动的中介服务器进行连接。谷歌使用了AMD在其CPU中提供的SEV-SNP功能来降低数据泄露的风险。
SEV-SNP将服务器的内存分割成加密段,只有使用这些内存段的虚拟机才能访问它们。因此,这些内存无法被虚拟机监视程序或操作系统解密。这意味着底层基础设施的运营商(在这种情况下是谷歌)无法查看用户的数据。
SEV-SNP还包含针对侧信道攻击的缓解措施。这些网络攻击试图通过分析物理服务器属性(如机器功耗的波动)来提取敏感数据。
Pixel手机通过加密连接连接到谷歌的AMD驱动中介服务器。在建立连接之前,谷歌使用一种称为认证的技术来验证服务器。这种方法使用系统的技术数据来检查其是否恶意。
谷歌通过称为IP盲化中继的系统来路由Private AI Compute网络流量。这些系统的目的是隐藏Pixel用户的IP地址。没有IP地址,试图窃听特定用户的黑客就无法将该用户的流量与其他网络数据区分开来,这使得网络攻击在实际操作中变得不可行。
该公司正在使用Private AI Compute为Pixel的录音机转录应用提供动力。据谷歌表示,该系统使录音机能够提供比其他方式更多语言的转录摘要。Private AI Compute还支持Magic Cue,这是一套帮助用户查找存储在谷歌服务中数据的新Pixel功能。
谷歌AI创新和研究副总裁Jay Yagnik在博客文章中写道:"这仅仅是开始。Private AI Compute为有用的AI体验开辟了新的可能性,现在我们可以在最敏感的用例中同时使用设备端和高级云端模型。"
Q&A
Q1:Private AI Compute系统是什么?它有什么作用?
A:Private AI Compute是谷歌开发的云端系统,专门用于为Pixel手机的人工智能功能提供动力支持。由于Pixel 10系列使用的AI模型体积过大无法在设备上运行,谷歌将其托管在云端,而Private AI Compute的主要作用是保护用户数据在传输和处理过程中的安全性。
Q2:谷歌是如何保护用户数据安全的?
A:谷歌通过多重安全措施保护用户数据:使用AMD的SEV-SNP功能将服务器内存分割成加密段,禁用服务器shell访问功能,通过IP盲化中继隐藏用户IP地址,使用加密连接和认证技术验证服务器安全性,确保即使是谷歌本身也无法查看用户数据。
Q3:Private AI Compute目前支持哪些Pixel功能?
A:目前Private AI Compute主要支持两个功能:一是Pixel的录音机转录应用,能够提供多种语言的转录摘要;二是Magic Cue功能集,这是一套帮助用户查找存储在谷歌服务中数据的新功能。谷歌表示这只是开始,未来会有更多AI体验功能。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。