谷歌今日详细介绍了Private AI Compute,这是一个云端系统,专门用于为其Pixel手机的人工智能功能提供动力支持。
由于最新的Pixel 10智能手机系列所使用的一些AI模型体积过大,无法在设备上直接运行,因此谷歌将这些模型托管在其云端。Private AI Compute的设计目的是保护Pixel 10手机向谷歌云端大语言模型发送的用户数据。
这些模型运行在配备谷歌定制张量处理单元机器学习加速器的服务器上。该公司在今年4月推出了最新的TPU产品Ironwood,该产品在包含多达9,216个芯片的集群中运行,总性能达到42.5 exaflops。
驱动Private AI Compute的TPU安装在专门的加固服务器中。谷歌已经禁用了这些机器的shell访问功能,这种功能通常允许管理员修改敏感的软件组件。许多网络攻击都是通过利用shell访问来安装恶意软件的。
Pixel设备不会直接连接到TPU,而是通过由Advanced Micro Devices公司的中央处理器驱动的中介服务器进行连接。谷歌使用了AMD在其CPU中提供的SEV-SNP功能来降低数据泄露的风险。
SEV-SNP将服务器的内存分割成加密段,只有使用这些内存段的虚拟机才能访问它们。因此,这些内存无法被虚拟机监视程序或操作系统解密。这意味着底层基础设施的运营商(在这种情况下是谷歌)无法查看用户的数据。
SEV-SNP还包含针对侧信道攻击的缓解措施。这些网络攻击试图通过分析物理服务器属性(如机器功耗的波动)来提取敏感数据。
Pixel手机通过加密连接连接到谷歌的AMD驱动中介服务器。在建立连接之前,谷歌使用一种称为认证的技术来验证服务器。这种方法使用系统的技术数据来检查其是否恶意。
谷歌通过称为IP盲化中继的系统来路由Private AI Compute网络流量。这些系统的目的是隐藏Pixel用户的IP地址。没有IP地址,试图窃听特定用户的黑客就无法将该用户的流量与其他网络数据区分开来,这使得网络攻击在实际操作中变得不可行。
该公司正在使用Private AI Compute为Pixel的录音机转录应用提供动力。据谷歌表示,该系统使录音机能够提供比其他方式更多语言的转录摘要。Private AI Compute还支持Magic Cue,这是一套帮助用户查找存储在谷歌服务中数据的新Pixel功能。
谷歌AI创新和研究副总裁Jay Yagnik在博客文章中写道:"这仅仅是开始。Private AI Compute为有用的AI体验开辟了新的可能性,现在我们可以在最敏感的用例中同时使用设备端和高级云端模型。"
Q&A
Q1:Private AI Compute系统是什么?它有什么作用?
A:Private AI Compute是谷歌开发的云端系统,专门用于为Pixel手机的人工智能功能提供动力支持。由于Pixel 10系列使用的AI模型体积过大无法在设备上运行,谷歌将其托管在云端,而Private AI Compute的主要作用是保护用户数据在传输和处理过程中的安全性。
Q2:谷歌是如何保护用户数据安全的?
A:谷歌通过多重安全措施保护用户数据:使用AMD的SEV-SNP功能将服务器内存分割成加密段,禁用服务器shell访问功能,通过IP盲化中继隐藏用户IP地址,使用加密连接和认证技术验证服务器安全性,确保即使是谷歌本身也无法查看用户数据。
Q3:Private AI Compute目前支持哪些Pixel功能?
A:目前Private AI Compute主要支持两个功能:一是Pixel的录音机转录应用,能够提供多种语言的转录摘要;二是Magic Cue功能集,这是一套帮助用户查找存储在谷歌服务中数据的新功能。谷歌表示这只是开始,未来会有更多AI体验功能。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。