Perplexity推出混合AI架构,让个人电脑化身分布式数据中心

Perplexity宣布为其AI智能体"Personal Computer"新增混合本地-云端推理系统,预计7月上线。该系统可自动判断任务哪些部分在本地设备运行、哪些发送至云端大模型处理。敏感数据如财务、健康信息将留存本地,复杂任务则调用云端算力。系统与英特尔联合发布,同时支持英伟达RTX Spark等本地芯片平台,并即将登陆Windows。此举有助于降低云计算成本,提升数据隐私保护。

AI搜索引擎Perplexity正在探索一种全新方式,将个人设备转化为去中心化数据处理节点。

该公司于本周二宣布,将在其AI智能体产品Personal Computer中引入全新的本地与云端混合推理系统。Personal Computer能够跨文件、应用程序及网络执行任务。从7月起,该系统将自动判断任务中哪些部分应在用户本地设备上直接运行,哪些部分需要调用云端更强大的AI模型来处理。

在本地运行的轻量模型可负责处理敏感数据和日常事务,例如财务记录、健康信息及个人文件。而需要大型AI模型能力支撑的复杂任务,则仍可发送至云端服务器完成。

Perplexity表示,系统将自动做出路由决策,把较大的任务拆解为多个子任务,并分别将其导向最合适的处理位置。用户无需在启动前手动选择使用本地模型还是云端模型。

Personal Computer目前已通过Perplexity的Mac客户端提供服务。它在原有Computer智能体的基础上进行了扩展,新增了本地文件编辑、计算机操作控制,以及通过Perplexity旗下Comet浏览器实现的网页浏览等功能。Perplexity还宣布,Personal Computer即将登陆Windows平台。

尽管当前应用仅上线Mac版本,Perplexity将这一底层技术定位为可跨硬件类型运行的通用系统。公司表示,该系统与英特尔联合发布,同一框架也可运行于其他本地芯片之上,包括英伟达的RTX Spark平台。

将更多计算任务迁移至用户本地设备,还有助于降低AI任务对昂贵云计算资源的依赖。Perplexity认为,常规性工作不应占用与顶级AI模型同等量级的数据中心资源,混合架构的引入将有效提升整体资源利用效率。

Q&A

Q1:Perplexity的混合AI系统是如何决定任务在本地还是云端运行的?

A:Perplexity的混合推理系统会自动将较大的任务拆分为多个子任务,并根据任务的复杂程度和数据敏感性自动路由。敏感数据或日常性任务(如处理财务记录、健康信息等)会在本地设备上运行,而需要更强大模型能力的复杂任务则会发送至云端服务器。用户无需手动选择,系统全程自动决策。

Q2:Personal Computer目前支持哪些平台?

A:Personal Computer目前已在Perplexity的Mac客户端上线,支持本地文件编辑、计算机操作控制以及通过Comet浏览器进行网页浏览等功能。Perplexity已宣布Windows版本即将推出。此外,其底层混合推理框架支持跨硬件运行,包括英特尔和英伟达RTX Spark等平台。

Q3:Perplexity混合AI架构对云计算资源消耗有什么影响?

A:引入混合架构后,日常性、重复性任务将优先在本地设备上完成,减少对云端数据中心的调用频次。Perplexity认为,并非所有任务都需要消耗顶级AI模型的算力资源,通过合理分配本地与云端计算负载,可以显著降低云计算成本,提升整体资源利用效率。

来源:cnet

0赞

好文章,需要你的鼓励

2026

06/03

22:06

分享

点赞

邮件订阅