AI搜索引擎Perplexity正在探索一种全新方式,将个人设备转化为去中心化数据处理节点。
该公司于本周二宣布,将在其AI智能体产品Personal Computer中引入全新的本地与云端混合推理系统。Personal Computer能够跨文件、应用程序及网络执行任务。从7月起,该系统将自动判断任务中哪些部分应在用户本地设备上直接运行,哪些部分需要调用云端更强大的AI模型来处理。
在本地运行的轻量模型可负责处理敏感数据和日常事务,例如财务记录、健康信息及个人文件。而需要大型AI模型能力支撑的复杂任务,则仍可发送至云端服务器完成。
Perplexity表示,系统将自动做出路由决策,把较大的任务拆解为多个子任务,并分别将其导向最合适的处理位置。用户无需在启动前手动选择使用本地模型还是云端模型。
Personal Computer目前已通过Perplexity的Mac客户端提供服务。它在原有Computer智能体的基础上进行了扩展,新增了本地文件编辑、计算机操作控制,以及通过Perplexity旗下Comet浏览器实现的网页浏览等功能。Perplexity还宣布,Personal Computer即将登陆Windows平台。
尽管当前应用仅上线Mac版本,Perplexity将这一底层技术定位为可跨硬件类型运行的通用系统。公司表示,该系统与英特尔联合发布,同一框架也可运行于其他本地芯片之上,包括英伟达的RTX Spark平台。
将更多计算任务迁移至用户本地设备,还有助于降低AI任务对昂贵云计算资源的依赖。Perplexity认为,常规性工作不应占用与顶级AI模型同等量级的数据中心资源,混合架构的引入将有效提升整体资源利用效率。
Q&A
Q1:Perplexity的混合AI系统是如何决定任务在本地还是云端运行的?
A:Perplexity的混合推理系统会自动将较大的任务拆分为多个子任务,并根据任务的复杂程度和数据敏感性自动路由。敏感数据或日常性任务(如处理财务记录、健康信息等)会在本地设备上运行,而需要更强大模型能力的复杂任务则会发送至云端服务器。用户无需手动选择,系统全程自动决策。
Q2:Personal Computer目前支持哪些平台?
A:Personal Computer目前已在Perplexity的Mac客户端上线,支持本地文件编辑、计算机操作控制以及通过Comet浏览器进行网页浏览等功能。Perplexity已宣布Windows版本即将推出。此外,其底层混合推理框架支持跨硬件运行,包括英特尔和英伟达RTX Spark等平台。
Q3:Perplexity混合AI架构对云计算资源消耗有什么影响?
A:引入混合架构后,日常性、重复性任务将优先在本地设备上完成,减少对云端数据中心的调用频次。Perplexity认为,并非所有任务都需要消耗顶级AI模型的算力资源,通过合理分配本地与云端计算负载,可以显著降低云计算成本,提升整体资源利用效率。
好文章,需要你的鼓励
谷歌宣布将在Search Console中新增选项,允许网站发布者自主决定是否出现在AI Overviews、AI Mode及Discover中的AI摘要功能中。选择退出的网站将不再获得来自上述AI功能的流量和展示,但仍可正常出现在常规搜索结果中,且不影响搜索排名。此外,谷歌还将在Search Console中提供AI搜索相关数据统计,包括展示次数、出现页面及地区分布。该功能目前正在英国部分网站主中测试,后续将推广至全球。
耶路撒冷希伯来大学研究团队提出PhyGenHOI框架,将人体运动生成与物理仿真结合,让虚拟人物与三维物体之间的接触互动同时满足视觉自然性和物理真实性。
全球数据中心建设需求持续高涨。本月亮点包括:德克萨斯州超越北弗吉尼亚成为全球最大数据中心市场;SoftBank宣布在法国投资750亿欧元建设5GW数据中心;澳大利亚CDC数据中心签署该国史上最大555MW合同;东南亚方面,马来西亚、泰国大型AI数据中心项目密集落地。与此同时,多地在电网压力、环保审批及成本分摊等监管层面面临挑战。
本文介绍了弗莱堡大学等机构提出的3D-SC框架,通过引入三维基础模型的几何先验,无需人工标注即可解决AI图像匹配中的左右混淆和重复部件分不清的问题。