AI搜索引擎Perplexity正在探索一种全新方式,将个人设备转化为去中心化数据处理节点。
该公司于本周二宣布,将在其AI智能体产品Personal Computer中引入全新的本地与云端混合推理系统。Personal Computer能够跨文件、应用程序及网络执行任务。从7月起,该系统将自动判断任务中哪些部分应在用户本地设备上直接运行,哪些部分需要调用云端更强大的AI模型来处理。
在本地运行的轻量模型可负责处理敏感数据和日常事务,例如财务记录、健康信息及个人文件。而需要大型AI模型能力支撑的复杂任务,则仍可发送至云端服务器完成。
Perplexity表示,系统将自动做出路由决策,把较大的任务拆解为多个子任务,并分别将其导向最合适的处理位置。用户无需在启动前手动选择使用本地模型还是云端模型。
Personal Computer目前已通过Perplexity的Mac客户端提供服务。它在原有Computer智能体的基础上进行了扩展,新增了本地文件编辑、计算机操作控制,以及通过Perplexity旗下Comet浏览器实现的网页浏览等功能。Perplexity还宣布,Personal Computer即将登陆Windows平台。
尽管当前应用仅上线Mac版本,Perplexity将这一底层技术定位为可跨硬件类型运行的通用系统。公司表示,该系统与英特尔联合发布,同一框架也可运行于其他本地芯片之上,包括英伟达的RTX Spark平台。
将更多计算任务迁移至用户本地设备,还有助于降低AI任务对昂贵云计算资源的依赖。Perplexity认为,常规性工作不应占用与顶级AI模型同等量级的数据中心资源,混合架构的引入将有效提升整体资源利用效率。
Q&A
Q1:Perplexity的混合AI系统是如何决定任务在本地还是云端运行的?
A:Perplexity的混合推理系统会自动将较大的任务拆分为多个子任务,并根据任务的复杂程度和数据敏感性自动路由。敏感数据或日常性任务(如处理财务记录、健康信息等)会在本地设备上运行,而需要更强大模型能力的复杂任务则会发送至云端服务器。用户无需手动选择,系统全程自动决策。
Q2:Personal Computer目前支持哪些平台?
A:Personal Computer目前已在Perplexity的Mac客户端上线,支持本地文件编辑、计算机操作控制以及通过Comet浏览器进行网页浏览等功能。Perplexity已宣布Windows版本即将推出。此外,其底层混合推理框架支持跨硬件运行,包括英特尔和英伟达RTX Spark等平台。
Q3:Perplexity混合AI架构对云计算资源消耗有什么影响?
A:引入混合架构后,日常性、重复性任务将优先在本地设备上完成,减少对云端数据中心的调用频次。Perplexity认为,并非所有任务都需要消耗顶级AI模型的算力资源,通过合理分配本地与云端计算负载,可以显著降低云计算成本,提升整体资源利用效率。
好文章,需要你的鼓励
Tezeus C8是一款碳纤维框架的城市通勤电动自行车,重量仅16.5公斤,搭载Gates皮带传动系统、自动三速后轮毂及250W中置电机。车身集成LED灯和挡泥板,内置指纹解锁、防盗追踪及导航功能,支持App连接但无需强制注册。实测续航约86公里,充电仅需2.5小时。自动变速偶有顿挫感,后货架需额外购买。售价2299美元,综合性价比较为突出。
耶鲁大学研究团队证明两层神经网络在学习有限群运算时,梯度下降自发驱动每个神经元收敛到单一不可约群表示,并在傅里叶域实现秩一旋转对齐,揭示了特征学习的表示论机制。
Waymo以2.2亿美元收购了位于亚利桑那州威特曼的一处占地5500英亩的大型测试场,该地块此前由苹果公司于2021年以1.25亿美元购入,用于"泰坦计划"自动驾驶项目测试。该项目于2024年初终止后,苹果出售了这一资产。测试场配备115英亩城市路段、车辆动态测试区、四英里椭圆跑道及高速公路测试道。Waymo表示将用其模拟驾驶场景,持续优化自动驾驶系统性能。
强化学习训练的大语言模型可在无任何指令的情况下自发发现社会规章制度漏洞,现有安全机制对此几乎无效,这一现象或将重塑AI安全防护框架。