AI革命中最具代表性的两家公司——英伟达和Palantir Technologies——携手合作,创建了一个AI参考架构操作系统。
新的Palantir AI OS参考架构(AIOS-RA)旨在支持从硬件采购到应用部署的端到端流程。它将作为私有和公共实体设计、部署和扩展高性能AI工厂的蓝图。
该架构在英伟达Blackwell Ultra系统上运行训练和推理任务,该系统集成了八个Blackwell Ultra GPU和Spectrum-X以太网网络。
参考架构建立在强化的Kubernetes基础上,运行各种Foundry服务,如Catalog、Build和Multipass。它还集成了Palantir的完整软件套件,包括AIP、Foundry、Apollo、Rubix和AIP Hub。
管理通过Palantir Rubix进行零信任Kubernetes安全管理,Apollo负责自主部署和生命周期监督。
英伟达的软件堆栈也包含在内,包括英伟达AI Enterprise、CUDA-X库、Nemotron开源模型和Magnum IO加速性能组件。
这项合作让企业完全控制其数据、AI模型和应用程序,同时支持使用开源AI模型和相关数据加速工具。
Palantir AI OS参考架构为企业提供对其数据、AI模型和应用程序的完全控制。对于拥有现有GPU基础设施、延迟敏感工作流程、数据主权要求和高度地理分布的客户来说,这尤为关键。
Palantir首席架构师阿克沙伊·克里希纳斯瓦米在声明中表示:"从我们与美国政府的首次部署开始,以及此后的每次部署中,我们的软件都必须在最复杂和敏感的环境中满足客户必须保持控制的要求。"
他补充说:"与英伟达合作——并基于许多客户现有的投资——我们自豪地交付一个完全集成的AI操作系统,该系统针对英伟达加速计算基础设施进行了优化,使客户能够实现本地、边缘和主权云部署的承诺。"
主权AI是一个新兴市场,代表一个国家努力使用自己的数据开发和维护对自己AI的控制,并将数据保持在其边界内。
Q&A
Q1:Palantir AI OS参考架构是什么?它能解决什么问题?
A:Palantir AI OS参考架构(AIOS-RA)是Palantir与英伟达合作开发的AI操作系统,旨在支持从硬件采购到应用部署的端到端流程,为企业提供设计、部署和扩展高性能AI工厂的完整蓝图。
Q2:这个架构主要适用于哪些企业和场景?
A:该架构特别适用于拥有现有GPU基础设施、有延迟敏感工作流程、数据主权要求和高度地理分布的企业客户,尤其是那些需要完全控制自己数据、AI模型和应用程序的组织。
Q3:主权AI概念在这个合作中有什么意义?
A:主权AI代表一个国家努力使用自己的数据开发和维护对自己AI的控制,并将数据保持在其边界内。这个架构支持本地、边缘和主权云部署,帮助国家和组织实现数据主权要求。
好文章,需要你的鼓励
Ode是由Anthropic、黑石、高盛等机构支持的合资企业,专注于向大型企业派驻前沿工程师,以少数工程师取代大批顾问。TechCrunch播客《Equity》采访了Ode联合创始人Chris Taylor和Eddie Siegel,探讨为何众多企业AI试点项目无法落地投产,以及AI原生服务为何有望成为科技领域最重要的赛道之一。
南加州大学团队发现语音抑郁检测领域存在数据漏洞,并提出CLeaD跨语言对比对齐框架,揭示模型规模越大跨语言性能越差的反直觉规律。
本文介绍如何利用Gemini AI助手快速规划暑期旅行。ZDNET撰稿人Elyse Betters Picaro通过向Gemini输入详细提示词,成功生成迪士尼世界家庭旅行的初步行程文档,内容涵盖航班信息、Airbnb住宿建议及景点安排。测试表明,Gemini能自动创建Google文档并汇总关键信息,但在优先推荐谷歌自有平台方面存在一定偏向。ChatGPT也可完成类似任务,但不支持直接生成Google文档。
KAIST等机构提出3D HAMSTER,通过为视觉语言模型加入深度编码器和几何重建损失,让机器人规划器直接输出三维轨迹,解决了分层机器人系统中规划与执行的维度不匹配问题,显著提升了操作鲁棒性。