为了加速客户的AI管道和工作负载,戴尔已将其AI数据平台与Elasticsearch进行集成。同时,PowerEdge R7725服务器运行英伟达RTX Pro 6000 Blackwell GPU,并采用了英伟达的AI数据平台参考设计。
戴尔AI数据平台即将配备由戴尔和Elastic联合构建的非结构化数据引擎,该引擎具备向量搜索、语义检索和混合关键词搜索功能。它将利用GPU加速,为推理、分析和智能搜索提供对大规模非结构化数据集的实时、安全访问。这个非结构化数据引擎与其他工具协同工作,包括用于查询分散结构化数据的联邦SQL引擎、处理大规模数据转换的处理引擎,以及为快速AI就绪访问而设计的存储系统。
Elastic首席产品官Ken Exner表示:"通过将Elasticsearch向量数据库作为戴尔AI数据平台非结构化数据引擎的核心,Elastic将为交钥匙架构带来向量搜索和混合检索功能,在海量数据集上实现自然语言搜索、实时推理和智能资产发现。戴尔在企业市场的深厚根基使他们成为我们的天然合作伙伴,我们共同致力于帮助客户部署高性能、精确且可投入生产的AI。"
GPU加速搜索可以使用R7725服务器,戴尔表示该服务器"非常适合加速企业工作负载,涵盖视觉计算、数据分析和虚拟工作站"。通常在这类工作中,服务器将配备SSD存储——从1.6TB到30.72TB的NVMe,以及一系列SATA存储设备。SAS磁盘驱动器也可选配。这些服务器可以连接到戴尔的外部PowerScale(横向扩展NAS)和ObjectScale(S3兼容对象存储),以及它们的大容量结构化、半结构化和非结构化数据存储。
RTX Pro 6000是一款工作站GPU,提供3,753万亿次稀疏FP4计算性能,配备96GB GDDR7内存,内存带宽达1.6TBps。英伟达的AI数据平台参考设计将存储与其硬件和软件集成,使AI智能体能够提供实时响应。英伟达的组件包括Blackwell GPU、BlueField-3 DPU、Spectrum-X网络和英伟达AI Enterprise软件。软件部分包括NeMo Retriever和NIM微服务,以及AI-Q蓝图。
R7725以及戴尔的R770服务器可以运行英伟达AI推理模型,如用于智能体AI的最新Nemotron模型和用于物理AI的Cosmos世界基础模型。
所有这些使戴尔能够声称,此次AI数据平台的更新将"增强非结构化数据的摄取、转换、检索和计算性能,简化AI开发和部署——将海量数据集转化为可靠、高质量的实时智能,服务于生成式AI"。
这两项更新"将帮助支持企业的AI之旅,从数据摄取到推理,简化数据准备,统一跨孤岛的数据访问,并提供端到端的企业级性能"。
戴尔AI数据平台中的非结构化数据引擎将在今年晚些时候推出。配备英伟达RTX Pro 6000 GPU的戴尔PowerEdge R7725和R770服务器将在今年晚些时候在全球上市。
Q&A
Q1:戴尔AI数据平台的非结构化数据引擎有什么功能?
A:戴尔AI数据平台的非结构化数据引擎由戴尔和Elastic联合构建,具备向量搜索、语义检索和混合关键词搜索功能。它利用GPU加速,为推理、分析和智能搜索提供对大规模非结构化数据集的实时、安全访问,能够实现自然语言搜索、实时推理和智能资产发现。
Q2:RTX Pro 6000 GPU的性能参数如何?
A:RTX Pro 6000是一款工作站GPU,提供3,753万亿次稀疏FP4计算性能,配备96GB GDDR7内存,内存带宽达1.6TBps。这款GPU集成在戴尔PowerEdge R7725服务器中,适用于视觉计算、数据分析和虚拟工作站等加速企业工作负载。
Q3:戴尔AI数据平台何时可以使用?
A:戴尔AI数据平台中的非结构化数据引擎将在今年晚些时候推出。配备英伟达RTX Pro 6000 GPU的戴尔PowerEdge R7725和R770服务器也将在今年晚些时候在全球上市,为企业AI应用提供完整的硬件和软件解决方案。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。