NTT DATA宣布推出基于NVIDIA技术的企业AI工厂计划,为企业提供可重复、生产就绪的AI规模化部署模型。
该解决方案将NVIDIA的GPU加速计算和高性能网络技术与NVIDIA AI Enterprise软件(包括NeMo和NIM微服务)相结合,构建了一个可在云端和边缘环境部署的全栈智能体AI平台。这一架构在统一治理框架内涵盖了模型训练和企业应用开发的完整AI生命周期。
NTT DATA首席执行官Abhijit Dubey表示,企业AI部署方式正在发生变化。"通过将NVIDIA技术集成到我们的企业AI工厂中,我们为客户提供了一个强大且安全的环境来采用智能体AI,从一开始就能获得可衡量的回报。"
NTT DATA表示,企业AI工厂模型解决了阻碍许多AI项目的关键问题:成功试点项目与实际运行的生产系统之间的差距。该平台旨在标准化输出,减少从概念验证到运营部署的时间和成本。
三个早期采用案例展示了企业AI工厂的实际应用。一家领先的癌症研究医院正在使用NVIDIA HGX平台,与NTT DATA和戴尔合作,进行高级放射学分析和快速模型评估,以支持临床研究工作流程。
在汽车制造领域,一家全球供应商通过在裸机上验证工作负载,然后通过基于NVIDIA基础设施的AI工厂架构进行扩展,减少了生产设置时间。第三个部署案例涉及一家美国技术制造公司,使用NVIDIA加速仿真和3D可视化技术,在物理部署之前验证下一代电池生产线。
NTT DATA将企业AI工厂定位为特定领域的交付模型,NVIDIA技术栈作为各行业定制化的通用基础设施。
技术集成包含两个NVIDIA核心组件。NVIDIA NeMo是在GPU加速基础设施上构建智能体AI系统的套件。NVIDIA NIM微服务提供预构建的GPU优化容器和API,用于部署AI应用程序。NTT DATA表示,它们共同形成了一个全栈的、生产就绪的AI智能体平台。
NTT DATA还提供基于此技术栈构建的预认证生成式AI原型,据称可以降低复杂性,加快客户构建特定行业应用的价值实现时间。
NVIDIA企业软件副总裁John Fanelli表示:"企业现在正在寻求强大、可扩展的平台,能够成功地将AI项目从试点项目转向全面生产。"他说,NTT DATA的AI工厂产品为客户提供了实现生产级企业AI所需的特定领域解决方案。
NTT DATA称自己是唯一在NVIDIA三个合作伙伴类别中都活跃的全球IT服务提供商:解决方案提供商、云合作伙伴和全球系统集成商合作伙伴网络。
这一最新公告发布之际,企业面临着在AI支出上展示财务回报的日益增长的压力。治理和特定领域的性能现在成为评判企业AI投资的标准,而AI工厂模型正是试图使这三个方面都更加系统化的尝试。
Q&A
Q1:什么是企业AI工厂?它能解决什么问题?
A:企业AI工厂是NTT DATA推出的基于NVIDIA技术的AI规模化部署模型,主要解决成功试点项目与实际运行的生产系统之间的差距问题。该平台能够标准化输出,减少从概念验证到运营部署的时间和成本,为企业提供可重复、生产就绪的AI解决方案。
Q2:NVIDIA NeMo和NIM微服务在企业AI工厂中起什么作用?
A:NVIDIA NeMo是在GPU加速基础设施上构建智能体AI系统的套件,而NVIDIA NIM微服务提供预构建的GPU优化容器和API用于部署AI应用程序。这两个组件共同构成了全栈的、生产就绪的AI智能体平台,是企业AI工厂的技术核心。
Q3:哪些行业已经开始使用企业AI工厂解决方案?
A:目前已有三个早期采用案例:癌症研究医院使用该技术进行高级放射学分析和临床研究;汽车制造业全球供应商用来减少生产设置时间;美国技术制造公司使用NVIDIA加速仿真和3D可视化验证电池生产线。这些案例展示了该解决方案在医疗、制造业等领域的应用潜力。
好文章,需要你的鼓励
购买笔记本电脑时,用户现在需要了解Copilot+ PC、NPU和本地AI处理等新概念。搭载专用神经处理单元(NPU)的Copilot+ PC能提供至少40 TOPS的AI算力,支持实时字幕翻译、视频通话优化、AI图像编辑等功能,同时提升续航表现。戴尔最新产品线涵盖多种选择:Dell 14 Plus适合学生和通勤族,Dell 16 Plus适合多任务办公用户,XPS 14面向轻度创作者,XPS 16则以31小时超长续航和3.6磅轻薄机身成为内容创作者的旗舰之选。
上交大与爱丁堡大学提出InfoKV,将信息熵与注意力权重结合用于KV缓存压缩,让大模型在仅保留12.5%缓存的条件下实现接近甚至超越完整缓存的长推理性能。
圣安德鲁斯大学博士Henry Legg在《自然》杂志发表同行评审论文,对微软拓扑间隙协议(TGP)框架提出质疑,认为该框架在推断Majorana粒子量子态存在方面存在缺陷,且实验数据分析结论可能有误。微软此前宣称将于2029年实现可扩展量子计算机,并推出Majorana 2芯片。对此,微软坚持立场,表示已发表正式反驳并获《自然》收录,对研发路线图充满信心。
强化学习训练AI时悄悄留下的"进展优势"信号,可作为免费的步骤级评分器,无需额外训练,在多个智能体任务上超越专用奖励模型。