NTT DATA宣布推出基于NVIDIA技术的企业AI工厂计划,为企业提供可重复、生产就绪的AI规模化部署模型。
该解决方案将NVIDIA的GPU加速计算和高性能网络技术与NVIDIA AI Enterprise软件(包括NeMo和NIM微服务)相结合,构建了一个可在云端和边缘环境部署的全栈智能体AI平台。这一架构在统一治理框架内涵盖了模型训练和企业应用开发的完整AI生命周期。
NTT DATA首席执行官Abhijit Dubey表示,企业AI部署方式正在发生变化。"通过将NVIDIA技术集成到我们的企业AI工厂中,我们为客户提供了一个强大且安全的环境来采用智能体AI,从一开始就能获得可衡量的回报。"
NTT DATA表示,企业AI工厂模型解决了阻碍许多AI项目的关键问题:成功试点项目与实际运行的生产系统之间的差距。该平台旨在标准化输出,减少从概念验证到运营部署的时间和成本。
三个早期采用案例展示了企业AI工厂的实际应用。一家领先的癌症研究医院正在使用NVIDIA HGX平台,与NTT DATA和戴尔合作,进行高级放射学分析和快速模型评估,以支持临床研究工作流程。
在汽车制造领域,一家全球供应商通过在裸机上验证工作负载,然后通过基于NVIDIA基础设施的AI工厂架构进行扩展,减少了生产设置时间。第三个部署案例涉及一家美国技术制造公司,使用NVIDIA加速仿真和3D可视化技术,在物理部署之前验证下一代电池生产线。
NTT DATA将企业AI工厂定位为特定领域的交付模型,NVIDIA技术栈作为各行业定制化的通用基础设施。
技术集成包含两个NVIDIA核心组件。NVIDIA NeMo是在GPU加速基础设施上构建智能体AI系统的套件。NVIDIA NIM微服务提供预构建的GPU优化容器和API,用于部署AI应用程序。NTT DATA表示,它们共同形成了一个全栈的、生产就绪的AI智能体平台。
NTT DATA还提供基于此技术栈构建的预认证生成式AI原型,据称可以降低复杂性,加快客户构建特定行业应用的价值实现时间。
NVIDIA企业软件副总裁John Fanelli表示:"企业现在正在寻求强大、可扩展的平台,能够成功地将AI项目从试点项目转向全面生产。"他说,NTT DATA的AI工厂产品为客户提供了实现生产级企业AI所需的特定领域解决方案。
NTT DATA称自己是唯一在NVIDIA三个合作伙伴类别中都活跃的全球IT服务提供商:解决方案提供商、云合作伙伴和全球系统集成商合作伙伴网络。
这一最新公告发布之际,企业面临着在AI支出上展示财务回报的日益增长的压力。治理和特定领域的性能现在成为评判企业AI投资的标准,而AI工厂模型正是试图使这三个方面都更加系统化的尝试。
Q&A
Q1:什么是企业AI工厂?它能解决什么问题?
A:企业AI工厂是NTT DATA推出的基于NVIDIA技术的AI规模化部署模型,主要解决成功试点项目与实际运行的生产系统之间的差距问题。该平台能够标准化输出,减少从概念验证到运营部署的时间和成本,为企业提供可重复、生产就绪的AI解决方案。
Q2:NVIDIA NeMo和NIM微服务在企业AI工厂中起什么作用?
A:NVIDIA NeMo是在GPU加速基础设施上构建智能体AI系统的套件,而NVIDIA NIM微服务提供预构建的GPU优化容器和API用于部署AI应用程序。这两个组件共同构成了全栈的、生产就绪的AI智能体平台,是企业AI工厂的技术核心。
Q3:哪些行业已经开始使用企业AI工厂解决方案?
A:目前已有三个早期采用案例:癌症研究医院使用该技术进行高级放射学分析和临床研究;汽车制造业全球供应商用来减少生产设置时间;美国技术制造公司使用NVIDIA加速仿真和3D可视化验证电池生产线。这些案例展示了该解决方案在医疗、制造业等领域的应用潜力。
好文章,需要你的鼓励
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
谷歌在Android Show发布会上宣布,将Gemini更深度整合至Android系统,推出名为"Gemini Intelligence"的升级功能。该功能可跨应用处理日常任务,包括自动填写表单、安排日程、生成购物清单及自定义小组件等,无需用户频繁切换应用。此外,Gboard新增"Rambler"功能,可自动过滤语音输入中的口误和填充词。Gemini Intelligence将率先登陆三星Galaxy和谷歌Pixel手机,并支持Android Auto、Wear OS及智能眼镜。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。