新加坡电信与英伟达合作推出人工智能卓越中心,旨在帮助企业克服基础设施和技能瓶颈,推进AI部署从实验阶段向全面生产的转型。
这一耗资数百万美元的设施今日正式宣布,将为那些在AI项目规模化部署方面遇到困难的组织提供部署路径。
新加坡电信数字基础设施公司首席执行官Bill Chang表示,与新加坡其他AI卓越中心不同,新加坡电信的卓越中心专注于应用AI,企业可以带着实际问题与大语言模型制造商、应用程序提供商和系统集成商组成的生态系统进行合作。
为帮助客户扩展AI部署规模,新加坡电信将该卓越中心设计为一个镜像其商业基础设施的测试平台。Chang将其比作国家电网,由作为发电机的AI数据中心、作为传输线的固定网络以及作为变电站的边缘位置组成。
Chang说:"可以把这个应用AI卓越中心想象成一个微型AI电网。你不仅可以进行实验和解决瓶颈问题,当准备全面部署时,还能无缝切换到主AI电网获取资源。"
英伟达解决方案架构和工程高级副总裁Marc Hamilton表示,这一合作关系提供了英伟达首席执行官Jensen Huang提出的AI部署五层基础架构。
这个基础架构包括由新加坡电信Nxera数据中心部门提供的物理土地、电力和数据中心设施,然后是英伟达的图形处理单元。第三层是更广泛的AI基础设施,包括网络和云编排,接着是AI模型,最后是应用程序。
构建AI应用程序
Hamilton表示,英伟达计划利用其4万家AI初创企业的网络来帮助新加坡电信的客户构建AI应用程序。他还强调了开放模型(如英伟达的Nemotron)对主权AI的重要性,确保"新加坡的数据和独特竞争优势留在新加坡,并由新加坡公司控制"。
此外,英伟达将与新加坡电信合作,在不违反严格的新可持续性指标的前提下,为极高功率密度的数据中心做好准备。
新加坡电信的Nxera数据中心目前运行英伟达GB200 Blackwell系统,每个机架功率约为200千瓦。然而,Chang指出,该卓越中心已在为2027-2029年部署英伟达下一代Rubin Ultra芯片做准备。
他说:"我所说的下一代产品每个机架功率为600千瓦到1兆瓦。就功率密度而言,这是疯狂的——比现在普通数据中心高60到100倍。"
Hamilton指出,这种极高的密度需要更少的数据中心占地面积。由于Blackwell芯片在运行AI模型方面的能效比上一代Hopper芯片高50倍,大规模计算能力需要的物理空间大幅减少。Hamilton说:"今天的GPU数据中心,相比许多足球场,更像是一个篮球场。"
AI数据中心的效率将至关重要,因为新加坡政府准备收紧对该行业的监管。今年晚些时候,新加坡政府预计将在国会提交新的数字基础设施法案。
拟议的立法旨在为所有数据中心(包括新建和现有设施)建立基准能效要求,以及为主要云服务提供商和数据中心制定强制性网络安全措施和事件报告要求,以确保经济韧性。
除了帮助企业在AI数据中心部署和扩展AI应用程序外,该卓越中心还将专注于边缘AI和低延迟5G网络,因为行业正从生成式AI向具身AI和物理AI发展,如自主机器人、人形机器人和无人机群。
该卓越中心将位于榜鹅数字园区,该园区目前正被改造成一个区域规模的测试平台,帮助企业在实际运营环境中试验和商业化现实世界的机器人应用。
Chang表示,该卓越中心预计将在大约三个月内开门营业。在此期间,政府、医疗保健、银行和交通等行业的大客户已经在定义用例,并利用新加坡电信现有的GPU储备来启动他们的AI之旅。
Q&A
Q1:新加坡电信AI卓越中心与其他AI中心有什么不同?
A:新加坡电信的AI卓越中心专注于应用AI,企业可以带着实际问题与大语言模型制造商、应用程序提供商和系统集成商组成的生态系统进行合作,而不是仅停留在实验阶段。
Q2:下一代GPU芯片的功率密度有多高?
A:下一代Rubin Ultra芯片每个机架功率将达到600千瓦到1兆瓦,比现在普通数据中心高60到100倍,但由于能效大幅提升,所需物理空间反而更少。
Q3:AI卓越中心什么时候开始运营?
A:该卓越中心预计将在大约三个月内开门营业,目前政府、医疗保健、银行和交通等行业的大客户已经在定义用例并开始利用现有资源启动AI项目。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。