亚马逊云科技(AWS)周三宣布,代号为"Project Rainier"的超大规模数据中心互联项目和史无前例的自研AI芯片部署已经完成,该项目旨在支持Anthropic的Claude大语言模型。
该项目在美国多个数据中心部署了超过50万颗AWS Trainium 2芯片,标志着大规模高效模型训练部署的重要里程碑。AWS计划在今年年底前将Trainium芯片数量增加到100万颗。位于印第安纳州的一个站点将拥有30个20万平方英尺的数据中心,内置互联的Trainium 2服务器。
除印第安纳州站点外,AWS尚未详细说明参与Project Rainier的其他美国数据中心位置。不过,该公司在美国四个地区运营着数百个数据中心,并有更多项目正在规划或建设中,仅今年就在北卡罗来纳州和宾夕法尼亚州宣布了数十亿美元的投资计划。
对于企业客户而言,AWS表示庞大的Project Rainier基础设施在成本效率、更快更大规模的AI训练和推理,以及运营韧性方面带来诸多优势。AWS已在与Anthropic的合作中投资80亿美元,Anthropic将在Project Rainier生态系统中使用Trainium 2芯片以及Graviton和Inferentia芯片。
AWS Trainium副总裁兼首席工程师Ron Diamant在接受《数据中心知识》采访时表示:"当我们构建自己的设备时,我们可以优化整个技术栈,真正压缩工程时间和达到大规模的时间。这是Anthropic用于训练和推理其最先进模型的大规模集群...现在已经准备好部署并完全投入运营。"
实现超算可持续性
AWS表示其超级集群将提供更好的可持续性和能效。
Diamant说:"从设计阶段开始,我们就非常关注能效。这让我们找到了几个优化点。首先是围绕历史阵列架构构建芯片,这种架构对于矩阵运算极其节能,而矩阵运算在现代机器学习工作负载中占主导地位。其次是从横向供电转向纵向供电。这将电压调节器放置在芯片下方,使我们能够以更高效率运行设备。"
AWS采用空气冷却和液体冷却相结合的方式,优先考虑效率和水资源保护。AWS表示其方法将传统冷却与针对AI硬件的闭环直接芯片液体系统相结合。这种设置使AWS能够在较冷的月份使用外部空气来减少整体水消耗。
Diamant表示:"我们利用这些能效提升将成本节约回馈给客户。这也让我们能够尽快从实验室中的几台设备扩展到50万台设备的大规模运营。它实现了最大的数据中心部署灵活性。"
他补充说:"Rainier的每个方面都融入了电力、冷却和材料方面的进步——从将能耗降低46%的机械组件到减少35%隐含碳的混凝土。"
企业优势与战略
Forrester首席基础设施、私有云和基础设施自动化分析师Naveen Chhabra表示,随着AI热潮推动工作负载增长,客户企业正在寻求更高效率。
他在采访中说:"Project Rainier的好处是,如果你有特定的应用程序或工作负载可以在特定芯片组上得到更好的调优,你就选择那个。组织正在找出哪种芯片组能给他们带来最好的能力——不仅仅是原始性能容量,还有效率。效率变得重要,因为它可能决定你的投资回报率。"
Q&A
Q1:Project Rainier是什么项目?
A:Project Rainier是亚马逊云科技与Anthropic合作的超大规模AI超算集群项目,在美国多个数据中心部署了超过50万颗AWS Trainium 2芯片,用于支持Anthropic的Claude大语言模型训练和推理。
Q2:AWS计划部署多少Trainium芯片?
A:目前Project Rainier已部署超过50万颗AWS Trainium 2芯片,AWS计划在今年年底前将Trainium芯片数量增加到100万颗。
Q3:Project Rainier在节能方面有什么特点?
A:Project Rainier采用高能效的历史阵列架构芯片,使用纵向供电技术,结合空气和液体冷却系统,机械组件能耗降低46%,混凝土隐含碳减少35%,并在较冷月份利用外部空气减少水消耗。
好文章,需要你的鼓励
研究人员基于Meta前首席AI科学家Yann LeCun提出的联合嵌入预测架构,开发了名为JETS的自监督时间序列基础模型。该模型能够处理不规则的可穿戴设备数据,通过学习预测缺失数据的含义而非数据本身,成功检测多种疾病。在高血压检测中AUROC达86.8%,心房扑动检测达70.5%。研究显示即使只有15%的参与者有标注医疗记录,该模型仍能有效利用85%的未标注数据进行训练,为利用不完整健康数据提供了新思路。
西湖大学等机构联合发布TwinFlow技术,通过创新的"双轨道"设计实现AI图像生成的革命性突破。该技术让原本需要40-100步的图像生成过程缩短到仅需1步,速度提升100倍且质量几乎无损。TwinFlow采用自我对抗机制,无需额外辅助模型,成功应用于200亿参数超大模型,在GenEval等标准测试中表现卓越,为实时AI图像生成应用开辟了广阔前景。
AI云基础设施提供商Coreweave今年经历了起伏。3月份IPO未达预期,10月收购Core Scientific计划因股东反对而搁浅。CEO Michael Intrator为公司表现辩护,称正在创建云计算新商业模式。面对股价波动和高负债质疑,他表示这是颠覆性创新的必然过程。公司从加密货币挖矿转型为AI基础设施提供商,与微软、OpenAI等巨头合作。对于AI行业循环投资批评,Intrator认为这是应对供需剧变的合作方式。
中山大学等机构联合开发的RealGen框架成功解决了AI生成图像的"塑料感"问题。该技术通过"探测器奖励"机制,让AI在躲避图像检测器识别的过程中学会制作更逼真照片。实验显示,RealGen在逼真度评测中大幅领先现有模型,在与真实照片对比中胜率接近50%,为AI图像生成技术带来重要突破。