万卡级超大规模智算集群网络运维挑战及实战

大模型训练任务对于网络要求苛刻，34%的训练中断是由网络引起。RDMA的丢包重传机制将导致带宽利用率快速降低，当丢包率达到千分之1时，训练效率降低明显；

不同于通算，大模型训练任务对于网络要求苛刻，34%的训练中断是由网络引起。RDMA的丢包重传机制将导致带宽利用率快速降低，当丢包率达到千分之1时，训练效率降低明显；动态时延提升将导致GPU利用率明显下降，AI训练应用的优化、网络拓扑配置以及拥塞控制机制是关键因素；在超大规模集群中，34%的故障是由网络引起，其中光模块问题最为突出。

来源：架构师技术联盟

0赞

好文章，需要你的鼓励

Zopa银行提前推出活期账户服务

Zopa银行正式推出可在几分钟内开户的活期账户服务，面向其150万储蓄和贷款客户以外的更广泛用户群体。该账户此前已有6万名现有客户参与测试，正式发布时间比预期提前。作为金融科技先驱，Zopa在2020年获得完整银行牌照后推出首款储蓄产品，目前拥有140万客户，年收入超过3亿英镑，存款规模超过50亿英镑。

清华大学推出革命性视频生成技术：让AI看懂“注意力“背后的秘密

清华大学团队通过创新的"模式感知重排序"技术，解决了AI视频生成中注意力机制计算效率低下的问题。该技术将复杂分散的注意力模式重新整理成规整的块状结构，结合专门设计的稀疏化和量化策略，在保持生成质量的同时将计算速度提升1.9-2.7倍，为AI视频生成的普及应用铺平道路。

Mozilla发布Firefox 140扩展支持版本并引入多项新功能

Mozilla正式推出Firefox 140浏览器，作为扩展支持版本(ESR)发布。新版本增加了标签页卸载功能，可清理内存并在需要时重新加载。垂直标签页用户可调整固定标签区域大小，隐私翻译功能现可跟随滚动位置优先翻译当前查看区域。Android版本支持批量选择标签页，私人标签可通过密码或指纹保护。该版本同时更新ESR 128用户，为下游项目如Waterfox和Thunderbird提供新版本基础。