2022年底,ChatGPT的发布标志着AI流量史无前例的爆发。尽管彼时仍是一款基础的生成式AI聊天机器人,其月访问量在2022年11月便急速攀升至1.52亿次,此后三个月内突破10亿次,到2024年底更接近40亿次。而这,仅仅是AI浪潮的第一波。
数据中心专家、AIDC Debate播客联合主持人弗拉基米尔·加拉博夫表示:"2025年释放的第二波生成式AI浪潮,将在2030年前推动流量增长100倍,而智能体AI的兴起将使这一数字再跃升15倍。"
如此规模的流量需要大量图形处理器(GPU)和惊人的电力供应。然而,一个鲜少被关注的领域同样不可或缺——那就是支撑AI工作负载体量与速度的网络骨干基础设施。
思科董事长兼首席执行官查克·罗宾斯在2026年6月的思科Live大会主题演讲中指出:"AI将在三年内使网络流量增至三倍。"
这一信号对数据中心运营商和设计师而言已十分明确:AI基础设施规划不能再止步于GPU、电力与冷却系统。随着AI工作负载不断扩大且日趋分散,网络正在成为整体设计方程中更为核心的组成部分。
AI驱动的网络流量激增,部分原因在于AI工作负载类型的转变。聊天机器人的请求往往带来高度波动的网络需求——查询和响应呈现出骤升骤降的峰谷形态。而智能体AI则截然不同,其工作模式更为持续稳定,通常能长期保持高负荷运行状态。
思科总裁兼首席产品官杰图·帕特尔指出,AI智能体消耗的网络资源是人类的数倍之多。
"这一网络超级周期意味着,随着AI工作负载规模不断扩大,数据中心应当系统审视其网络基础设施。"帕特尔说。
计算密集,通信同样密集
大语言模型的训练与AI推理,都依赖于在数千乃至数十万块GPU之间传输海量数据。一旦网络跟不上节奏,利用率将下滑,延迟将攀升,数据中心的经济性也将随之崩塌。
Dell'Oro集团副总裁萨梅·布杰勒贝内表示:"网络实际上就是计算机本身。AI工作负载不仅是计算密集型,更是通信密集型的。"
她指出,AI数据中心已从根本上改变了行业格局——网络不再是单一的层级结构,而是正在演变为三张相互独立的结构层:
纵向扩展:通过在机架内部添加更强大的设备和GPU来提升单机架的算力上限。
横向扩展:通过增加更多机架来扩大整体计算规模。
跨域协同:将多个数据中心联动起来,使其协同运作,相当于一台超大型计算机,共同应对复杂的AI计算任务。
布杰勒贝内进一步指出,AI流量的增长不会是线性的。由于这些网络层级的存在以及AI应用的不断演进,流量将呈指数级复合增长。
"每一层都会带来远超传统数据中心网络的带宽倍增效应,"她说,"横向扩展的AI网络所需带宽约为传统非AI网络的10倍,而纵向扩展则可能将这一需求推至近100倍。"
例如,更大的模型会在集群内部产生更多的东西向流量。随着推理工作负载逐步超越训练工作负载,网络压力也从偶发性的训练任务转向了始终在线的生产负载。
智能体AI又叠加了新的倍增效应——智能体并非只需回答一次,而是需要持续规划、调用工具、检索数据、生成内容、执行校验并完成多步骤行动。网络负载随着模型规模、用户需求以及工作流复杂度的提升而同步攀升。
网络刷新的考量
思科近期推出了一系列专为AI设计的网络、交换与路由新产品,Marvell、Arista Networks、英伟达和博通等厂商也相继推出了AI网络设备。
StorageIO咨询公司创始人兼高级分析师格雷格·舒尔茨指出,提升网络速度和带宽的升级改造必然伴随一定成本。但随着AI使用量的持续增长,这笔投入将越来越难以推迟。
"将众多IT资源互联互通以支撑AI,是机架内外、集群内外乃至数据中心之间流量传输的共同瓶颈,"舒尔茨说,"除了流量体量的增长,流量速率同样将大幅提升,与AI应用和工作负载相关的流量在规模与类型上也将呈现出巨大差异。"
如何备战网络超级周期
面对密集服务器和满载GPU机架的扩容规划,数据中心设计者和运营商在网络层面应当做哪些准备?
持续监测:舒尔茨建议,应及时掌握网络、计算/GPU、存储以及软件与应用的运行状态,形成动态感知能力。
建立历史视图:同时需要对应用工作负载及其资源使用情况、功耗与冷却需求保持历史维度的追踪与记录。
为智能体间通信与私有AI做好准备:舒尔茨表示,"数据中心应预判智能体间的交互流量将显著增加,更多模型将以私有化、本地化方式训练和部署,云端及资源提供商之间的AI活动与流量也将全面提升。"
部署AI赋能的管理工具:舒尔茨指出,这不仅需要更充裕的电力、冷却与网络资源,还需要具备AI能力的网络与数据基础设施,以及相应的资源管理工具,用于异常检测、流量负载均衡、优先级策略与性能优化,以及对未来资源需求的预测研判。
让网络真正匹配AI的需要
当前,行业的大量注意力集中在如何获取并充分利用尽可能多的GPU上,由此自然引发了关于如何获取更多电力、如何保持GPU冷却的讨论。而网络这一环节,长期以来获得的关注相对有限,如今已是正视其重要性的时候了。
"真正的问题不仅仅是一个机架里能塞下多少块GPU,"布杰勒贝内说,"而是网络结构能否让这些GPU保持高利用率、实现高效协同并在规模上持续高效运行。"
她对数据中心设计者的建议是:转变传统观念,不要再将网络视为纯粹的后端管道。
"在高密度GPU集群中,网络本身就是AI系统的组成部分,"她说,"从第一天起,就应将带宽、延迟、拥塞控制、拓扑结构、光学互连、遥测能力和系统韧性纳入核心设计考量。"
Q&A
Q1:AI智能体为什么会大幅增加数据中心的网络流量?
A:与普通用户的单次问答不同,AI智能体需要完成多步骤任务,包括规划、调用工具、检索数据、生成内容、执行校验等一系列操作,每个步骤都会产生网络通信。此外,智能体通常保持长时间高负荷运行,而非产生短暂的流量峰值。据思科总裁杰图·帕特尔表示,AI智能体消耗的网络资源是人类用户的数倍,因此其大规模部署将对数据中心的网络基础设施带来前所未有的压力。
Q2:数据中心网络的三张结构层分别是什么?
A:根据Dell'Oro集团副总裁萨梅·布杰勒贝内的划分,AI数据中心网络正演变为三张独立的结构层:一是纵向扩展,即在单个机架内增加更强大的GPU和设备;二是横向扩展,即增加更多机架以扩大整体计算规模;三是跨域协同,即将多个数据中心联动运作,使其如同一台超大型计算机协同处理复杂AI任务。每一层都会带来大幅超越传统网络的带宽需求,横向扩展约需传统网络10倍带宽,纵向扩展甚至可达100倍。
Q3:数据中心该如何为网络超级周期做准备?
A:StorageIO咨询公司的格雷格·舒尔茨给出了四点建议:第一,持续监测网络、GPU、存储及应用的实时运行状态;第二,建立历史视图,追踪工作负载的资源消耗与功耗趋势;第三,提前为智能体间通信和私有AI部署做好准备;第四,引入具备AI能力的网络管理工具,实现异常检测、流量均衡、资源优化与需求预测。总体而言,网络应从设计之初就被纳入AI系统的核心组成部分来考量,而非事后补充的基础设施。
好文章,需要你的鼓励
多家企业通过Decagon的AI客服平台实现了显著成效:一家财富50强企业在三周内完成了九个月未竟的工作;一家航空公司从启动到全面上线仅用三周;一家音乐流媒体平台六个工作日即投入生产,AI处理率达71%。Decagon以"玻璃盒"而非"黑盒"理念构建,通过AOPs和Duet工具赋能企业运营者自主部署和迭代AI客服,真正将客户关系的主导权还给企业本身。
东南大学等机构联合推出Embodied.cpp,一个面向机器人AI的C++统一推理运行时,首次同时支持VLA和WAM两类模型的边缘部署与闭环控制。
2026年第二季度,AI硬件、量子计算及芯片制造领域融资持续火热。边缘AI芯片时隔多年重获投资者青睐,量子计算领域有21家公司完成融资,其中6家超亿美元。本季度共18家企业融资超1亿美元,涵盖SiFive(4亿美元)、Etched(5亿美元)、Nearfield Instruments(3.8亿美元)等重磅融资,日本Rapidus获政府补贴约9.43亿美元,80家企业合计融资逾60亿美元。
这项多校联合研究系统评测了多探针网格近似最近邻搜索算法,发现其在高维数据上的性能退化明显弱于主流方法,且建索引速度快约百倍,在高频重建场景下具有竞争力。