2024年AI服务器和AI PC趋势

国内数据中心建设较全球起步晚,目前处于云中心深化阶段,向智能算力中心转型,总体处于成长期。

数据中心按照算力可以分为三类:云数据中心、智算中心和超算中心。云数据中心面向众多应用场景和应用层级扩张;智算中心 以AI专用芯片为计算算力底座,以促进AI产业化和智能化为目标,面向AI典型应用场景;超算中心主要支持科学计算和工程计算 ,主要由国家科技部布局建设。

国内数据中心建设较全球起步晚,目前处于云中心深化阶段,向智能算力中心转型,总体处于成长期。

2024年AI服务器和AI PC趋势

根据Trendforce 测算, 2023 年全球 AI 服务器出货量逾120.8万台,同比增长超过37.7%。这家机构预测, 2024  年全球AI服务器整机出货量将达167.2万台,同比增长38.4%。台积电在Q1法说会上表示,AI需求的增长将以50%的 复合增长率持续至2028年,AI服务器需求增长也有望以较高速度持续至2028年。

2023年,中国人工智能服务器市场规模将达91亿美元, 同比 增长82.5%;智能算力规模预计达到414.1EFLOPS (每秒百亿亿次浮点运算),同比增长59.3%,2022年到2027年, 年复合增长率达到33.9%。

按照用途区分, AI服务器分为训练和推理两大类别。训练用服务器对存储空间、带宽和算力的要求较高, 主要采用8-GPU 设计;推理用服务器对算力、存储和带宽的要求相对较低,取决于业务场景, 可以采用 GPU、NPU、CPU 等不  同芯片承担推理任务,可以采用PCLe接口的AI加速器实现推理任务。

服务器随场景需求经历通用服务器-云服务器-边缘服务器-AI服务器四种模式,AI服务器采用GPU增强其并行计算能力。CPU+GPU是AI服务器的核心部件。机柜级解决方案有望成为未来 AI 服务器出货主流形式之一。

服务器发展的三大挑战:
一、先进的GPU加速卡需要使用多层高阶HDI板,PCB的材料和产品质量如何保证;
二、AI服务器对传输速  度要求较高,高速连接器正朝向“56G-112G-224G”的方向发展,高速和高密度背板连接器如何满足AI算力释放需  求,这都需要工业检测领域的有效方案来护航。
三、智能算中心走向高密度, 单颗高性能AI芯片的热设计功耗将突破 1000W,达到了传统风冷散热的极限,液冷技术成为主要趋势。

1、半导体行业系列专题:刻蚀—半导体制造核心设备,国产化典范

2、半导体行业系列专题:碳化硅—衬底产能持续扩充,加速国产化机会 3、半导体行业系列专题:直写光刻篇,行业技术升级加速应用渗透 4、半导体行业系列专题:先进封装—先进封装大有可为,上下游产业链受益

 

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

2024年AI服务器和AI PC趋势

 

来源:架构师技术联盟

0赞

好文章,需要你的鼓励

2024

09/26

11:05

分享

点赞

架构师技术联盟

分享项目实践,洞察前沿架构,聚焦云计算、微服务、大数据、超融合、软件定义、数据保护、人工智能、行业实践和解决方案。

最近文章 :