CIO重新审视公有云战略,AI应用趋于成熟推动变革

随着AI策略成熟,CIO开始重新考虑对公有云的依赖,私有云和本地环境重新受到关注。调查显示,67%的企业领导计划在未来12个月内将部分AI数据迁移至非云环境。主要原因包括成本可预测性、数据隐私保护、安全问题和云集成挑战。对于持续的AI工作负载,购买自有GPU比租用公有云更经济。私有云支出增长更快,预计2025年将有54%的组织在私有云上投入超过1000万美元。

随着AI战略的日趋成熟,CIO们开始重新思考对公有云在AI及其他工作负载方面的依赖,对私有云和本地环境的兴趣正在快速复苏。

数据可观测性公司Prove AI的首席技术官Greg Whalen表示,虽然公有云为AI实验提供了快速启动大量GPU的灵活性,但随着AI战略的成熟和可预测AI工作负载的形成,CIO们正在转向私有云或本地环境,以控制支出并保护数据隐私。

Prove AI最近对美国和加拿大1000名企业领导者进行的调查发现,67%的受访者计划在未来12个月内将部分AI数据迁移到非云环境。除了成本可预测性和数据隐私担忧,迁移的主要原因还包括安全问题以及云与SaaS环境的集成挑战。

Whalen指出,运行一致性AI工作负载的组织可以通过购买几个GPU或在私有云提供商处安装几个GPU来节省成本,而不是在公有云中租用时间。如果IT领导者能够准确估计需求,内部GPU将得到充分利用,几乎没有闲置时间。

"如果你真的在进行微调,或者只是想定制RAG(检索增强生成)模型,你可能需要连续数小时的GPU计算,"他说。"你的工作负载并不会有很大波动,即使是在模型评估和运行阶段也是如此。"

Whalen表示,他没有看到许多运行自有GPU的组织存在利用率不足的问题。

"如果有人说'你有一个GPU,可能只会使用10%的时间',根据我们的经验,情况并非如此,"他补充道。"你会找到使用它的方法,而且大部分工作负载是训练,这是非常连续的。这些任务在可预测的时间内运行。"

私有云支出增长

虽然Prove AI的调查显示了对本地计算的兴趣,但另一项调查显示私有云支出出现显著增长,尽管公有云支出也在以较低速度增长。

网络和安全提供商GTT Communications的调查显示,2024年至2025年间,计划在公有云上支出超过1000万美元的组织数量增长了12%。

但根据调查,计划在私有云服务上支出超过1000万美元的受访者比例增长更快,从2023年的36%增长到2024年的43%,再到2025年的54%。这是公有云大额支出者增长率的两倍。

GTT发现,目前超过一半的AI工作负载运行在私有云和本地环境的组合中,安全性、合规性以及AI工作负载的特定需求是寻求公有云替代方案的主要原因。

GTT战略和技术采用副总裁Bastien Aerni表示,监管和合规担忧是推动私有云或本地解决方案的重要驱动因素。许多公司正在将敏感工作负载转移到私有云,作为支持智能体AI和其他复杂AI项目的更广泛多云和混合策略的一部分。

"大多数时候,AI都涉及机密数据或业务关键数据,"Aerni说。"那么关于架构以及工作负载应该是公有还是私有,甚至是本地的思考就成为了一个真正的问题。"

他表示,公有云仍然为AI项目提供最大的可扩展性,近年来,CIO们被那里提供的众多额外功能所说服。

"在我大约五年前与CIO们的一些对话中,他们会提到'有这么多功能,这么多工具',"Aerni补充道。"现在当我进行同样的对话时,他们说'实际上,我现在并没有那么频繁地使用这些工具。'他们都在寻求稳定性和可预测性。"

小规模迁移

其他云和AI专家并没有看到公有云的大规模退出,由于AI的高计算需求,增长仍在继续。云咨询公司Zoi North America的董事总经理Danilo Kirschner表示,很大比例的企业仍在使用混合云模型。

他说,回迁正在发生,但组织并没有完全放弃公有云。

"这个悖论很明显:AI工作负载同时推动着大规模云增长和选择性回迁,因为市场扩张如此迅速,它同时容纳了多种部署模型,"Kirschner说。"我们看到的是从天真的'一切上云'策略向智能的、针对特定工作负载的决策的成熟转变。"

IT人力咨询公司C4 Technology Services的首席AI官Zac Engler也看到了同样的趋势。

"我们并没有看到云端的大规模撤离,"他说。"更像是公司悄悄地带着他们最有价值的AI工作负载从侧门溜出去。"

他补充说,信任、成本和数据控制重新回到董事会议程,并影响着AI工作负载运行位置和数据存储的决策。

"公有云仍然非常适合实验、快速扩展和在董事会报告中展示成效,"Engler说。"但当涉及专有数据、合规性或不想不必要地烧钱时,本地和私有设置开始变得更有意义。"

来源:CIO.com

0赞

好文章,需要你的鼓励

2025

07/01

23:14

分享

点赞

邮件订阅