引言:算力变局下的真实回响,拨开智算云迷雾
在日新月异的AI时代,中国智算云市场正经历着前所未有的狂飙突进。从大模型百模大战的喧嚣,到智能体应用的全面爆发,算力需求的重心正在发生深刻转移。然而,在千亿级市场规模的宏大叙事下,企业真实的使用现状却往往被层层迷雾所掩盖。当行业逐渐褪去‘唯算力规模论’的狂热,转向对效能与价值的理性审视时,真实的AI业务落地究竟面临着怎样的需求和挑战?
为了探寻这一命题,国际数据公司(IDC)与中国信通院分别从企业使用智算云服务与专属智算云建设两大视角,面向涵盖互联网、政府、金融、制造、通信、交通、能源等多个行业的250家企业用户,开展了一场深入调研,旨在还原当前中国企业智算云使用的十大真相。
核心数据总览:中国企业智算云整体产业格局
中国智算云市场正迎来从百亿级迈向千亿级的历史性跨越,整体格局呈现出规模扩张与结构优化并进的态势。
IDC数据显示:2025年中国智算云基础设施市场(AI IaaS)规模达到486.7亿元,同比迅猛增长128%,预计未来2年超千亿。互联网、大模型服务、汽车等行业是当前该市场的采购主力,部分制造、医疗、政务数智化项目从试点采购转向常态化租赁,成为拉动该市场的新增力量。
与此同时,企业的大模型推理服务需求呈指数级爆发,推动专属智算云建设市场进入高速增长通道。联合调研测算数据显示:截至2026年2月,中国企业自建智算云推理算力规模已超过350EFlops,能够支撑日均Token产能超70万亿,成为中国大模型推理服务的核心承载形态。
真相一:混合部署成产业标配,单一形态已不再是企业算力战略的最优解
在数据安全、成本效益、业务弹性的多重考量下,企业智算云部署已告别单一模式,“智算云服务+专属智算云建设”组合成为当前多数企业的默认形态和最优解。
IDC所调研的智算云服务用户中,85.8%的企业选择了 “外部AI算力服务+自建数据中心” 的混合架构,表明企业既希望解决突发峰值算力、短期项目研发、临时模型微调等弹性需求,又希望保持对核心数据、高频稳定业务的控制权。
中国信通院调研数据也显示:超过80%的省市级政务单位通过政务专有云平台部署大模型服务;头部银行机构中96%的算力规模采用自建模式,而中小金融机构则更多采用“专属云+公有云服务”的混合架构。此外,能源、制造等行业普遍遵循分级部署,按需采购原则。
真相二:通算与智算各司其职,共同构成企业算力供给底座
此前在智算中心大热的背景下,“通用算力中心是否会被取代”成为行业热议话题,本次调研数据给出了明确的答案。
从实际应用来看,通算凭借低成本、高兼容优势持续占据企业算力底盘,支撑 日常办公、ERP 、数据库、大数据离线统计等 IT 业务;智算作为增量支撑模型训练、多模态推理、Agent 智能应用等AI 业务,二者形成互补分工格局。
在问到企业当前智算和通算的使用比例时,最高比例(40.0%)的企业选择了“智算超过40%,通算少于60%”,但69.2% 的企业认为未来2年智算占比仍在50%以内。
2026年,随着AI迈入智能体时代,CPU迎来了新的发展机遇。过去大模型训练高度依赖GPU强大的并行计算能力,但随着智能体应用的规模化落地,智能体工作负载不仅需要GPU提供的大规模并行推理能力,也需要CPU所擅长的复杂任务编排、多步逻辑控制、系统级调度与状态管理能力。这一变化正推动 “CPU-GPU协同均衡”发展。

真相三:智算云规模增势迅猛,整体利用率均衡,但行业资源利用率分化明显
从供给侧看,智能算力利用率呈现节点与区域分化特征。枢纽节点的智能算力利用率高于非枢纽节点;东部地区整体利用率与西部地区相近,西部地区承接大量东部外溢的低时延、高计算密度、弱交互性的智算需求,显示出跨区域调度对提升整体算力效率的积极作用。从需求侧看,不同行业的智算资源利用率呈现分化格局。IDC调研数据显示:近半数企业的智算资源利用率维持在 51%-70% 的中等区间,且仍有 6.7% 的企业利用率仅为 31%-50%,处于较低水平。
头部云厂商、互联网企业、AI 自研大厂、新能源汽车等凭借多年技术积累,通过算力调度平台、精细化资源管控系统与全栈协同优化体系,实现了算力资源的高效复用,部分头部企业核心集群利用率突破80%。
制造、政务等行业的利用率低于平均水平,实现 70% 及以上高利用率的企业占比不足 35%。不少自建智算项目存在 “重硬轻软” ,仅完成了服务器、GPU 等硬件设备的上架部署,但缺乏配套的统一算力调度平台、资源池化管理系统与动态资源分配机制,造成了算力资源的浪费。
真相四:推理场景消耗AI算力过半,线下推理算力贡献1/3以上
百模大战时期,资本市场聚焦千亿参数大模型自研训练,训练算力需求一度占主导,但随着 Agent 应用规模化落地,轻量化小模型 + 端云协同推理进一步拉动推理算力需求,推理场景成为智算云市场的基本盘。
IDC调研数据显示,当前八成以上的企业用于训练工作负载的AI算力占比低于50%,如果按样本数加权平均计算来看,企业用于训练和推理工作负载的AI算力四六开。泛互(60%)、金融(46.7%)用于训练的AI算力占比高于平均值,而政府和制造行业2/3的AI算力都用于推理。
中国大模型 Token 调用量的爆发式增长,进一步推动了线下推理的崛起态势。根据发改委数据:截至2026年3月,中国智能算力规模超过1882EFLOPS。调研显示:推理算力占据六成,而其中企业自建智算云贡献的线下推理算力占比超过34%。政务、金融、能源等强监管行业的核心业务推理需求正不断通过物理隔离或逻辑强隔离实现线下部署,既能保障数据安全合规,又能实现毫秒级低时延响应,适配核心业务的严苛要求。
真相五:硬件与公有云IaaS仍是中国企业IT最大支出项
2025年企业总体IT支出中, IT软件与第三方服务花费占比不足三成,七成用于采购IT硬件和公有云IaaS。具体到AI相关支出,中国企业也高度集中在AI硬件与AI IaaS上,在 AI 应用和服务层的投入仍处于早期阶段。
IDC调研数据显示:当前智算云企业用户IT硬件支出中用于GPU服务器的占比为58.4%,公有云IaaS支出中用于AI IaaS的占比为54.3%。泛互行业作为AI投入力度最大的行业,AI支出占比超过上述平均水平。

真相六:100P算力是企业智算云部署模式偏好的关键分水岭
IDC调研数据显示:当前超过85%的企业使用了26-100 PFLOPS规模的AI算力。这一区间足以支撑中小参数大模型后训练、企业级场景推理及数据密集型AI应用,是兼顾成本与实用性的主流选择。对于该算力区间的企业而言,AI业务往往存在阶段性、波动性特征,全年算力使用起伏较大,自建投入的回报率偏低,因此更倾向于采购公有智算云服务。
中国信通院调研显示,100P FP16等效算力是企业选择规模化自建和上云的核心分界指标。当算力需求超过100P时,企业倾向于自建以掌握核心资产并实现长期成本摊薄。这类主体主要为大型央企、头部银行机构、头部互联网企业。调研发现,当前国有六大行自建智算云规模均超过100P,实现了完全物理隔离的私有云环境。而当需求在几十P级别时,企业更倾向使用服务商提供的共享或独享的云服务,这一分化布局现象在能源行业尤为突出。

真相七:制约智算云产业规模化落地的并非算力短缺,而是全链路配套能力不足
AI 基础设施落地是系统性工程,单一环节短板会形成 “木桶效应” ,拉低整体算力效率。IDC调研数据显示:企业 AI 基础设施落地的瓶颈已从 “算力短缺” 转向 “全链路配套能力不足” ,机房环境、网络互联、软件适配、存储吞吐等共同构成了制约 AI 业务规模化落地的系统性障碍。

真相八:使用 MaaS 和 Agent 的挑战是“将 AI 真正用进业务里”
模型即服务(MaaS)与Agent的持续落地,让AI的获取变得像水电一样简单,但“用好”依然是巨大挑战。调研显示:企业核心瓶颈并非算力供给不足,真正的挑战在于:如何与现有业务集成打通业务孤岛?如何让Agent理解复杂的业务逻辑?如何管理数量庞大功能各异的智能体?只有跨越了从 “技术工具” 到“业务引擎” 的鸿沟,AI才能真正创造商业价值。

真相九:全栈智算云在线下推理场景凸显效能优势
对于采用智算云服务的企业而言,推理效能取决于云服务商;而对于自建智算云的企业而言,AI落地涉及从底层芯片、算力调度、云平台,到大模型部署、场景微调、应用开发的每个环节,任一环节的短板都会拉低整体效能。
本次联合调研及实测数据显示,相较于零散拼凑多厂商软硬件的项目,采用全栈AI云服务厂商产品组合的项目词元产出效能提升超过20%(词元产出效能:相同场景下单位算力日均Token调用量),全栈厂商在芯片、云平台与模型层面可实现端到端协同优化,降低跨产品兼容损耗。

真相十:国芯国模适配逐步完善,全栈国产化进入规模化部署窗口
IDC调研数据显示:总体而言,当前国产AI芯片的使用率已高于国外品牌,但不同行业差异较大,互联网、模型和IT服务行业国外品牌的使用率明显高于国产品牌;汽车和金融服务行业两者的使用率相当;政府、能源和传统制造行业中国产品牌的使用比例更高,政务行业新建智算项目已100%采用全栈国产化方案,大型银行机构的核心业务系统逐步完成了国产化适配,能源、制造等行业的国产化替代进程也在不断加速。
随着国产芯片市场占有率逐步提升,国产AI芯片与国产大模型的协同适配正从“单点突破”走向“联合体推进”,基于“国芯+国模”的全栈国产化解决方案已迈入实质性规模化部署周期,这点在政府、银行、能源等关键行业表现得尤为明显。

结语:中国智算云告别粗放,迈入精细化运营时代
2026年的企业智算云市场,正在经历一场深刻的 “成人礼” 。随着市场认知回归理性,粗放式堆算力的发展逻辑彻底落幕,逐渐进入精细化运营时代。在这个时代,赢家不再属于单纯囤积算力的人,而是属于那些能够精准调度异构资源、深刻理解行业场景、并将AI无缝融入业务血脉的长期主义者。
IDC相关研究
围绕智算云相关研究内容、技术能力与市场格局,IDC 将持续开展系统性研究,包括但不限于:
- 《中国智算云基础设施服务(AI IaaS)市场跟踪,2025下半年》(2026年4月发布)
- 《IDC Market Forecast:中国整体云计算市场预测,2025-2029》(2026年5月发布)
- 《IDC Survey:中国智算云服务市场企业用户调研,2026》(即将发布)
- 《IDC Tech Assessment:面向智能体的混合云智算基础设施技术能力评估,2026》(即将发布)
- 《IDC Market Share:中国AI云存储市场份额,2025》(即将发布)
- 《IDC PeerScape:中国市场异构算力调度和管理实践洞察,2026》
如需进一步了解智算云相关研究内容,或咨询 IDC 在云计算、AI 基础设施及数字化转型领域的其他研究成果,欢迎与我们保持联系。