北京，2025年8月4日——随着近年来中国中大型政企云平台建设的完成，同时基于安全合规和资源弹性的考虑，混合云架构逐渐成为企业偏好的云平台架构。具备超融合架构的AI训推一体机解决方案已经从轻量化私有云平台解决方案演进为中大规模混合云平台解决方案的重要部分。AI训推一体机凭借其敏捷弹性、资源高效、管理极简等特征，日益成为广大政企部署GenAI训推基础架构的重要选择。
国际数据公司（IDC）于近日发布了《中国AI训推一体机技术能力评估, 2024》（Do c # CHC53582325 ，2025年6月 ） 报告。本次技术评估报告主要围绕AI训推一体机的技术能力开展，希望通过对中国市场AI训推一体机技术提供商的技术评估以及对最终用户的客观访谈来帮助市场更加全面地了解国内AI训推一体机相关技术的发展现状和发展方向。本次研究覆盖了14家主流技术提供商，包括阿里云、百度、博云、超聚变、常青云、华为、浪潮云、青云、UCloud、新华三、中国电信、中国联通、中国移动、ZStack（按公司拼音首字母顺序排列）。
本次IDC研究的主要市场发现：
- AI训推一体机作为精简的、高性能的AI基础架构，已经逐渐成为主流的小型化AI基础架构方案，能够将不同的IT基础设施进行整合和统一管理。同时，面向云边一体化需求，AI训推一体机也能够满足边缘环境的轻量化云基础架构需求。
- AI训推一体机已经逐渐成为政企建设小型化AI训推环境的主流AI基础架构部署方案，为了快速和低成本地构建本地AI基础架构，很多中国政企都会采用AI训推一体机方案。
- AI训推一体机具备软件定义的算力、存储、网络以及AI训推平台服务能力，从虚拟化效率、IO性能、AI训推框架和加速功能等方面都具备与传统私有云AI基础架构一致的技术特性。
- AI训推一体机能够实现与底层算力芯片的解耦，实现纯软件形态的AI基础架构方案交付，同时具备兼容国产异构算力芯片的能力，具备良好的异构扩展能力。
- 在本次研究中， AI训推一体机的推理能力、性能指标、交付运维能力是评估的重点方向，其中推理能力核心关注推理框架和加速能力，性能指标核心关注吞吐性能和首字时延/非首字时延，交付运维能力核心关注快速部署能力、软硬件故障冗余/自愈能力、可视化监控能力。评估发现大型云厂商和运营商的产品具备丰富的硬件配置、优秀的推理能力和性能、良好的扩展性和交付运维能力，以及云边一体架构和安全能力，其他中小型厂商则在算力切分、存储分层、模型量化、高可用、安全策略等技术点提供了不同的特色功能。
IDC认为，云基础架构未来将呈现以下发展趋势：
根据当前政企在GenAI业务方面的敏捷开发和应用模式，轻量化、集成度高的AI训推一体机将逐渐成为混合云AI基础架构的重要组成部分，并具备更加完善的部署和交付方案，同时在技术架构、资源调度、运维管理方面能够提升对于政企GenAI相关业务系统、数据体系、智能应用的支撑能力。此外，AI训推一体机对于边缘计算环境的良好适配性，将有效提升政企对于云边协同平台的构建能力。
IDC给技术卖家的建议：
- 对于异构的智能算力资源，AI训推一体机需具备广泛的算力兼容能力，从而屏蔽算力芯片的差异性。
- AI训推一体机应具备集群扩展能力并纳入云管理体系，支撑政企客户GenAI模型和应用的全链路开发和运维。
- AI训推一体机需能够承载边缘AI推理能力，可逐步演进成为AI基础架构云边一体化的重要组成部分。
- 针对AI模型的安全能力应作为AI训推一体机的重要特性，在支撑政企客户关键业务时，能够满足安全要求。
IDC中国云计算高级研究经理张犁表示，当前，中国政企处于数字化转型浪潮中，AI基础架构建设作为构建GenAI业务过程中的核心步骤，政企投入了大量资源，同时希望以较小的代价和较短的时间构建AI基础架构。AI训推一体机作为精简的、高性能的AI基础架构，已经逐渐成为主流的小型化AI基础架构方案，能够将不同的IT基础设施进行整合和统一管理。
IDC更多云计算领域研究相关报告：
- 中国云服务市场预测，2025–2029（Doc #CHC52294825，2025年4月）
- IDC FutureScape：全球云计算2025年预测——中国启示（Doc#CHC52294725，2025年2月）
- IDC FutureScape：全球云计算2025年预测——中国启示：成功定位——技术销售和技术营销领导者的机遇（Doc #CHC53202725，2025年2月）
- 中国混合云超融合基础架构技术能力评估，2024（Doc #CHC52294424，2024年12月）
欲了解本研究报告更多内容，请点击文章左下角“此处” 进行获取。如对此研究感兴趣想进一步深入沟通，或欲了解IDC相关研究，请与IDC中国高级研究经理张犁（邮箱：lee.zhang@idc.com）联系。
-全文完-
欲了解IDC报告的更多信息，请访问www.idc.com.cn。欲购买报告，请致电+86-10-5889 1666与IDC中国销售部联系，或发email至frankwang@idc.com。
关于 IDC
国际数据公司（IDC ）是全球著名的信息技术、电信行业和消费科技咨询、顾问和活动服务专业提供商。IDC在全球拥有超过 1300名分析师，为110多个国家的技术和行业发展机遇提供全球化、区域化和本地化的专业视角及服务。IDC的分析和洞察助力IT专业人士、业务主管和投资机构制定基于事实的技术决策，以实现关键业务目标。成立于1964 年，IDC 是IDG旗下子公司。IDG是全球领先的媒体出版、研究咨询、及会展服务公司。欲了解更多信息，请登录www.idc.com.cn。
– # # # –
相关咨询，请联系：
王勇，IDC中国 副总裁
电话：(+86-10) 5603 4087
电邮：frankwang@idc.com
谢静，IDC中国 市场部
电话：(+86-10) 6422 9568
邮箱：mxie@idc.com
扫描微信二维码，关注IDC 研究成果，掌握ICT市场脉搏
