生成式AI正以前所未有的速度渗透到企业的核心业务中——无论是研发、运营还是客户服务，AI都在重塑我们的工作方式。但你有没有注意到，随着AI系统架构越来越复杂，安全风险也在同步升级？
过去我们担心的只是模型越狱、敏感信息泄露这些“老问题”，现在，提示注入、知识库投毒、工具滥用、智能体越权、多智能体协同攻击等新型威胁层出不穷。企业的安全治理对象，早已从单一模型扩展到整个生成式AI应用系统，安全边界变得模糊且动态。
安全评估的方式也在快速演进——从人工测试到自动化红队、从静态规则到动态风险评分，再到如今覆盖RAG、智能体和系统级的持续安全监测。企业管理者们越来越关心：我的AI系统到底有多“可信”？上线前后如何持续掌控风险？
IDC认为，生成式AI安全评估平台正从“单点测试”走向“系统级守护”，未来将深度融入AI开发、部署、运营和治理的每一个环节，实现从一次性检测到全流程、持续的安全验证。只有这样，企业才能真正让AI成为安全、可信的生产力，而不是新的风险源。
国际数据公司（IDC）特别针对中国市场发布了《IDC MarketScape：中国生成式AI的安全评估平台厂商评估，2026》（Doc# CHC54110426，2026年8月）研究报告，IDC针对入选的提供商的能力和战略进行综合评估，评估标准包括收入规模、产品技术能力、行业和客户拓展、生态系统建设以及未来发展战略等方面，综合分析并确定各厂商在IDC MarketScape中的相对位置，并探讨厂商的特点和战略，总结发展趋势，为企业级客户选择生成式AI的安全评估平台能力提供商提供参考。
报告揭示了一个关键信号：IDC认为，头部厂商的竞争焦点已从“单点测试工具”转向“系统性安全治理平台” ——这一转变直接决定了企业该选择什么样的合作伙伴，以及该用什么样的标准去判断谁更值得信任。报告的完整评估结果与厂商定位分析，可向IDC进一步了解。
未来，企业关注的不再只是模型是否能够抵御越狱攻击，而是更加关注整个AI应用系统在实际业务场景中的安全表现，包括知识库安全、智能体运行安全、工具调用安全以及业务流程安全等多个方面。与此同时，评估能力也将逐步融入企业AI开发、部署、运营及治理全过程，实现由”一次性安全测试”向”持续安全验证”转型。
生成式AI的安全评估平台未来演进方向
- 评估对象持续扩展。随着生成式AI技术持续向智能体、多智能体协同及具身智能等方向发展，企业AI系统的复杂度和应用边界将不断拓展。未来，生成式AI的安全评估平台将逐步突破单一模型评测范畴，形成覆盖基础模型、AI应用、智能体、具身智能及相关生态组件的综合评估体系，持续提升对新型AI应用场景的风险识别与安全验证能力。
- 评估体系更加完善。未来安全评估将更加注重建立统一、标准化的评估体系，在覆盖风险类型、评估维度及评价指标等方面持续完善，提高不同产品之间评估结果的可比性，为企业提供更加客观、可信的评估依据。
- 智能化能力持续增强。人工智能技术将进一步融入安全评估过程，自动化红队测试、智能风险分析、攻击样本自动生成及评估结果智能分析等能力将不断成熟，进一步提升风险发现效率和评估质量。
- 持续评估能力成为核心竞争力。安全评估将逐步融入企业AI研发、测试、部署及运营全过程，形成覆盖模型上线前验证、运行中监测以及版本迭代评估的持续安全验证体系，为企业提供动态、实时的风险管理能力。
- 平台化能力不断提升。未来生成式AI的安全评估平台将进一步与AI开发平台、安全运营平台及AI治理平台深度融合，由独立评估工具逐步发展为企业AI安全治理的重要基础设施，为企业构建可信生成式AI体系提供持续支撑。
IDC给技术买家的建议
- 建议结合企业AI应用现状制定评估需求。不同行业、不同规模企业的生成式AI建设阶段存在较大差异，安全评估需求也各不相同。技术买家应结合自身AI应用场景、业务规模及安全治理目标，明确评估范围和重点，避免单纯关注评测数量或功能覆盖，而应重点考察产品是否能够满足企业实际业务需求。
- 建议重点关注评估体系的科学性和完整性。安全评估平台的核心价值不仅体现在风险发现能力，更体现在评估体系的完整性和结果的可信度。技术买家应关注产品是否建立了完善的评估指标体系、风险分类体系及评分机制，评估结果是否具有可解释性和可追溯性，是否能够为企业风险治理提供有效依据。
- 建议关注产品的持续演进能力。生成式AI技术快速发展，新的应用形态和安全风险不断出现，安全评估平台需要持续更新评测能力和风险场景。技术买家应重点考察厂商在技术研发、规则更新、测试场景维护及产品迭代方面的能力，确保产品能够适应未来AI技术的发展需求。
- 建议关注平台的开放性与生态兼容能力。企业AI应用通常涉及多个基础模型、开发框架及业务平台，安全评估平台应具备良好的开放能力，支持多模型、多场景及多种部署方式，并能够与企业现有AI开发平台、安全运营平台及治理体系实现有效集成，降低后续建设和运维成本。
- 建议将安全评估纳入AI治理体系建设。生成式AI的安全评估不应作为模型上线前的一次性测试，而应贯穿AI研发、部署、运营及持续优化全过程。技术买家应推动安全评估与AI开发流程、安全运营流程及风险治理机制相结合，逐步建立持续、动态的生成式AI的安全评估机制，提升企业整体AI安全治理能力。
- 建议结合实际业务场景开展产品验证。生成式AI的安全评估平台的能力最终需要在真实业务环境中得到验证。技术买家在产品选型过程中，建议结合自身AI应用场景、典型业务流程及安全需求开展概念验证（PoC），重点考察产品在风险识别准确性、评估覆盖范围、自动化水平及评估结果稳定性等方面的实际表现，避免仅依据产品演示或功能清单进行判断。
- 建议综合评估厂商的持续服务与运营能力。生成式AI的安全评估是一项持续性的工作，产品能力需要随着AI技术演进和风险变化不断更新。技术买家除关注产品功能外，还应重点评估厂商的技术研发能力、评测体系更新能力、行业实践经验、专业服务能力及持续运营支持能力，优先选择能够提供长期技术服务和持续能力演进的合作伙伴，为企业生成式AI安全治理提供长期支撑。
IDC中国网络安全分析师陈佳表示，生成式AI安全评估平台正由早期合规检测工具向企业AI治理的基础安全能力平台演进，企业关注点从“可用”转向“安全、可靠、可控”，平台能力覆盖模型、数据、内容、智能体安全及持续运营管理。随着行业标准完善，评估指标、测试集和自动化能力成为厂商差异化关键，未来相关能力将平台化融合，推动生成式AI从“可用”迈向“可信”。
进一步交流
生成式AI安全治理进入关键阶段。IDC持续关注生成式AI安全评估平台技术演进与市场实践，助力企业识别模型风险、完善治理体系、构建可信AI能力。欢迎联系IDC，获取行业洞察与定制化评估服务，共同探索生成式AI安全落地新路径。