如何保障企业AI安全：从采用到事件响应准备

关于AI是否能创造商业价值的争论已经结束。当前的挑战是在满足董事会快速推进的压力的同时，将AI大规模且安全地应用到所有业务职能中。企业必须在以业务速度采用AI的同时，不失去对网络风险的控制。点击此处下载完整电子书。

业务现状

在Sygnia的2026首席信息安全官（CISO）调查报告中，该报告对全球600名资深IT及安全负责人进行了调查，近三分之一的受访者表示其组织已在威胁检测和事件响应（IR）中广泛使用AI，63%的受访者预计到2027年AI将完全嵌入其组织。¹ 然而，73%的IT安全决策者表示，如果明天发生重大网络攻击，其组织将无法完全做好准备。¹

安全团队认为他们没有足够的时间进行调整。AI工具正在部署，但支持这些工具的治理、控制措施和事件响应准备工作却未跟上。安全负责人当前的任务是在推动AI采用的同时，减少未受管理风险的遗留影响。

AI安全缺口

AI已进入企业内部，但并非总是通过正规渠道。它可能通过获批平台、员工变通方案、SaaS插件、供应商工具、内部实验以及追求更快进度的开发团队进入。AI应嵌入的深度和速度在很大程度上取决于所使用的AI类型——生成式AI或智能体AI。AI从完全或半自主辅助人员转向跨系统行动的程度越深，就越不能仅将其视为生产力工具。这会显著扩大企业攻击面，并带来新的安全风险。

企业AI的快速采用由自上而下和自下而上的力量共同推动。管理层通常认识到需要监督，但没有可遵循的成熟方案，而员工很少具备自行评估所采用工具安全影响的能力。随着企业优先考虑速度，安全审查、供应商评估和数据治理往往成为次要关注点，形成了AI采用速度超过控制的环境。

仅有38%的企业报告拥有全面的AI政策²，采用速度已超过监督能力，导致安全团队只能事后管理后果。这一结果是由广泛的影子AI和AI驱动的威胁推动的攻击面快速扩大，这些威胁降低了复杂攻击的门槛，同时使攻击者能够更快、更大规模地识别和利用漏洞。

隐藏的AI风险

一种假设已盛行：有限的AI使用意味着可管理的AI风险，且由于该项目处于早期阶段，暴露风险极小。事实并非如此。AI攻击面不是固定的边界，它会在AI被采用、集成或构建的任何地方扩展。67%的高管认为其组织已因未获批的AI工具遭受数据泄露。³

增长最快的入口点很少处于主动安全审查之下，这为更快、更多的利用留下了空间：(1)未受治理的AI（包括影子AI），(2)临时集成，以及(3)拥有过度权限的AI智能体。

从攻击者角度看，威胁格局已发生变化，使这种暴露对他们越来越有利，进而对企业受害者造成后果。攻击者的基本战术和技术通常保持不变，但AI使攻击者能够更快、更大规模地执行这些战术，且自动化程度更高，最终提高了他们对企业环境现有弱点的有效性——正如Sygnia事件响应人员调查和修复的近期AI驱动攻击中所见。

需要采用全生命周期方法

AI安全需要在每个工具的完整生命周期中解决。各阶段的控制要求会发生变化，但优先级保持一致：在AI部署并嵌入关键工作流之前，识别使用情况、分类风险、分配所有权、限制访问、验证控制措施并为事件场景做好准备。

必须为不同的生命周期阶段做好准备，并了解其相关的安全挑战。

战略与用例定义

企业需要在业务、技术、安全、法律、隐私、合规和风险职能之间明确定义所有权、决策权、监督和升级机制。这确保在企业依赖这些工具之前，AI使用与组织目标、政策、风险偏好和监管义务保持一致。

常见挑战：企业通常在未定义用例所有者、授权批准者、持续运营监督者以及对使用产生的业务后果负责者的情况下采用AI。

设计与开发

AI增加了容易被忽视的设计问题：提示词如何处理、检索什么数据、嵌入如何存储、向量数据库如何保护、模型输出如何验证，以及如果系统被操纵会发生什么。在构建系统之前，需要定义AI特有的安全要求。

常见挑战：AI应用通常在开发的任何阶段都未定义、测试或验证安全要求的情况下进入生产环境。

采用与供应商选择

无论评估SaaS AI平台、集成第三方模型还是通过API在基础模型上构建，都需要在签署合同前评估该选择的安全影响。评估是自建、购买还是集成，并将其视为安全决策，而非仅能力和成本问题。

常见挑战：企业通常在未进行充分安全和风险评估的情况下采用AI能力。采购速度始终超过尽职调查。

部署与集成

通过设计阶段安全审查的应用仍可能以不安全的方式部署。此阶段最常见的失败是过度权限：AI系统连接到敏感数据时，访问权限是基于便利性而非功能需求设置的。

常见挑战：AI系统通常在从未正式审查且很少重新评估的访问权限下进入生产环境。

运营、监控与扩展

AI系统在部署后会不断发展，包括模型更新、集成添加和用例扩展，可能在未刻意决定的情况下改变风险状况。维护AI应用、服务和集成的最新清单，并随着能力和使用模式的变化定期重新评估用例和风险分类。

常见挑战：AI采用的速度超过了为管理其而设计的治理和监控能力。

事件响应与恢复

大多数企业都有事件响应计划，但这些计划并非为AI设计。提示注入、智能体入侵和第三方模型故障需要与常规攻击不同的取证能力、遏制策略和利益相关者协调。将AI特有的响应程序添加到现有的事件响应剧本中，并将AI事件集成到更广泛的网络危机管理流程中。

常见挑战：事件响应计划是根据企业上次更新时面临的威胁编写的。大多数计划中都没有AI特有的场景。

以安全为核心实施AI计划

了解AI风险所在是一回事，构建管理风险的组织结构、控制措施和流程是另一回事。大多数企业缺乏将各环节联系起来的可操作计划。实施最佳实践AI计划时需考虑六个组成部分。

建立高管对齐与业务目标

89%的安全负责人表示，高管或董事会在事件响应准备和决策中的参与有限是关键挑战。⁴ 解决此问题的唯一方法是高管所有权——不是指意识，而是指明确的问责制、正式的赞助以及AI安全是业务要求的清晰组织授权。

建议：

• 明确AI采用的业务驱动因素
• 使AI举措与业务目标和风险偏好保持一致
• 识别安全、IT、法律、合规、隐私和业务团队的利益相关者
• 建立高管赞助与问责制

构建AI治理计划

75%的安全负责人同意，法律和沟通参与的延迟与不确定性会在事件期间减缓决策速度。⁵ 当事件发生且企业需要知道谁拥有给定AI系统、该系统可访问哪些数据以及谁有权将其下线时，治理使这些问题能在数分钟内得到解答，而非数小时。

建议：

• 定义可接受的AI使用政策和标准
• 建立决策与审批流程
• 定义AI系统和风险的所有权与问责制
• 使治理与监管和合规要求保持一致
• 制定AI风险管理框架

实施可执行的安全与运营护栏

有效的AI治理必须转化为可执行的安全与运营控制措施。否则，政策将成为团队以不同方式解释和应用的指南。这些护栏应适用于AI进入企业的主要方式：公共生成式AI使用、 copilots、SaaS AI功能、内部应用、检索增强生成（RAG）系统、自主智能体、云AI服务和供应商管理平台。

建议：

• 定义身份与访问管理要求
• 定义数据保护、隐私和信息处理控制措施
• 定义监控、日志记录、审计和记录保留需求
• 定义AI开发、采购、集成和部署的标准
• 定义第三方AI服务、模型、平台和供应商的控制措施

培养员工意识与准备能力

技术控制措施解决系统能做和不能做的事情。员工准备能力解决人们会做和不会做的事情——这是需要不同方法的不同问题。有效的AI意识计划必须超越年度通用合规培训，提供实用的角色特定指导；为员工提供在日常工作中做出更好决策所需的知识。

建议：

• 培训员工负责任、获批和禁止的AI使用
• 教育开发者安全的AI设计与开发实践
• 提高数据处理、隐私、输出和安全风险的意识
• 提供AI治理期望的角色特定指导
• 传达明确的例外请求渠道和疑似AI滥用报告方式

在采用前及全生命周期内验证安全

验证应在部署前进行，并在整个生命周期内随着使用扩展持续进行。AI系统会因新功能、新集成、数据源、供应商更新、模型变更、扩展权限和更广泛的业务依赖而变化。启动时进行的审查可能无法反映六个月后系统的风险状况。

建议：

• 在批准前进行AI安全态势评估
• 执行AI应用渗透测试和对抗性测试
• 评估第三方AI解决方案、模型、集成和供应链
• 验证访问控制、数据流、监控和人工监督
• 随着能力发展持续评估AI部署

为AI安全事件做好准备

现有的事件响应（IR）计划可能无法解决AI带来的场景，包括提示滥用、智能体入侵、数据泄露、不安全输出、第三方AI暴露、未经授权的模型使用或AI生成活动成为证据链一部分的事件。将AI特有的事件响应程序和决策标准纳入现有事件响应计划至关重要。

建议：

• 更新事件响应计划以包含以下组件：
• 安全、隐私、法律、技术、业务负责人、模型供应商和其他第三方在事件期间应如何协调
• 定义AI相关的所有权、升级路径和责任
• 开展AI专项桌面演练和运营准备评估
• 培训员工AI驱动的日志记录、监控和取证能力
• 在更广泛的事件响应和危机管理计划中演练AI主题场景

行动：主动保障您的AI解决方案安全

等待威胁暴露其AI安全态势的企业已经落后了。65%的企业表示他们可能在合同到期时更换事件响应提供商——主要驱动因素是需要更主动的准备支持。⁶

需求是明确的。但对大多数企业而言，主动AI安全方法正确执行时是什么样子，却不太清楚。

主动安全方法有三个主要关注领域，可按任意顺序执行并应在AI生命周期内持续进行：

(1) 评估企业在基础设施、应用、数据流和提示行为方面的AI网络态势。

(2) 建立全面的AI治理和使用框架或评估企业现有的框架。

(3) 测试内部开发和外部采用的AI应用针对现实世界对抗性行为的安全性和功能。

结语

企业不仅要获取AI采用的商业价值，还要优先考虑如何减轻未受管理网络风险的引入。为此，需要采用坚实的全生命周期方法，将安全、治理和风险管理整合到AI战略、开发、供应商选择、部署、监控和事件响应中——尤其是当系统访问敏感数据、连接到企业环境或支持关键工作流时。

由于AI威胁和安全框架仍在发展，企业必须定期评估其态势、治理、控制措施和准备能力。主动保障AI安全的企业将在不断扩大的攻击面中减少暴露，同时获得安全大规模采用AI所需的所有权、可见性和信心。

与Sygnia合作

Sygnia深知攻击者如何利用AI攻击面加速其利用能力，以及网络防御者必须采取什么措施来应对这一日益增长的安全风险。了解更多关于Sygnia的AI网络安全服务。