为应对AI监管做准备,有两种方式。
第一种是逐项法规应对。一部新法律出台,合规团队阅读后,安全团队就去构建这部法律似乎要求的内容。接着下一部法律出台,措辞、范围和期限略有不同,循环再次开始。
第二种是逐项控制应对。不再追逐每一部法规,而是找出各项法律和框架中反复出现的安全环节,把它们建设起来,再把每部新法律映射到您已有的控制上。
法律会变,架构会演进,但其底层的安全环节要稳定得多。
第2和第3部分把AI风险追溯到了身份、访问和数据。六项控制把这一基础落到实处。
发现并分类敏感AI数据
首先盘点您的AI系统能够触及的模型制品、训练数据,以及受监管或其他敏感信息。
分类能把一份清单变成优先级列表。它会告诉您哪些存储库存放着模型权重,哪些数据集包含个人数据或受监管数据,哪些文件对业务至关重要。有了这些背景,您就能把更严格的控制用在最重要的地方。
治理访问
一旦知道敏感AI资产存放在哪里,下一个问题就是谁可以触及它们。梳理对存放模型权重、训练数据集、配置和敏感业务数据的存储库的有效访问权限,包括没有人本意授予的权限。
有效访问包括直接权限、继承权限和基于群组的权限,而且往往比预期的更宽。移除陈旧和过度的权限,并让访问审查成为日常运营的一部分,而不是每年一次的突击。写入权限值得格外审视:每一个能修改训练数据或模型文件的身份,都是通向投毒的潜在路径。
减少长期特权
特权访问应当是临时的、经过授权的、可追溯的。长期存在的管理员账户正是攻击者所寻找的目标,也是前沿AI法律明确点名的那类内部人员访问。
即时(JIT)访问用仅在需要时、仅在所需时长内授予的提升访问权限,取代随时可以修改或转移AI资产的账户,并记录谁使用了它以及原因。长期账户越少,值得窃取的凭据就越少。
控制数据进出AI工作流
端点数据防泄漏(DLP)和设备控制管理数据如何通过受管端点流动。在数据外流方向,它们可以阻止模型数据、训练数据或知识产权通过USB设备、浏览器、电子邮件或云服务流出。这也包括阻止员工把敏感内容粘贴到未经批准的AI工具中。
同样的能力在反方向上也同样有效,可以把未经授权的文件和数据挡在AI开发和训练工作流之外。这使得数据流动控制成为一项同时降低数据外泄和投毒风险的单一控制。
保护模型和训练数据的完整性
文件完整性监控和变更跟踪能够检测对训练数据、模型文件、检查点、配置及配套基础设施的未经授权修改。
这是防范投毒的主要检测层,因为变化可能很细微,而模型看上去仍在正常运行。完整性监控会把资产与已知的良好状态进行比对,显示更改了什么、何时更改,以及该更改是否经过授权。没有这一基线,未经授权的修改就难以证明,也很容易被遗漏。
检测、调查和记录
安全团队需要看清整个环境中的可疑访问、身份行为和更改。出问题时,他们还需要审计历史和调查证据,说明谁访问、更改或移动了什么,以及发生在何时。
这些证据支撑事件响应,也支撑监管报告,而多部AI法律对监管报告设定了很紧的时限。报告的说服力取决于其背后的证据,而这些证据必须在事件发生之前就已存在。
六项控制如何相互关联
控制 | 它回答的问题 | 与其他控制的关联 |
|---|---|---|
|
发现与分类 |
我们的敏感AI资产在哪里? |
告诉所有其他控制应当优先保护什么 |
|
治理访问 |
谁可以读取或修改它们? |
缩小其余控制需要监视的身份范围 |
|
减少长期特权 |
目前谁持有特权访问? |
减少可能转移或篡改AI资产的常开账户 |
|
控制数据流动 |
有什么正在离开或进入AI工作流? |
依靠分类来判断应阻止哪些数据 |
|
保护完整性 |
有没有不该变的东西发生了变化? |
为调查人员提供可供比对的已知良好基线 |
|
检测、调查和记录 |
我们能否证明发生了什么? |
利用其他所有控制产生的访问和更改记录 |
没有哪项控制是孤立运作的。每一项都依赖另一项,或使另一项更加有效。在第5部分中,我们将探讨这些控制如何作为生命周期协同运作,以及Netwrix处于什么位置。
系列的下一篇: 第5部分,保护AI需要采用生命周期方法。
分享到
了解更多
关于作者
Istvan Molnar
IT 安全合规专家与产品市场经理
Istvan Molnar 是 Netwrix 的资深 IT 安全合规专家和产品市场经理,拥有十多年在国际标准、法规和网络安全框架方面的专业经验。他专注于连接复杂的合规要求与 Netwrix 产品组合之间的差距,为合规驱动的举措和市场进入策略提供战略指导、有吸引力的内容以及支持。