AI合规准备是一个没有终点、可重复的过程:了解您与AI相关的资产,控制对它们的访问,保护敏感信息,并在监管机构、审计人员、客户或高管询问风险如何管理时提供证据。
五个步骤构建这一过程。
步骤1:发现敏感AI数据
识别模型制品、训练数据、受监管数据、知识产权,以及与AI工作流相连的存储库。然后对发现的内容进行分类,把需要最强控制的数据与其余数据区分开来。之后的每一步都从这份清单出发。
步骤2:了解谁可以访问
梳理对这些资产的直接访问、继承访问、基于群组的访问、特权访问和服务账户访问。把非人类身份也包括在内,例如服务账户和智能体身份,它们可能持有环境中最广泛的访问权限。要特别关注任何对训练数据集或模型存储库拥有写入权限的身份,因为那些就是潜在的投毒路径。
步骤3:减少不必要的访问
移除陈旧的权限,并与了解这些权限的业务负责人一起认证访问权利。减少长期特权,把管理工作转移到即时访问上。您每移除一项权限,攻击者、内部人员或AI工具可利用的路径就少一条。
步骤4:保护AI资产免遭盗窃和修改
对您的AI资产应用数据防泄漏、设备控制、访问限制、文件完整性监控和事件跟踪。目标是阻止未经授权的数据传出AI工作流,阻止有风险的数据流入,并检测未经授权的修改。
步骤5:持续监控、检测和报告
监控可疑的访问和更改。保留取证证据。提前定义响应工作流,并把事件报告作为AI治理运营模式中的常设环节。多部AI法律规定了很短的报告时限,而在计时开始之后,您是来不及建立检测能力的。
检验您准备程度的七个问题
这七个问题能显示您目前所处的位置。如果您的团队能毫不犹豫地回答所有问题,说明您处于有利位置。如果其中有些问题让讨论陷入停滞,就从那里开始。
AI治理始于身份和数据安全
您不需要从零开始构建每一项控制。AI系统依赖的身份、权限、数据存储库、端点和基础设施,都是您的安全团队已在管理的。加强这些层面既能应对眼前的AI风险,也能打下随要求变化而不断适应的基础。
当身份与数据一并得到治理时,组织就能更好地保护AI资产、减少暴露面,并应对下一部AI法规提出的任何要求。
从头开始阅读本系列,请看第1部分,人工智能监管正在具体化。以下是其要求。
分享到
了解更多
关于作者
Istvan Molnar
IT 安全合规专家与产品市场经理
Istvan Molnar 是 Netwrix 的资深 IT 安全合规专家和产品市场经理,拥有十多年在国际标准、法规和网络安全框架方面的专业经验。他专注于连接复杂的合规要求与 Netwrix 产品组合之间的差距,为合规驱动的举措和市场进入策略提供战略指导、有吸引力的内容以及支持。