多年来,这只是一个潜在风险。要找到这些文件,需要浏览文件夹、打开文档并手动拼凑信息,大多数人永远不会这样做。
现在,给这位员工配一个以其权限运行的AI助手。只需提出一个宽泛的问题,它就能在几秒钟内搜索、检索并汇总该身份可以触及的一切。那个被遗忘的成员身份,如今成了真实的暴露面。
AI并不在企业之外运行。它连接到员工已在使用的同一批存储库、协作平台、端点、目录和应用程序。而当AI系统通过用户身份或服务身份行事时,现有权限决定了它能访问什么。
AI治理背后的访问问题
如果AI继承了您的访问模型,那么AI治理就要从这样一个问题开始:
谁可以访问哪些敏感数据,这种访问是否依然合理?
回答这个问题需要两个常常被分开管理的视角。身份安全回答的是谁可以访问资源。数据安全回答的是哪些信息是敏感的。单独来看,每个视角都不完整。如果不知道共享文件夹里有什么,知道有400人可以访问它并没有多大意义。如果不知道谁可以访问,知道某个共享文件夹存放着受监管数据也没有多大意义。
AI治理取决于把这两者连接起来。
AI放大现有风险的三种方式
1. 权限泛滥变成AI暴露
继承的权限、陈旧的群组、访客账户和权限过高的用户,会随着环境老化不断累积。有了AI助手和智能体,宽泛的访问就变成了宽泛的检索。业务负责人常常对AI工具能够调出的内容感到惊讶,因为他们从未意识到自己的用户原本就能触及多少内容。
2. 特权身份成为高价值目标
管理员账户、服务账户以及AI智能体使用的身份,可能对AI基础设施和数据拥有广泛的访问权限,包括模型存储库、训练流水线、配置及周边系统。如果这种访问是长期有效的,一个被入侵的凭据就足以窃取模型资产,或惄惄修改训练数据。
3. 敏感数据经由新渠道流动
AI为数据开辟了新的流动路径。员工为了更快完成工作,把受监管或机密的内容粘贴到AI工具中。接入AI的应用程序会从原本并非为AI规模检索而设计的存储库中调出数据。而在AI开发环境中,未经审核的文件可能进入训练工作流。传统控制在设计时并未考虑这些渠道。
从AI风险到安全控制
这三者都是已经存在的身份、访问或数据问题,只是AI让它们变得更快、更大、更难以忽视,因此降低AI暴露面要依靠安全团队早已熟悉的各项工作:
- 了解您拥有哪些敏感数据和AI资产。
- 弄清楚谁可以访问或修改它们。
- 控制数据如何进出AI工作流。
- 检测未经授权的更改和可疑活动。
这些优先事项可归纳为六项核心安全控制。在第4部分中,我们将逐一讲解,并说明为什么基于控制的方法比逐项追赶各项法规更经得起时间考验。
系列的下一篇: 第4部分,比任何单一AI法规都更持久的六项控制。
分享到
了解更多
关于作者
Istvan Molnar
IT 安全合规专家与产品市场经理
Istvan Molnar 是 Netwrix 的资深 IT 安全合规专家和产品市场经理,拥有十多年在国际标准、法规和网络安全框架方面的专业经验。他专注于连接复杂的合规要求与 Netwrix 产品组合之间的差距,为合规驱动的举措和市场进入策略提供战略指导、有吸引力的内容以及支持。