在过去的几年里,AI治理主要围绕透明度、公平性和问责制等价值观展开。这些原则很重要,但很难交给安全团队。你无法在文件服务器上配置公平性。
但情况正在改变。一波新的AI法律和安全框架正在将广泛的原则转化为操作预期:谁可以访问AI系统,数据如何被保护,完整性如何维护,以及如何检测和报告事件。换句话说,AI监管正在将安全控制转变为业务需求。
本系列解析了这一转变对安全与合规领导者的意义,以及如何在无需从头重建安全计划的情况下做好准备。
没有单一的AI合规清单
人工智能的监管不是单一的。不同的法律适用于不同的组织、系统和使用场景。训练前沿规模模型的公司面临的义务与使用人工智能对客户进行自动化决策的企业截然不同。自愿性框架与可执行法规并存,各自具有不同的分量。
以下是安全领导者所面临环境的简化视图:
来源 | 主要关注点 | 安全团队为何应当关注 |
|---|---|---|
|
California SB 53, New York RAISE Act, Illinois AISMA |
前沿AI开发者 |
保护未发布的模型权重、事件可见性与报告 |
|
欧盟《人工智能法案》 |
基于风险的AI监管 |
高风险系统的网络安全韧性,包括机密性攻击、数据投毒和模型投毒 |
|
Texas TRAIGA, Colorado ADMT |
AI使用、数据与消费者保护 |
个人数据安全、数据文档以及部分治理要求 |
|
NIST AI RMF |
自愿性AI风险管理 |
安全与韧性,包括未经授权的访问、数据外泄和数据投毒 |
|
OWASP LLM Top 10, MITRE ATLAS |
AI技术威胁与缓解措施 |
敏感数据暴露、过度代理权限、凭据滥用、数据外泄和投毒 |
|
ISO/IEC 42001 |
AI管理体系 |
治理、生命周期、数据、监控和管理体系控制 |
逐行阅读,表格显得支离破碎:针对少数AI开发者的州法律、全面的欧盟法规、消费者保护规则、自愿框架、威胁目录以及管理体系标准。
但沿着右侧一列往下读,同样的词不断出现:访问、数据外泄、投毒、完整性、监控和事件报告。
从原则到控制
立法者和标准机构按照各自的时间表,为不同的受众和不同的执行模式工作。然而,他们正在趋向于一套可识别的安全期望。
与其每遇到一条新法规就问“哪条AI法律适用于我们,它说了什么?”,安全负责人更应问一个更持久的问题:“哪些安全控制措施反复出现,我们是否具备这些措施?”
监管地图将持续变化。新的州法律将通过,框架将被修订,AI架构将从聊天助手发展为自主代理。围绕单一法规逐条构建意味着每次规则变化都要重建。基于重复控制构建的程序将能够适应。
人工智能安全与企业安全密不可分
AI系统不会孤立运行。它们依赖于您的组织已管理的相同identities、permissions、data stores、endpoints和基础设施。
模型的权重存放在有人可以访问的存储库中。训练数据存储在带有权限的文件共享和数据平台中。AI 助手通过用户和服务账户操作,代理使用凭据,所有这些都运行在您的团队已保护的端点和服务器上。
加强您已在运行的身份、访问和数据方面的控制,是迈向AI合规准备的切实可行之路。
两个需求不断出现
法律和框架中贯穿着两个技术要求:
- 保护AI模型及相关资产,防止未经授权的访问或外泄。 模型权重和AI工件是宝贵的知识产权,对某些开发者来说,这已成为明确的监管关注点。
- 保护训练数据和模型逻辑,防止未经授权的修改或投毒。 如果有人能更改模型学习的数据或模型本身,就能改变其行为。
一个是关于盗窃,另一个是关于篡改。在第二部分中,我们将详细探讨每个问题,以及为何相同的安全基础可以解决两者。
系列的下一篇: 第二部分,盗窃和篡改:AI安全要求背后的两个风险。
本系列文章
分享到
了解更多
关于作者
Istvan Molnar
IT 安全合规专家与产品市场经理
Istvan Molnar 是 Netwrix 的资深 IT 安全合规专家和产品市场经理,拥有十多年在国际标准、法规和网络安全框架方面的专业经验。他专注于连接复杂的合规要求与 Netwrix 产品组合之间的差距,为合规驱动的举措和市场进入策略提供战略指导、有吸引力的内容以及支持。