AI規制への備え方は2通りあります。
1つ目は、規制ごとに対応する方法です。新しい法律が成立すると、コンプライアンスチームがそれを読み、セキュリティチームがその法律が求めていそうなものを構築します。やがて、文言、適用範囲、期限が少しずつ異なる次の法律が成立し、同じことが繰り返されます。
2つ目は、コントロールごとに対応する方法です。個々の法令を追いかけるのではなく、法律やフレームワークに繰り返し現れるセキュリティ分野を特定して構築し、新しい法律をすでにあるコントロールに対応づけます。
法律は変わり、アーキテクチャも進化しますが、その根底にある分野ははるかに安定しています。
第2部と第3部では、AIリスクをID、アクセス、データにたどりました。6つのコントロールは、この土台を実践に移します。
機密性の高いAIデータの検出と分類
まず、AIシステムが到達できるモデルのアーティファクト、学習データ、規制対象またはその他の機密情報を棚卸しします。
分類によって、棚卸しは優先順位のリストになります。どのリポジトリにモデルの重みがあり、どのデータセットに個人データや規制対象データが含まれ、どのファイルが事業上重要かがわかります。この文脈があるからこそ、最も重要な箇所により強力なコントロールを適用できます。
アクセスのガバナンス
機密性の高いAI資産がどこにあるかがわかったら、次の問いは誰がそれらに到達できるかです。モデルの重み、学習データセット、設定、機密性の高い業務データを保持するリポジトリへの実効アクセスを洗い出します。誰も付与するつもりのなかった権限も含まれます。
実効アクセスには、直接付与された権限、継承された権限、グループベースの権限が含まれ、想定より広いことがよくあります。古い権限や過剰な権限を削除し、アクセスレビューを年1回の駆け込み作業ではなく、通常の運用の一部にしてください。書き込みアクセスには特に注意が必要です。学習データやモデルファイルを変更できるIDはすべて、ポイズニングにつながりうる経路だからです。
常時付与された特権の削減
特権アクセスは、一時的で、承認され、追跡可能であるべきです。常時有効な管理者アカウントは、攻撃者が狙うものであり、フロンティアAI法が明示している種類の内部者アクセスでもあります。
ジャストインタイムアクセスは、AI資産をいつでも変更または転送できるアカウントを、必要なときに必要な時間だけ付与される昇格アクセスに置き換え、誰がいつ何のために使ったかの記録も残します。常時有効なアカウントが減れば、盗む価値のある資格情報も減ります。
AIワークフローに出入りするデータの移動の制御
エンドポイントのデータ損失防止(DLP)とデバイス制御は、管理対象のエンドポイントを通じてデータがどう移動するかを管理します。外部への流出では、モデルデータ、学習データ、知的財産がUSBデバイス、ブラウザー、メール、クラウドサービスを通じて持ち出されるのを防げます。従業員が機密性の高い内容を未承認のAIツールに貼り付けるのを止めることも含まれます。
同じ機能は逆方向にも働き、未承認のファイルやデータがAIの開発・学習ワークフローに入り込むのを防ぎます。そのため、データ移動の制御は、データ持ち出しとポイズニングの両方のリスクを減らす1つのコントロールになります。
モデルと学習データの整合性の保護
ファイル整合性監視と変更追跡は、学習データ、モデルファイル、チェックポイント、設定、支援インフラへの不正な変更を検知します。
変更は微妙なことがあり、モデルも正常に動作しているように見えるため、これがポイズニングに対する主な検知レイヤーです。整合性監視は、資産を既知の正常な状態と比較し、何が、いつ変更され、その変更が承認されたものかを示します。このベースラインがなければ、不正な変更は証明しにくく、見逃しやすくなります。
検知、調査、文書化
セキュリティチームには、環境全体での不審なアクセス、IDの挙動、変更を可視化することが求められます。問題が起きたときには、誰が何にアクセスし、変更し、移動したのか、そしていつなのかを示す監査履歴と調査証拠も必要です。
その証拠はインシデント対応を支えます。複数のAI法が厳しい期限を課している規制当局への報告も支えます。報告の強さは、その裏付けとなる証拠の強さで決まり、その証拠はインシデントが起きる前に存在していなければなりません。
6つのコントロールのつながり
コントロール | 答える問い | 他のコントロールとのつながり |
|---|---|---|
|
検出と分類 |
機密性の高いAI資産はどこにあるか。 |
他のすべてのコントロールに、何を最初に守るべきかを伝える |
|
アクセスのガバナンス |
誰がそれらを読み取りまたは変更できるか。 |
残りのコントロールが監視すべきIDの範囲を絞り込む |
|
常時付与された特権の削減 |
今、誰が特権アクセスを持っているか。 |
AI資産を移動または改変できる常時有効なアカウントを減らす |
|
データ移動の制御 |
AIワークフローから何が出ていき、何が入ってくるか。 |
どのデータをブロックするかを判断するために分類に依存する |
|
整合性の保護 |
変更されるべきでないものが変更されていないか。 |
調査担当者に、比較対象となる既知の正常なベースラインを提供する |
|
検知、調査、文書化 |
何が起きたかを証明できるか。 |
他のすべてのコントロールが生成するアクセスと変更の記録を活用する |
単独で機能するコントロールはありません。それぞれが別のコントロールに依存するか、別のコントロールをより効果的にします。第5部では、これらのコントロールがライフサイクルとしてどう連携するか、そしてNetwrixがどこに位置づくかを見ていきます。
シリーズの次: 第5部、AIの保護にはライフサイクルアプローチが必要です。
共有する
もっと詳しく
著者について
Istvan Molnar
IT セキュリティ コンプライアンス スペシャリスト兼プロダクト マーケティング マネージャー
Istvan Molnar は Netwrix の IT セキュリティ コンプライアンス スペシャリストおよびプロダクト マーケティング マネージャーで、国際的な標準、規制、サイバーセキュリティ フレームワークに関する 10 年以上の専門知識を持っています。彼は、複雑なコンプライアンス要件と Netwrix のプロダクト ポートフォリオの間にあるギャップを埋めることに強みを持ち、コンプライアンス主導の取り組みやゴートゥマーケット戦略に向けて、戦略的な助言、魅力的なコンテンツ、サポートを提供します。