長年、これは潜在的なリスクにとどまっていました。それらのファイルを見つけるには、フォルダーを開き、文書を開き、情報を手作業で組み合わせる必要があり、ほとんどの人はそこまでしなかったからです。
では、その従業員の権限で動作するAIアシスタントを与えたらどうなるでしょうか。広範な質問を投げかけるだけで、そのIDが到達できるあらゆる情報を数秒で検索、取得、要約できます。忘れられていたメンバーシップが、今や現実のエクスポージャーになります。
AIは企業の外で動くわけではありません。従業員がすでに使っているものと同じリポジトリ、コラボレーションプラットフォーム、エンドポイント、ディレクトリ、アプリケーションに接続します。そして、AIシステムがユーザーIDやサービスIDを通じて動作する場合、アクセスできる範囲は既存の権限によって決まります。
AIガバナンスの背景にあるアクセスの問い
AIがアクセスモデルをそのまま引き継ぐのであれば、AIガバナンスは次の問いから始まります。
誰がどの機密データにアクセスできるのか。そのアクセスは今も妇当か。
これに答えるには、しばしば別々に管理されていう2つの視点が必要です。IDセキュリティは、誰がリソースにアクセスできるかに答えます。データセキュリティは、どの情報が機密かに答えます。それぞれ単独では不十分です。400人が共有フォルダーにアクセスできると知っても、中身がわからなければ得られる情報は多くありません。共有フォルダーに規制対象データがあると知っても、誰がアクセスできるのかがわからなければ同じです。
AIガバナンスは、この2つをつなぐことにかかっています。
AIが既存のリスクを増幅すい3つの経路
1. 権限の乱立がAIのエクスポージャーになる
継承された権限、古いグループ、ゲストアカウント、過剰な権限を持つユーザーは、環境が古くなるほど蓄積します。AIアシスタントやエージェントの登場により、広いアクセスは広い取得につながります。ビジネスオーナーは、AIツールが見つけ出す内容に驚くことがよくあります。ユーザーがすでにどれほど多くのものに到達できたのか、気づいていなかったからです。
2. 特権IDが価値の高い標的になる
管理者アカウント、サービスアカウント、AIエージェントが使うIDは、モデルのリポジトリ、学習パイプライン、設定、周辺システムなど、AIのインフラとデータへの広範なアクセス権を持つことがあります。そのアクセス権が常時付与されている場合、資格情報が1つ侵害されるだけで、モデル資産を盗んだり、学習データをひそかに変更したりできてしまいます。
3. 機密データが新しい経路で移動する
AIはデータが移動する新しい経路を生み出します。従業員は作業を速めるために、規制対象や機密のコンテンツをAIツールに貼り付けます。AIと接続されたアプリケーションは、AI規模での取得を想定して設計されていないリポジトリからデータを引き出します。さらに、AI開発環境では、未検証のファイルが学習ワークフローに紛れ込むことがあります。従来のコントロールは、こうした経路を想定して作られていません。
AIリスクからセキュリティコントロールへ
この3つはいずれも、AIによってより速く、より大規模に、より無視しにくくなった、既存のID、アクセス、データの問題です。したがって、AIのエクスポージャーを減らす取り組みは、セキュリティチームがすでによく知る分野に基づきます。
- 保有する機密データとAI資産を把握する。
- 誰がそれらにアクセスまたは変更できるかを把握する。
- AIワークフローに出入りするデータの移動を制御する。
- 不正な変更と不審なアクティビティを検知する。
これらの優先事項は、6つの中核となるセキュリティコントロールにつながります。第4部では、それぞれを順に取り上げ、規制を1つずつ追いかけるより、コントロールに基づくアプローチのほうが長く有効である理由を説明します。
シリーズの次: 第4部、あらゆるAI規制より長く役立つ6つのコントロール。
共有する
もっと詳しく
著者について
Istvan Molnar
IT セキュリティ コンプライアンス スペシャリスト兼プロダクト マーケティング マネージャー
Istvan Molnar は Netwrix の IT セキュリティ コンプライアンス スペシャリストおよびプロダクト マーケティング マネージャーで、国際的な標準、規制、サイバーセキュリティ フレームワークに関する 10 年以上の専門知識を持っています。彼は、複雑なコンプライアンス要件と Netwrix のプロダクト ポートフォリオの間にあるギャップを埋めることに強みを持ち、コンプライアンス主導の取り組みやゴートゥマーケット戦略に向けて、戦略的な助言、魅力的なコンテンツ、サポートを提供します。