医療におけるAIガバナンス：コンプライアンスとセキュリティ

医療機関はAIを導入する速度が、それを管理するガバナンスを構築する速度よりも速かった。医療システムの88％がすでに内部でAIを使用していますが、成熟したAIガバナンス構造と完全なAI戦略を持つのはわずか18％です。

Healthcare Financial Management Associationは、Health System Readiness for AIにおける2025年5月の230人以上の医療システム幹部への調査結果を報告しました。

AIは調達を通じて到着することはほとんどなく、そのため在庫を上回ります。Microsoft 365 Copilotのライセンスは既存の契約に追加され、環境ドキュメント機能は電子カルテ（EHR）に組み込まれ、臨床医は個人のデバイスを使用します。

Wolters Kluwerの2025年12月のShadow AI Reportは518人の病院提供者と管理者を調査し、57％が許可されていないAIツールに遭遇または使用したことがあると判明しました。

AIツールが何にアクセスできるかを知らないことは、取締役や監査人がどのツールが保護された健康情報（PHI）に関わっているか、誰が所有しているか、そして管理が機能している証拠は何かを尋ねた瞬間に、説明責任の問題になります。

医療におけるAIガバナンスとは何ですか？

医療におけるAIガバナンスとは、AIシステムがPHIにどこで関わるか、各ユースケースの責任者が誰か、そしてそのアクセスに関する管理が機能していることを証明できるかを把握する学問です。組織は書面によるポリシーを証拠とみなしますが、それは意図を説明するだけであるため、3番目の要素を過小評価しています。

取締役会の委員会や外部監査人が、組織がその場で特定のAIツールがどこにアクセスし、誰が所有しているかを言えるかどうかをテストしています。ほとんどの医療機関は言えません。Copilot pilots、組み込みベンダーAI、および会話型ツールが、セキュリティがそれらをカタログ化し終える前にPHI隣接システムにアクセスするためです。

その結果は侵害データに現れています。 Netwrix 2026 Data and Identity Security Reportは、AIがアイデンティティのフットプリントを大幅に増加させた組織で過去12か月間に43％の侵害率を記録し、AIが大きく変化させていない組織では11％でした。

その報告書の背後にある調査では、組織のわずか21％がAIツール、モデル、またはコパイロットが使用する機密データに対して完全な可視性、監視、および管理を持っていることも判明しました。

なぜ医療分野は異なるレベルのAIリスクを伴うのか

AIガバナンスの一般的なケースは、評判リスクと運用リスクに基づいています。医療分野では、露出は規制されており、データは非常に価値が高く、責任はモデルを作成した者ではなく提供者にあります。 医療のサイバーセキュリティはすでにその非対称性を持っています。

盗まれた医療記録は決して消えません

ほとんどの規制対象データには有効期限があり、侵害の価値を制限します。盗まれた支払いカードは数日以内にキャンセルされ再発行されます。医療記録には診断、保険の詳細、人口統計、社会保障番号が含まれており、これらは再発行できないため、侵害後何年も悪用され続けます。

したがって、医療分野は他の業界が無料で得る制限に頼ることはできません。PHIにアクセスするAIツールは、有効期限のない露出を生み出し、アクセス設計のミスの確率だけでなくコストも増加させます。

ベンダーが違反を引き起こした場合でも、プロバイダーが責任を負います

HIPAAの対象となる医療機関は、規則でカバードエンティティと呼ばれ、どのモデルが処理してもPHIに対して法的責任を負います。これが、ベンダー契約でリスクを移転できる規制のない分野でのAI調達と、ここでのAI調達を区別する点です。すべての他のシステムに適用されるHIPAAコンプライアンス規則はAIにも変更なく適用されます。

米国保健福祉省（HHS）市民権局（OCR）は、患者ポータルでPHIを扱うサードパーティのAIチャットボットをbusiness associateとして扱っており、これはクラウドプロバイダーに適用するのと同じステータスです。Business associatesは独自の直接的な義務を負い、それによってプロバイダーの義務が軽減されることはありません。OCRは以前にベンダーの失敗に関してプロバイダーと和解しており、その中にはNorth Memorial settlementがビジネスアソシエイト契約（BAA）の欠如に関連しています。

1つのレビュー プロセスでは、病院が運用する両方の種類のAIをカバーできません

ほとんどの業界は一種類のAIを導入し、一つの方法で管理しています。病院では二つを同時に運用しており、それぞれ異なる失敗をするため、一つのレビュー過程では見逃してしまいます。

診断ツールは、誤ったまたは偏った推奨で患者に届くと失敗し、これは臨床リーダーシップおよびしばしばFDAにとって患者の安全性の問題です。生産性アシスタントは、PHIを決して見てはいけない人に表示して失敗し、これはセキュリティのアクセス制御の問題です。両方を同じ委員会で扱うと、管理ツールは不要な臨床スタイルの精査を受ける一方で、誰も実際に何にアクセスできるかを問わなくなります。

医療分野の侵害は他のどこよりも費用がかかります

医療分野は10年以上にわたり、あらゆる業界で最も高い平均データ侵害コストを保持しており、2026年には664万ドルに達しました（2025年の742万ドルから減少）IBM's Cost of a Data Breach Report。他のどの業界もこれほど長くトップに留まっていません。

その数字こそが、AIアクセス設計がITの問題ではなく取締役会レベルの問題であることを示しています。間違えた場合の代償を設定し、通常は取締役会がブリーフィングで覚えている数字です。

医療における臨床AIと管理AIの違い

ガバナンスは、ケアを支援するAIと、その周辺作業を処理するAIの間で分かれます。各側には異なる所有者、規制当局、そして答えるべき異なる質問があります。

臨床AIの検証は独自の規制体制を持つ重要な分野であり、データ可視化プラットフォームが解決すべきものではありません。管理AIはセキュリティ、IT、プライバシーに属し、取締役会が実際に問うアクセスの問題がここにあります。

米国の規制当局が医療におけるAIにどのように対応しているか

連邦の規則制定、認定、州の立法はすべて進行中であり、最終規則を待ってから行動する必要はありません。規制当局はAIを既存の義務の延長とみなしているため、新しい要件はすでに運用されているHIPAAシステムに適用されます。

HIPAAセキュリティルールの更新でAIが直接言及されました

HHSは、規則制定案の通知（NPRM）をHIPAAセキュリティルールについて発行し、人工知能を明確に扱っています。提案されたリスク分析基準は電子保護健康情報（ePHI）に対してAIツールを直接指定しています。「人工知能ツールがアクセスするePHIの種類と量、データが開示される相手、出力が提供される相手について繰り返し考慮すること」を要求しています。

規則は提案されたままであり、OCRは現在のSecurity Ruleを引き続き施行しています。HIPAA risk analysesを実施している対象団体は、AIツールがePHIとどのように連携するかをすでに文書化している必要があります。

Joint CommissionはAIガバナンスを認証します

Joint CommissionはResponsible Use of AI in Healthcare certificationを2026年6月1日に開始しました。これは、AI製品自体ではなく、医療システムがAIを管理する方法に基づいた最初の認証プログラムです。

組織またはシステムレベルで認証を付与し、その基準はガバナンス、データ管理、リスクおよびバイアスの軽減、監視と検証、透明性およびトレーニングをカバーしています。

認証は任意ですが、認定機関は調査の会話で基礎となる期待が表面化することを予想すべきです。

州のAI法がHIPAAの上に重ねられています

州の法律は連邦の法律を置き換えるのではなく義務を追加するため、州をまたいで運営される医療システムは、ケアが提供される場所によって異なる要件を引き継ぎます。

テキサス州のResponsible Artificial Intelligence Governance Actは、Texas Responsible Artificial Intelligence Governance Actが2026年1月1日から医療提供者がAIを使用する際に患者への開示を義務付けており、カリフォルニア州のAB 3030は患者の臨床情報に関する生成AIのコミュニケーションに免責事項を要求しています。

連邦の優先権は、その負担を軽減する可能性は低いようです。上院は 2025年7月に99対1で投票し 予算調整法案から州のAI規制に対する10年間のモラトリアムを削除し、多州にまたがる事業者に累積的で管轄ごとの義務を残しました。

FDAおよびEU AI Actの義務は臨床範囲にとどまります

FDAによるAI対応医療機器の監督およびEU AI Actの高リスク規則の両方が実際の要件を課しており、主に診断や治療に関わるAIに適用されます。行政用AIを評価するチームは、各ツールがどのカテゴリに属するかを確認すべきです。周辺の文書化やトリアージツールは、ベンダーが示すよりも臨床の範囲に近いためです。

Microsoft 365 Copilotが独自のガバナンス議論に値する理由

Copilotは、ほとんどの医療システムがテナント全体に展開する唯一の管理用AIツールであり、権限には何も変更を加えず、誰がそれを認識するかをすべて変えるため、別の扱いが必要です。

MicrosoftのドキュメントはCopilotは「個々のユーザーが少なくとも閲覧権限を持つ組織データのみを表示する」と述べています。したがって、すべてのガバナンスの問題はこれらの権限が既に許可している内容に依存しており、ポリシードキュメントでは対応できない3つの問題が生じます。

• 労力が減り、休眠していたアクセスが利用されます：すでにSharePointでファイルを開いたりメールボックスを検索できた人が、今ではCopilotに要約を依頼したり、別の会話で表示したり、ドラフトに取り込んだりできます。権限は常に存在していました。減るのは、それを行使するための作業で、意図的な検索から自然言語の一文に変わります。
• 過去の過剰共有が現在の露出に変わる：広範な共有リンク、古くなった権限、そして組織再編以来誰も見直していないグループメンバーシップは、何かが高速でそれらを読み始めるまでは無害に存在します。ヘルスケアテナントでのCopilotのライセンスがその瞬間であり、だからこそCopilot data securityは権限監査から始まります。
• 誤った臨床医にPHIを表示することはHIPAA違反です: 過剰に共有されたコンテンツがPHIの場合、それを必要としないユーザーに見せることはHIPAAの最小限必要基準（45 CFR 164.502(b)）に違反します。感度ラベルの暗号化は、Copilotがコンテンツを要約するために抽出権限を必要とするため、露出を実質的に変えます。

この作業を行った医療システムでは、テナント全体の展開前に数百万件の個別共有修正が行われており、準備はチェックボックスではなくプロジェクトであると報告しています。

医療AIガバナンスプログラムの構築方法

これらの決定のそれぞれは、それを行い仕事を委任するリーダーに属し、順序通りに行われる必要があります。インベントリが存在する前に所有者を指定すると、その人はまだ管理すべきものがありません。

単一の責任者を指名してください

「AIガバナンス委員会が対応する」と名前のある個人がいなければ、これらのプログラムは停滞します。その人物がセキュリティ、コンプライアンス、ITのどこに所属しているかは重要ではなく、一人の責任者がいることが重要です。これはHIPAAのプライバシー担当者がプライバシーに責任を持つのと同じです。Joint Commissionのガイダンスは ライフサイクル全体でAI実装を主導する責任者の指名を求めています。

各ツールが実際に到達できる範囲に基づいてインベントリを作成してください

臨床、管理、または組み込みのワークフローに関わるすべてのAIシステムをカタログ化し、それぞれがアクセスできるPHIまたはPHIに隣接するデータをマッピングします。各エントリを失敗の判断ができる所有者にルーティングし、診断ツールは臨床レビューへ、生産性ツールはセキュリティへ送ります。

ほとんどのインベントリは何もない状態から始まります。なぜなら、発見自体が通常は非公式だからです。2025年12月の51の医療機関を対象とした調査で、CensinetとCHIME Foundationは、51％が自分たちが使用しているAIを知るために非公式のアドホックな発見やベンダーのリリースノートに頼っていることを発見しました。Shadow AIのセキュリティリスクはその発見が非公式のままである限り蓄積されます。

ベンダーおよびBAAのカバレッジがAIの実際の使用方法と一致していることを確認してください

PHIを作成、受信、維持、または送信するすべてのAIベンダーは、ベンダーのAIがPHIを処理、保存、保持する方法を扱うBAAが必要です。AIが製品に導入される前に署名された標準的なBAAは、契約が有効であっても実際の責任のギャップを残すため、ベンダーの製品更新が更新日よりもレビューを促すべきです。

対象サービス、データ使用、保持、下請け業者、セキュリティ条件を具体的に確認してください。署名済みのBAAは、ベンダーに顧客データの広範な使用権を付与する別の条件を上書きしないため、標準サービス契約とBAAを併せて確認してください。適用範囲は製品ラインによっても異なります。OpenAIはRegulated Workspaceを使用する適格なChatGPT Enterpriseの展開にBAAを提供し、ChatGPT Businessは対象外です。

インベントリで見つかった内容に基づいてデータとアイデンティティのコントロールを設定する

アクセス制限と監視は、実際にインベントリで明らかになった露出に対応する必要があります。AIが到達可能なシステムが誰にも知られていなかった時に書かれた最小権限の言語は、監査人の追及質問に耐えられません。インベントリされたシステムに範囲を限定したidentity and access managementのリスク評価が、その具体性をもたらします。identity and access management risk assessment scoped to the inventoried systems produces that specificity.

結果として得られるコントロールは、方針の声明ではなく具体的なものであるべきです。インベントリでCopilotが患者の人口調査スプレッドシートを保持するファイル共有にアクセスできることが示されている場合、その共有に対するpermission remediationが、日付と所有者付きで必要です。

監視およびエスカレーションの経路を設定する

プログラムには、AIによるPHIの露出をリアルタイムで検出する方法と、検出時にエスカレーションする指定担当者が必要です。検出とは、AIツールが読み取るリポジトリを監視することであり、これは通常のファイルアクセス監視が新しい利用者に向けられていることを意味します。エスカレーションがなければ、問題の最初の兆候はガバナンスレビューが必要な場所でのインシデント報告となります。

NIST AI RMFとHIPAAを運用モデルとして使用する

NIST AI RMFは医療AIガバナンスプログラムの構造を提供し、HIPAAは法的詳細を提供します。これらが組み合わさることで、カスタムフレームワークの必要性がなくなります。

NISTの4つの機能はガバナンスプログラムに明確に対応しています。Governは指定された責任者、Mapはインベントリ、Measureは各ユースケースの実際のリスク評価、Manageは継続的な管理と監視です。このサイクルは一度きりの設定ではなく、継続的に実行されます。

インベントリの期待は明確です。Subcategory GOVERN 1.6はAIシステムのインベントリメカニズムを求めており、NPRMの提案する技術資産インベントリは同じ期待を規制化します。

HIPAAのプライバシーおよびセキュリティ規則は、PHIが関与する場合にその構造の下で法的義務を提供します。これらは一緒に広範で明確な枠組みを作り、どちらの枠組みも正式な認証を必要としません。

PHIアクセスが実際に管理されていることを証明する証拠

監査人や取締役会の委員会は証拠資料を求めますが、ほとんどのプログラムが失敗するのはその取得段階です。作業は行うものの、証拠が6つのシステムと4人の受信箱に散らばってしまいます。質問が来る前に、各証拠資料が存在していなければなりません。

名前付き所有者がいる最新のAIシステムインベントリ

すべてのカタログ化されたシステムは、部門ではなく名前のある個人に紐づけられており、監査人が特定のCopilot拡張を誰が承認したか尋ねたときに答えられます。エントリには、システムがアクセスできるPHIも記録されるべきであり、インベントリとデータフローマップが別々の文書に分離されずに整合性を保つようにします。

PHIがAIツールに入る場所を示すデータフローマップ

PHIがAIツール、プロンプト、ファイル、埋め込み、または出力に入るすべての場所は、機微データ検出ツールによって各経路に沿って特定されます。提案されているHIPAAセキュリティ規則では、少なくとも年1回更新されるePHIネットワークマップが必要とされており、この成果物は良い慣行というより規制要件に向かっています。

各AIツールに特化したベンダーおよびBAAのドキュメント

各ベンダーが提供する特定のAI機能に紐づいたドキュメントであり、一般的なBAAフォルダではなく、プログラム設定時に確認されたカバレッジに合わせたものです。そのようなフォルダは、レビュアーが実際に尋ねている質問には答えません。

PHI隣接システムにアクセスできるユーザーを示すアクセスおよび権限レポート

AIツールがどこまで見えるかの時点での回答であり、ツール自身の設定画面ではなく、基盤となるリポジトリにアクセス権を持つIDやグループを指します。Copilotの設定は既に持っている権限で何をするかを示しているため、ツールだけに基づくレポートは範囲を過小評価します。レビュアーは、ネストされたグループを通じて継承されたアクセスを含む実効権限について尋ねています。

そのアクセスがいつ変更されたかを示す変更ログ

前回のスナップショット以降の数か月間のアクセスの変動は、以前より広がったり狭まったりしており、単一のアクセスレポートだけでは示せません。その傾向こそが監査人が実際に見たいものです。

プログラムが実際に稼働していることを示すガバナンスレビュー記録

実際のリズムを示す議事録、承認、またはレビューのメモ。2026年5月のHealth Sector Coordinating CouncilのAI cyber governance frameworkは、少なくとも四半期ごとに構造化された取締役会のAIリスク報告を推奨しています。

要求に応じてそれらすべてを提出できる組織にはプログラムがあります。集めるのに1週間かかる組織にはポリシーがあります。

Netwrixが証拠レイヤーをサポートする方法

Netwrixは、医療機関が構築・所有するプログラムの下で、どのリポジトリにPHIがあるか、誰がアクセスできるか、何が変更されたかを明らかにするデータ可視化および監査証拠のレイヤーを提供します。 医療における情報ガバナンスはこれらの回答が取得可能であることに依存しています。

機微データの可視性

Netwrix 1Secure Copilotやその他のAIツールがアクセスできるPHIを含むリポジトリを特定し、展開前にCopilotの準備状況を評価します。Netwrix Access Analyzer ファイルサーバー、SharePoint、およびハイブリッド環境にわたる自動PHI検出と事前構築されたHIPAA準拠マッピングを追加し、ICD-10コード、医療記録番号、処方薬名をカバーする検出パターンを備えています。

Identity とアクセスのコンテキスト

Netwrix Access AnalyzerはPHIに隣接するデータの実効権限を報告し、広範なグループが誰にも気づかれずに取得する過剰かつ継承されたアクセスも含みます。Netwrix 1SecureとNetwrix AuditorはActive DirectoryおよびMicrosoft Entra IDのアクティビティと権限の変更を時間経過で報告します。

King's College HospitalはNetwrix Auditorを使用して、患者データにアクセスする権限の管理を強化し、1万人のユーザーネットワーク全体で完全な可視性を確保し、National Health Serviceのコンプライアンス報告を支援しました。

監査証拠

Netwrix Auditorはアクセスと権限の変更を記録し、誰がいつ何にアクセスし、何が変更されたかを変更前後の値とともにキャプチャします。長期アーカイブは古い証拠を保持し、変更ログを監査サイクル全体で利用可能に保ち、最後の保持期間終了後だけでなく使えるようにします。

Netwrix 1Secureは同じ問題のAI側をカバーします。Microsoft 365 Copilotのやり取りを報告し、Copilotがアクセスして表示した機密データを追跡します。これは、ツールが実際に到達したものを示す証拠です。

Netwrixが止まる場所

Netwrixは医療AIガバナンスをカテゴリとして提供せず、HIPAA準拠を保証しません。Copilotやその他のAIツールに対してポリシーを管理・適用せず、臨床モデルの検証や臨床バイアスの検出も行いません。その役割は、組織が所有するガバナンスプログラムの下にある証拠層です。

監査人が尋ねる前に、AIツールが実際にアクセスできる範囲を確認しましょう

ほとんどの医療機関は、Copilotや他の管理用AIツールが何を達成しているかまだ答えられず、その理由はほとんどの場合、ポリシーの欠如ではありません。誰もそれをマッピングしていません。

このマッピングがプログラムの出発点です。責任者にどのリポジトリが重要かを伝え、必要なアーティファクトのリストを実際に実行可能なレポートに変換するからです。証拠レイヤーを評価するチームは、PHIの露出をマッピングできるか、実効アクセスを計算できるか、権限変更履歴を保持できるか、そして要求に応じてこれらの記録を生成できるかをテストすべきです。

デモをリクエストして、AIツールがアクセスできるPHI隣接リポジトリ、誰がそのデータの許可を持っているか、そしてそのアクセスが時間とともにどのように変化したかを確認してください。