Diebstahl und Manipulation: Die zwei Risiken hinter den Sicherheitsanforderungen für KI
Diebstahl und Manipulation: Die zwei Risiken hinter den Sicherheitsanforderungen für KI
Nov 17, 2026
KI-Regulatorische Bereitschaftsserie, Teil 2 von 6
KI-Regulierung läuft auf zwei technische Risiken hinaus: den Diebstahl von Modellgewichten und Daten sowie die Manipulation durch Poisoning oder unbefugte Änderungen. Beide hängen von identity, Zugriff, Datentransparenz und Überwachung ab, sodass ein einziges Sicherheitsfundament beide abdecken kann.
Teil 1 hat gezeigt, dass KI-Gesetze und Rahmenwerke an der Oberfläche fragmentiert wirken, aber immer wieder auf dieselben Sicherheitsthemen zurückkommen. Diese Themen lassen sich auf zwei technische Risiken zurückführen.
Das erste ist Diebstahl: der Verlust von KI-Assets durch unbefugten Zugriff oder Exfiltration. Das zweite ist Manipulation: der Verlust der Modellintegrität durch das unbefugte Einbringen, Vergiften oder Verändern von Daten.
Die Vorschriften verwenden keine identische Sprache, sind aber konsistent genug, dass Sicherheitsverantwortliche beide Risiken in ihre Planung einbeziehen können.
Risiko 1: Modelldiebstahl und Exfiltration
Modellgewichte sind die gelernten Parameter, die ein Modell funktionieren lassen. Sie können Jahre an Forschung und enorme Rechenressourcen repräsentieren. Wer die Kontrolle über sie verliert, liefert einem Wettbewerber oder Angreifer das Produkt, ohne dass dieser dafür bezahlt.
Für große Frontier-Entwickler ist der Schutz der Gewichte nicht mehr nur eine bewährte Praxis. California SB 53, der RAISE Act von New York und der AISMA von Illinois behandeln jeweils Cybersicherheitspraktiken zum Schutz unveröffentlichter Modellgewichte vor unbefugter Änderung oder Übertragung. Auch das NIST AI RMF nennt den Schutz vor unbefugtem Zugriff und der Exfiltration von Modellen, Trainingsdaten und geistigem Eigentum als Teil von KI-Sicherheit und Resilienz.
Die Gesetze erfassen die Übertragung oder Änderung durch „interne oder externe Parteien“, sodass Insider mit dauerhaftem Zugriff und kompromittierte Konten, die wie Insider aussehen, im Anwendungsbereich liegen.
So gehen Sie vor:
- Wissen, wo Modellgewichte und zugehörige KI-Artefakte gespeichert sind.
- Wissen, welche Benutzer, Servicekonten und privilegierten Identitäten darauf zugreifen können.
- Übermäßigen oder veralteten Zugriff entfernen.
- Privilegierten Zugriff auf das kürzest nötige Zeitfenster beschränken.
- Unbefugte Übertragungen über Endpoints und andere Kanäle erkennen und blockieren.
- Die für Untersuchung und Meldung von Vorfällen nötigen Nachweise aufbewahren.
Risiko 2: Model- und Data-Poisoning
Poisoning ist unauffälliger als Diebstahl, weil nichts das Gebäude verlässt. Ein Angreifer, ein böswilliger Insider oder eine kompromittierte Identität verändert Trainingsdaten, Modell-Checkpoints, Konfigurationsdateien oder andere Artefakte, sodass sich das System anders verhält als vorgesehen.
Die Folgen reichen von subtilen Verzerrungen bis zu versteckten Backdoors, die bei bestimmten Eingaben ausgelöst werden. Und weil das Modell weiterhin zu funktionieren scheint, kann Poisoning lange unbemerkt bleiben.
Die Regulierer haben das erkannt. Die EU-KI-Verordnung nennt Data Poisoning und Model Poisoning ausdrücklich in ihren Anforderungen an die Cybersicherheits-Resilienz für Hochrisiko-KI-Systeme. OWASP und MITRE ATLAS führen beide Poisoning und Modellmanipulation als konkrete Angriffstechniken gegen KI auf.
So gehen Sie vor:
- Schreibzugriff auf Trainingsdatensätze und Modell-Repositories einschränken.
- Die privilegierten Identitäten, die KI-Assets ändern können, begrenzen und überwachen.
- Unbefugte Änderungen an Modelldateien, Checkpoints, Daten und zugehöriger Konfiguration erkennen.
- Den Audit-Verlauf aufbewahren, damit Teams feststellen können, was sich wann und durch wen geändert hat.
- Schnell reagieren, wenn anomale Änderungen oder Zugriffsmuster auftreten.
Warum diese beiden Risiken zusammengehören
Exfiltration ist in erster Linie ein Vertraulichkeitsproblem und Poisoning in erster Linie ein Integritätsproblem, weshalb sie oft bei unterschiedlichen Teams und mit unterschiedlichen Tools landen.
Stellt man die beiden „So gehen Sie vor“-Listen nebeneinander, tauchen in beiden dieselben Bausteine auf, die jeweils eine andere Aufgabe erfüllen:
Baustein | Wie er Diebstahl verhindert | Wie er Manipulation verhindert |
|---|---|---|
|
Wissen, wo KI-Assets und Daten liegen |
Zeigt die Repositories, die Modellgewichte enthalten, für die sich ein Diebstahl lohnt |
Zeigt die Datensätze und Checkpoints, die eine Integritäts-Baseline benötigen |
|
Steuern, wer sie lesen oder schreiben darf |
Begrenzt, wer Modelldateien öffnen und kopieren kann |
Begrenzt, wer in Trainingsdaten und Modell-Repositories schreiben kann |
|
Dauerhaften privilegierten Zugriff begrenzen |
Reduziert die dauerhaft aktiven Konten, die Gewichte aus dem Netzwerk schleusen könnten |
Reduziert die dauerhaft aktiven Konten, die Pipelines unbemerkt verändern könnten |
|
Datenfluss nach innen und außen steuern |
Blockiert, dass Gewichte und geistiges Eigentum per USB, Cloud-Upload oder E-Mail abfließen |
Blockiert ungeprüfte Dateien beim Eintritt in Trainings-Workflows |
|
Unbefugte Änderungen erkennen |
Unterstützende Rolle: hilft, verdächtige Aktivitäten rund um Modelldateien zu erkennen |
Erkennt veränderte Daten, Checkpoints und Konfigurationen im Vergleich zu einem bekannten guten Zustand |
|
Einen Audit-Trail führen |
Zeigt, wer auf welche Dateien zugegriffen oder sie verschoben hat und wann |
Zeigt, was sich wann und durch wen geändert hat |
Beide Risiken hängen von Identität, Zugriff, Datentransparenz und Überwachung ab, sodass ein starkes Sicherheitsfundament beide abdecken kann.
Und dieses Fundament hat eine wichtige Konsequenz. Wenn KI-Sicherheit auf Identitäts- und Datensicherheit hinausläuft, werden die Schwächen, die in Ihrer Identitäts- und Datenumgebung bereits bestehen, auch zu KI-Schwächen. Darum geht es in Teil 3.
Als nächstes in der Serie: Teil 3, Wie KI die Sicherheitsschwächen verstärkt, die Sie bereits haben.
Holen Sie sich das vollständige Playbook
Laden Sie das AI Regulatory Readiness eBook herunter, um zu sehen, wie beide Anforderungen in konkrete Sicherheitskontrollen übersetzt werden.
Jetzt herunterladenTeilen auf
Erfahren Sie mehr
Über den Autor
Istvan Molnar
IT-Sicherheits-Compliance-Spezialist und Produktmarketing-Manager
Istvan Molnar ist ein erfahrener IT-Sicherheits-Compliance-Spezialist und Produktmarketingmanager bei Netwrix mit mehr als einem Jahrzehnt Erfahrung in internationalen Standards, Vorschriften und Cybersicherheitsrahmen. Er ist darauf spezialisiert, die Lücke zwischen komplexen Compliance-Anforderungen und dem Netwrix-Produktportfolio zu schließen, indem er strategische Beratung, überzeugende Inhalte und Unterstützung für compliance-getriebene Initiativen und Go-to-Market-Strategien bietet.
Erfahren Sie mehr zu diesem Thema
Wie KI die Sicherheitsschwächen verstärkt, die Sie bereits haben
KI-Regulierung wird konkret. Das wird gefordert.
Endpoint DLP als Compliance-Reaktion: Was Regulierungsbehörden verlangen
Kontinuierliches Posture Management oder punktuelle Bewertungen
Was ein AD/Entra-Hybrid-Audit wirklich prüft und warum die meisten Teams beim ersten Mal scheitern