Magic Quadrant™ für Privilegiertes Zugriffsmanagement 2026: Netwrix zum fünften Mal in Folge anerkannt. Bericht herunterladen.

Ressourcen­zentrumBlog

Diebstahl und Manipulation: Die zwei Risiken hinter den Sicherheitsanforderungen für KI

Diebstahl und Manipulation: Die zwei Risiken hinter den Sicherheitsanforderungen für KI

Nov 17, 2026

KI-Regulatorische Bereitschaftsserie, Teil 2 von 6

KI-Regulierung läuft auf zwei technische Risiken hinaus: den Diebstahl von Modellgewichten und Daten sowie die Manipulation durch Poisoning oder unbefugte Änderungen. Beide hängen von identity, Zugriff, Datentransparenz und Überwachung ab, sodass ein einziges Sicherheitsfundament beide abdecken kann.

Teil 1 hat gezeigt, dass KI-Gesetze und Rahmenwerke an der Oberfläche fragmentiert wirken, aber immer wieder auf dieselben Sicherheitsthemen zurückkommen. Diese Themen lassen sich auf zwei technische Risiken zurückführen.

Das erste ist Diebstahl: der Verlust von KI-Assets durch unbefugten Zugriff oder Exfiltration. Das zweite ist Manipulation: der Verlust der Modellintegrität durch das unbefugte Einbringen, Vergiften oder Verändern von Daten.

Die Vorschriften verwenden keine identische Sprache, sind aber konsistent genug, dass Sicherheitsverantwortliche beide Risiken in ihre Planung einbeziehen können.

Risiko 1: Modelldiebstahl und Exfiltration

Modellgewichte sind die gelernten Parameter, die ein Modell funktionieren lassen. Sie können Jahre an Forschung und enorme Rechenressourcen repräsentieren. Wer die Kontrolle über sie verliert, liefert einem Wettbewerber oder Angreifer das Produkt, ohne dass dieser dafür bezahlt.

Für große Frontier-Entwickler ist der Schutz der Gewichte nicht mehr nur eine bewährte Praxis. California SB 53, der RAISE Act von New York und der AISMA von Illinois behandeln jeweils Cybersicherheitspraktiken zum Schutz unveröffentlichter Modellgewichte vor unbefugter Änderung oder Übertragung. Auch das NIST AI RMF nennt den Schutz vor unbefugtem Zugriff und der Exfiltration von Modellen, Trainingsdaten und geistigem Eigentum als Teil von KI-Sicherheit und Resilienz.

Die Gesetze erfassen die Übertragung oder Änderung durch „interne oder externe Parteien“, sodass Insider mit dauerhaftem Zugriff und kompromittierte Konten, die wie Insider aussehen, im Anwendungsbereich liegen.

So gehen Sie vor:

  • Wissen, wo Modellgewichte und zugehörige KI-Artefakte gespeichert sind.
  • Wissen, welche Benutzer, Servicekonten und privilegierten Identitäten darauf zugreifen können.
  • Übermäßigen oder veralteten Zugriff entfernen.
  • Privilegierten Zugriff auf das kürzest nötige Zeitfenster beschränken.
  • Unbefugte Übertragungen über Endpoints und andere Kanäle erkennen und blockieren.
  • Die für Untersuchung und Meldung von Vorfällen nötigen Nachweise aufbewahren.

Risiko 2: Model- und Data-Poisoning

Poisoning ist unauffälliger als Diebstahl, weil nichts das Gebäude verlässt. Ein Angreifer, ein böswilliger Insider oder eine kompromittierte Identität verändert Trainingsdaten, Modell-Checkpoints, Konfigurationsdateien oder andere Artefakte, sodass sich das System anders verhält als vorgesehen.

Die Folgen reichen von subtilen Verzerrungen bis zu versteckten Backdoors, die bei bestimmten Eingaben ausgelöst werden. Und weil das Modell weiterhin zu funktionieren scheint, kann Poisoning lange unbemerkt bleiben.

Die Regulierer haben das erkannt. Die EU-KI-Verordnung nennt Data Poisoning und Model Poisoning ausdrücklich in ihren Anforderungen an die Cybersicherheits-Resilienz für Hochrisiko-KI-Systeme. OWASP und MITRE ATLAS führen beide Poisoning und Modellmanipulation als konkrete Angriffstechniken gegen KI auf.

So gehen Sie vor:

  • Schreibzugriff auf Trainingsdatensätze und Modell-Repositories einschränken.
  • Die privilegierten Identitäten, die KI-Assets ändern können, begrenzen und überwachen.
  • Unbefugte Änderungen an Modelldateien, Checkpoints, Daten und zugehöriger Konfiguration erkennen.
  • Den Audit-Verlauf aufbewahren, damit Teams feststellen können, was sich wann und durch wen geändert hat.
  • Schnell reagieren, wenn anomale Änderungen oder Zugriffsmuster auftreten.

Warum diese beiden Risiken zusammengehören

Exfiltration ist in erster Linie ein Vertraulichkeitsproblem und Poisoning in erster Linie ein Integritätsproblem, weshalb sie oft bei unterschiedlichen Teams und mit unterschiedlichen Tools landen.

Stellt man die beiden „So gehen Sie vor“-Listen nebeneinander, tauchen in beiden dieselben Bausteine auf, die jeweils eine andere Aufgabe erfüllen:

Baustein

Wie er Diebstahl verhindert

Wie er Manipulation verhindert

Wissen, wo KI-Assets und Daten liegen

Zeigt die Repositories, die Modellgewichte enthalten, für die sich ein Diebstahl lohnt

Zeigt die Datensätze und Checkpoints, die eine Integritäts-Baseline benötigen

Steuern, wer sie lesen oder schreiben darf

Begrenzt, wer Modelldateien öffnen und kopieren kann

Begrenzt, wer in Trainingsdaten und Modell-Repositories schreiben kann

Dauerhaften privilegierten Zugriff begrenzen

Reduziert die dauerhaft aktiven Konten, die Gewichte aus dem Netzwerk schleusen könnten

Reduziert die dauerhaft aktiven Konten, die Pipelines unbemerkt verändern könnten

Datenfluss nach innen und außen steuern

Blockiert, dass Gewichte und geistiges Eigentum per USB, Cloud-Upload oder E-Mail abfließen

Blockiert ungeprüfte Dateien beim Eintritt in Trainings-Workflows

Unbefugte Änderungen erkennen

Unterstützende Rolle: hilft, verdächtige Aktivitäten rund um Modelldateien zu erkennen

Erkennt veränderte Daten, Checkpoints und Konfigurationen im Vergleich zu einem bekannten guten Zustand

Einen Audit-Trail führen

Zeigt, wer auf welche Dateien zugegriffen oder sie verschoben hat und wann

Zeigt, was sich wann und durch wen geändert hat

Beide Risiken hängen von Identität, Zugriff, Datentransparenz und Überwachung ab, sodass ein starkes Sicherheitsfundament beide abdecken kann.

Und dieses Fundament hat eine wichtige Konsequenz. Wenn KI-Sicherheit auf Identitäts- und Datensicherheit hinausläuft, werden die Schwächen, die in Ihrer Identitäts- und Datenumgebung bereits bestehen, auch zu KI-Schwächen. Darum geht es in Teil 3.

Als nächstes in der Serie: Teil 3, Wie KI die Sicherheitsschwächen verstärkt, die Sie bereits haben.

Holen Sie sich das vollständige Playbook

Laden Sie das AI Regulatory Readiness eBook herunter, um zu sehen, wie beide Anforderungen in konkrete Sicherheitskontrollen übersetzt werden.

Jetzt herunterladen

Teilen auf

Erfahren Sie mehr

Über den Autor

Asset Not Found

Istvan Molnar

IT-Sicherheits-Compliance-Spezialist und Produktmarketing-Manager

Istvan Molnar ist ein erfahrener IT-Sicherheits-Compliance-Spezialist und Produktmarketingmanager bei Netwrix mit mehr als einem Jahrzehnt Erfahrung in internationalen Standards, Vorschriften und Cybersicherheitsrahmen. Er ist darauf spezialisiert, die Lücke zwischen komplexen Compliance-Anforderungen und dem Netwrix-Produktportfolio zu schließen, indem er strategische Beratung, überzeugende Inhalte und Unterstützung für compliance-getriebene Initiativen und Go-to-Market-Strategien bietet.