Wie bereitet sich ein Unternehmen auf KI-Vorfälle vor?

Was die Studie zeigt

Befragt wurden mehr als 500 Unternehmen ab 20 Beschäftigten. 17 % berichten für die vergangenen zwölf Monate von Cyberangriffen oder Betrugsversuchen, bei denen KI beteiligt war oder beteiligt gewesen sein könnte: 4 % von bestätigten Fällen, 11 % von Verdachtsfällen, 2 % von beidem. Bei den betroffenen Unternehmen waren es zu 90 % täuschend echte Phishing-Mails, zu 40 % automatisierte Angriffsskripte, die sich an Sicherheitslücken anpassen, und zu 11 % Deepfakes, etwa die gefälschte Stimme einer Führungskraft bei einem Überweisungsbetrug.

Bei der Vorbereitung zeigt sich eine Lücke. So sieht es bei den Unternehmen aus, die KI nutzen oder den Einsatz planen:

Von den Unternehmen, die KI schon nutzen, lassen 67 % kritische KI-Ergebnisse von Menschen prüfen, 64 % beschränken die Zugriffsrechte, 40 % protokollieren oder überwachen die Nutzung.

Zwei Arten von KI-Vorfällen

Angriffe mit KI von außen: überzeugend formulierte Phishing-Mails, gefälschte Stimmen oder Videos, automatisierte Suche nach Schwachstellen. Dagegen helfen die bekannten Schutzmaßnahmen, ergänzt um eine Regel für Fälschungen: Zahlungsanweisungen und geänderte Bankverbindungen werden per Rückruf unter einer bekannten Nummer bestätigt, nie über die Kontaktdaten aus der Nachricht.

Vorfälle mit den eigenen KI-Werkzeugen: Ein Werkzeug gibt ein falsches Ergebnis an einen Kunden weiter, vertrauliche Daten landen in einem privaten Konto, ein selbst gebautes Skript mit Schreibzugriff ändert Daten, die es nicht ändern soll, oder der Zugang zu einem KI-Dienst wird missbraucht. Für diese Fälle fehlt oft schon die Grundlage: eine Übersicht, welche Werkzeuge es überhaupt gibt.

Ein Notfallablauf in fünf Schritten

Der TÜV-Verband empfiehlt, bestehende Sicherheits- und Notfallprozesse um Szenarien mit KI zu ergänzen. Ein eigenes Handbuch braucht es dafür selten; für den Anfang genügen fünf Schritte, die in den vorhandenen IT-Notfallplan passen.

1. Melden: wer, an wen, auf welchem Weg

Beschäftigte müssen wissen, an wen sie sich wenden, wenn ein KI-Werkzeug offensichtlich falsche Ergebnisse liefert, eine Nachricht verdächtig wirkt oder Daten an der falschen Stelle gelandet sind. Dafür braucht es eine feste Ansprechperson mit Vertretung und einen einfachen Meldeweg. Wer ohne Sorge vor Ärger melden kann, meldet früher, auch selbst gebaute Werkzeuge, von denen sonst niemand weiß.

2. Überblick: welche Werkzeuge, welche Daten, welche Zugänge

Ob ein Vorfall weitere Werkzeuge betrifft, lässt sich nur mit einer Übersicht beantworten: welche KI wofür genutzt wird, mit welchen Daten, über welches Konto, mit welchen Lese- und Schreibrechten, und wer verantwortlich ist. Dazu gehören gekaufte Werkzeuge ebenso wie selbst gebaute Assistenten, Abläufe und Skripte.

3. Eindämmen: wer darf abschalten und sperren

Festgelegt sein sollte, wer ein Werkzeug sofort abschalten, einen Zugang sperren, einen Schlüssel für einen KI-Dienst erneuern oder Schreibrechte entziehen darf, auch abends und in der Urlaubszeit. Bei selbst gebauten Werkzeugen gehört dazu, dass jemand weiß, wo sie laufen.

4. Prüfen: Folgen und Meldepflichten

Welche Daten sind betroffen, welche Ergebnisse wurden weitergegeben, wer muss informiert werden? Ist der Schutz personenbezogener Daten verletzt, meldet das Unternehmen als Verantwortlicher dies nach Art. 33 DSGVO unverzüglich und möglichst binnen 72 Stunden, nachdem ihm die Verletzung bekannt wurde, der zuständigen Aufsichtsbehörde, außer die Verletzung führt voraussichtlich nicht zu einem Risiko für die Rechte und Freiheiten der betroffenen Personen. Bei voraussichtlich hohem Risiko ist zusätzlich zu prüfen, ob die betroffenen Personen nach Art. 34 DSGVO unverzüglich benachrichtigt werden müssen. Ein Dienstleister, der die Daten im Auftrag verarbeitet, meldet eine Verletzung unverzüglich dem Unternehmen. Unternehmen im Anwendungsbereich der NIS-2-Regeln haben zusätzliche Meldepflichten. Die Einschätzung im Einzelfall treffen Datenschutz und IT-Sicherheit gemeinsam.

5. Festhalten und nachbessern

Was ist passiert, wann, mit welchem Werkzeug, aus welchem Grund, und was wurde getan? Der Umfang der Dokumentation richtet sich nach dem Vorfall und seinen Folgen. Ist der Schutz personenbezogener Daten verletzt, verlangt Art. 33 Abs. 5 DSGVO eine Dokumentation mit Sachverhalt, Auswirkungen und ergriffenen Abhilfemaßnahmen, auch wenn keine Meldung nötig war. Daraus folgt, was sich ändert: eine Regel für die Nutzung, eine zusätzliche Stichprobe, ein Zugang weniger oder eine Schulung zum Thema, festgehalten als Maßnahme zur KI-Kompetenz nach Art. 4 der KI-Verordnung.

Beispiel: ein selbst gebautes Skript mit privatem Konto

Angenommen, in einem Betrieb fällt auf, dass ein Skript, das eine Beschäftigte für die Auswertung von Reklamationen gebaut hat, Kundennamen und Reklamationstexte über ein privates Konto an einen KI-Dienst schickt. Sie meldet es selbst über den Meldeweg (Schritt 1). Die IT prüft, ob das private Konto auch in weiteren Werkzeugen verwendet wird (Schritt 2), stoppt die betroffenen Abläufe und entfernt den Zugang über das private Konto (Schritt 3). Mit dem Datenschutzbeauftragten wird geprüft, ob eine Meldung an die Aufsichtsbehörde nötig ist (Schritt 4). Danach bekommt das Skript ein betriebliches Konto, eine verantwortliche Person mit Vertretung und eine Prüfung vor dem Weiterbetrieb; der Vorfall steht mit Datum und Maßnahme in der Übersicht (Schritt 5).

In eigener Sache: Bestandsaufnahme und Register

Mit der KI-Bestandsaufnahme entsteht in zwei Beratungstagen für einen abgegrenzten Bereich eine erste strukturierte Übersicht wie in Schritt 2, auf Grundlage von Gesprächen und vorhandenen Unterlagen: die erfassten KI-Anwendungen, ihre Daten und Zugänge sowie offene Fragen und fehlende Regeln. Ergebnis ist ein ausgefülltes KI-Register. Das Modul KI-Register der Marco Rau Prozessplattform führt diese Übersicht weiter, mit einem Meldeweg für selbst gebaute Werkzeuge, verantwortlichen Personen, Prüfterminen und der Historie jeder Änderung. Für den Anfang gibt es das Register als kostenlose Excel-Vorlage, ohne Anmeldung.

Dieser Beitrag ist keine Rechtsberatung; welche Pflichten für ein Unternehmen gelten, ist im Einzelfall zu prüfen. Quellen: BSI, Pressemitteilung vom 07.10.2026: Nur jedes zehnte Unternehmen gegen KI-gestützte Angriffe gerüstet; TÜV-Verband, Pressemitteilung vom 07.10.2026 (beide: mehr als 500 Unternehmen ab 20 Beschäftigten); Verordnung (EU) 2016/679 (DSGVO), Art. 33. Stand der Angaben: November 2026.