10 Fragen vor dem ersten KI-Werkzeug
Für Geschäftsführung, Fachbereich und IT: zehn Fragen, die vor dem Einsatz eines KI-Werkzeugs geklärt sein sollten, ob gekauft, als Funktion in vorhandener Software oder selbst gebaut. Im Ausdruck und im PDF ist unter jeder Frage Platz für den Stand: geklärt oder offen, mit verantwortlicher Person und Termin.
Wofür genau soll das Werkzeug eingesetzt werden?
Ein Ablauf, ein erwartetes Ergebnis und ein Maß für den Nutzen, in einem Satz. Ein Werkzeug „für alles“ lässt sich weder prüfen noch abnehmen.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Welche Daten gehen hinein?
Personenbezogene Daten, Kundenunterlagen unter Geheimhaltung, Preise, Berufsgeheimnisse? Für jede Datenart vorher festlegen, ob sie in dieses Werkzeug darf.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Über welches Konto und welchen Vertrag läuft die Nutzung?
Ein betriebliches Konto statt privater Zugänge; im Vertrag nachlesen, wo verarbeitet wird, ob Eingaben zum Training verwendet werden, wie lange sie gespeichert bleiben und ob Daten in Länder außerhalb des Europäischen Wirtschaftsraums übermittelt werden. Verarbeitet der Anbieter personenbezogene Daten im Auftrag, gehört ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO dazu.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Was darf das Werkzeug tun?
Nur lesen, Entwürfe schreiben oder selbst senden und buchen? Schreibender Zugriff auf Postfach, Ablage oder ERP nur nach Freigabe und nur mit den Rechten, die die Aufgabe braucht.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Wer prüft das Ergebnis, und woran?
Vorab festlegen, was fachlich geprüft wird: Fundstellen bei Dokumentenauswertungen, Mengen und Preise bei Angeboten, Stichproben bei wiederkehrenden Vorgängen. Ergebnisse mit Wirkung nach außen gehen erst nach Freigabe raus. Ohne festgelegte Abnahme bleibt jedes Ergebnis ein Entwurf.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Wer kümmert sich um den Betrieb?
Eine verantwortliche Person und eine Vertretung für Zugänge, Einstellungen, Änderungen und Fragen. Das gilt besonders für selbst gebaute Assistenten, Abläufe und Skripte.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Wer wird geschult, und wie?
Anbieter und Betreiber von KI-Systemen ergreifen nach Art. 4 KI-Verordnung Maßnahmen, um die KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, zu unterstützen; ein bestimmtes Niveau müssen sie nicht garantieren. Eine kurze Einweisung je Werkzeug, festgehalten mit Datum, Inhalt und Teilnehmenden, macht diese Maßnahmen nachvollziehbar. Welche Einweisung und welche weiteren Maßnahmen nötig sind, hängt vom Einsatz, seinen Risiken und den Vorkenntnissen der Beteiligten ab.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Betrifft das Ergebnis Menschen unmittelbar?
KI-Systeme zur Auswahl von Bewerbungen oder zur Bewertung von Beschäftigten können nach Anhang III der KI-Verordnung als Hochrisiko-Systeme gelten; die verschobenen Pflichten für solche Hochrisiko-Systeme gelten ab 2. Dezember 2027. Andere Vorgaben gelten schon heute: die Verbote nach Art. 5 KI-Verordnung, etwa Emotionserkennung am Arbeitsplatz, der Datenschutz und, soweit Mitbestimmungsrechte betroffen sind, die Mitbestimmung des Betriebsrats. Ob ein konkretes System darunter fällt, vor dem Einsatz im Einzelfall prüfen lassen.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Wo ist das dokumentiert?
Für den Anfang genügt eine Liste: Werkzeug, Zweck, Konto, Datenarten, Verantwortliche, Abnahmeregel und nächster Prüftermin. Eine kostenlose Excel-Vorlage dafür gibt es auf der Seite des KI-Registers. Mit einem einfachen Meldeweg zeigt die Liste auch, welche Werkzeuge Mitarbeitende selbst eingeführt haben.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Wie kommt der Betrieb wieder heraus?
Export der eigenen Daten und Einstellungen, Löschung beim Anbieter, Kündigungsfrist. Der Ablauf sollte weiterlaufen können, wenn das Werkzeug ausfällt oder abgeschaltet wird.
Status: ☐ geklärt ☐ offen · Verantwortlich: ______________ · Bis: __________
Sind mehrere Antworten noch offen? Eine KI-Bestandsaufnahme hilft, Werkzeuge, Daten, Zuständigkeiten und nächste Maßnahmen für einen abgegrenzten Bereich zu erfassen. Für den Anfang reicht oft ein einzelner Anwendungsfall aus dem eigenen Betrieb, gemeinsam Frage für Frage durchgegangen.
KI-Bestandsaufnahme für einen Bereich · Modul KI-Register · Schulung zur KI-Kompetenz
Keine Rechtsberatung. Die Fragen helfen, den Einsatz im eigenen Betrieb zu ordnen; sie ersetzen keine rechtliche Prüfung im Einzelfall. Rechtsstand: Verordnung (EU) 2024/1689 (KI-Verordnung) in der Fassung der Verordnung (EU) 2026/1744, Stand November 2026. Quellen: Verordnung (EU) 2024/1689 (KI-Verordnung); Verordnung (EU) 2026/1744; Art. 4 KI-Verordnung in der Fassung ab 27.07.2026; Art. 113 KI-Verordnung in der Fassung ab 27.07.2026; Anhang III KI-Verordnung; Verordnung (EU) 2016/679 (DSGVO), Art. 28; § 87 BetrVG.
Marco Rau – IT & Analytics, Saarbrücken · marco-rau-it.de/ki-checkliste/