World Model Readiness
Graviertes Instrument für Governance

Für Ihr Unternehmen

Governance & Compliance

Modul · Die Nacht, in der das Modell danebenliegt

The AI Incident Preparedness Check

Die meisten KI-Ausfälle sind nicht dramatisch; es sind stille, falsche Ausgaben, die stundenlang ausgeliefert werden, bevor es jemand bemerkt. Dieses Modul prüft die Maschinerie, die aus einem Fehlgriff ein eingedämmtes Ereignis macht: ob Sie ihn erkennen würden, wer handelt, wie Sie kommunizieren und ob das je geprobt wurde.

Frage 1 von 5 · Fehlgriffe werden erkannt

Würden Sie erkennen, dass ein KI-System falsche Ausgaben produziert, bevor Ihre Kunden es tun?

Die meisten KI-Ausfälle sind still: plausible Ausgaben, die schlicht falsch sind. Ohne Monitoring der Ausgaben, nicht nur der Verfügbarkeit, ist der erste Alarm eine Kundenbeschwerde oder ein Behördenschreiben.

Frage 2 von 5 · Ein Playbook existiert

Gibt es ein schriftliches Playbook dafür, was zu tun ist, wenn ein KI-System danebenliegt?

Ein Playbook benennt die ersten Schritte: wie das System pausiert wird, wer angerufen wird, welche Beweise zu sichern sind. Instinkt ist langsamer als eine Checkliste, und Vorfälle passieren selten zu einer bequemen Stunde.

Frage 3 von 5 · Rollen sind benannt

Wenn ein KI-Vorfall eintritt: Weiß jeder, wer entscheidet, das System zu pausieren?

Die teuren Minuten eines Vorfalls vergehen mit der Frage, wer handeln darf. Eine benannte Person mit der Autorität, ein System offline zu nehmen, schlägt jede Genehmigungskette.

Frage 4 von 5 · Kommunikation ist vorbereitet

Wissen Sie, was Sie Kunden, Belegschaft und Aufsichtsbehörden sagen würden, wenn eine KI-Entscheidung Schaden verursacht hat?

Offenlegungspflichten laufen gegen die Uhr: DSGVO und AI Act setzen beide Meldefristen. Die Botschaften, die Sie unter Druck und juristischer Prüfung entwerfen, sind die, die Sie teuer zu stehen kommen.

Frage 5 von 5 · Es wurde geprobt

Haben Sie je eine Übung für den Ausfall eines KI-Systems durchgeführt?

Ein Plan auf dem Papier ist eine Hypothese. Eine Tabletop-Übung, bei der ein plausibler Fehlgriff mit den Menschen durchgespielt wird, die reagieren würden, ist der billigste Weg herauszufinden, wo er scheitert.

Für die Statistik · je ein Klick

Drei Fragen für das Gesamtbild

Diese Fragen beeinflussen Ihr Ergebnis nicht. Sie fließen in die anonymisierten, aggregierten Statistiken ein; Gruppen unter 8 Teilnehmern werden nie ausgewiesen.

Wie würden Sie am wahrscheinlichsten zuerst erfahren, dass ein KI-System danebengelegen hat?

Ein Kunde sagt es uns
Jemand aus der Belegschaft bemerkt es
Ein automatischer Alarm
Ein späteres Audit oder Review
Wir wissen es nicht

Haben Sie einen schriftlichen Plan für KI-Vorfälle?

Kein Plan
Im Entwurf
Nur ein generischer IT-Plan
Ein KI-spezifisches Playbook

Haben Sie je den Ausfall eines KI-Systems geprobt?

Nie
Besprochen, nicht durchgeführt
Einmal eine Tabletop-Übung
Regelmäßige Übungen
Nicht sicher

Ihr Kontext

Kalibriert den Report. Unternehmensgröße und Sektor bleiben im anonymisierten Datensatz; Ihre E-Mail-Adresse nicht.

So sehen die fünf Stufen aus

Jede Dimension dieses Assessments wird von 1 bis 5 bewertet. Das bedeuten die Stufen, Dimension für Dimension. Der benotete Report diagnostiziert, wo Ihre eigenen Antworten landen und was daraus folgt.

Fehlgriffe werden erkannt

  1. 1Kunden sagen es uns
  2. 2Manuelle Stichproben
  3. 3Einfaches Alerting
  4. 4Output-Monitoring
  5. 5Live-Drift-Erkennung

Am unteren Ende: Wenn Kunden Ihr Monitoring sind, ist der Schaden angerichtet, bevor Sie es wissen. Richten Sie für die Ausgabe jedes KI-Systems mit Kundenkontakt eine automatisierte Prüfung ein, und sei sie noch so grob. So sieht gut aus: Live-Drift-Erkennung ist das Ziel. Verdrahten Sie die Alarme mit der benannten verantwortlichen Person aus Frage 3, damit Erkennung tatsächlich Handeln auslöst.

Ein Playbook existiert

  1. 1Kein Plan
  2. 2Jedes Mal improvisiert
  3. 3Generisches IT-Runbook
  4. 4KI-spezifisches Playbook
  5. 5Playbook, getestet

Am unteren Ende: Improvisierte Vorfälle sind langsame Vorfälle. Schreiben Sie in diesem Monat eine Seite: wie das System pausiert wird, wer angerufen wird, was zu sichern ist. Ein grobes Playbook schlägt den perfekten Instinkt um 2 Uhr nachts. So sieht gut aus: Ein getestetes Playbook ist selten. Halten Sie es aktuell, wenn sich Systeme ändern, und proben Sie es (Frage 6), damit es Muskelgedächtnis ist und kein Dokument, das niemand geöffnet hat.

Rollen sind benannt

  1. 1Niemand entscheidet
  2. 2Langsame Eskalation nach oben
  3. 3Entscheidung im Gremium
  4. 4Benannte Person
  5. 5Benannt, mit Autorität

Am unteren Ende: Wenn niemand die Pause-Entscheidung verantwortet, warten alle. Benennen Sie pro System eine Person, die es ohne Rückfrage offline nehmen darf, und sagen Sie es ihr. So sieht gut aus: Eine benannte Person mit echter Autorität ist der Unterschied zwischen Minuten und Stunden der Exponierung. Stellen Sie sicher, dass sie auch außerhalb der Geschäftszeiten erreichbar ist, nicht nur auf dem Papier.

Kommunikation ist vorbereitet

  1. 1Keine Ahnung
  2. 2Rechtsabteilung, im Nachhinein
  3. 3Ad-hoc-Entwurf
  4. 4Vorlagen bereit
  5. 5Vorlagen + Pflichten kartiert

Am unteren Ende: Schweigen während eines Vorfalls ist ein eigener Skandal. Entwerfen Sie die drei Botschaften jetzt: an Kunden, an die Belegschaft, an Ihre Aufsichtsbehörde. Unter Druck werden Sie sie nicht gut schreiben. So sieht gut aus: Fertige Vorlagen plus kartierte Pflichten sind ein reifer Stand. Überprüfen Sie beides, wenn sich das Recht oder Ihre Systeme ändern, und stellen Sie sicher, dass jemand das Absenden verantwortet.

Es wurde geprobt

  1. 1Nie
  2. 2Einmal besprochen
  3. 3Tabletop, einmal
  4. 4Jährliche Übung
  5. 5Regelmäßig, teamübergreifend

Am unteren Ende: Ein nie geprobter Plan ist ein Plan, der beim ersten Kontakt scheitert. Führen Sie in diesem Quartal eine Tabletop-Übung durch: Wählen Sie einen plausiblen Fehlgriff und spielen Sie ihn mit den Menschen durch, die reagieren würden. So sieht gut aus: Regelmäßige teamübergreifende Übungen machen aus einem Playbook Einsatzbereitschaft. Verfolgen Sie, was jede Übung aufdeckt, und speisen Sie die Korrekturen in den Plan zurück.