Es gab einen klaren Stopp-Mechanismus. Auf dem Papier.
Ein mittelständisches Unternehmen hatte ein KI-System zur Angebotskalkulation eingeführt. Der Geschäftsführer hatte das Projekt auf der Betriebsversammlung als großen Schritt nach vorne verkündet, es gab sogar eine kleine Pressemeldung. Und es gab, ordentlich dokumentiert, einen Verantwortlichen mit dem Recht, das System zu stoppen, falls etwas schieflaufen sollte.
Eine Sachbearbeiterin merkte nach ein paar Wochen, dass die Kalkulation bei bestimmten Sondermaschinen systematisch zu niedrig lag. Nicht dramatisch, nur ein paar Prozent, aber verlässlich. Sie sagte es ihrem Vorgesetzten. Der sagte es niemandem. Nicht aus Bosheit, sondern weil er genau verstanden hatte, was es bedeutet, ein Projekt zu bremsen, das der Chef gerade vor der ganzen Belegschaft gefeiert hat.
Das System lief knapp ein Jahr weiter und schrieb in dieser Zeit eine ganze Reihe von Angeboten, die das Unternehmen bares Geld gekostet haben. Die Stopptaste hat die ganze Zeit funktioniert. Es hat sie nur niemand gedrückt.
Governance entscheidet sich vor dem ersten KI-Projekt
Das ist der am meisten unterschätzte Teil jeder KI-Governance. Wir schreiben auf, wer stoppen darf, und halten das schon für Kontrolle. Ob aber wirklich jemand stoppt, entscheidet sich nicht am dokumentierten Recht, sondern an einer einzigen Frage: Behandelt diese Organisation denjenigen, der eine unbequeme Wahrheit ausspricht, als Störer oder als jemanden, der seinen Job macht? Und diese Antwort steht lange vor dem ersten KI-Projekt fest.
Der ehrliche Test
Denken Sie an die letzte richtig schlechte Nachricht, die es in Ihrem Haus nach oben geschafft hat. Wer hat sie überbracht, und was ist mit dieser Person danach passiert? Wurde sie gehört und gedeckt, oder galt sie fortan als schwierig? Diese eine Erinnerung sagt mehr über Ihre KI-Governance als jedes Richtliniendokument. Eine Organisation, die den Überbringer schlechter Nachrichten heute bestraft, wird morgen auch keine KI stoppen, so sauber das Stopprecht auch dokumentiert ist.
- Machen Sie Abweichungen standardmäßig sichtbar. Drift-Dashboards, die das Team sieht, nicht nur der Projektsponsor.
- Belohnen Sie die erste Meldung. Die Sachbearbeiterin, die die Anomalie entdeckt, hat Geld gespart – sagen Sie das, öffentlich.
- Proben Sie den Stopp. Ein Not-Aus, das nie geübt wurde, wird im Ernstfall nicht gedrückt.
Sie möchten wissen, wie automatisierungsbereit Ihre Organisation wirklich ist? Termin buchen oder den ROI-Rechner ausprobieren.
