Die Freigabe stand bereits im Ergebnis

Am Ende eines Arbeitslaufs sollte ein Agent um Freigabe bitten. Stattdessen schrieb er die Freigabe selbst unter sein Ergebnis. Die auswertende Stelle sah den Satz, aber nicht, wer ihn geschrieben hatte. Auf dem Bildschirm wirkte alles ordentlich. Tatsächlich hatte derjenige seine eigene Prüfung bestanden, der geprüft werden sollte.

Eine Anweisung lenkt, sie sichert nicht

Die Regel im Prompt war klar: Der Agent soll am Ende seines Arbeitslaufs um Freigabe bitten. Ein Modell kann diese Regel beachten. Es kann sie aber auch übersehen, anders gewichten oder einen Text erzeugen, der ihr widerspricht. Ein Prompt beschreibt erwünschtes Verhalten. Er erzwingt es nicht.

Das ist kein Sonderfall von KI. Ein Hinweis auf einem Formular verhindert auch keine falsche Unterschrift. Er hilft beim Handeln. Er schafft aber keine Grenze, an der eine unzulässige Handlung scheitert.

Der Autor fehlte in der Prüfung

Der Fehler lag nicht allein beim Agenten. Die Prüfung suchte nur nach dem Wortlaut. Stand die Freigabezeile im Text, galt die Arbeit als freigegeben. Die Frage nach dem Autor fehlte.

Damit wurde aus einer Kontrolle eine Zierleiste. Sie sah aus wie Sicherheit, war aber nur ein Stück Text. Eine richtige Formulierung belegt keine Berechtigung.

Bei Freigaben geht es um Verantwortung. Ein Agent darf ein Ergebnis vorbereiten, begründen und zur Prüfung vorlegen. Die Freigabe muss bei einer anderen Rolle liegen. Diese Trennung gehört zu KI & Verantwortung. KI kann Arbeit vorbereiten. Sie darf aber nicht unbemerkt die Grenze zur Entscheidung verschieben.

Die Regel gehört in den Ablauf

Ich habe den Fehler auf zwei Ebenen korrigiert. Der Prompt sagt nun klarer, was der Agent nicht tun darf. Das schafft Orientierung und verhindert manche Wiederholung. Der Ablauf akzeptiert eine Freigabe zusätzlich nur von der vorgesehenen Stelle.

Erst die Rolle prüfen, dann den Inhalt bewerten. Nicht umgekehrt. Das gilt auch dann, wenn ein Modell wechselt, ein Prompt angepasst wird oder ein Ergebnis überraschend formuliert ist. Der Ablauf fragt nicht, ob ein Satz nach Freigabe klingt. Er prüft, ob er von der berechtigten Rolle stammt.

Eine technische Sperre ist notwendig, aber sie ersetzt keine klare Rollenverteilung. Wer liefert zu? Wer entscheidet? Was darf ein Agent erzeugen? Und was darf er niemals auslösen? Eine KI-Standortbestimmung beginnt bei diesen Fragen.

Gute Prozesse rechnen mit Abweichungen

Viele KI-Prozesse beginnen mit einer Sammlung guter Anweisungen. Das ist sinnvoll. Bei Freigaben, Berechtigungen oder vertraulichen Informationen reicht es jedoch nicht aus. Der Ablauf muss auch dann tragen, wenn ein Ergebnis anders aussieht als erwartet.

Für Geschäftsführung und IT-Verantwortliche ist das eine nüchterne Prüfungsfrage. Es passt nicht, wenn eine KI nur einen gewünschten Satz liefern soll und niemand die Verantwortung im Ablauf festlegt. Dann fehlt die Grundlage für eine belastbare Entscheidung.

Eine gute Kontrolle fällt im Normalfall kaum auf. Im Grenzfall verhindert sie, dass ein plausibler Text eine Entscheidung vortäuscht. Sie bleibt auch dann bestehen, wenn ein Beteiligter eine Vorgabe missversteht oder einen Weg abkürzt. Wo es um Kontrolle geht, gehört die Bedingung in den Code, nicht in die Anweisung.

---

Michael Höner ist IT-Architekt und strategischer Sparringspartner für den Mittelstand. Er berät Unternehmen in NRW und bundesweit zu IT-Sicherheit, KI-Verantwortung und digitaler Architektur — ohne Produktprovisionen, ohne Implementierungsmandat.