Es gibt zwei mögliche Architekturen, und auf einem Schaubild ähneln sie sich. Die erste: Die KI analysiert, entscheidet, handelt. Die zweite: Die KI analysiert, schlägt vor, ein Mensch gibt frei, dann geht die Aktion raus. Bei einem harmlosen Prozess ist der Unterschied eine Frage der Bequemlichkeit. Bei einem sensiblen Prozess ist er der Unterschied zwischen Zeitgewinn und Vorfall.

Die Regel: die Kosten eines Fehlers entscheiden

Wir setzen die menschliche Freigabe weder aus Prinzip noch aus Misstrauen. Wir setzen sie dort, wo ein Fehler mehr kosten würde als die Zeit, die er kostet. Vier Fragen genügen, Schritt für Schritt:

  • Ist es umkehrbar? Eine falsche Zuordnung lässt sich korrigieren. Eine E-Mail an dreitausend Kunden nicht.
  • Ist es von außen sichtbar? Alles, was das Unternehmen verlässt, verpflichtet sein Bild und sein Wort.
  • Verpflichtet es rechtlich oder finanziell? Ein Preis, eine Frist, eine Ablehnung, eine Erstattung.
  • Ist die Regel stabil? Eine Regel, die sich monatlich ändert, braucht länger ein menschliches Auge.

Ein umkehrbarer, interner Schritt ohne Verpflichtung und mit stabiler Regel darf allein laufen. Sobald eine dieser Bedingungen wegfällt, entsteht eine Freigabe.

Was Freigeben bedeutet

Eine Freigabe nützt nur, wenn sie in Sekunden möglich ist. Ein Häkchen mitten in einer Textwand ist keine Freigabe, sondern eine Formalität, die man irgendwann ungelesen abhakt. Wir gestalten den Freigabebildschirm deshalb als eigenständiges Ergebnis: was die Maschine vorschlägt, worauf sie sich stützt, was bei Zustimmung passiert und eine Möglichkeit, mit einem Klick abzulehnen.

Bei Aktionen mit Außenwirkung gehen wir weiter: Eine Ablehnung blockiert nicht nur, sie macht rückgängig, was rückgängig zu machen ist, und hält das Verbot fest, damit derselbe Vorschlag in der Folgewoche nicht wiederkehrt.

Eine Freigabe, die niemand liest, ist keine Sicherheit. Sie ist eine Blankounterschrift.

Die Falle der Freigabe für alles

Alles von einem Menschen freigeben zu lassen wirkt vorsichtig. In der Praxis ist es der sicherste Weg, das Projekt zu töten: Die Warteschlange wächst, die freigebende Person wird zum neuen Engpass, und nach drei Wochen gibt sie alles ungeprüft frei. Der Gewinn verschwindet, das Risiko kehrt zurück.

Eine gute Architektur reserviert menschliche Aufmerksamkeit daher für die Fälle, die sie verdienen: hohe Beträge, sensible Kunden, Situationen, die das Modell selbst als unsicher meldet, und eine Zufallsstichprobe, um zu prüfen, dass der Rest weiter trägt.

Drei Betriebsarten, nicht zwei

  • Automatisch. Die Maschine handelt, der Mensch prüft im Nachhinein stichprobenartig. Nur für umkehrbare, interne Schritte.
  • Mit Freigabe. Die Maschine bereitet vor, der Mensch gibt frei, bevor die Aktion hinausgeht. Die Standardeinstellung für alles, was das Unternehmen verlässt.
  • Unterstützt. Der Mensch macht die Arbeit, die Maschine liefert Material, Kontext und einen Entwurf. Die richtige Betriebsart für seltene, komplexe oder zwischenmenschliche Situationen.

Ein vollständiger Prozess mischt fast immer alle drei. Das ist zugleich ein guter Test: Ein Anbieter, der auf alle Schritte dieselbe Betriebsart anwendet, hat die Analyse nicht gemacht.

Die Betriebsart folgt dem Nachweis

Ein Schritt bleibt nicht in seiner Betriebsart eingefroren. Wenn ein Schritt mit Freigabe mehrere hundert Vorschläge ohne Korrektur zeigt, kann er mit Stichprobenkontrolle auf automatisch wechseln. Umgekehrt geht ein automatischer Schritt, der wiederholt Korrekturen erzeugt, noch am selben Tag zurück in die Freigabe. Dieser Wechsel wird über Zahlen entschieden, nicht über Eindrücke, und er ist ein wichtiger Teil der Arbeit eines Orchestrators.