Human in the Loop: Warum unsere Automationen eine Freigabe haben

Die schönste Automation, die wir je gebaut haben, lief zwei Wochen fehlerfrei und hätte uns dann fast 400 Euro gekostet. Sie hätte eine Erstattung für eine Retoure ausgelöst, die nie im Lager angekommen war.

Sie hat es nicht getan, weil ein Mensch vorher einmal klicken musste. Der Klick dauerte vier Sekunden. Genau darum geht es in diesem Artikel.

"Human in the Loop" heißt übersetzt: ein Mensch bleibt im Ablauf. Er ist keine Bremse, er ist ein bewusst gesetzter Punkt, an dem jemand zustimmt, bevor etwas Unumkehrbares passiert. Ich schreibe auf, wo dieser Punkt hingehört und wie du ihn baust, ohne einen Flaschenhals zu erzeugen. Und wann du ihn wieder entfernen darfst.

Die Frage ist nicht "wie viel Automatisierung"

In fast jedem Gespräch kommt irgendwann der Satz: "Wir wollen das komplett automatisch." Ich verstehe den Reflex. Halbautomatisch klingt nach halb fertig.

Ist es aber nicht. Die richtige Frage lautet nicht, wie viel Prozent automatisch laufen. Sie lautet: Was passiert im schlechtesten Fall, und wer trägt ihn?

Bei uns beantwortet die KI rund 65 Prozent der Support-Anfragen automatisch. Was so ein System überhaupt kann, steht in Was ist ein KI-Agent. Die Zahl steht nicht, weil wir bei 65 Prozent aufgehört haben zu bauen. Sie steht, weil der Rest Fälle sind, in denen ein Fehler mehr kostet als die gesparte Minute.

Die eine Frage, die entscheidet: umkehrbar oder nicht

Wir prüfen jeden Schritt einer Automation an drei Fragen. Erst wenn alle drei mit "unkritisch" beantwortet sind, läuft er ohne Freigabe.

• Ist der Schritt umkehrbar? Ein falsch gesetztes Label im Helpdesk korrigierst du in zehn Sekunden. Eine ausgezahlte Erstattung holst du nicht zurück.
• Sieht ein Kunde das Ergebnis? Alles, was das Haus verlässt, hat eine andere Fallhöhe als alles, was intern bleibt.
• Wie breit wirkt ein Fehler? Ein Fehler alle tausend Durchläufe ist etwas anderes als ein Fehler, der ab dann jeden Durchlauf betrifft.

Daraus ergibt sich unsere Aufteilung. Umkehrbar und intern läuft immer automatisch. Unumkehrbar oder mit Geld verbunden bekommt eine Freigabe. Alles dazwischen entscheiden wir nach Häufigkeit.

Konkret bei uns ohne Freigabe: einsortieren, weiterleiten, Tracking-Auskunft, Lagerbestand abgleichen, Reports bauen. Mit Freigabe: Erstattungen, Kulanz außerhalb der Frist, Adressänderungen nach Versand, jede Nachbestellung über einem Schwellenwert, jede Antwort an einen sichtbar verärgerten Kunden.

Wo die Freigabe sitzt, entscheidet über den Nutzen

Ein häufiger Denkfehler: die Freigabe ganz ans Ende zu setzen, kurz vor dem Absenden. Das fühlt sich sicher an und ist die teuerste Variante.

Denn zu diesem Zeitpunkt ist alles schon passiert. Der Mensch liest einen fertigen Text und soll beurteilen, ob die Entscheidung dahinter richtig war. Dafür muss er alles noch einmal nachvollziehen.

Besser ist die Freigabe an der Stelle, an der die Entscheidung fällt. Die Frage lautet "ist dieser Fall Kulanz, ja oder nein", nicht "geht diese Mail raus". Die erste Frage kostet zwei Minuten Lesen. Die zweite kostet vier Sekunden.

Der Unterschied klingt klein und ist entscheidend. Eine Freigabe von vier Sekunden funktioniert dauerhaft. Eine von zwei Minuten wird nach drei Wochen blind durchgeklickt.

So bauen wir eine Freigabe, die niemanden aufhält

Vier Regeln, die wir uns über die Jahre erarbeitet haben.

Erstens: Die Automation bereitet alles vor. Wenn die Freigabe kommt, ist die Arbeit fertig. Daten geholt, Regeln geprüft, Text formuliert, Empfehlung ausgesprochen. Der Mensch entscheidet, er recherchiert nicht.

Zweitens: Eine Entscheidung, ein Klick. Die Nachricht in Slack enthält den Fall in drei Zeilen, die Empfehlung und zwei Knöpfe. Kein Wechsel ins Backend, kein Suchen nach der Bestellnummer. Wer für eine Freigabe drei Systeme öffnen muss, schiebt auf, statt freizugeben.

Drittens: Eine Vorauswahl ist erlaubt. Die Automation darf sagen, was sie für richtig hält, und das auch markieren. Zustimmen ist schneller als entscheiden. Der Widerspruch bleibt immer möglich.

Viertens: Es gibt einen Ablauf. Wenn niemand innerhalb einer festgelegten Zeit reagiert, passiert etwas Definiertes. Bei unkritischen Fällen läuft es dann automatisch weiter. Bei kritischen bekommt jemand eine Erinnerung, und der Fall bleibt liegen. Was nie passieren darf: dass ein Fall still verschwindet.

Diese vier Regeln machen den Unterschied zwischen 20 Sekunden am Tag und 40 Minuten. Bei uns sind es 20 Sekunden.

Ein Beispiel aus dem Betrieb

Bei mate haben wir die Bestellabwicklung von 4 Stunden pro Tag auf 15 Minuten gebracht. Diese 15 Minuten sind keine Restarbeit, die wir noch nicht wegautomatisiert haben. Sie sind die Freigaben.

So sieht das aus. Über Nacht laufen die Bestellungen durch. Am Morgen liegen drei bis fünf Fälle in Slack, bei denen die Automation nicht allein weitergegangen ist. Meistens eine unplausible Lieferadresse, eine auffällig hohe Bestellmenge oder eine Retoure, deren Ware laut Lager nie ankam.

Jeder Fall steht als kurze Nachricht da. Was ist passiert, was empfiehlt das System, warum. Zwei Knöpfe darunter. Fünf Fälle, zwei Minuten, fertig.

Genau in dieser Schleife hing die Retoure aus der Einleitung. Das System hat korrekt erkannt, dass der Kunde eine Rücksendung angemeldet hat. Es hat nicht gesehen, dass das Paket auf dem Rückweg verloren ging, weil der Wareneingang im Lager fehlte. Ein Mensch hat es in vier Sekunden gesehen.

Ohne diese Schleife hätten wir drei Brands nicht mit 2 Leuten im Tagesgeschäft halten können. Das liegt an den Freigaben, nicht trotz ihnen. Mehr zum Gesamtaufbau steht im Guide zur Kundenservice-Automatisierung.

Wann du die Freigabe wieder entfernen darfst

Freigaben sind kein Dauerzustand. Sie sind ein Lernmodus, und der darf enden.

Wir entfernen eine Freigabe, wenn drei Bedingungen erfüllt sind.

• Genug Fälle. Mindestens ein paar hundert Durchläufe derselben Art. Bei zwanzig Fällen weißt du nichts.
• Eine Zustimmungsquote nahe hundert Prozent. Wenn du seit Monaten in 99 von 100 Fällen den Vorschlag bestätigst, ist die Freigabe nur noch ein Ritual. Liegt die Quote bei 85 Prozent, bleibt sie.
• Ein Sicherheitsnetz danach. Wir schalten nie einfach ab. Wir schalten um auf Stichprobe. Zehn Prozent der Fälle gehen weiter an einen Menschen, jetzt aber im Nachhinein statt vorher. Wird dort etwas auffällig, kommt die Freigabe zurück.

Die Zustimmungsquote ist der wichtigste Wert, und deshalb protokollieren wir jede Freigabe mit ihrem Ausgang. Ohne dieses Protokoll bleibt die Frage "können wir das jetzt automatisch laufen lassen" für immer Bauchgefühl.

Bei uns sind so über zwei Jahre etwa die Hälfte der ursprünglichen Freigaben verschwunden. Die andere Hälfte steht noch, und einige davon werden nie verschwinden. Erstattungen zum Beispiel. Da ist die Quote gut, das Risiko aber unverändert hoch.

Die Grenzen

Human in the Loop ist kein Zauberwort. Vier Stellen, an denen es nicht hilft oder sogar schadet.

• Zu viele Freigaben sind schlimmer als keine. Wer täglich vierzig Fälle bestätigen muss, liest ab Fall zehn nicht mehr. Dann hast du das Risiko behalten und die Zeitersparnis verloren. Faustregel bei uns: mehr als 5 bis 8 Freigaben am Tag pro Person ist ein Warnsignal.
• Der Mensch muss urteilsfähig sein. Eine Freigabe zu einer Frage, die der Freigebende nicht beurteilen kann, ist Theater. Dann fehlt Wissen oder eine klare Richtlinie, keine Kontrolle.
• Sie ersetzt keine sauberen Daten. Wenn die Automation aus falschen Stammdaten falsche Vorschläge baut, klickt der Mensch die Fehler mit durch. Erst der Prozess, dann die Automatisierung. Wo Automatisierung generell nicht trägt, steht in Wann Automatisierung keinen Sinn macht.
• Sie verschiebt die Haftung nicht. Der Klick macht die Entscheidung nicht sicherer, er macht sie zurechenbar. Das ist wertvoll, aber etwas anderes.

Und eine Einschränkung zum Modell dahinter: Eine Freigabe fängt nur, was ein Mensch in wenigen Sekunden sehen kann. Eine KI-Antwort, die faktisch falsch, aber plausibel formuliert ist, rutscht durch. Warum das so ist, hängt daran, wie diese Modelle arbeiten. Die Abgrenzung zwischen Agent, Chatbot und Workflow steht in KI-Agent, Chatbot oder Workflow.

Fazit

Eine Automation ohne Freigabe ist nicht mutiger, sie ist nur ungeprüfter. Die Kunst liegt nicht darin, den Menschen rauszuwerfen. Sie liegt darin, ihn genau an die Stellen zu setzen, an denen vier Sekunden Aufmerksamkeit den größten Schaden verhindern.

Mein Rat, wenn du neu anfängst: Baue mit Freigabe, auch wenn du sicher bist. Miss die Zustimmungsquote. Nimm die Freigabe raus, wenn die Zahlen es erlauben, nicht wenn die Ungeduld es verlangt. So bekommst du beides, Tempo und ruhigen Schlaf.

Wenn du unsicher bist, welche Schritte in deinem Shop eine Freigabe brauchen: Sprich mit uns bei Flowhouse. Wir gehen deine Prozesse mit dir durch und sagen dir auch, wo du getrost automatisch laufen lassen kannst.