Wann ein Mensch antworten muss: Die Grenzen von Support-KI

Eine Kundin schrieb uns, ihre Zahnbürste habe ihr Zahnfleisch bluten lassen. Die KI hätte darauf eine höfliche Standardantwort formuliert.

Sie hat es nicht getan, weil diese Art Anfrage bei uns gar nicht erst in die Automatik läuft. Genau darum geht es hier.

Bei nano, mate und MUSTAX beantwortet die KI rund 65 Prozent der Support-Anfragen automatisch. Diese Zahl wird oft gefeiert. Ich finde die anderen 35 Prozent interessanter. Denn die sind kein technischer Rückstand, den wir noch aufholen. Sie sind eine Entscheidung.

Die Zahl 65 Prozent ist kein Zwischenstand

Wenn ich mit Founders spreche, kommt fast immer die gleiche Frage: Warum nicht 90 Prozent? Warum nicht alles?

Weil die verbleibenden Anfragen nicht schwerer sind. Sie sind teurer im Fehlerfall. Eine falsch beantwortete Tracking-Frage kostet dich eine zweite Mail. Eine falsch beantwortete Gesundheitsfrage kostet dich im schlimmsten Fall die Marke.

Die richtige Frage lautet nie: Wie viel Prozent laufen automatisch? Sie lautet: Was passiert im schlechtesten Fall, und wer trägt ihn? Diese Frage haben wir bei Human in the Loop schon einmal für Automationen allgemein durchgespielt. Im Support hat sie eine eigene Schärfe, weil am anderen Ende ein Mensch sitzt, der gerade unzufrieden ist.

Was die Automatik bei uns übernimmt, ist schnell erzählt. Wo ist mein Paket, das sind rund 40 Prozent aller Anfragen. Dazu Lieferzeiten, Produktfragen mit klarer Antwort, Rechnungskopien, Adressänderung vor Versand, Widerrufsbelehrung. Alles Fälle mit genau einer richtigen Antwort, die im System steht.

Vier Kategorien, die niemals automatisch antworten dürfen

Wir haben das über die Jahre auf vier Gruppen eingedampft. Wenn eine davon zutrifft, geht die Anfrage sofort an einen Menschen. Ohne Vorschlag, ohne Entwurf, ohne Zwischenschritt.

Erstens: Gesundheit und Sicherheit. Bei nano verkaufen wir Zahnbürsten. Da kommen Fragen zu blutendem Zahnfleisch, zu Implantaten, zu Kindern. Eine KI, die hier auch nur nach Beratung klingt, ist ein Haftungsrisiko. Wir antworten mit einem Menschen, und der Mensch verweist im Zweifel an die Zahnarztpraxis.

Zweitens: Geld ohne klare Regel. Erstattung außerhalb der Frist, Kulanz, Teilgutschrift, doppelte Abbuchung. Wo eine Regel existiert, darf die Automatik sie anwenden. Wo jemand abwägen muss, darf sie es nicht.

Drittens: Beschwerden mit Emotion. Nicht jede Reklamation ist eine Beschwerde. Aber wenn jemand schreibt, dass er sich verarscht fühlt, ist die perfekt formulierte Antwort das Problem, nicht die Lösung. Sie liest sich wie Hohn.

Viertens: Alles, was rechtlich klingt. Anwaltsschreiben, Datenschutzauskunft, Widerruf mit Fristbezug, Androhung einer Bewertung als Druckmittel. Solche Mails brauchen einen geprüften Text, kein schnelles Formulieren.

Dazu kommt eine fünfte Gruppe, die keine Kategorie ist: alles, was das System nicht sicher einordnen kann. Unsicherheit ist bei uns ein eigener Ausgang, kein Grund zu raten.

Wie die Erkennung tatsächlich funktioniert

Die Kategorien nützen nichts, wenn die Erkennung an der Formulierung hängt. Wir arbeiten deshalb mit drei Ebenen übereinander.

Die unterste Ebene sind harte Stoppwörter. Anwalt, Klage, Arzt, Allergie, Krankenhaus, Kind, Betrug. Kommt eines davon vor, ist die Automatik aus. Punkt. Das ist grob, es erzeugt Fehlalarme, und es ist trotzdem die wichtigste Ebene, weil sie nicht vom Modell abhängt.

Die mittlere Ebene ist die Klassifikation durch die KI selbst. Sie ordnet die Anfrage einer Kategorie zu und gibt an, wie sicher sie ist. Liegt die Sicherheit unter unserer Schwelle, geht der Fall an einen Menschen.

Die oberste Ebene ist der Kontext aus dem Shop. Ist der Kunde zum dritten Mal in vier Wochen da? Gab es schon eine Erstattung? Ist die Bestellung über einem Schwellenwert? Dann eskalieren wir, auch wenn die Anfrage harmlos aussieht. Ein technisch simpler Fall bei einem Kunden mit drei Vorfällen ist kein simpler Fall.

Diese drei Ebenen sind bewusst redundant. Jede fängt etwas, was die anderen durchlassen. Der Preis dafür sind unnötige Eskalationen, und den zahlen wir gerne. Wer das im Detail nachbauen will, findet den Aufbau in Support-Mails mit KI vorsortieren.

Die Übergabe ist der eigentliche Knackpunkt

Die meisten Systeme scheitern nicht an der Erkennung. Sie scheitern an der Sekunde danach.

Der Klassiker: Die KI schreibt zwei Antworten, dann merkt sie, dass sie nicht weiterkommt, und übergibt. Der Kunde hat jetzt zwei nutzlose Mails im Postfach und muss seine Frage ein drittes Mal erklären. Das ist schlechter als gar keine Automatisierung, weil es zusätzlich Vertrauen verbrennt.

Vier Regeln, an die wir uns halten:

Und eine Regel dazu, die unbequem ist: Der Kunde muss erkennen können, dass er mit einer Maschine schreibt. Wir schreiben es nicht in jede Zeile, aber wir behaupten nie das Gegenteil. Wer einmal beim Vortäuschen erwischt wird, verliert genau bei den Kunden, die sonst geblieben wären.

Was passiert, wenn man es falsch macht

Ich habe drei Fehler gesehen, zwei davon bei uns selbst.

Der Vertrauensbruch. Ein Kunde bekommt auf eine ernste Sache eine offensichtlich generierte Antwort. Er postet den Screenshot. Der Schaden liegt nicht in der einen Antwort. Ab jetzt steht jede eurer Mails unter Verdacht.

Der stille Rückstau. Die Eskalation funktioniert, aber niemand hat definiert, wer den eskalierten Fall bearbeitet. Die Fälle liegen zwei Tage. Aus einer Frage wird eine Beschwerde. Ein Automatisierungsprojekt, das die Weiterleitung baut und die Zuständigkeit vergisst, macht den Service messbar schlechter.

Die falsche Autorität. Das Modell erfindet eine Regel, die es nicht gibt, und formuliert sie überzeugend. Bei uns hat es einmal eine Rückgabefrist zugesagt, die wir nie hatten. Wir haben sie eingehalten, weil alles andere schlimmer gewesen wäre. Warum das in der Funktionsweise dieser Modelle liegt, steht in KI-Halluzinationen vermeiden.

Die Gegenrede: zu vorsichtig ist auch falsch

Ich will nicht so klingen, als sei Zurückhaltung immer richtig. Sie hat einen Preis, und der wird selten genannt.

Wer aus Angst alles eskaliert, hat kein sicheres System. Er hat ein langsames. Antwortzeit ist der Wert, den Kunden am direktesten spüren. Eine korrekte Antwort nach zwei Tagen ist für den Kunden schlechter als eine automatische nach zwei Minuten.

Der zweite Effekt ist intern. Wer täglich vierzig eskalierte Fälle durchsieht, liest ab Fall zehn nicht mehr richtig. Dann hast du das Risiko behalten und die Zeitersparnis verloren. Unsere Faustregel: Wenn mehr als jeder dritte Fall bei einem Menschen landet, sind die Regeln zu grob.

Deshalb messen wir die Eskalationsquote genauso ernst wie die Fehlerquote. Welche Werte dabei zählen, steht in Kundenservice-KPIs. Die Grenze ist keine Einstellung, die man einmal setzt. Sie ist eine Zahl, die man beobachtet.

Was das im Alltag bedeutet

Bei mate liegt morgens eine kurze Liste in Slack. Von etwa dreißig Anfragen über Nacht sind zwanzig automatisch beantwortet, sieben als Entwurf vorbereitet, drei eskaliert. Die drei kosten uns zusammen vielleicht zwanzig Minuten.

Diese zwanzig Minuten sind der Grund, warum das Ganze funktioniert. Nicht die zwanzig automatischen Antworten. Ohne die drei ernsten Fälle in Menschenhand wäre die Automatik nach dem ersten öffentlichen Fehltritt tot.

Fazit

Die Grenze zwischen Maschine und Mensch ist keine Frage der Technik. Sie ist eine Frage der Fallhöhe.

Mein Rat, wenn du gerade anfängst: Schreib zuerst auf, was die KI niemals beantworten darf. Erst danach, was sie darf. Die Liste der Verbote ist kürzer, klarer und schützt dich besser als jede Feinabstimmung am Modell. Wie der Rest des Aufbaus aussieht, steht im Guide zur Kundenservice-Automatisierung.

Wenn du unsicher bist, wo bei euch die Grenze liegen sollte: Sprich mit uns bei Flowhouse. Wir gehen deine echten Anfragen durch und sagen dir auch, was du getrost automatisch laufen lassen kannst.