Welches KI-Modell für welchen Job: Unsere Praxis-Matrix

"Welches Modell nutzt ihr?" ist die Frage, die ich am häufigsten höre. Sie ist fast immer die falsche.

Denn die Antwort lautet: mehrere, und zwar je nach Aufgabe. In unseren drei Brands laufen an einem normalen Tag vier verschiedene Modellklassen nebeneinander. Das hat einen Grund: Ein Modell, das eine Mail sauber einsortiert, ist für eine Produktbeschreibung zu stumpf. Und weil das Modell, das die Produktbeschreibung schreibt, für das Einsortieren zwanzigmal zu teuer wäre.

Ich schreibe deshalb nicht über Versionsnummern. Die veralten schneller, als dieser Artikel gelesen wird. Ich schreibe über Aufgabenarten und darüber, welche Art von Modell dazu passt.

Modellklassen statt Modellnamen

Es gibt grob drei Klassen, und der Unterschied ist der Preis pro Aufgabe, nicht die Marke.

Diese Einteilung überlebt jeden Anbieterwechsel. Die Namen darunter ändern sich alle paar Monate, die Klassen bleiben.

Aufgabenart 1: Klassifizieren

Eine Eingabe kommt rein, eine von wenigen Kategorien kommt raus. Support-Mail einsortieren, Sprache erkennen, Dringlichkeit einschätzen, Spam aussortieren.

Empfehlung: klein und schnell. Das ist die einfachste Aufgabe, die es gibt, und die Ergebnisse sind fast so gut wie bei großen Modellen. Bei uns läuft die gesamte Support-Triage so. Wie der Aufbau aussieht, steht in Support-Mails mit KI vorsortieren.

Zwei Dinge sind wichtiger als die Modellwahl. Erstens: Gib die Kategorien vor, nicht mehr als zehn, jede mit einem Beispiel. Zweitens: Erlaube ausdrücklich die Kategorie "unklar". Ohne sie rät das Modell und trifft daneben.

Klassifizieren ist auch die Aufgabe, bei der du am meisten Geld sparst. Bei tausend Anfragen im Monat ist der Unterschied zwischen klein und groß der Unterschied zwischen einem Kaffee und einer Restaurantrechnung.

Aufgabenart 2: Zusammenfassen und Extrahieren

Ein langer Text kommt rein, das Wesentliche oder ein paar Felder kommen raus. Kundenmail auf den Kern kürzen, Rechnungsdaten aus einem PDF ziehen, Wochenreport aus Zahlen bauen.

Empfehlung: klein bis mittel. Solange der Originaltext mitgeliefert wird, arbeiten auch kleine Modelle sauber. Sie erfinden wenig, weil sie nichts erfinden müssen.

Mittel wird es nötig, wenn der Text unstrukturiert ist oder mehrere Sprachen mischt. Bei MUSTAX zieht ein mittleres Modell Positionen aus Lieferantenrechnungen, weil jeder Lieferant ein eigenes Layout hat. Das Reporting drumherum hat früher 2 Tage gekostet und braucht heute 2 Stunden.

Faustregel: Je vorhersehbarer das Eingabeformat, desto kleiner darf das Modell sein.

Aufgabenart 3: Texten

Aus Vorgaben entsteht Text, den ein Kunde liest. Antwortmail, Produktbeschreibung, Newsletter-Absatz.

Empfehlung: mittel. Hier wird die kleine Klasse spürbar schlechter. Der Text wird holprig, wiederholt sich, trifft den Ton nicht. Die große Klasse wiederum schreibt kaum besser, kostet aber ein Vielfaches.

Der größere Hebel liegt sowieso nicht im Modell. Er liegt in dem, was du mitgibst. Drei Beispieltexte in deinem Ton verbessern das Ergebnis stärker als jeder Modellwechsel. Wir halten für jede Brand eine kurze Stilvorgabe bereit, plus fünf Musterantworten.

Und: Texte mit Fakten brauchen immer einen Prüfschritt, bevor sie rausgehen. Was im Kundenkontakt trägt und was nicht, steht in KI im Kundenservice, was funktioniert.

Aufgabenart 4: Entscheiden

Mehrere Regeln, Ausnahmen und ein Urteil am Ende. Ist dieser Kulanzfall vertretbar? Passt diese Retoure zur Richtlinie? Soll dieser Lieferant nachbestellt werden?

Empfehlung: groß und gründlich, plus menschliche Freigabe. Das ist die einzige Aufgabenart, bei der sich die große Klasse wirklich rechnet. Sie hält mehrere Bedingungen gleichzeitig im Kopf und merkt, wenn zwei Regeln sich widersprechen.

Trotzdem entscheidet sie bei uns nichts allein. Bei Geld, Rechten und Ärger klickt ein Mensch. Warum diese Grenze fest steht, steht im Guide zur Kundenservice-Automatisierung.

Ein Zusatz: Viele vermeintliche Entscheidungsaufgaben sind gar keine. Wenn du die Regeln aufschreiben kannst, gehören sie in Code. Code ist billiger, schneller und immer gleich. Ein Modell brauchst du erst, wenn die Regeln in Prosa stehen und Ausnahmen kennen.

Die Matrix

AufgabenartEmpfohlene KlasseWarumFreigabe nötig
Klassifizierenklein und schnellbegrenzte Auswahl, kaum Spielraumnein
Extrahierenklein bis mittelQuelle liegt vor, wenig Erfindungnein
Zusammenfassenklein bis mittelRisiko ist Weglassen, nicht Erfindennein
Interne TextemittelTon zählt, Fehler sind billignein
KundentextemittelTon zählt, Fakten prüfenStichprobe
Entscheidengroß und gründlichmehrere Regeln gleichzeitigja
Rechnengar kein ModellCode ist exakt, Modelle sind es nichtentfällt

Die letzte Zeile ist die, die am meisten Ärger spart. Prozente, Fristen und Beträge gehören nie in ein Sprachmodell.

Kosten und Tempo, konkret gedacht

Absolute Preise nenne ich hier bewusst nicht, sie ändern sich zu oft. Die Verhältnisse sind stabiler.

Zwischen der kleinen und der großen Klasse liegt bei uns grob ein Faktor 20 bis 50 pro Aufruf. Beim Tempo liegt der Unterschied zwischen unter einer Sekunde und mehreren Sekunden.

Was das praktisch heißt: Bei zehn Aufrufen am Tag ist die Modellwahl egal. Nimm das gute. Bei zehntausend Aufrufen am Tag ist sie deine zweitgrößte Kostenposition nach dem Hosting.

Zum Tempo eine Falle, die oft übersehen wird. Ein Chat auf deiner Website braucht Antwort in unter zwei Sekunden, sonst klickt der Kunde weg. Ein nächtlicher Report darf zehn Minuten brauchen. Dieselbe Aufgabe, zwei völlig verschiedene Modellentscheidungen. Mehr dazu in KI-Chatbot für die Website.

Bau so, dass du wechseln kannst

Das ist der Punkt, an dem die meisten Setups leiden. Wenn der Modellname zwanzigmal im Code steht, ist jeder Wechsel ein Projekt.

Bei uns steht er an einer Stelle. Jeder Workflow fragt nach einer Stufe statt nach einem Modell: schnell, normal oder gründlich. Welches Modell dahinter liegt, steht in einer einzigen Konfiguration. Ein Anbieterwechsel ist damit eine Zeile, kein Umbau.

Dazu gehört ein zweiter Baustein: eine Handvoll gespeicherter Testfälle je Aufgabe. Zwanzig echte Support-Mails mit der richtigen Kategorie daneben, zehn Produkttexte mit dem gewünschten Ergebnis. Vor jedem Wechsel laufen die durch. Das dauert Minuten und beantwortet die Frage "ist das neue Modell hier besser" mit Daten statt mit Gefühl.

Ohne diese Testfälle ist jede Modellentscheidung Geschmackssache. Mit ihnen ist sie eine Messung.

Die Grenzen dieser Matrix

Sie ist unsere Praxis, kein Naturgesetz. Vier Stellen, an denen sie nicht trägt:

Und eine Einschränkung zum Schluss: Wir messen Qualität an unseren Testfällen, nicht an Ranglisten. Was bei uns gewinnt, kann bei dir verlieren.

Fazit

Such nicht das beste Modell. Such für jede Aufgabe das kleinste, das die Aufgabe noch sauber löst. Das ist billiger, schneller und meistens genauso gut.

Der Rest ist Handwerk. Aufgaben klein schneiden, Beispiele mitgeben, Testfälle pflegen, Modellwahl an einer Stelle halten. Wer das hat, kann jedem neuen Modell in einer halben Stunde begegnen statt in einem Sprint.

Wenn du wissen willst, welche Stufe bei deinen Aufgaben reicht: Melde dich bei Flowhouse. Wir rechnen das mit dir durch, auch wenn am Ende kein Modell nötig ist.