Decision Models: Wie sie Entscheidungen treffen und wofür sie sich eignen

Decision Models: Wie sie Entscheidungen treffen und wofür sie sich eignen

Nicht jede Aufgabe in einem n8n-Workflow braucht ein großes Sprachmodell, das Texte formuliert, ausführlich argumentiert oder mehrere Schritte plant. Manchmal soll ein Modell lediglich einen Inhalt einordnen, einen Score vergeben oder eine Ja-Nein-Entscheidung treffen.

Für solche Aufgaben gibt es Decision Models, auch System-1-Modelle genannt. Ich setze sie in meinen n8n-Workflows über Opper AI ein. Damit konnte ich einige LLM-Anfragen entfernen. Bei klar umrissenen Entscheidungsaufgaben sind diese Modelle für mich effizienter und schneller.

Was sind Decision Models?

Decision Models sind auf Aufgaben ausgelegt, bei denen ein Modell eine Auswahl treffen oder eine Bewertung zurückgeben soll. Dazu gehören zum Beispiel:

  • Inhalte klassifizieren
  • einen Score oder eine Bewertung vergeben
  • eine Ja-Nein-Entscheidung treffen
  • eine Eingabe einer passenden Kategorie oder Route zuordnen
  • prüfen, ob eine Anfrage Hinweise auf eine Prompt Injection enthält

Das unterscheidet sie von typischen generativen Aufgaben. Wenn ein Workflow einen längeren Text, eine Erklärung oder mehrere alternative Formulierungen braucht, ist ein generatives Modell weiterhin passend. Wenn der gewünschte Output dagegen eine Entscheidung ist, lohnt sich der Blick auf ein Decision Model.

Einsatzmöglichkeiten über einzelne Workflows hinaus

Decision Models können nicht nur als sichtbarer Schritt in einem Workflow eingesetzt werden. Sie können auch im Hintergrund arbeiten und dort Entscheidungen beschleunigen, die sonst ein größeres generatives Modell treffen müsste.

Ein Beispiel dafür sind Coding Agents. Plugins oder Erweiterungen können Decision Models nutzen, um im Hintergrund schneller das passende Tool oder den geeigneten Sub-Agenten auszuwählen. Das Decision Model erzeugt dabei nicht den Code und führt die eigentliche Aufgabe nicht selbst aus. Es trifft eine eng umrissene Auswahlentscheidung, damit der Agent den nächsten Schritt gezielter angehen kann.

Auch mehrstufige Abläufe sind möglich: Mehrere Decision-Model-Aufrufe lassen sich hintereinander zu einem dynamischen Entscheidungsbaum verbinden. Das Ergebnis einer Entscheidung bestimmt dann, welche Frage oder welcher Modellaufruf als Nächstes folgt. So kann ein System schrittweise einen passenden Pfad durch mögliche Optionen wählen, statt alle Möglichkeiten mit einem einzigen großen LLM-Aufruf zu bearbeiten.

Je mehr Entscheidungsschritte ein solcher Ablauf enthält, desto wichtiger wird es, den gesamten Entscheidungsweg zu testen. Ein Fehler in einem frühen Schritt kann die nachfolgenden Entscheidungen beeinflussen. Die einzelnen Ausgaben sollten deshalb klar begrenzt, überprüfbar und für die nächste Stufe geeignet sein.

Warum ich sie in n8n nutze

In n8n wird ein LLM häufig als ein Schritt innerhalb eines größeren Workflows aufgerufen. Der nächste Schritt benötigt dann oft nur ein kleines Ergebnis: etwa einen Tag, einen Score oder einen Wert, anhand dessen der Ablauf verzweigt.

Ein Modell, das ausführlichen Text generiert, kann dafür mehr leisten als nötig. Bei meinen Entscheidungsaufgaben sind Decision Models eine schnellere und effizientere Möglichkeit. In meinem konkreten Setup über Opper AI bezahle ich nur die Input-Tokens, der Output kostet nichts. Das ist eine Eigenschaft des von mir genutzten Angebots und nicht automatisch auf jeden Anbieter oder jedes Modell übertragbar.

Eine weitere praktische Eigenschaft ist die strukturierte, maschinenlesbare JSON-Ausgabe. Wenn das Modell das benötigte Format direkt liefert, kann in n8n ein zusätzlicher Output Parser entfallen. Das reduziert Verarbeitungsschritte und kann einen weiteren LLM-Aufruf vermeiden.

Das ersetzt keine Prüfung des Ergebnisses. Auch JSON kann formal korrekt, aber inhaltlich falsch sein. Deshalb teste ich die Ausgabe mit repräsentativen Beispielen und prüfe, ob sie dem erwarteten Schema entspricht.

Beispiel einer Klassifikation über ein n8n Request Node mit JSON Ausgabe

Ein Beispiel aus meinem Workflow

Ich nutze ein Decision Model in meinem Workflow zum automatischen Taggen von Linkding-Bookmarks. Das Modell ordnet Bookmarks einer vorgegebenen Tag-Struktur zu. Es muss dafür keinen Artikel schreiben und keine lange Begründung liefern. Die relevante Aufgabe ist die Klassifikation.

Der Workflow zeigt auch, dass die Modellwahl nur ein Teil der Lösung ist. Die Tag-Struktur und die Vorgaben für die Klassifikation müssen klar genug sein, damit ein Modell sie konsistent anwenden kann. Ein günstiges und schnelles Modell kann eine unklare Taxonomie nicht automatisch reparieren.

Decision Models als Prüfschritt für LLMs

Decision Models können auch generative Modelle indirekt unterstützen. Opper AI nutzt sie zur Erkennung von Prompt Injections bei LLM-Anfragen. Ein schnelles Decision Model kann dabei als Prüfschritt dienen, bevor eine Anfrage an ein generatives Modell weitergegeben wird.

Das ersetzt kein umfassendes Sicherheitskonzept. Wie bei anderen Klassifikationsaufgaben sollte ich auch diese Erkennung mit passenden Testfällen überprüfen und berücksichtigen, dass ein Modell eine problematische Eingabe übersehen oder eine harmlose Eingabe falsch einordnen kann.

Modelle und Kosten vergleichen

Opper AI führt Modelle mit der Decision-Fähigkeit in seiner Modellübersicht. Dort lassen sich unter anderem Preise und Kontextgrößen vergleichen. Das ist hilfreich, um passende Kandidaten zu finden.

Screenshot der Opper-AI-Modellübersicht mit Decision-fähigen Modellen

Der Preis allein sollte aber nicht entscheiden. Für einen Workflow sind auch diese Fragen wichtig:

  • Passt das Modell zur konkreten Entscheidungsaufgabe?
  • Reicht die verfügbare Kontextgröße für die Eingabe?
  • Liefert das Modell das benötigte JSON-Format zuverlässig?
  • Wie schnell ist die Antwort im tatsächlichen Workflow?
  • Welche Daten werden an den Anbieter und das ausgewählte Modell übermittelt?
  • Wie sehen die Gesamtkosten bei der eigenen Nutzung aus?

Modellkataloge und Preise können sich ändern. Ich prüfe deshalb die aktuellen Angaben des Anbieters, statt Preise als dauerhaft gültig zu behandeln.

Auch die Umweltwirkung kann beim Vergleich eine Rolle spielen. GreenPT aus den Niederlanden gibt nach eigenen Angaben bei der Ausgabe den damit verbundenen CO₂-Verbrauch an. Solche Angaben können zusätzliche Orientierung bieten. Für einen sinnvollen Vergleich sollte man prüfen, was genau gemessen wird und wie die Werte berechnet werden.

GreenPT Imapact - Anlyse

Pac-Man als Benchmark für Decision Models

Opper hat sich außerdem eine anschauliche Möglichkeit überlegt, Decision Models miteinander zu vergleichen: Im JevMan-Benchmark spielen die Modelle Pac-Man gegen die klassischen Geister.

An jeder Kreuzung muss das Modell eine Entscheidung treffen. Es gibt Wahrscheinlichkeiten für die möglichen Richtungen aus, und das Spiel wählt daraus den nächsten Zug. So lässt sich beobachten, wie sich die Modelle in einer Reihe konkreter Entscheidungen schlagen.

Laut Opper spielt jedes Modell 100 Partien. Die Rangliste zeigt unter anderem den durchschnittlichen Punktestand, den besten Einzelwert, die Überlebensrate, die Latenz, die Zahl der Ersatz-Züge und die Kosten pro Spiel. Antworten, die länger als zwei Sekunden dauern, werden durch eine einfache Ersatzregel ersetzt.

Screenshot des JevMan-Benchmarks mit Modell-Rangliste oder Spielansicht. Bildunterschrift: „Der JevMan-Benchmark vergleicht Decision Models anhand ihrer Entscheidungen im Pac-Man-Spiel.“

Pac-Man bildet natürlich nicht jede reale Klassifikations- oder Routing-Aufgabe ab. Der Benchmark ist aber eine gut verständliche Möglichkeit, Entscheidungsmodelle unter gleichen Spielbedingungen zu vergleichen. Die Ergebnisse ersetzen keinen eigenen Test mit den Daten und Anforderungen des eigenen Workflows.

Der JevMan-Benchmark hat auch über die Opper-Seite hinaus Aufmerksamkeit bekommen. Forbes greift ihn in einem Artikel über die neue Generation von AI Decision Models auf: “Decisions, Decisions: A Guide to the New Wave of AI Decision Models Besides Jev”.

Decision Model, klassisches Verfahren oder generatives Modell?

Decision Models sind nicht automatisch die beste Wahl für jeden Workflow. Ich prüfe zuerst, ob sich eine Aufgabe vollständig mit Regeln, einem Code-Node oder einer anderen klassischen Methode lösen lässt. Wenn Eingaben strukturiert sind und die Regeln klar feststehen, kann das die einfachste und kostengünstigste Lösung sein.

Sind die Eingaben unstrukturiert oder ist eine inhaltliche Einordnung nötig, kann ein Modell helfen. Dann stellt sich die nächste Frage: Muss das Modell einen Text generieren oder reicht eine Entscheidung?

Das passt zu meinem Ansatz aus dem Artikel „Stabil vs. volatil: Wann klassische Automatisierung die bessere Wahl ist“. Klassische Automatisierung, Decision Models und generative Modelle haben unterschiedliche Stärken. Entscheidend ist, das passende Werkzeug für den jeweiligen Schritt zu wählen.

Decision Models können klassische Automatisierung ergänzen und bestimmte Aufgaben aus einem LLM-Workflow übernehmen. Sie können LLMs aber nicht vollständig ersetzen: Sie treffen Entscheidungen, klassifizieren oder bewerten, erstellen jedoch keine neuen Inhalte. Wenn ein Prozess Texte generieren, umformulieren oder ausführlich zusammenfassen soll, bleibt dafür ein generatives Modell nötig.

Wo lässt sich ein bestehender LLM-Aufruf ersetzen?

Bei jedem Workflow-Schritt, an dem ein LLM beteiligt ist, lohnt sich eine kurze Prüfung:

  1. Was braucht der nächste Schritt tatsächlich? Einen Text oder nur eine Entscheidung?
  2. Kann ich die Aufgabe regelbasiert lösen? Wenn ja, ist ein Modell möglicherweise überflüssig.
  3. Falls ein Modell nötig ist: Reicht Klassifikation, Bewertung oder Routing? Dann könnte ein Decision Model ausreichen.
  4. Brauche ich wirklich eine Erklärung oder kreative Ausgabe? Nur dann ist ein generatives Modell für diesen Schritt erforderlich.
  5. Ist die Ausgabe getestet? Prüfe korrekte Fälle, Grenzfälle und Eingaben, bei denen keine eindeutige Entscheidung möglich ist.

Fazit

Decision Models sind eine nützliche Option für Aufgaben, in denen ein Modell klassifizieren, bewerten oder eine Ja-Nein-Entscheidung treffen soll. Sie können in Workflows wie n8n eingesetzt werden, aber auch im Hintergrund Tool- oder Sub-Agent-Auswahlen in Coding Agents beschleunigen. Mehrere Aufrufe lassen sich außerdem zu dynamischen Entscheidungsbäumen verbinden. Dabei gilt: Je mehr Schritte ein Entscheidungsweg umfasst, desto wichtiger sind Tests für die einzelnen Entscheidungen und den gesamten Ablauf.

In meinem n8n-Setup über Opper AI konnte ich einige LLM-Anfragen entfernen. Die strukturierte JSON-Ausgabe kann außerdem einen separaten Output Parser überflüssig machen. Auch als schnelle Prüfstufe, etwa zur Erkennung von Prompt Injections vor einem LLM-Aufruf, können Decision Models generative Modelle unterstützen.

Die wichtigste Frage ist nicht, welches Modell gerade am leistungsfähigsten ist. Sie lautet: Braucht dieser Prozess überhaupt ein generatives Modell, oder reichen klassische Automatisierung beziehungsweise ein Decision Model?

Wenn die Aufgabe klar begrenzt ist, lohnt sich dieser Vergleich. Das kann Kosten und Verarbeitungsschritte reduzieren und den Workflow schneller machen.