Günstige Entscheidungen

Lernziele

Du trennst in einer Pipeline die Entscheidungen von der Schreibarbeit.
Du beschreibst ein Gate mit seinen drei Regeln: enge Frage, günstige Antwort, im Zweifel eskalieren.
Du ordnest Regeln, Klassifikator, kleines Modell und Entscheidungsmodell nach Kosten und Fehleranfälligkeit.

Ein AgentEin System, in dem ein Sprachmodell seinen nächsten Schritt selbst wählt: Es ruft Werkzeuge auf, wertet das Ergebnis aus und macht weiter, bis das Ziel erreicht ist.Im Glossar erledigt zwei Arten von Arbeit. Er schreibt: Zusammenfassungen, Pläne, Antworten, Code. Und er entscheidet: Ist das dringend, in welchen Ordner gehört das, braucht das einen Menschen? Schreiben ist offen und braucht ein großes Modell · engl. model, LLMDas Sprachmodell (LLM, Large Language Model). Es liest Text, schreibt Text und entscheidet in einem Agenten, was als Nächstes passiert.Im Glossar. Entscheiden ist begrenzt. Die Antwort stammt aus einer Menge, die du vorher kennst.

Die meisten Pipelines schicken beide Arten von Arbeit an dasselbe Spitzenmodell. Das ist, als ließest du die Anwältin die Briefumschläge sortieren.

Dieses Modul handelt vom GateEine kleine, schnelle Entscheidung vor dem teuren Teil: eine Regel, ein Klassifikator oder ein günstiges Modell sortiert Anfragen, bevor sie den Agenten erreichen.Im Glossar. Das ist eine günstige Entscheidungsschicht vor dem teuren Modell. Sie sortiert den Strom, damit das Spitzenmodell nur die Fälle sieht, die wirklich Urteilsvermögen brauchen.

Zum Namen: Das Modul heißt nach dem Muster. Das Handbuch Gates vertieft eine bestimmte Bauart, die Entscheidungsmodelle. Dieses Modul bleibt bei der Schicht selbst.

Zwei Arten von Arbeit

Sieh einem Agenten beim Abarbeiten eines Posteingangs zu und zähl die Entscheidungen. Ist das Spam? Ist das ein Newsletter? Welches Projekt betrifft es? Braucht es eine Antwort? Erst danach wird geschrieben, und das betrifft die wenigsten Mails. Die meisten werden abgelegt, archiviert oder verworfen.

Ein Spitzenmodell, das die Frage „Ist das ein Newsletter?“ beantwortet, verbraucht Sekunden und echtes Geld für ein einziges Bit Information. Die Entscheidung war einen Bruchteil eines Cents wert. Das Schreiben ist bei den wenigen Mails, die es brauchen, den vollen Preis wert.

Entscheiden oder schreiben?

Ordne jeden Arbeitsschritt eines Posteingangs-Agenten zu: Reicht eine Antwort aus einer bekannten Menge, oder entsteht neuer Text?

Noch offen (6)

Ist diese Mail ein Newsletter?
Zu welchem von sechs Projekten gehört die Mail?
Eine höfliche Absage auf eine Anfrage formulieren.
Wie dringend ist die Mail, auf einer Skala von 1 bis 5?
Einen langen Thread für die Chefin in fünf Sätzen zusammenfassen.
Braucht diese Mail eine Antwort von einem Menschen?

Entscheiden: ins Gate (0)

Schreiben: ans große Modell (0)

Was ein Gate ist

Ein Gate stellt pro Eintrag eine enge Frage und leitet nach der Antwort weiter. Die Form ist immer dieselbe. Alles kommt herein, und jeder Eintrag bekommt eine begrenzte Frage: eines dieser Labels, ja oder nein, ein Wert. Was das Gate sicher und routinemäßig beantwortet, erledigt günstiger, fester Code. Alles, worüber sich das Gate unsicher ist, geht weiter an das Hauptmodell.

Unsicher heißt eskalieren. Das Gate ist der schnelle Weg, und der Weg zum Hauptmodell bleibt immer offen.

Schritt 1 von 3

Alles läuft durchs Gate

Jede Anfrage bekommt eine enge Frage: ein Label, ja oder nein, ein Wert.

Die vier Werkzeuge

Vier Werkzeuge passen ins Gate. Von oben nach unten steigen Kosten und Fehleranfälligkeit:

Regeln. Reguläre Ausdrücke, Listen erlaubter Absender, „enthält einen Abmeldelink“. Sie kosten nichts, antworten sofort und sehen nichts, womit du nicht gerechnet hast. Regeln bilden immer die erste Schicht, und hinter ihnen folgt mindestens eine weitere.
Ein klassischer Klassifikator · engl. classifierEin trainiertes Verfahren, das einen Eintrag einer von mehreren festen Klassen zuordnet, etwa eine logistische Regression über Wortmerkmale. Es lernt aus Beispielen, die du vorher von Hand gelabelt hast.Im Glossar. Eine logistische Regression oder ein ähnliches Verfahren über TF-IDF-Merkmale, also gewichtete Wortzählungen. Du trainierst ihn auf ein paar hundert eigenen, von Hand gelabelten Beispielen. Er läuft in Mikrosekunden auf deinem eigenen Rechner, kostet pro Aufruf nichts, und seine Fehler kannst du nachvollziehen.
Ein kleines Sprachmodell. Ein Modell aus der Klasse von Claude Haiku, angewiesen, mit einem Wort zu antworten. Es braucht keine Trainingsdaten und kommt mit Neuem zurecht. Von den günstigen Optionen ist es die langsamste und teuerste, und du musst Text parsen, um an die Antwort zu kommen.
Ein Entscheidungsmodell. Der Anbieter TypeSafe AI hat im September 2026 mit Jev ein Modell veröffentlicht, das nur entscheidet und keinen Text erzeugt. Der Hersteller nennt diese Klasse „System-One-Modelle“. Jev liefert typisierte Antworten: ja oder nein, eine von bis zu 255 Optionen oder einen Wert auf einer geordneten Skala, jeweils mit einer Konfidenz · engl. confidenceDer Wert zwischen 0 und 1, den ein Gate zu seiner Antwort mitliefert. Er sagt, wie sicher sich das Verfahren ist, und gilt als Rangfolge, bis du ihn auf eigenen Daten geprüft hast.Im Glossar. Mehr dazu im Handbuch Gates.

Wo Gates hingehören

Gates gehören überall dorthin, wo ein Strom zusammenläuft. Beim Eingang, bevor etwas den Hauptagenten erreicht: Spam, Dubletten und reines Nachschlagematerial sollten nie ein einziges TokenDie Einheit, in der Modelle Text lesen und abrechnen: meist ein Wortteil. Anbieter rechnen pro Million Tokens ab.Im Glossar eines Spitzenmodells kosten. Vor teuren Tool · engl. toolEin Werkzeug, das das Modell aufrufen kann: eine API, eine Datenbankabfrage, ein Shell-Befehl, eine Suche. Über Tools wirkt das Modell auf die Welt.Im Glossar-Aufrufen: „Braucht diese Anfrage die Websuche?“ ist ein Gate. Und um Aktionen herum als Leitplanke: „Ist das zerstörerisch?“ als Ja-nein-Frage, die oberhalb einer Schwelle blockiert.

Staple die Gates in Schichten. Erst Regeln, dann der Klassifikator, und ein Modell nur für das, was die ersten beiden Schichten übersteht.

Das Gate ist eine Architekturentscheidung. Die Architektur bleibt gleich, egal welches Werkzeug den Platz füllt: enge Frage, günstige Antwort, im Zweifel eskalieren. Welches Werkzeug du einsetzt, klärst du empirisch mit deinen eigenen Labels. Darum geht es in der nächsten Lektion, Gates in der Praxis.

Merksätze

Ein Agent schreibt und entscheidet. Schreiben braucht ein großes Modell, Entscheiden hat eine begrenzte Antwortmenge.
Ein Gate stellt pro Eintrag eine enge Frage und leitet nach der Antwort weiter.
Sichere Antworten mit festem Handler erledigt günstiger Code, jeder Zweifelsfall geht an das große Modell.
Die vier Werkzeuge sind Regeln, Klassifikator, kleines Sprachmodell und Entscheidungsmodell, in steigender Reihenfolge von Kosten und Fehleranfälligkeit.
Gates sitzen am Eingang, vor teuren Tool-Aufrufen und als Leitplanke um Aktionen.

Prüf dich selbst

Denkfrage

Dein Recherche-Agent schickt jede Nutzerfrage an ein Spitzenmodell, das zuerst entscheidet, ob eine Websuche nötig ist. Wie baust du das um?

Denkfrage

Ein Kollege will das Gate so bauen, dass es jede Mail einem festen Handler zuordnet, auch bei 51 % Konfidenz. Was hältst du dagegen?

Quellen

Introducing System One Models & Jev · TypeSafe AI, Sept. 2026
Herstellerangaben zu Jev: typisierte Antworten, bis zu 255 Optionen.