Bei 10.000 $ hält der Agent an und ein Mensch entscheidet
Jeder Freigabeprozess braucht einen Betrag. Darunter führt der Agent aus, darüber unterschreibt eine Person. Der Fehler, der mir gezeigt hat, wo diese Prüfung hingehört, kam erst im Integrationstest heraus.
10.000 $. Das ist die Linie zwischen einem KI-Agenten, der eine Transportentscheidung ausführt, und einem Menschen, der vorher um Freigabe gebeten wird.
Warum das zählt
Unternehmen geben KI-Agenten die Schlüssel zu echten Budgets. Hier eine Transportentscheidung, dort eine Umverteilung von Beständen, über Nacht eine Planänderung. Jede davon bewegt Geld.
Jeder Freigabeprozess braucht einen Betrag: eine Summe, ab der das System aufhört zu erzeugen und anfängt zu fragen. Darunter führt der Agent aus. Darüber entscheidet ein Mensch.
Ohne diesen Betrag kann ein Agent ein Unternehmen in der Zeit, die er zum Formulieren eines Satzes braucht, an eine Umleitung über 20.000 $ binden. Die Leitung der Lieferkette erfährt davon, wenn die Rechnung kommt.
Die Korrektur ist eine klare Schwelle, an der das System anhält und darauf wartet, dass ein Mensch Ja oder Nein sagt.
Wie es funktioniert
Ich habe das in einen LangGraph-ERP-Copilot für die Lieferkette eingebaut, betrieben auf Azure Kubernetes Service.
Wenn einer der 7 deterministischen Solver ein Ergebnis liefert, dessen Gesamtkosten 10.000 $ übersteigen, blockiert das System die Ausführung. Die Ausgabe des Solvers liegt in Redis unter einer eindeutigen Entscheidungs-ID mit einer Lebensdauer von 24 Stunden. Über einen REST-Endpunkt gibt eine Führungskraft frei oder lehnt ab. Eine Idempotenzsperre weist jede zweite Freigabe ab, sobald die erste entschieden ist.
Ein einfacherer Entwurf würde jede Entscheidung protokollieren und Auffälligkeiten nach der Ausführung melden. In der Logistik der Lieferkette ist die Sendung aber schon auf einem Lkw, bis jemand das Protokoll liest.
Die Schwelle ist konfigurierbar. Die Architektur trägt bei jedem Betrag, weil das Gate im Knoten für die Solver-Verteilung sitzt und nicht in der Routing-Schicht.
Diese Platzierung war eine Lehre. In einer frühen Fassung lief die Kostenprüfung in der Routing-Schicht, nachdem der Solver bereits geliefert hatte. Das Freigabe-Flag war nie gesetzt, bevor die Routing-Logik es auswertete, also gingen teure Entscheidungen still durch. Das kam erst im Integrationstest heraus.
Seitdem wird der Auslöser jedes bedingten Zweigs in einem agentischen Graphen dort ausgewertet, wo er gesetzt wird, nie dort, wo er gelesen wird. Die vollständige Schleife wurde an zwei getrennten Terminen von Anfang bis Ende geprüft.
