Habe ich eine Garantie, oder rate ich?
Die Konvergenzanalyse hat mir beigebracht, jedem Algorithmus eine Frage zu stellen. Diese Frage hat ein agentisches System für die Lieferkette geprägt, das entscheiden soll, wann es seinen eigenen Antworten nicht traut.
Die Konvergenzanalyse hat mir beigebracht, jedem Algorithmus eine Frage zu stellen: habe ich eine Garantie, oder rate ich? Diese Frage hat ein agentisches System für die Lieferkette geprägt, das ich gebaut habe, damit es entscheidet, wann es seinen eigenen Antworten nicht traut.
Warum das zählt
Ein autonomer Agent, der auf eine sicher klingende falsche Antwort hin handelt, kann ein Unternehmen an eine teure Entscheidung binden, bevor jemand sie prüft. Der Schutz besteht darin zu wissen, welche Antworten einen Beweis tragen und welche Näherungen bleiben, und vor die zweiten ein Gate zu setzen.
Meine Forschung hat Bedingungen hervorgebracht, die eine Ingenieurin vor dem Training eines Netzes ausrechnen kann, statt sie durch Probieren zu finden. Diese Strenge, die das Beweisbare vom bloß Plausiblen trennt, brauchen KI-Systeme im Betrieb am dringendsten.
In AI Engineering argumentiert Chip Huyen, dass ein Modell zu liefern und ein System zu bauen zwei verschiedene Fähigkeiten sind. Andrew Ng denkt eine Laufbahn in der KI von einem Portfolio her, das eine Entwicklung zeigt. An diesem System habe ich beides geprüft.
Was die Lücke schließt, ist ein System, das die Grenzen seiner eigenen Antworten kennt.
Wie es funktioniert
Die Trennung zwischen Bewertung und Vermutung zieht sich durch jede Schicht.
Zwei Solver rechnen das Optimum aus: lineare Programmierung für Netzwerkflüsse, konische Programmierung zweiter Ordnung für robuste Zuteilung unter Unsicherheit. Die übrigen liefern die beste erreichbare Lösung bei Problemen, deren Schwere bewiesen ist, und das System sagt, welche welche ist, statt eine Heuristik als Optimum auszugeben.
Die Sicherheitsschichten wenden denselben Test an. Eine CRAG-Pipeline wirft irrelevante Dokumente aus, bevor das Modell sie sieht. Typisierte Verträge sichern jede Werkzeuggrenze. 20 gegnerische Sonden zielen in der CI auf mindestens 98 % Injection-Resistenz. Jede Transportentscheidung über 10.000 $ hält vor der Ausführung für eine Freigabe an.
Die Intent-Klassifikation folgt über DSPy dem Grundsatz „programmieren statt prompten“ aus der NLP-Gruppe in Stanford: deklarative Signaturen, gegen das Modell kompiliert, ersetzen brüchige handgeschriebene Prompts, also führt ein Modellwechsel zu einer Neukompilierung statt zu einer Neufassung des Prompts.
Womit ich nicht gerechnet hatte, war die geringe Entfernung zwischen beiden Welten. Das Gespür, das Ihnen sagt, dass ein Trainingsalgorithmus konvergieren wird, ist dasselbe, das Ihnen sagt, dass die Antwort eines Agenten vor der Auslieferung eine Bewertung braucht. Die Forschung war nie von der Ingenieurarbeit getrennt.
