Autonome Agenten werden für Workflows angepriesen, die niemals autonom laufen sollten. Die Teams, die im Unternehmen mit Agenten gewinnen, sind nicht jene, die ihnen die meiste Freiheit gegeben haben – sondern jene, die sie am stärksten eingeschränkt haben.

«Agentic AI» ist derzeit der Begriff, der in Unternehmens-Roadmaps am meisten Arbeit leistet und am wenigsten definiert ist. Das Versprechen ist verführerisch: Geben Sie einem Modell Tools, ein Ziel und die Fähigkeit zu planen, und es erledigt mehrstufige Arbeit von Anfang bis Ende. Die Demos sind tatsächlich beeindruckend. Die Produktionsvorfälle sind ebenfalls beeindruckend – nur in die andere Richtung: ein Agent, der eine Zahlung viermal wiederholte, oder einer, der ein Ticket selbstbewusst «löste», indem er eine Rückerstattungsrichtlinie erfand.

Wir haben Agentensysteme ausgeliefert, die zuverlässig laufen, und mehrere gestoppt, die das Whiteboard nie hätten verlassen dürfen. Die Trennlinie ist nicht die Leistungsfähigkeit des Modells. Sie liegt darin, ob die Aufgabe sich aufschaukelnde Fehler verträgt.

Das eigentliche Problem: Fehler multiplizieren sich über die Schritte

Ein einzelner LLM-Aufruf, der zu 95 % zuverlässig ist, ist nützlich. Verketten Sie zehn solche Aufrufe zu einem autonomen Workflow, in dem jeder vom vorherigen abhängt, und Ihre End-to-End-Zuverlässigkeit beträgt 0,95^10 – rund 60 %. Kommen Tool-Aufrufe hinzu, die fehlschlagen können, externe Systeme mit Timeouts und ein Planer, der den falschen nächsten Schritt wählen kann, wird ein «zu 95 % zuverlässiger» Agent über eine genügend lange Kette zum Münzwurf.

Das ist die Mathematik, die die meisten Agenten-Pitches überspringen. Autonomie multipliziert Fehler; sie absorbiert sie nicht. Die Frage für jeden Kandidaten-Workflow lautet daher nicht «Kann ein Agent das?», sondern «Was passiert, wenn er bei Schritt 6 das Falsche tut – und wer bemerkt es?»

Ein Rahmen: nach Umkehrbarkeit und Kettenlänge klassifizieren

Bevor Sie bauen, verorten Sie den Workflow auf zwei Achsen:

• Umkehrbarkeit – wenn der Agent falsch handelt, lässt sich die Aktion günstig rückgängig machen? Eine E-Mail zu entwerfen ist umkehrbar (Sie prüfen vor dem Versand). Eine Rückerstattung auszulösen, eine Produktionskonfiguration zu ändern oder eine regulatorische Meldung einzureichen ist es nicht.
• Kettenlänge – wie viele voneinander abhängige Schritte folgen, bevor ein Ergebnis verbindlich wird? Mehr Schritte, mehr aufgeschaukelte Fehler.

Daraus ergibt sich eine klare Deployment-Haltung:

1. Kurze Kette, umkehrbar → volle Autonomie ist in Ordnung. Ein Ticket triagieren und taggen, eine Zusammenfassung entwerfen, eine Kategorisierung vorschlagen. Lassen Sie es laufen; ein Mensch fängt den seltenen Fehler weiter hinten im Prozess ab.
2. Lange Kette, umkehrbar → Autonomie mit Checkpoints. Recherche-und-Entwurf-Workflows: Lassen Sie den Agenten planen und ausführen, aber legen Sie seinen Plan und die Zwischenergebnisse einem Menschen zur Freigabe vor, bevor die finale umkehrbare Aktion erfolgt.
3. Kurze Kette, unumkehrbar → vom Menschen bestätigte Aktion. Der Agent bereitet alles vor, und ein Mensch bestätigt den unumkehrbaren Schritt mit einem Klick. Genau hier liegt der grösste Teil des tatsächlichen «agentischen» Werts im Unternehmen.
4. Lange Kette, unumkehrbar → bauen Sie keinen autonomen Agenten. Zerlegen Sie die Aufgabe in überwachte Schritte. Die Mathematik der aufgeschaukelten Fehler macht volle Autonomie hier fahrlässig – egal, wie gut die Demo aussah.

Die meisten gescheiterten Agentenprojekte, zu deren Rettung wir gerufen werden, haben versucht, Quadrant vier zu bauen.

Die Architekturmuster, die funktionieren

Für die Workflows, die Agenten tatsächlich rechtfertigen, trennen drei Muster zuverlässige Systeme von fragilen:

Den Handlungsraum einschränken

Ein Agent mit zwanzig Tools und offener Autonomie ist ein Debugging-Albtraum und eine Angriffsfläche. Geben Sie ihm das Minimum an Tools, jedes mit strikter Eingabevalidierung, harten Timeouts und Idempotenz, damit ein Retry nicht doppelt belastet oder doppelt versendet. Der Agent darf keine Aktion ausführen können, die Sie nicht explizit und eng erlaubt haben.

Den Plan überprüfbar machen

Der Agent sollte vor der Ausführung einen expliziten Plan erstellen, der geloggt und – bei heiklerer Arbeit – zur Freigabe vorgelegt wird. Wenn etwas schiefgeht, muss sich die Frage «Was wollte er eigentlich tun?» aus dem Trace beantworten lassen, nicht erraten werden. Einen Agenten, den Sie nicht einsehen können, können Sie nicht betreiben.

Die Schleife begrenzen

Jede Agentenschleife braucht eine harte Obergrenze für Schritte, Retries und Kosten. Der Klassiker unter den Fehlern ist ein Agent, der in Retries eines fehlschlagenden Tools feststeckt und Tokens und Zeit verbrennt, bis jemand die Rechnung bemerkt. Begrenzen Sie die Iterationen, begrenzen Sie die Kosten pro Aufgabe, und eskalieren Sie laut an einen Menschen, wenn die Grenze erreicht ist.

Praxisbeispiel: ein Agent für das Onboarding

Ein Finanzdienstleister wollte die Abläufe beim Kunden-Onboarding automatisieren – Dokumente einsammeln, validieren, Sanktionslisten prüfen, Konten eröffnen. Der Anbieter pries einen einzigen autonomen Agenten an, der all das erledigt. Das ist Quadrant vier: lange Kette, unumkehrbar (Kontoeröffnung, Compliance-Prüfungen).

Wir haben es als überwachte Pipeline statt als autonomen Agenten neu gebaut:

• Ein Agent sammelt und validiert Dokumente (kurze Kette, umkehrbar) – vollständig automatisiert.
• Er bereitet die Sanktions-/KYC-Prüfung vor und legt die Ergebnisse mit Konfidenzwerten vor – eine Compliance-Verantwortliche trifft die Entscheidung (kurze Kette, unumkehrbar → vom Menschen bestätigt).
• Die Kontoeröffnung läuft erst nach expliziter Freigabe, über idempotente, validierte Tool-Aufrufe.

Ergebnis: Die Bearbeitungszeit im Onboarding sank von rund 95 auf rund 32 Minuten menschlicher Arbeit pro Kunde (eine Reduktion um 66 %), während jeder unumkehrbare Schritt eine namentlich verantwortliche Person behielt. Die vollautomatischen Durchläufe, auf die das Team gehofft hatte, blieben beim Compliance-Schritt aus – und das war das richtige Ergebnis, kein Mangel. Eine vollständig autonome Version hätte genau jene Schritte automatisiert, die in einem regulierten Unternehmen nicht automatisiert werden dürfen.

Die meisten «Agenten»-Anwendungsfälle sind eigentlich Workflow plus Modell

Eine klärende Frage durchschneidet den grössten Teil des Agenten-Hypes: Erfordert diese Aufgabe wirklich, dass das Modell entscheidet, was als Nächstes zu tun ist, oder braucht sie lediglich ein Modell an einigen festen Stellen eines bekannten Workflows? Die überwältigende Mehrheit der «Agenten»-Anwendungsfälle im Unternehmen gehört zur zweiten Sorte – ein deterministischer Prozess, in dem ein Modell an bestimmten Punkten Sprachverständnis oder Textgenerierung übernimmt, der Kontrollfluss aber fix und im Voraus bekannt ist. Das einen Agenten zu nennen, ist ein Kategorienfehler, der sämtliche Zuverlässigkeitsprobleme der Autonomie importiert, ohne deren Nutzen.

Der Unterschied in der Zuverlässigkeit ist krass. Ein fixer Workflow mit modellgestützten Schritten scheitert vorhersehbar: Ist Schritt drei zu 95 % zuverlässig, ist der Workflow bei Schritt drei zu 95 % zuverlässig, und Sie wissen genau, wo eine Prüfung hingehört. Ein autonomer Agent, der seinen eigenen Weg wählt, schaukelt Fehler über jede Entscheidung auf und scheitert auf Arten, die Sie nicht im Voraus aufzählen können – was ihn viel schwerer testbar, überwachbar und vertrauenswürdig macht. Vor die Wahl gestellt zwischen «das Modell entscheidet die Schritte» und «wir entscheiden die Schritte, und das Modell führt sie aus», ist Letzteres dramatisch zuverlässiger und der richtige Standard für jeden Prozess, dessen Form Sie bereits verstehen.

Reservieren Sie echte Autonomie – bei der das Modell seine eigene Abfolge plant – für die wirklich kleine Menge an Aufgaben, deren Schritte sich nicht im Voraus kennen lassen: offene Recherche, explorative Datenanalyse, Debugging, bei dem die nächste Aktion davon abhängt, was die letzte zutage gefördert hat. Selbst dort gilt: hart einschränken und einen Menschen an der Grenze zur Unumkehrbarkeit halten. Die Disziplin besteht darin, zunächst anzunehmen, dass die Aufgabe ein Workflow ist, und erst dann zur Autonomie zu greifen, wenn Sie konkret begründen können, warum der Pfad nicht vorab festgelegt werden kann. Teams, die mit «Lasst uns einen Agenten bauen» beginnen, bauen fragile Systeme; Teams, die mit «Wie sieht der tatsächliche Workflow aus?» beginnen, bauen zuverlässige – und fügen Autonomie nur dort hinzu, wo sie ihr Risiko wert ist.

Stolpersteine

• Autonomie als Ziel. Autonomie ist ein Kostenfaktor (weniger Kontrolle, schwierigeres Debugging), kein Nutzen. Verwenden Sie so wenig Autonomie, wie die Aufgabe zulässt.
• Keine Idempotenz. Retries ohne idempotente Tools verursachen doppelte Aktionen – der häufigste und teuerste Agentenvorfall.
• Unbegrenzte Schleifen. Ohne Obergrenze für Schritte und Kosten wird ein festgefahrener Agent zur ausufernden Rechnung.
• Den Plan verstecken. Wenn Sie nicht sehen können, was der Agent vorhatte, können Sie ihn nicht in Produktion betreiben.
• Das Eval-Set auslassen. Agenten brauchen Szenariotests – inklusive adversarialer Pfade und Fehlerpfade –, nicht nur Happy-Path-Demos.

Entscheidungs-Checkliste

1. Wo liegt dieser Workflow auf der Matrix Umkehrbarkeit × Kettenlänge?
2. Wie hoch ist die realistische End-to-End-Zuverlässigkeit angesichts der Anzahl abhängiger Schritte?
3. Welche Schritte sind unumkehrbar, und bestätigt sie eine namentlich verantwortliche Person?
4. Ist jedes Tool idempotent, validiert und durch Timeouts begrenzt?
5. Wird der Plan des Agenten geloggt und, wo nötig, vor der Ausführung freigegeben?
6. Gibt es harte Obergrenzen für Schritte, Retries und Kosten pro Aufgabe?
7. Haben wir Szenario-Evals, die Fehlerpfade und adversariale Pfade abdecken?

Die gridz-Sicht

Die Unternehmen, die echten Wert aus Agenten ziehen, gehen unromantisch damit um: Sie nutzen Agenten, um Arbeit vorzubereiten, und Menschen, um Konsequenzen zu verantworten, und sie schränken den Handlungsraum so lange ein, bis das System langweilig ist. «Langweilig in Produktion» ist das höchste Lob, das ein Agentensystem verdienen kann. Wenn Ihnen ein Anbieter einen vollständig autonomen Agenten für einen unumkehrbaren, mehrstufigen Prozess verkaufen will, ist die Demo die einfachen 20 % – und die fehlenden 80 % sind der Teil, der Sie um 2 Uhr nachts aus dem Bett holt. Wir entwerfen Agentensysteme entlang der Kosten eines Fehlers: aggressiv automatisieren, wo Fehler günstig und umkehrbar sind, und einen Menschen am Abzug lassen, wo sie es nicht sind. Wenn Sie prüfen möchten, welche Ihrer Workflows dafür taugen, sprechen Sie uns an.