Zusammenfassung

Trennen Sie unklare Geschäftsentscheidungen von technischen Grenzen vor der Aufgabenwahl für einen Agenten.

Das erfahren Sie

  • Testen Sie Eingaben, fehlenden Kontext, Änderungen und Antwortzweige.
  • Nutzen Sie ein klares Briefing als Abnahmebeschreibung.
  • Prüfen Sie tatsächliche Aktionen und sichere menschliche Übergabe.
  • Wählen Sie bei Bedarf eine kleinere Aufgabe oder ein anderes Werkzeug.

KI-Agenten können durch unklare Aufgaben, fehlende Angaben oder technische Grenzen scheitern. Trennen Sie diese Ursachen vor einer Reparatur. Eine klare Anleitung definiert Erfolg; der verbundene Agent muss ihn weiterhin zeigen.

Warum erschweren unklare Aufgaben die Diagnose von Agentenfehlern?

Eine unklare Aufgabe lässt das erwartete Ergebnis offen. Definieren Sie Aktionen, Eingaben und Ausnahmen zur Fehleruntersuchung. Auch eine präzise Aufgabe kann Fähigkeiten übersteigen oder an Verbindungen, Rechten und Informationsverarbeitung scheitern.

Angenommen, die Aufgabe ist ein Nachfassentwurf nach gewählten fünf Werktagen. Definieren Sie freigegebenen Originalversand, Empfänger, spätere Antworten, offenen Status, Kontaktbeschränkungen und Prüfperson. Das macht einen möglichen Ablauf testbar, nicht allein durch die Beschreibung zuverlässig.

„Kundenanfragen bearbeiten" klingt einfach genug, um unkompliziert zu sein. Im Produktivbetrieb scheitert es, weil „Kundenanfragen bearbeiten" keine Aufgabe ist. Es ist eine breite Kategorie mit unterschiedlichen Eingaben, Ergebnissen und Ausnahmen, die eigene Entscheidungen brauchen.

Unterspezifizierung ist eine mögliche Ursache. Der Agent kann klare Anweisungen falsch verstehen oder verfügbare Angaben falsch nutzen. Prüfen Sie Ergebnis, Eingaben, Aktionen und Fehler, statt jeden Fehler einer fehlenden Briefingzeile zuzuordnen.

Was sind die vier Versagensmuster im Produktivbetrieb?

Nutzen Sie diese vier Muster als Prüfliste für Aufgaben- und Ablauflücken. Es sind Beispielkategorien statt gemessener Rangfolge oder vollständiger Fehlererklärung. Untersuchen Sie bei falschen Ergebnissen tatsächliche Ursachen einschließlich technischer Fehler.

Mehrdeutige Eingaben: Der Agent empfängt etwas, für das er nicht konzipiert wurde. Ein Kunde schreibt in einer Sprache, für die der Agent nicht gebrieft wurde. Eine Bestellung kommt mit zwei Positionen statt einer. Ein Formular wird mit einem leeren Pflichtfeld eingereicht. Die Eingabe ist nicht falsch — sie wurde nur nicht antizipiert. Der Agent produziert eine Ausgabe, die korrekt wirkt, es aber nicht ist, weil der aufgetretene Fall nie definiert wurde.

Kontextabhängiges Urteilsvermögen: Die Aufgabe erfordert Wissen, das dem Agenten nie gegeben wurde. „Diesen Lead nachfassen" klingt definiert. Aber der richtige Ton hängt davon ab, wie der Lead eingegangen ist, wie lange er sich bereits in der Pipeline befindet und ob es im letzten Quartal einen schwierigen Austausch gab. Eine Kollegin kann die Vorgeschichte kennen; bestätigen Sie den gemeinsamen Kenntnisstand. Ein Agent kann eine nie erhaltene private Vorgeschichte nicht verlässlich liefern.

Sich verschiebender Umfang: Die Aufgabendefinition verschiebt sich, weil sich das Unternehmen verändert. Der Agent wurde gebrieft, wie der Workflow im Februar funktionierte. Im April hat das Team einen Schritt hinzugefügt, einen Feldnamen geändert oder einen neuen Falltyp eingeführt. Niemand hat das Briefing aktualisiert. Der Agent führt weiterhin die alte Version des Workflows aus.

Koordination mit mehreren Beteiligten: Die Aufgabe erfordert das Warten auf eine andere Person oder ein anderes System und anschließendes Handeln auf Basis der Antwort. „Angebot senden, dann nachfassen, wenn keine Antwort" klingt einfach. Aber was, wenn der Interessent mit einer Frage statt einer Entscheidung antwortet? Was, wenn die Antwort in einem anderen E-Mail-Thread eintrifft? Der Agent wurde für einen Pfad gebrieft. Der Produktivbetrieb enthält mehrere.

Die Beispiele sind mögliche Szenarien. Prüfen Sie anhand dieser Signale, ob sie zutreffen:

VersagensmusterGrundursacheErkennungsfrageSymptom im Produktivbetrieb
Mehrdeutige EingabenEingabetyp oder sichere Behandlung kann fehlenSind unterstützte Eingaben und der Weg für Unbekanntes klar?Bekannte Fälle werden gut bearbeitet; unbekannte Eingaben erzeugen Ausgaben, die richtig wirken, aber den Kontext verfehlen
Kontextabhängiges UrteilsvermögenNötiger Kontext kann fehlen oder falsch genutzt werdenHängt die richtige Antwort von etwas ab, das nicht in den Datenquellen des Agenten gespeichert ist?Ausgaben sind technisch korrekt, aber Ton, Priorität oder Framing passt nicht zum konkreten Fall
Sich verschiebender UmfangBriefing wurde nach Workflow-Änderungen nicht aktualisiertHat sich seit dem Schreiben des Briefings ein Schritt, ein Feld oder ein Falltyp geändert?Agent führt alten Workflow auf neuen Eingaben aus; Fehler wirken zufällig, weil sie vom jeweiligen neuen Falltyp abhängen
Koordination mit mehreren BeteiligtenWorkflow verzweigt sich anhand externer AntwortenErfordert ein Schritt das Warten auf eine Antwort und unterschiedliches Handeln je nach Inhalt?Eine Vorführung lässt Zweige aus, die bei echten Antworten auftreten
Vier Versagensmuster-Karten: mehrdeutige Eingaben, kontextabhängiges Urteilsvermögen, sich verschiebender Umfang, Koordination mit mehreren Beteiligten — jeweils mit einer kurzen Beschreibung, wie der Fehler entsteht
Nutzen Sie die Kategorien für Tests vor dem Start und Fehleruntersuchungen danach. Sie sind keine Häufigkeitsrangfolge.

Welche Aufgaben wirken automatisierbar, scheitern aber regelmäßig?

Klare Anforderungen machen Fehler prüfbarer; technische Grenzen bleiben.

Zerlegen Sie breite Kundenkommunikation in prüfbare Aufgaben mit benannten Aktionen, Quellen, Freigaben und menschlicher Übergabe.

Postfachverwaltung, Terminplanung, Zusammenfassungen und Lead-Antworten brauchen mehr als ihre kurzen Namen. Prüfen Sie die Entscheidungen innerhalb jeder Aufgabe vor der Zuweisung an einen Agenten.

„Postfach verwalten": Jede Nachricht ist anders. Ein Agent kann einen bestimmten Nachrichtentyp bearbeiten — Rückerstattungsanfragen, Lieferfragen, Kontoänderungen — wenn dieser Typ isoliert und spezifiziert ist. Das gesamte Postfach ist keine Aufgabe. Es ist eine Kategorie.

„Meetings planen": Wirkt mechanisch. Enthält Präferenzlogik. Was, wenn zwei Zeitfenster verfügbar sind, aber eines direkt vor einem Gespräch liegt, das der Agent nicht kennt? Was, wenn die andere Partei Vormittage bevorzugt und sich in einer anderen Zeitzone befindet? Fragen Sie nach wichtigen Präferenzen und ihren Quellen. Testen Sie die tatsächliche Umsetzung, statt Menschen oder Agenten fehlende Wünsche erraten zu lassen.

„Aktivitäten dieser Woche zusammenfassen": Was gilt als diese Woche? Welche Aktivitäten sind relevant? Für welches Publikum? Eine Zusammenfassung für sich selbst enthält andere Punkte als eine, die an einen Investor gesendet wird. Der Agent braucht einen definierten Umfang und eine feste Vorlage — keine allgemeine Anweisung.

„Leads beobachten und beantworten": Die Beobachtung ist automatisierbar. Die Antwort hängt davon ab, wie der Lead eingegangen ist, was er gesagt hat und in welchem Stadium er sich befindet. Definieren Sie Antwortzweige, Angaben und Freigaben. Testen Sie die geänderte Aktion bei anderem Kundenstatus oder einer Antwort.

Welche Lösungsansätze gibt es für jedes Versagensmuster?

Definieren Sie das erwartete Verhalten und untersuchen Sie das Hindernis. Die Reparatur kann Geschäftsregeln, Angaben, Verbindung, Rechte oder Modell betreffen. Ein klareres Briefing hilft, seine Schutzregeln müssen aber in der tatsächlichen Umsetzung funktionieren.

Wie beheben Sie mehrdeutige Eingaben und kontextabhängiges Urteil?

Mehrdeutige Eingaben und kontextabhängiges Urteil beheben Sie, indem Sie jeden Falltyp definieren und dem Agenten den nötigen Kontext als lesbare strukturierte Daten geben.

Bei mehrdeutigen Eingaben: Alle Falltypen, die der Agent bearbeiten wird, sowie alle, die er nicht bearbeiten wird, aufzählen. Eine explizite Regel für „unbekannte Eingabe" schreiben — was der Agent tut, wenn er etwas außerhalb seiner definierten Fälle erhält. Testen Sie unbekannte Eingaben vor Live-Nutzung und behalten Sie einen Weg für neue Fälle danach. Der Agent braucht eine definierte Aktion dafür vor der Liveschaltung, nicht eine, die erst nach einem Fehler entwickelt wird. Erwägen Sie einen engeren Umfang mit getesteter Übergabe für nicht unterstützte Fälle. Messen Sie akzeptierte Ergebnisse, Prüfaufwand und folgenreiche Fehler vor der Nutzenentscheidung. Ein größerer automatisierter Anteil allein entscheidet den Nutzen nicht.

Bei kontextabhängigem Urteilsvermögen: Den benötigten Kontext als strukturierte Daten extrahieren und dem Agenten Lesezugriff darauf geben. Wenn das richtige Follow-up davon abhängt, wie lange ein Lead in der Pipeline ist, dieses als CRM-Feld speichern. Wenn der Ton von einem früheren Interaktionsergebnis abhängt, es als Deal-Notiz protokollieren. Der Agent wendet Kontext an, den er lesen kann — er kann keine Geschichte ableiten, die ihm nie gegeben wurde. Für beziehungssensible Kommunikation bewahrt ein menschlicher Genehmigungsschritt für den Agent-Entwurf die Beziehungsschicht, während der Entwurfsvorteil erhalten bleibt. Prüfen Sie bei OpenClaw, ob der tatsächliche Versand auf die beabsichtigte Freigabe wartet. Eine allgemeine Befehlsfreigabe kontrolliert nicht von sich aus jede ausgehende Nachricht.

Wie beheben Sie einen sich verschiebenden Umfang und die Koordination mehrerer Beteiligter?

Einen sich verschiebenden Umfang und mehrere Beteiligte bewältigen Sie mit einem vor dem Start festgelegten Prüfrhythmus und einer Aufteilung des Workflows an der Antwortgrenze.

Bei sich verschiebenden Umfang: Einen Briefing-Überprüfungsrhythmus einplanen, bevor der Agent live geht. Wählen Sie den Rhythmus nach Änderungstempo und Folgen. Prüfen Sie relevante Änderungen vor ihrem Wirksamwerden. Wenn ein Schritt hinzugefügt, ein Tool geändert oder ein neuer Falltyp eingeführt wird, aktualisiert der Agent-Verantwortliche das Briefing vor der Übernahme in den Produktivbetrieb. Workflow-Änderungen ohne diesen Schritt erscheinen als unerklärliche Fehler — weil der Agent Anweisungen für einen Workflow ausführt, der dem Produktivbetrieb nicht mehr entspricht.

Bei Koordination mit mehreren Beteiligten: Den Workflow an der Antwortgrenze aufteilen. Der Agent übernimmt die ausgehende Aktion: Angebot versenden, Follow-up, Bestätigung. Eine separate Regel überwacht Antworten und leitet sie weiter. Erwartete Antworten — Zustimmung, Buchung, Genehmigung — setzen den Workflow fort. Unerwartete Antworten — Fragen, Einwände, nicht zum Scope gehörende Anfragen — gehen in eine Menschenwarteschlange. Testen Sie Stopp und richtige Übergabe bei mehrdeutigen Antworten. Auch eine Zuordnungsregel muss die Grenze erkennen und eine gescheiterte Übergabe behandeln.

Wie trennen Sie fehlende Dokumentation von technischen Grenzen?

Schreiben Sie das erwartete Ergebnis auf und testen Sie die Umsetzung unter den nötigen Bedingungen. Schwierigkeiten einer neuen Kollegin mit der Anleitung können fehlenden Kontext zeigen. Ein erfolgreicher menschlicher Probelauf bestätigt nicht dieselben Fähigkeiten, Quellen und Zugriffe beim Agenten.

Anthropics technischer Leitfaden vom Dezember 2024 beschreibt zusätzliche Agentenkosten und mögliche Fehlerverstärkung bei aufeinanderfolgenden Aktionen. Er empfiehlt Tests und Schutzmaßnahmen.[1] Nutzen Sie die Dokumentation als Testbeschreibung und prüfen Sie tatsächliche Aktionen und Ergebnisse statt einer durch Beschreibung gelösten Technik.

PrüfpunktNicht dokumentierter ProzessKomplexer, aber dokumentierter Prozess
Versteht eine nicht eingearbeitete Person die Entscheidungen?Erklärung oder Beobachtung kann fehlende Regeln zeigenFälle durchspielen und Restlücken finden
Ist der Auslöser konsistent?Startereignis bestimmenRichtiges Startverhalten am echten Ereignis testen
Wie werden Grenzfälle behandelt?Aktionen und übernehmende Personen vereinbarenDefinierte Zweige und gescheiterte Übergaben prüfen
Was erfordert die Implementierung?Anforderungen klären und Zugriff untersuchenFähigkeiten, Verbindungen und Rechte gegen Anforderungen prüfen
Was bestimmt den Umsetzungsplan?Offene Entscheidungen und technische AbhängigkeitenNachgewiesene wiederverwendbare Teile, Restabhängigkeiten und Tests

Dokumentieren Sie Auslöser, Schritte, Entscheidungspunkte, Ergebnis und Grenzfälle. Das sind fünf nützliche Überschriften statt einer Längen- oder Komplexitätsgrenze. Berücksichtigen Sie seltene folgenreiche Fälle und normale Ausnahmen sowie einen ausdrücklichen Weg für Unbekanntes. Verlinken Sie Detailregeln, wenn eine kurze Seite wesentliche Bedingungen verdecken würde.

Beispieldokument mit Auslöser, Schritten, Entscheidungen, Ergebnis und Ausnahmen; eine gewählte 14-Tage-Erinnerungsregel ist illustrativ, Versand braucht Freigabe
Finden Sie mit dem Format Entscheidungen und erwartete Ergebnisse. Seine Länge bestätigt keine Agenteneinsatzreife.

Verbessern Sie das Agentenbriefing mit einem gemeinsamen Durchlauf. Testen Sie danach den verbundenen Ablauf mit erlaubten repräsentativen Fällen und wesentlichen Ausnahmen. Dokumentieren Sie benötigte unausgesprochene Angaben. Scheitert der Agent trotz klarer Regel, untersuchen Sie die technische Ursache und behalten Sie die sichere Grenze bei.

Wie nutzen Sie diese Grenzen, bevor Sie sich festlegen?

Bestimmen Sie mit vier Prüffragen nötige Nachweise und Kontrollen. Die Ablaufprobe kann fehlende Entscheidungen vor der Umsetzung zeigen. Umsetzungstests zeigen, ob geplantes Verhalten funktioniert.

Welche Eingaben werden unterstützt? Benennen Sie Quellen, wesentliche Varianten und Behandlung fehlender oder unbekannter Angaben. Die Beschreibungslänge prüft keine Eingabeabdeckung.

Wie wird das Ergebnis abgenommen? Definieren Sie Erwartungen und nötige Prüfung. Manche Kontrollen können automatisch erfolgen, andere brauchen Menschen. Menschliche Prüfung kann ein gültiger Aufgabenteil sein und zeigt nicht zwangsläufig eine unklare Spezifikation.

Was passiert mit Ausnahmen? Erfassen Sie Auftreten, Folgen und Personalaufwand. Untersuchen Sie Änderungen im Verhältnis zu Volumen und Fallmix statt einer allgemeinen wöchentlichen Ausnahmengrenze.

Wer übernimmt ungelöste Fälle? Benennen Sie sicheren Zustand, empfangende Person, Kontext und Vorgehen bei gescheiterter Übergabe. Testen Sie den Weg. Eine Anweisung garantiert nicht die Erkennung jedes unklaren Falls.

Entscheiden Sie anhand der Antworten über begrenzten Versuch, anderes Werkzeug oder menschlich geführte Aufgabe. Fehlende Definitionen lassen sich reparieren. Eine klar beschriebene Aufgabe kann trotzdem ungeeignet oder im sicheren Betrieb zu teuer sein.

Was sollten Sie verwenden, wenn ein Agent nicht das richtige Tool ist?

Nicht jeder Workflow, der die Prüffragen nicht besteht, sollte aufgegeben werden. Manche gehören zu einem anderen Tool oder einem engeren Scope.

SzenarioWarum der Agent scheitertWas stattdessen verwenden
Variable Eingaben ohne definierbares MusterScope kann nicht eingegrenzt werdenMenschlicher Reviewer + enger Agent für definierte Teilmenge
Urteilsvermögen, das undokumentierten Kontext erfordertKontext nicht als strukturierte Daten verfügbarMensch mit Agent-erstelltem Entwurf zur Überprüfung und Genehmigung
Ablauf ändert sich schneller als Pflege von Regeln und TestsAktuelle Regeln, Tests oder Verantwortung fehlenRegelbasierte Automatisierung oder menschliche Checkliste
Mehrseitiger Workflow mit verzweigten AntwortenAgent kann Antwortvarianten ohne explizites Routing nicht verarbeitenAgent für ausgehende Aktionen + menschliches Eskalationsprotokoll für unerwartete Antworten
Beziehungssensible KommunikationTon-Risiko überwiegt den EntwurfsvorteilAgent entwirft, Mensch genehmigt vor dem Versand
Folgenreiche regulatorische oder vertragliche EntscheidungenNötige Befugnisse und Verantwortung brauchen eine fallbezogene BewertungQualifizierte menschliche Entscheidung mit begrenzter, getesteter Unterstützung, soweit passend

Suchen Sie das kleinste nützliche, überprüfbare Ergebnis. Anthropics Leitfaden unterscheidet vorhersehbare vordefinierte Abläufe von Agenten, die ihre Schritte auswählen.[1] Nutzen Sie feste Regeln bei bekanntem Weg und einen Agenten nur bei hilfreicher Flexibilität und prüfbaren Ergebnissen. Beide brauchen geeignete Daten, Rechte und Pflege.

Häufig gestellte Fragen

Was können KI-Agenten wirklich schlecht? Agenten können bei mehrdeutigen Aufgaben, fehlendem Kontext, wechselnden Abläufen und komplexer Koordination Schwierigkeiten haben. Klare Anforderungen helfen beim Test, technische Fehler können bleiben. Prüfen Sie tatsächliche Ergebnisse, Rechte, Verbindungen und sichere Übergabe bei folgenreichen Fällen.

Was ist Unterspezifizierung bei einem KI-Agenten? Das Briefing lässt wichtige Anforderungen, Eingabegrenzen, Ausnahmen oder Übergabeentscheidungen offen. Klären Sie diese mit der Prozessverantwortung und nutzen Sie sie als Abnahmekriterien. Auch klare Anweisungen können scheitern; untersuchen Sie die beobachtete Ursache.

Warum kann ein KI-Agent nicht „das Postfach verwalten"? Der Ausdruck lässt Nachrichtentypen, Aktionen, Prioritäten und Ausnahmeentscheidungen offen. Definieren Sie unterstützte Teilmenge und nötige Prüfung und testen Sie echte Ergebnisse. Eine enge Beschreibung macht die Aufgabe testbar und garantiert keine verlässliche Ausführung.

Was muss jedes Agenten-Briefing enthalten? Definieren Sie Eingaben, erwartete Ergebnisse, erlaubte Aktionen, nötige Freigaben, Ausnahmen und benannte Übergabe. Vereinbaren Sie Abnahme und Vorgehen bei nicht abschließbaren Aufgaben. Testen Sie die Regeln im verbundenen System.

Quellen

  1. Building effective agents. 19.Dezember2024. Technische Grenzen, Kosten, Fehlerverstärkung und Tests; vordefinierte Abläufe im Unterschied zu dynamischer Schrittauswahl. Keine allgemeine Fehlerhäufigkeit oder Dokumentationsgarantie. Abgerufen am 15. Oktober 2026.