Trennen Sie unklare Geschäftsentscheidungen von technischen Grenzen vor der Aufgabenwahl für einen Agenten.
Das erfahren Sie
- Testen Sie Eingaben, fehlenden Kontext, Änderungen und Antwortzweige.
- Nutzen Sie ein klares Briefing als Abnahmebeschreibung.
- Prüfen Sie tatsächliche Aktionen und sichere menschliche Übergabe.
- Wählen Sie bei Bedarf eine kleinere Aufgabe oder ein anderes Werkzeug.
KI-Agenten können durch unklare Aufgaben, fehlende Angaben oder technische Grenzen scheitern. Trennen Sie diese Ursachen vor einer Reparatur. Eine klare Anleitung definiert Erfolg; der verbundene Agent muss ihn weiterhin zeigen.
Warum erschweren unklare Aufgaben die Diagnose von Agentenfehlern?
Eine unklare Aufgabe lässt das erwartete Ergebnis offen. Definieren Sie Aktionen, Eingaben und Ausnahmen zur Fehleruntersuchung. Auch eine präzise Aufgabe kann Fähigkeiten übersteigen oder an Verbindungen, Rechten und Informationsverarbeitung scheitern.
Angenommen, die Aufgabe ist ein Nachfassentwurf nach gewählten fünf Werktagen. Definieren Sie freigegebenen Originalversand, Empfänger, spätere Antworten, offenen Status, Kontaktbeschränkungen und Prüfperson. Das macht einen möglichen Ablauf testbar, nicht allein durch die Beschreibung zuverlässig.
„Kundenanfragen bearbeiten" klingt einfach genug, um unkompliziert zu sein. Im Produktivbetrieb scheitert es, weil „Kundenanfragen bearbeiten" keine Aufgabe ist. Es ist eine breite Kategorie mit unterschiedlichen Eingaben, Ergebnissen und Ausnahmen, die eigene Entscheidungen brauchen.
Unterspezifizierung ist eine mögliche Ursache. Der Agent kann klare Anweisungen falsch verstehen oder verfügbare Angaben falsch nutzen. Prüfen Sie Ergebnis, Eingaben, Aktionen und Fehler, statt jeden Fehler einer fehlenden Briefingzeile zuzuordnen.
Was sind die vier Versagensmuster im Produktivbetrieb?
Nutzen Sie diese vier Muster als Prüfliste für Aufgaben- und Ablauflücken. Es sind Beispielkategorien statt gemessener Rangfolge oder vollständiger Fehlererklärung. Untersuchen Sie bei falschen Ergebnissen tatsächliche Ursachen einschließlich technischer Fehler.
Mehrdeutige Eingaben: Der Agent empfängt etwas, für das er nicht konzipiert wurde. Ein Kunde schreibt in einer Sprache, für die der Agent nicht gebrieft wurde. Eine Bestellung kommt mit zwei Positionen statt einer. Ein Formular wird mit einem leeren Pflichtfeld eingereicht. Die Eingabe ist nicht falsch — sie wurde nur nicht antizipiert. Der Agent produziert eine Ausgabe, die korrekt wirkt, es aber nicht ist, weil der aufgetretene Fall nie definiert wurde.
Kontextabhängiges Urteilsvermögen: Die Aufgabe erfordert Wissen, das dem Agenten nie gegeben wurde. „Diesen Lead nachfassen" klingt definiert. Aber der richtige Ton hängt davon ab, wie der Lead eingegangen ist, wie lange er sich bereits in der Pipeline befindet und ob es im letzten Quartal einen schwierigen Austausch gab. Eine Kollegin kann die Vorgeschichte kennen; bestätigen Sie den gemeinsamen Kenntnisstand. Ein Agent kann eine nie erhaltene private Vorgeschichte nicht verlässlich liefern.
Sich verschiebender Umfang: Die Aufgabendefinition verschiebt sich, weil sich das Unternehmen verändert. Der Agent wurde gebrieft, wie der Workflow im Februar funktionierte. Im April hat das Team einen Schritt hinzugefügt, einen Feldnamen geändert oder einen neuen Falltyp eingeführt. Niemand hat das Briefing aktualisiert. Der Agent führt weiterhin die alte Version des Workflows aus.
Koordination mit mehreren Beteiligten: Die Aufgabe erfordert das Warten auf eine andere Person oder ein anderes System und anschließendes Handeln auf Basis der Antwort. „Angebot senden, dann nachfassen, wenn keine Antwort" klingt einfach. Aber was, wenn der Interessent mit einer Frage statt einer Entscheidung antwortet? Was, wenn die Antwort in einem anderen E-Mail-Thread eintrifft? Der Agent wurde für einen Pfad gebrieft. Der Produktivbetrieb enthält mehrere.
Die Beispiele sind mögliche Szenarien. Prüfen Sie anhand dieser Signale, ob sie zutreffen:
| Versagensmuster | Grundursache | Erkennungsfrage | Symptom im Produktivbetrieb |
|---|---|---|---|
| Mehrdeutige Eingaben | Eingabetyp oder sichere Behandlung kann fehlen | Sind unterstützte Eingaben und der Weg für Unbekanntes klar? | Bekannte Fälle werden gut bearbeitet; unbekannte Eingaben erzeugen Ausgaben, die richtig wirken, aber den Kontext verfehlen |
| Kontextabhängiges Urteilsvermögen | Nötiger Kontext kann fehlen oder falsch genutzt werden | Hängt die richtige Antwort von etwas ab, das nicht in den Datenquellen des Agenten gespeichert ist? | Ausgaben sind technisch korrekt, aber Ton, Priorität oder Framing passt nicht zum konkreten Fall |
| Sich verschiebender Umfang | Briefing wurde nach Workflow-Änderungen nicht aktualisiert | Hat sich seit dem Schreiben des Briefings ein Schritt, ein Feld oder ein Falltyp geändert? | Agent führt alten Workflow auf neuen Eingaben aus; Fehler wirken zufällig, weil sie vom jeweiligen neuen Falltyp abhängen |
| Koordination mit mehreren Beteiligten | Workflow verzweigt sich anhand externer Antworten | Erfordert ein Schritt das Warten auf eine Antwort und unterschiedliches Handeln je nach Inhalt? | Eine Vorführung lässt Zweige aus, die bei echten Antworten auftreten |
Welche Aufgaben wirken automatisierbar, scheitern aber regelmäßig?
Klare Anforderungen machen Fehler prüfbarer; technische Grenzen bleiben.
Zerlegen Sie breite Kundenkommunikation in prüfbare Aufgaben mit benannten Aktionen, Quellen, Freigaben und menschlicher Übergabe.
Postfachverwaltung, Terminplanung, Zusammenfassungen und Lead-Antworten brauchen mehr als ihre kurzen Namen. Prüfen Sie die Entscheidungen innerhalb jeder Aufgabe vor der Zuweisung an einen Agenten.
„Postfach verwalten": Jede Nachricht ist anders. Ein Agent kann einen bestimmten Nachrichtentyp bearbeiten — Rückerstattungsanfragen, Lieferfragen, Kontoänderungen — wenn dieser Typ isoliert und spezifiziert ist. Das gesamte Postfach ist keine Aufgabe. Es ist eine Kategorie.
„Meetings planen": Wirkt mechanisch. Enthält Präferenzlogik. Was, wenn zwei Zeitfenster verfügbar sind, aber eines direkt vor einem Gespräch liegt, das der Agent nicht kennt? Was, wenn die andere Partei Vormittage bevorzugt und sich in einer anderen Zeitzone befindet? Fragen Sie nach wichtigen Präferenzen und ihren Quellen. Testen Sie die tatsächliche Umsetzung, statt Menschen oder Agenten fehlende Wünsche erraten zu lassen.
„Aktivitäten dieser Woche zusammenfassen": Was gilt als diese Woche? Welche Aktivitäten sind relevant? Für welches Publikum? Eine Zusammenfassung für sich selbst enthält andere Punkte als eine, die an einen Investor gesendet wird. Der Agent braucht einen definierten Umfang und eine feste Vorlage — keine allgemeine Anweisung.
„Leads beobachten und beantworten": Die Beobachtung ist automatisierbar. Die Antwort hängt davon ab, wie der Lead eingegangen ist, was er gesagt hat und in welchem Stadium er sich befindet. Definieren Sie Antwortzweige, Angaben und Freigaben. Testen Sie die geänderte Aktion bei anderem Kundenstatus oder einer Antwort.
Welche Lösungsansätze gibt es für jedes Versagensmuster?
Definieren Sie das erwartete Verhalten und untersuchen Sie das Hindernis. Die Reparatur kann Geschäftsregeln, Angaben, Verbindung, Rechte oder Modell betreffen. Ein klareres Briefing hilft, seine Schutzregeln müssen aber in der tatsächlichen Umsetzung funktionieren.
Wie beheben Sie mehrdeutige Eingaben und kontextabhängiges Urteil?
Mehrdeutige Eingaben und kontextabhängiges Urteil beheben Sie, indem Sie jeden Falltyp definieren und dem Agenten den nötigen Kontext als lesbare strukturierte Daten geben.
Bei mehrdeutigen Eingaben: Alle Falltypen, die der Agent bearbeiten wird, sowie alle, die er nicht bearbeiten wird, aufzählen. Eine explizite Regel für „unbekannte Eingabe" schreiben — was der Agent tut, wenn er etwas außerhalb seiner definierten Fälle erhält. Testen Sie unbekannte Eingaben vor Live-Nutzung und behalten Sie einen Weg für neue Fälle danach. Der Agent braucht eine definierte Aktion dafür vor der Liveschaltung, nicht eine, die erst nach einem Fehler entwickelt wird. Erwägen Sie einen engeren Umfang mit getesteter Übergabe für nicht unterstützte Fälle. Messen Sie akzeptierte Ergebnisse, Prüfaufwand und folgenreiche Fehler vor der Nutzenentscheidung. Ein größerer automatisierter Anteil allein entscheidet den Nutzen nicht.
Bei kontextabhängigem Urteilsvermögen: Den benötigten Kontext als strukturierte Daten extrahieren und dem Agenten Lesezugriff darauf geben. Wenn das richtige Follow-up davon abhängt, wie lange ein Lead in der Pipeline ist, dieses als CRM-Feld speichern. Wenn der Ton von einem früheren Interaktionsergebnis abhängt, es als Deal-Notiz protokollieren. Der Agent wendet Kontext an, den er lesen kann — er kann keine Geschichte ableiten, die ihm nie gegeben wurde. Für beziehungssensible Kommunikation bewahrt ein menschlicher Genehmigungsschritt für den Agent-Entwurf die Beziehungsschicht, während der Entwurfsvorteil erhalten bleibt. Prüfen Sie bei OpenClaw, ob der tatsächliche Versand auf die beabsichtigte Freigabe wartet. Eine allgemeine Befehlsfreigabe kontrolliert nicht von sich aus jede ausgehende Nachricht.
Wie beheben Sie einen sich verschiebenden Umfang und die Koordination mehrerer Beteiligter?
Einen sich verschiebenden Umfang und mehrere Beteiligte bewältigen Sie mit einem vor dem Start festgelegten Prüfrhythmus und einer Aufteilung des Workflows an der Antwortgrenze.
Bei sich verschiebenden Umfang: Einen Briefing-Überprüfungsrhythmus einplanen, bevor der Agent live geht. Wählen Sie den Rhythmus nach Änderungstempo und Folgen. Prüfen Sie relevante Änderungen vor ihrem Wirksamwerden. Wenn ein Schritt hinzugefügt, ein Tool geändert oder ein neuer Falltyp eingeführt wird, aktualisiert der Agent-Verantwortliche das Briefing vor der Übernahme in den Produktivbetrieb. Workflow-Änderungen ohne diesen Schritt erscheinen als unerklärliche Fehler — weil der Agent Anweisungen für einen Workflow ausführt, der dem Produktivbetrieb nicht mehr entspricht.
Bei Koordination mit mehreren Beteiligten: Den Workflow an der Antwortgrenze aufteilen. Der Agent übernimmt die ausgehende Aktion: Angebot versenden, Follow-up, Bestätigung. Eine separate Regel überwacht Antworten und leitet sie weiter. Erwartete Antworten — Zustimmung, Buchung, Genehmigung — setzen den Workflow fort. Unerwartete Antworten — Fragen, Einwände, nicht zum Scope gehörende Anfragen — gehen in eine Menschenwarteschlange. Testen Sie Stopp und richtige Übergabe bei mehrdeutigen Antworten. Auch eine Zuordnungsregel muss die Grenze erkennen und eine gescheiterte Übergabe behandeln.
Wie trennen Sie fehlende Dokumentation von technischen Grenzen?
Schreiben Sie das erwartete Ergebnis auf und testen Sie die Umsetzung unter den nötigen Bedingungen. Schwierigkeiten einer neuen Kollegin mit der Anleitung können fehlenden Kontext zeigen. Ein erfolgreicher menschlicher Probelauf bestätigt nicht dieselben Fähigkeiten, Quellen und Zugriffe beim Agenten.
Anthropics technischer Leitfaden vom Dezember 2024 beschreibt zusätzliche Agentenkosten und mögliche Fehlerverstärkung bei aufeinanderfolgenden Aktionen. Er empfiehlt Tests und Schutzmaßnahmen.[1] Nutzen Sie die Dokumentation als Testbeschreibung und prüfen Sie tatsächliche Aktionen und Ergebnisse statt einer durch Beschreibung gelösten Technik.
| Prüfpunkt | Nicht dokumentierter Prozess | Komplexer, aber dokumentierter Prozess |
|---|---|---|
| Versteht eine nicht eingearbeitete Person die Entscheidungen? | Erklärung oder Beobachtung kann fehlende Regeln zeigen | Fälle durchspielen und Restlücken finden |
| Ist der Auslöser konsistent? | Startereignis bestimmen | Richtiges Startverhalten am echten Ereignis testen |
| Wie werden Grenzfälle behandelt? | Aktionen und übernehmende Personen vereinbaren | Definierte Zweige und gescheiterte Übergaben prüfen |
| Was erfordert die Implementierung? | Anforderungen klären und Zugriff untersuchen | Fähigkeiten, Verbindungen und Rechte gegen Anforderungen prüfen |
| Was bestimmt den Umsetzungsplan? | Offene Entscheidungen und technische Abhängigkeiten | Nachgewiesene wiederverwendbare Teile, Restabhängigkeiten und Tests |
Dokumentieren Sie Auslöser, Schritte, Entscheidungspunkte, Ergebnis und Grenzfälle. Das sind fünf nützliche Überschriften statt einer Längen- oder Komplexitätsgrenze. Berücksichtigen Sie seltene folgenreiche Fälle und normale Ausnahmen sowie einen ausdrücklichen Weg für Unbekanntes. Verlinken Sie Detailregeln, wenn eine kurze Seite wesentliche Bedingungen verdecken würde.
Verbessern Sie das Agentenbriefing mit einem gemeinsamen Durchlauf. Testen Sie danach den verbundenen Ablauf mit erlaubten repräsentativen Fällen und wesentlichen Ausnahmen. Dokumentieren Sie benötigte unausgesprochene Angaben. Scheitert der Agent trotz klarer Regel, untersuchen Sie die technische Ursache und behalten Sie die sichere Grenze bei.
Wie nutzen Sie diese Grenzen, bevor Sie sich festlegen?
Bestimmen Sie mit vier Prüffragen nötige Nachweise und Kontrollen. Die Ablaufprobe kann fehlende Entscheidungen vor der Umsetzung zeigen. Umsetzungstests zeigen, ob geplantes Verhalten funktioniert.
Welche Eingaben werden unterstützt? Benennen Sie Quellen, wesentliche Varianten und Behandlung fehlender oder unbekannter Angaben. Die Beschreibungslänge prüft keine Eingabeabdeckung.
Wie wird das Ergebnis abgenommen? Definieren Sie Erwartungen und nötige Prüfung. Manche Kontrollen können automatisch erfolgen, andere brauchen Menschen. Menschliche Prüfung kann ein gültiger Aufgabenteil sein und zeigt nicht zwangsläufig eine unklare Spezifikation.
Was passiert mit Ausnahmen? Erfassen Sie Auftreten, Folgen und Personalaufwand. Untersuchen Sie Änderungen im Verhältnis zu Volumen und Fallmix statt einer allgemeinen wöchentlichen Ausnahmengrenze.
Wer übernimmt ungelöste Fälle? Benennen Sie sicheren Zustand, empfangende Person, Kontext und Vorgehen bei gescheiterter Übergabe. Testen Sie den Weg. Eine Anweisung garantiert nicht die Erkennung jedes unklaren Falls.
Entscheiden Sie anhand der Antworten über begrenzten Versuch, anderes Werkzeug oder menschlich geführte Aufgabe. Fehlende Definitionen lassen sich reparieren. Eine klar beschriebene Aufgabe kann trotzdem ungeeignet oder im sicheren Betrieb zu teuer sein.
Was sollten Sie verwenden, wenn ein Agent nicht das richtige Tool ist?
Nicht jeder Workflow, der die Prüffragen nicht besteht, sollte aufgegeben werden. Manche gehören zu einem anderen Tool oder einem engeren Scope.
| Szenario | Warum der Agent scheitert | Was stattdessen verwenden |
|---|---|---|
| Variable Eingaben ohne definierbares Muster | Scope kann nicht eingegrenzt werden | Menschlicher Reviewer + enger Agent für definierte Teilmenge |
| Urteilsvermögen, das undokumentierten Kontext erfordert | Kontext nicht als strukturierte Daten verfügbar | Mensch mit Agent-erstelltem Entwurf zur Überprüfung und Genehmigung |
| Ablauf ändert sich schneller als Pflege von Regeln und Tests | Aktuelle Regeln, Tests oder Verantwortung fehlen | Regelbasierte Automatisierung oder menschliche Checkliste |
| Mehrseitiger Workflow mit verzweigten Antworten | Agent kann Antwortvarianten ohne explizites Routing nicht verarbeiten | Agent für ausgehende Aktionen + menschliches Eskalationsprotokoll für unerwartete Antworten |
| Beziehungssensible Kommunikation | Ton-Risiko überwiegt den Entwurfsvorteil | Agent entwirft, Mensch genehmigt vor dem Versand |
| Folgenreiche regulatorische oder vertragliche Entscheidungen | Nötige Befugnisse und Verantwortung brauchen eine fallbezogene Bewertung | Qualifizierte menschliche Entscheidung mit begrenzter, getesteter Unterstützung, soweit passend |
Suchen Sie das kleinste nützliche, überprüfbare Ergebnis. Anthropics Leitfaden unterscheidet vorhersehbare vordefinierte Abläufe von Agenten, die ihre Schritte auswählen.[1] Nutzen Sie feste Regeln bei bekanntem Weg und einen Agenten nur bei hilfreicher Flexibilität und prüfbaren Ergebnissen. Beide brauchen geeignete Daten, Rechte und Pflege.
Häufig gestellte Fragen
Was können KI-Agenten wirklich schlecht? Agenten können bei mehrdeutigen Aufgaben, fehlendem Kontext, wechselnden Abläufen und komplexer Koordination Schwierigkeiten haben. Klare Anforderungen helfen beim Test, technische Fehler können bleiben. Prüfen Sie tatsächliche Ergebnisse, Rechte, Verbindungen und sichere Übergabe bei folgenreichen Fällen.
Was ist Unterspezifizierung bei einem KI-Agenten? Das Briefing lässt wichtige Anforderungen, Eingabegrenzen, Ausnahmen oder Übergabeentscheidungen offen. Klären Sie diese mit der Prozessverantwortung und nutzen Sie sie als Abnahmekriterien. Auch klare Anweisungen können scheitern; untersuchen Sie die beobachtete Ursache.
Warum kann ein KI-Agent nicht „das Postfach verwalten"? Der Ausdruck lässt Nachrichtentypen, Aktionen, Prioritäten und Ausnahmeentscheidungen offen. Definieren Sie unterstützte Teilmenge und nötige Prüfung und testen Sie echte Ergebnisse. Eine enge Beschreibung macht die Aufgabe testbar und garantiert keine verlässliche Ausführung.
Was muss jedes Agenten-Briefing enthalten? Definieren Sie Eingaben, erwartete Ergebnisse, erlaubte Aktionen, nötige Freigaben, Ausnahmen und benannte Übergabe. Vereinbaren Sie Abnahme und Vorgehen bei nicht abschließbaren Aufgaben. Testen Sie die Regeln im verbundenen System.
Quellen
- Building effective agents. 19.Dezember2024. Technische Grenzen, Kosten, Fehlerverstärkung und Tests; vordefinierte Abläufe im Unterschied zu dynamischer Schrittauswahl. Keine allgemeine Fehlerhäufigkeit oder Dokumentationsgarantie. Abgerufen am 15. Oktober 2026.
