AI-Agenten können heute weit mehr als Informationen zusammenfassen oder einzelne Aufgaben ausführen. Sie können Daten aus verschiedenen Systemen abrufen, Zusammenhänge erkennen, Optionen vergleichen und darauf basierend Aktionen vorbereiten oder sogar selbstständig ausführen.
Genau darin liegt ihr Potenzial, aber auch eine zentrale Herausforderung. Denn nur weil ein Agent eine Entscheidung treffen kann, bedeutet das nicht automatisch, dass er sie auch treffen sollte.
Die entscheidende Frage im Enterprise-Umfeld lautet deshalb nicht nur:
„Was kann ein AI-Agent automatisieren?“ Sondern: „Wo endet die Verantwortung des Agenten und wo muss ein Mensch übernehmen?“
Diese Grenze wird in vielen AI-Projekten noch zu wenig bewusst definiert.
Zwischen Automatisierung und Verantwortung
Ein AI-Agent arbeitet grundsätzlich auf Basis von Informationen, Regeln, Kontext und definierten Zielen. Je nach Prozess kann er eigenständig nächste Schritte ableiten.
Bei einer einfachen Aufgabe ist das oft unproblematisch. Ein Agent könnte beispielsweise:
- Einen Termin anhand definierter Regeln koordinieren
- Eingehende Anfragen kategorisieren
- Daten aus mehreren Systemen zusammenführen
- Einen Staubericht erstellen
- Einen wiederkehrenden Prozess automatisch anstoßen
In solchen Fällen kann vollständige Automatisierung sinnvoll sein. Die Auswirkungen einer falschen Entscheidung sind begrenzt und können häufig einfach korrigiert werden. Anders sieht es aus, wenn eine Entscheidung weitreichende Konsequenzen hat.
Was passiert beispielsweise, wenn ein Agent:
- Eine wichtige Kundenanfrage ablehnt,
- Eine Bestellung freigibt,
- Einen Rabatt gewährt,
- Einen Vertrag ändert,
- Eine Zahlung auslöst oder
- Auf Basis unvollständiger Daten eine geschäftskritische Entscheidung trifft?
Hier reicht es nicht aus, dass der Agent technisch dazu in der Lage ist. Es muss definiert sein, ob er dazu berechtigt sein sollte.
Nicht jede Aufgabe braucht denselben Grad an Autonomie
Ein häufiger Fehler bei der Einführung von AI-Agenten besteht darin, Automatisierung als binäre Entscheidung zu betrachten: Entweder erledigt der Agent einen Prozess vollständig oder ein Mensch erledigt ihn vollständig.
In der Praxis gibt es dazwischen zahlreiche Möglichkeiten. Ein sinnvoller Ansatz ist, unterschiedliche Stufen der Autonomie zu definieren.
1. Der Agent informiert
Der Agent sammelt Informationen und stellt sie einem Mitarbeiter zur Verfügung.
Beispielsweise analysiert er eine Kundenanfrage, durchsucht relevante Daten und fasst die wichtigsten Informationen zusammen.
Die Entscheidung bleibt vollständig beim Menschen.
2. Der Agent empfiehlt
Der Agent geht einen Schritt weiter und schlägt auf Basis seiner Analyse eine konkrete Handlung vor.
Ein Vertriebsagent könnte beispielsweise einen Rabatt empfehlen, weil bestimmte Kriterien erfüllt sind.
Der Mensch prüft und bestätigt.
3. Der Agent bereitet vor
Der Agent führt alle vorbereitenden Schritte selbstständig aus, benötigt aber vor der finalen Aktion eine Freigabe.
Beispielsweise erstellt er einen Vertragsentwurf, bereitet eine Bestellung vor oder erstellt eine Antwort an einen wichtigen Kunden.
Der Mensch gibt die finale Aktion frei.
4. Der Agent handelt autonom
Bei klar definierten und risikoarmen Prozessen kann der Agent auch die finale Aktion selbst ausführen.
Beispielsweise kann er einen internen Workflow starten oder eine standardisierte Anfrage automatisch bearbeiten.
Der Mensch greift nur ein, wenn eine Ausnahme auftritt.
Diese Abstufung ermöglicht es Unternehmen, die Vorteile von Agenten zu nutzen, ohne automatisch jede Entscheidung zu delegieren.
Die richtige Grenze hängt vom Risiko ab
Die Frage nach der richtigen Autonomie lässt sich nicht für jeden Prozess gleich beantworten. Entscheidend ist unter anderem, welche Konsequenzen eine falsche Entscheidung hätte.
Eine einfache interne Aufgabe kann beispielsweise vollständig automatisiert werden, während bei einer kundenrelevanten oder finanziellen Entscheidung eine zusätzliche Freigabe erforderlich ist.
Dabei können Unternehmen verschiedene Faktoren berücksichtigen:
Finanzielle Auswirkungen: Je höher das mögliche finanzielle Risiko, desto wichtiger kann eine menschliche Freigabe sein.
Rechtliche Auswirkungen: Entscheidungen mit rechtlichen Konsequenzen sollten besonders sorgfältig kontrolliert werden.
Kundenrelevanz: Eine automatisch versendete Standardinformation ist etwas anderes als die Entscheidung über eine Beschwerde oder einen wichtigen Kundenfall.
Reversibilität: Kann eine Entscheidung einfach rückgängig gemacht werden? Je schwieriger eine Aktion zu korrigieren ist, desto vorsichtiger sollte die Automatisierung gestaltet werden.
Datenqualität: Ein Agent kann nur so zuverlässig handeln, wie es der verfügbare Kontext erlaubt. Sind Daten unvollständig, widersprüchlich oder veraltet, sollte der Prozess möglicherweise an einen Menschen übergeben werden.
Human-in-the-Loop ist mehr als eine Freigabeschaltfläche
Der Begriff Human-in-the-Loop wird häufig auf einen simplen Freigabeschritt reduziert: Der Agent arbeitet, anschließend klickt ein Mitarbeiter auf „Bestätigen“.
Das greift zu kurz.
Ein sinnvoller Human-in-the-Loop-Prozess definiert viel genauer, wann, warum und unter welchen Bedingungen ein Mensch eingreifen muss.
Zum Beispiel: Wenn der Bestellwert über einem definierten Schwellenwert liegt, benötigt die Aktion eine menschliche Freigabe.
Oder: Wenn die verfügbaren Kundendaten nicht ausreichen, darf der Agent keine Entscheidung treffen und muss den Fall an einen Mitarbeiter übergeben.
Oder: Wenn eine Entscheidung vom Standardprozess abweicht, wird automatisch eine menschliche Prüfung ausgelöst.
Damit wird menschliche Kontrolle zu einem Bestandteil des Prozesses und nicht zu einer nachträglichen Sicherheitsmaßnahme.
Was passiert, wenn der Agent unsicher ist?
Ein weiterer wichtiger Punkt wird bei Agentensystemen häufig unterschätzt: Ein guter Agent muss nicht immer eine Antwort liefern. Manchmal ist die richtige Aktion, nicht selbst zu entscheiden.
Wenn Informationen fehlen, Daten widersprüchlich sind oder eine Situation außerhalb des definierten Anwendungsbereichs liegt, sollte der Agent erkennen können, dass seine Handlungsmöglichkeiten begrenzt sind.
Das kann beispielsweise durch sogenannte Escalation Paths umgesetzt werden. Der Prozess könnte dann vereinfacht so aussehen:
Daten analysieren → Entscheidung vorbereiten → Risiko prüfen → autonom handeln oder eskalieren
Der Agent erhält damit nicht nur Handlungsmöglichkeiten, sondern auch klar definierte Grenzen.
Das ist besonders wichtig, wenn Agenten mit mehreren Unternehmenssystemen verbunden sind. Je mehr Tools, Datenquellen und Aktionen verfügbar sind, desto größer wird auch der mögliche Handlungsspielraum.
Autonomie sollte bewusst gestaltet werden
Bei der Entwicklung eines AI-Agenten sollte deshalb nicht nur festgelegt werden, welche Aufgaben er erledigen darf.
Mindestens genauso wichtig ist die Definition dessen, was er nicht selbst entscheiden darf.
| Entscheidung | Risiko | Autonomie |
|---|---|---|
| Interne Informationen zusammenfassen | Niedrig | Vollautomatisch |
| Standardanfrage beantworten | Niedrig | Automatisch |
| Rabatt vorschlagen | Mittel | Empfehlung |
| Rabatt über Schwellenwert freigeben | Hoch | Human-in-the-Loop |
| Rechtlich relevante Entscheidung treffen | Sehr hoch | Menschliche Entscheidung |
Die konkreten Grenzen müssen natürlich zum jeweiligen Unternehmen und Prozess passen. Das Prinzip bleibt jedoch gleich: Je höher das Risiko, desto stärker sollte menschliche Kontrolle sein.
Der Agent braucht nicht weniger Regeln, sondern bessere
Das Ziel eines Agentenprozesses sollte deshalb nicht maximale Autonomie um jeden Preis sein. Ein guter Agent ist nicht unbedingt derjenige, der möglichst viele Entscheidungen trifft.
Ein guter Agent ist derjenige, der genau weiß, welche Entscheidungen er selbst treffen darf und wann er einen Menschen einbeziehen muss.
Dafür braucht es klare Regeln für:
- Erlaubte Aktionen,
- Entscheidungsgrenzen,
- Erforderliche Freigaben,
- Eskalationsfälle,
- Datenzugriff,
- Verantwortlichkeiten und
- Protokollierung.
Damit wird aus einem technisch funktionierenden Agenten ein kontrollierbarer Unternehmensprozess.
Die entscheidende Frage ist nicht „Wie viel können wir automatisieren?“
AI-Agenten eröffnen Unternehmen die Möglichkeit, Prozesse deutlich stärker zu automatisieren als bisher. Gleichzeitig verschiebt sich dadurch die Verantwortung für Prozessdesign.
Unternehmen müssen nicht nur überlegen, welche Aufgaben ein Agent übernehmen kann. Sie müssen definieren, welche Entscheidungen ein Agent treffen darf.
Denn zwischen „Der Agent kann es“ und „Der Agent sollte es tun“ liegt ein entscheidender Unterschied. Gerade bei produktiven Enterprise-AI-Anwendungen ist deshalb die richtige Balance entscheidend:
Agenten übernehmen die Arbeit, Menschen behalten die Kontrolle dort, wo sie notwendig ist.
Das Ziel ist nicht maximale Autonomie. Das Ziel ist richtige Autonomie.