Definition
KI-Systeme, die mehrstufige Aufgaben weitgehend autonom ausführen — durch Werkzeugaufrufe, Reasoning über Schritte und Anpassung an Zwischenergebnisse. Beispiele: Recherche-Agenten, Code-Agenten, autonome QM-Audit-Assistenten. Regulatorische Implikationen: höhere Hochrisiko-Wahrscheinlichkeit unter EU AI Act, AIMS-Anforderungen nach ISO 42001 verschärft. Architekt-Stelle, an der sich GEO/AEO-Marketing zunehmend ausrichten muss.
In der Praxis
KI-Agenten sind der Punkt, an dem aus Werkzeugen Mitspieler werden — und an dem viele Organisationen die Kontrolllogik vergessen. Ein Agent mit Schreibzugriff auf Produktivsysteme, der mehrstufige Aufgaben autonom ausführt, ist faktisch ein Mitarbeiter mit Administratorrechten: Würden Sie einem solchen Mitarbeiter ohne Freigabekonzept, ohne Protokollierung und ohne Vier-Augen-Prinzip arbeiten lassen? Genau das sehe ich in Pilotprojekten — Begeisterung über die Autonomie, Stille bei den Leitplanken. Drei Regeln haben sich bewährt: Erstens Autonomiegrade explizit festlegen — was darf der Agent allein, was nur mit Freigabe, was nie? Zweitens Protokollierung von Anfang an: Jeder Werkzeugaufruf, jede Zwischenentscheidung gehört ins Log, sonst ist im Fehlerfall keine Rekonstruktion möglich. Drittens die menschliche Aufsicht ernst nehmen — die KI-VO verlangt sie für Hochrisiko-Systeme ohnehin, und sie ist auch darunter die richtige Denkfigur. Agentic AI ist ein Produktivitätssprung, aber nur mit Governance: Wer die Kontrolle erst nach dem ersten Incident baut, hat sie zu spät gebaut.
Verwandte Begriffe
Häufige Fragen zu Agentic AI
Was unterscheidet einen KI-Agenten von einem normalen Chatbot oder einer Automatisierung?
Ein Chatbot antwortet auf Eingaben; eine klassische Automatisierung führt ein fest verdrahtetes Skript aus. Ein KI-Agent plant dagegen selbst: Er zerlegt ein Ziel in Teilschritte, ruft Werkzeuge auf — Suchen, Datenbanken, Code-Ausführung —, wertet Zwischenergebnisse aus und passt sein Vorgehen an, bis die Aufgabe erledigt ist. Der qualitative Unterschied ist die Entscheidungsschleife: Der Agent wählt selbst, welchen Schritt er als Nächstes tut, statt einem vorgegebenen Ablauf zu folgen. Das macht ihn leistungsfähig für mehrstufige Aufgaben wie Recherche oder Datenaufbereitung — und riskanter, weil Fehler sich über die Schrittkette verstärken können. Für die Einordnung im Managementsystem heißt das: Ein Agent ist kein erweitertes Skript, sondern ein System mit eigener Handlungsautonomie, das entsprechend gesteuert und überwacht gehört.
Verschärft der EU AI Act die Anforderungen, wenn wir KI-Agenten einsetzen?
Die KI-VO kennt den Begriff „Agent" nicht — sie bewertet das System nach Anwendungsfall und Risikoklasse, nicht nach Architektur. Aber agentische Systeme rutschen faktisch schneller in die strengen Kategorien: Wer autonom über Personen, Zugänge oder sicherheitsrelevante Prozesse entscheidet, landet eher im Anhang-III-Feld als ein reines Textwerkzeug. Dann gelten die vollen Anforderungen — Risikomanagement nach Art. 9, Aufzeichnungen nach Art. 12, menschliche Aufsicht nach Art. 14, Genauigkeit und Robustheit nach Art. 15. Gerade die Aufsicht ist bei Agenten der Knackpunkt: Die Verordnung verlangt, dass Menschen Ausgaben interpretieren und eingreifen können — bei einer autonomen Aktionskette muss das konstruktiv sichergestellt sein, etwa über Freigabepunkte und Abbruchkriterien. Prüfen Sie also jeden Agenten-Einsatz wie jedes andere KI-System: Anwendungsfall klassifizieren, Rolle klären, Pflichten ableiten (Verordnung (EU) 2024/1689, Art. 9, Art. 12, Art. 14, Art. 15).
Wie führen wir KI-Agenten ein, ohne die Kontrolle über unsere Systeme zu verlieren?
Beginnen Sie mit lesenden Agenten in einem abgegrenzten Aufgabenfeld — Recherche, Auswertung, Entwurf — bevor Sie Schreibzugriffe erlauben. Für jeden Agenten legen Sie drei Dinge schriftlich fest: das Autonomieprofil, also welche Aktionen er allein darf, welche freigabepflichtig sind und welche tabu; die Protokollierung, damit jede Aktion und jede Zwischenentscheidung nachvollziehbar bleibt; und die Abbruchkriterien, bei denen der Agent stoppt und eskaliert. Technisch gehören Agenten in eigene Berechtigungsprofile mit minimalen Rechten — nie auf dem Konto eines Administrators. Organisatorisch gehört jeder produktive Agent ins KI-Inventar Ihres Managementsystems, mit Verantwortlichem und regelmäßiger Überprüfung der Logs. Und planen Sie den Ernstfall: Wer einen Agenten stoppen kann und wie, muss vor dem Start klar sein — nicht während des Incidents (ISO/IEC 42001:2023, Kap. 8.2 und 8.3).