Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Unternehmen

KI-Agenten im Betrieb

Kurzantwort

Ein KI-Agent bekommt ein Ziel und entscheidet selbst, welche Werkzeuge er nacheinander aufruft, etwa Postfach, Kalender oder Warenwirtschaft⁠2. Damit wird aus einer falschen Antwort schnell eine falsche Handlung. Im Betrieb lohnen sich Agenten dort, wo ihre Schritte umkehrbar sind oder ein Mensch vor jeder Wirkung nach außen zustimmt.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Eine Hand schiebt einen weißen Springer über ein Schachbrett mit wenigen Figuren, dahinter ein zugeklappter Laptop
Ein Agent wählt seine Züge selbst. Welche Felder er betreten darf, legst du fest. Bild: KI-generiert

Wer heute von KI-Agenten spricht, meint Programme, die mit einem Sprachmodell planen und dann selbst handeln: Sie lesen ein Postfach, legen einen Termin an, fragen einen Preis ab oder ändern einen Datensatz. Für einen Betrieb zählt deshalb vor allem, was ein Agent ohne Rückfrage tun darf und wer merkt, wenn er danebenliegt.

Was einen Agenten vom Chat-Assistenten unterscheidet

Ein Chat-Assistent antwortet, und du entscheidest, was mit der Antwort passiert. Ein Agent bekommt ein Ziel und wählt die Schritte selbst. Anthropic trennt in seinem Leitfaden zwei Bauformen: Workflows, bei denen der Ablauf im Programmcode festliegt und das Modell nur einzelne Schritte übernimmt, und Agenten, bei denen das Modell selbst bestimmt, welches Werkzeug es wann aufruft⁠2. Die Grenze ist fließend. Auch manches Produkt, das als Agent verkauft wird, folgt festen Abläufen mit einem Sprachmodell in der Mitte, und für viele Aufgaben im Betrieb ist das die bessere Wahl.

Technisch hängt alles an den Werkzeugen. Ein Modell kann über Function Calling eine Funktion aufrufen, etwa "Mail senden" oder "Kundendatensatz lesen". Über das Model Context Protocol lassen sich solche Werkzeuge einheitlich anbinden. Jedes zusätzliche Werkzeug erweitert, was ein KI-Agent kann, und damit auch, was schiefgehen kann. Teilen sich mehrere Agenten eine Aufgabe, nennt man das Agentic AI.

Anthropic rät, mit der einfachsten Lösung anzufangen und Agenten erst dann zu bauen, wenn sich die Zahl der Schritte nicht vorher festlegen lässt⁠2. Agentische Systeme nehmen laut Anthropic längere Wartezeiten und höhere Kosten in Kauf, um offene Aufgaben besser zu lösen, und ihre Fehler können sich über die Schritte aufaddieren⁠2.

Wo Agenten im Betrieb heute eingesetzt werden

In der repräsentativen Bitkom-Befragung vom Sommer 2026 gaben 11 Prozent der Unternehmen, die KI nutzen, planen oder diskutieren, an, bereits KI-Agenten einzusetzen. 29 Prozent planten den Einsatz, 31 Prozent diskutierten ihn, für 24 Prozent war das Thema keines⁠1. Als Beispiele nennt der Verband Agenten, die Preise vergleichen, Angebote einholen oder Entscheidungsvorlagen ausarbeiten⁠1.

Zwei Einsatzfelder beschreibt Anthropic als besonders geeignet. Im Kundenservice verbindet ein Agent das Gespräch mit Zugriff auf Kundendaten, Bestellhistorie und Wissensdatenbank und kann zum Beispiel Erstattungen anstoßen; ob der Fall gelöst ist, lässt sich messen⁠2. Beim Programmieren prüfen automatische Tests, ob eine Änderung funktioniert, und der Agent kann so lange nachbessern, bis sie bestehen. Auch dort bleibt die Durchsicht durch Menschen wichtig⁠2. Zu den bekannten Produkten zählen Claude Code für das Programmieren und Manus als allgemeiner Assistent.

Für kleinere Betriebe sind die naheliegenden Aufgaben unspektakulärer: eingehende Anfragen vorsortieren und Antworten entwerfen, Lieferantenpreise aus mehreren Portalen zusammentragen, Termine mit Kunden abstimmen oder Rechnungen dem richtigen Auftrag zuordnen. Gemeinsam ist diesen Aufgaben, dass ein Mensch das Ergebnis vor der Wirkung nach außen ansehen kann, im Kundenservice etwa die Antwort, bevor sie beim Kunden landet. Zusammenstellen lässt sich ein solcher Agent in n8n, in Copilot Studio oder mit Claude, jeweils mit eigenen Schritten (Agent bauen).

Typische Fehlerbilder

Fehler pflanzen sich fort

Ein Assistent irrt einmal, ein Agent kann einen frühen Irrtum durch alle folgenden Schritte tragen. Rechenbeispiel: Gelingt jeder einzelne Schritt mit 95 Prozent Wahrscheinlichkeit, gelingen fünf Schritte hintereinander nur in gut 77 Prozent der Fälle, zehn Schritte in knapp 60 Prozent. Echte Abläufe sind nicht so gleichmäßig, die Richtung stimmt aber: Je länger die Kette, desto wichtiger werden Zwischenprüfungen.

Zu viele Werkzeuge, zu viele Rechte

Die OWASP-Liste der Risiken für Sprachmodell-Anwendungen führt dieses Problem als "Excessive Agency", seit der Fassung 2026 auf Platz drei⁠5. Sie unterscheidet drei Ursachen⁠3:

  • Der Agent hat Funktionen, die er nicht braucht, zum Beispiel ein Lesewerkzeug für Dokumente, das auch löschen kann.
  • Er arbeitet mit Rechten, die über seine Aufgabe hinausgehen, etwa mit einem Datenbankzugang, der schreiben darf, obwohl nur gelesen werden soll.
  • Er führt folgenreiche Aktionen aus, ohne dass jemand zustimmt, zum Beispiel das Löschen von Dateien.

Auslöser kann eine schlichte Fehlinterpretation sein, ein schwaches Modell oder eine gezielte Manipulation⁠3.

Versteckte Anweisungen in fremden Inhalten

Ein Agent, der Mails, Webseiten oder Dokumente liest, liest auch Anweisungen, die ein Angreifer dort versteckt hat. Das BSI beschreibt dieses Risiko als besonders kritisch in Systemen, in denen Sprachmodelle mit Werkzeugen, Schnittstellen oder automatisierten Abläufen gekoppelt sind und ihre Ausgaben direkt Aktionen auslösen⁠4. Angreifer können so Daten ausleiten oder unerlaubte Zugriffe anstoßen⁠4. OWASP schildert den typischen Fall: Ein Assistent mit Lese- und Sendezugriff auf ein Postfach bekommt eine präparierte Mail, sucht daraufhin vertrauliche Nachrichten heraus und leitet sie weiter⁠3. Als Abhilfe gegen diese Form der Prompt Injection nennt OWASP ein Lesewerkzeug ohne Sendefunktion und die Freigabe jeder Mail durch den Nutzer⁠3.

Schleifen und Kosten

Agenten rufen das Modell in jedem Schritt erneut auf. Bleibt ein Agent hängen, weil eine Seite nicht lädt oder ein Werkzeug Fehler meldet, kann er es immer wieder versuchen. Anthropic empfiehlt Abbruchbedingungen wie eine Höchstzahl an Durchläufen⁠2. Sinnvoll ist zusätzlich ein Kostendeckel beim Anbieter der Schnittstelle.

Eine Reihe Dominosteine auf hellem Leinen, die ersten drei sind umgefallen, in der Mitte steht ein kleiner Messingklotz als Sperre
Ein früher Fehler kippt die folgenden Schritte mit, wenn nichts dazwischen prüft. Bild: KI-generiert

Rechte in Stufen vergeben

Treppe mit vier Stufen für die Rechte eines KI-Agenten: Lesen, Entwürfe, umkehrbare interne Änderungen und Aktionen nach außen, jeweils mit der passenden Freigabe
  1. Lesen ohne Freigabe
  2. Entwürfe Mensch schickt ab
  3. Intern Stichprobe
  4. Nach außen jede Aktion bestätigen
Rechte eines Agenten in Stufen, Arbeitshilfe nach OWASP und BSI. Grafik: KI-Blog

Wir empfehlen, die Rechte eines Agenten in Stufen zu denken und jede Stufe erst freizuschalten, wenn die vorige eine Weile ohne Überraschungen gelaufen ist. Die Stufen in der Grafik sind eine Arbeitshilfe dieses Blogs, abgeleitet aus den Empfehlungen von OWASP und BSI zu minimalen Rechten, Freigaben und Isolation⁠34.

Auf der untersten Stufe liest der Agent nur, zum Beispiel ein freigegebenes Postfach oder einen Ordner mit Preislisten. Auf der zweiten Stufe schreibt er Entwürfe, die ein Mensch abschickt: eine Antwortmail im Entwurfsordner, eine Bestellung im Warenkorb. Die dritte Stufe erlaubt Änderungen in internen Systemen, die sich rückgängig machen lassen, etwa einen Termin eintragen oder einen Datensatz ergänzen, jeweils mit Protokoll. Alles, was nach außen wirkt oder Geld bewegt, bleibt auf der vierten Stufe: Der Agent bereitet vor, ein Mensch bestätigt jede einzelne Aktion.

OWASP rät außerdem, offene Werkzeuge wie eine allgemeine Kommandozeile oder einen beliebigen Webabruf durch eng gefasste Werkzeuge zu ersetzen, Aktionen im Namen des jeweiligen Nutzers mit dessen Rechten auszuführen und jede Anfrage im Zielsystem gegen die dortigen Regeln zu prüfen statt im Sprachmodell⁠3. Für einen kleinen Betrieb heißt das: Der Agent bekommt ein eigenes Benutzerkonto mit knappen Rechten, und das Admin-Konto bleibt bei den Menschen.

Freigaben, die im Alltag funktionieren

Eine Freigabe nützt nur, wenn sie schnell geht und der Mensch versteht, was er freigibt. Werkzeuge für Abläufe haben dafür eigene Bausteine. In n8n lässt sich das für einzelne Werkzeuge eines Agenten einschalten, und die zuständige Person sieht vor dem Lauf, welches Werkzeug mit welchen Angaben starten soll⁠6. Der Fachbegriff für dieses Muster ist Human in the Loop.

Damit Freigaben nicht zur Klickroutine werden, gehört nicht jeder Schritt dorthin. Lesen und Entwürfe laufen ohne Rückfrage, freigegeben wird nur, was nach außen geht oder sich schwer zurückholen lässt. Das BSI empfiehlt in seinem Papier zu versteckten Anweisungen ausdrücklich, sicherheitskritische Aktionen von KI-Agenten durch Menschen bestätigen zu lassen und laufend zu protokollieren⁠7.

Das Protokoll ist der zweite Teil der Absicherung. Für jeden Werkzeugaufruf sollte nachvollziehbar sein, wann er lief, mit welchen Eingaben und mit welchem Ergebnis. OWASP zählt Protokolle und Mengenbegrenzungen zu den Maßnahmen, die einen Schaden begrenzen, auch wenn sie ihn nicht verhindern⁠3.

Eine Hand legt eine leere Karteikarte in eine Holzablage, daneben steht eine kleine Tischglocke aus Messing
Freigaben funktionieren, wenn sie schnell gehen und klar zeigen, was passieren soll. Bild: KI-generiert

Vor dem ersten Einsatz klären

Bevor ein Agent im Betrieb läuft, sollten ein paar Antworten schriftlich feststehen: welche Aufgabe er genau übernimmt und woran man erkennt, dass sie erledigt ist; welche Werkzeuge und Konten er nutzt und mit welchen Rechten; welche Aktionen nur mit Freigabe laufen und wer freigibt, auch in der Urlaubszeit; wo das Protokoll liegt und wer es ansieht; und nach wie vielen Schritten oder welchen Kosten der Agent abbricht.

Diese Punkte gehören in die KI-Richtlinie des Betriebs, damit nicht jede Abteilung eigene Regeln erfindet. Daneben gelten die üblichen Regeln für sichere KI im Betrieb, von schnellen Updates bis zur Schulung gegen Phishing.

Spricht der Agent direkt mit Kunden, etwa am Telefon oder im Chat, kommt eine Transparenzpflicht dazu: Nach Artikel 50 Absatz 1 der KI-Verordnung müssen Menschen erfahren, dass sie mit einem KI-System sprechen, und die Bundesnetzagentur zählt KI-Agenten, die mit Menschen kommunizieren, ausdrücklich dazu⁠8. Für die Kennzeichnung reicht laut Leitlinie kein Satz in den AGB, die Information muss spätestens bei der ersten Interaktion kommen⁠8.

Was das für dich heißt

Welche Rechte ein Agent bekommt und wie eng seine Aufgabe zugeschnitten ist, bestimmt, wie sicher und nützlich er im Betrieb wird.

  1. Such dir eine Aufgabe, bei der der Agent liest und Entwürfe schreibt, aber nichts selbst abschickt.
  2. Leg für den Agenten ein eigenes Konto mit knappen Rechten an, statt ihm deinen Zugang zu geben.
  3. Bestimme, wer Freigaben erteilt, und wie das in Urlaub und Krankheit geregelt ist.
  4. Setz beim Anbieter der Schnittstelle einen Kostendeckel und schau das Protokoll in den ersten Wochen regelmäßig an.

Häufige Fragen

Was ist der Unterschied zwischen einem KI-Agenten und einer Automatisierung?

Bei einer Automatisierung legst du die Schritte vorher fest, das Sprachmodell übernimmt höchstens einzelne davon. Ein Agent wählt Reihenfolge und Werkzeuge selbst. Für wiederkehrende Abläufe mit klaren Regeln reicht meist die feste Automatisierung, und sie ist leichter zu prüfen.

Darf ein KI-Agent selbstständig Mails an Kunden schicken?

Technisch ja, empfehlenswert ist es nur in engen Grenzen. Solange der Agent fremde Inhalte liest, kann eine versteckte Anweisung ihn zu einer falschen Mail bringen. Sicherer ist es, wenn er Entwürfe schreibt und ein Mensch sie abschickt.

Welche Aufgaben eignen sich für den Anfang?

Aufgaben, bei denen der Agent liest, sammelt und Vorschläge macht: Anfragen vorsortieren, Preise zusammentragen, Antworten entwerfen. Ein Fehler kostet dort wenig, und du lernst, wie zuverlässig das Modell in deinem Alltag arbeitet.

Was kostet ein KI-Agent im Betrieb?

Neben dem Werkzeug fallen Gebühren für die Modellaufrufe an, und ein Agent ruft das Modell in jedem Schritt auf. Dazu kommt Zeit für Einrichtung, Freigaben und Pflege.

Quellen

Stand:

  1. Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI (Presseinformation), Stand 14.09.2026, abgerufen am 22.11.2026. zurück
  2. Anthropic: Building effective agents, Stand 19.12.2024, abgerufen am 22.11.2026. zurück
  3. OWASP GenAI Security Project: LLM06:2025 Excessive Agency, Stand 2025, abgerufen am 22.11.2026. zurück
  4. Bundesamt für Sicherheit in der Informationstechnik: Auswirkungen auf die Cybersicherheit von Organisationen durch die Entwicklung im Bereich Künstlicher Intelligenz (BITS-B Nr. 2026-262788-1032, Version 1.0), Stand 22.06.2026, abgerufen am 22.11.2026. zurück
  5. OWASP GenAI Security Project: GenAI LLM Top 10 2026 (Liste der Einträge), Stand 04.08.2026, abgerufen am 22.11.2026. zurück
  6. n8n: Human-in-the-loop for AI tool calls, abgerufen am 22.11.2026. zurück
  7. Bundesamt für Sicherheit in der Informationstechnik: Basisschutz gegen Indirect Prompt Injections in dokumentbasierten LLM-Chats, Version 1.0, Stand 14.09.2026, abgerufen am 22.11.2026. zurück
  8. Bundesnetzagentur: Leitlinie zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen, Stand 2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert