Von der Antwort zur Handlung
Ein Chatbot bearbeitet typischerweise eine Eingabe und gibt Text zurück. Ein Agent kann ein Ziel in Schritte zerlegen, Informationen beschaffen, freigegebene Funktionen nutzen und Zwischenergebnisse prüfen.
Was produktive Agenten zusätzlich brauchen
Rolle, Berechtigungen, Unternehmenswissen, Arbeitskontext, Abbruchkriterien, Freigaben und nachvollziehbare Übergaben machen aus einer Demonstration einen kontrollierbaren Prozess.
- minimal notwendige Zugriffe
- klare erlaubte Aktionen
- Eskalation bei Unsicherheit
- fachliche Qualitätsprüfung
Der Anwendungsfall entscheidet über die passende Form
Ein Chatbot genügt, wenn Menschen Informationen suchen, Entwürfe erstellen oder im Dialog selbst entscheiden. Ein Agent kommt erst infrage, wenn ein mehrstufiger Auftrag und erlaubte Aktionen klar beschrieben werden können.
Je weiter eine Aktion in Systeme, Daten oder Entscheidungen eingreift, desto stärker müssen Freigaben und Grenzen sein.
Autonomie wird durch Befugnisse begrenzt
Ein Agent braucht eindeutig zugeordnete Zugriffsrechte. Er erhält nur die Informationen und Programme für seine Aufgabe. Bevor er Nachrichten verschickt, Daten ändert oder Zahlungen vorbereitet, können Sie eine menschliche Freigabe verlangen.
- Zugriff nur auf benötigte Informationen
- Aktions- und Betragsgrenzen
- Bestätigung vor Außenwirkung
- Abbruch bei fehlender Grundlage
- dokumentierte Übergabe
Eine Demonstration beweist noch keinen sicheren Betrieb
Wir testen auch schwierige Fälle: fehlende Angaben, widersprüchliche Quellen, unerlaubte Aufträge und ausgefallene Programme. Vorher festgelegte Kriterien helfen bei der Entscheidung: einführen, anpassen oder stoppen.
Ein Agent bleibt ungeeignet, wenn Folgen nicht überprüfbar sind oder ein Fehler nicht rechtzeitig erkannt und begrenzt werden kann.
Quellenhinweis
Die Abgrenzung beschreibt typische Systemformen, keine verbindliche Produktklassifikation. Risiko- und Kontrollprinzipien folgen NIST- und BSI-Primärquellen, geprüft am 11.08.2026.
Primärquellen
Offizielle Quellen, redaktionell geprüft am 11. August 2026.
- AI Risk Management FrameworkNational Institute of Standards and Technology (NIST)
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)National Institute of Standards and Technology (NIST)
- Generative AI Models: Opportunities and Risks for Industry and AuthoritiesBundesamt für Sicherheit in der Informationstechnik (BSI)