Ein relevantes und begrenzbares Problem auswählen
Der erste Anwendungsfall sollte häufig genug, fachlich verständlich und begrenzbar sein. Risiken und Ausnahmen müssen beherrschbar bleiben.
Eine klare Problemformulierung beschreibt den heutigen Engpass und das gewünschte Arbeitsergebnis, ohne eine bestimmte Technologie vorwegzunehmen.
Den Ist-Zustand als Vergleichsgrundlage dokumentieren
Ablauf, Beteiligte, Systeme, Daten, typische Fallarten, Ausnahmen und heutige Qualitätskontrollen werden erfasst. Ohne diese Grundlage lässt sich später nicht belastbar beurteilen, was der Pilot verändert hat.
- Ziel und fachlicher Eigentümer
- Eingang und erwarteter Ausgang
- repräsentative Normal- und Ausnahmefälle
- bestehende Kontrollen
- bekannte Risiken und Abhängigkeiten
Die kleinste geeignete Lösung entwerfen
Nicht jeder Schritt benötigt generative KI oder einen Agenten. Regeln, vorhandene Software, Suche, RAG und menschliche Entscheidungen werden so kombiniert, dass der begrenzte Anwendungsfall verständlich bearbeitet wird.
Datenzugriff, Berechtigungen, Freigaben, Rückfallweg und Erfolgskriterien gehören bereits in den Entwurf.
Mit echten Fällen und vorher festgelegten Kriterien validieren
Der Pilot verarbeitet repräsentative Fälle in einer kontrollierten Umgebung. Fachverantwortliche prüfen Ergebnisqualität, Fehlerarten, notwendige Nacharbeit, Kontrollierbarkeit und mögliche Auswirkungen.
Ein positiver Einzelfall genügt nicht; auch fehlende Daten, widersprüchliche Quellen und unerwünschte Aktionen werden getestet.
Weitermachen, anpassen oder stoppen
Nach dem Pilot werden Nutzen, Risiko, Betriebsaufwand und organisatorische Voraussetzungen gemeinsam bewertet. Skalierung erfolgt erst, wenn Verantwortung, Betrieb, Sicherheitsmaßnahmen und laufende Prüfung tragfähig sind.
Ein Stopp oder eine einfachere Automatisierung ist ein sachliches Ergebnis, wenn die Kriterien nicht erfüllt werden.
Quellenhinweis
Das Vorgehen orientiert sich an Govern, Map, Measure und Manage des freiwilligen NIST AI RMF sowie der anwendungsbezogenen BSI-Risikobetrachtung. Primärquellen geprüft am 11.08.2026.
Primärquellen
Offizielle Quellen, redaktionell geprüft am 11. August 2026.
- AI Risk Management FrameworkNational Institute of Standards and Technology (NIST)
- Generative AI Models: Opportunities and Risks for Industry and AuthoritiesBundesamt für Sicherheit in der Informationstechnik (BSI)