Human-in-the-Loop
Human-in-the-Loop beschreibt einen Ablauf, in dem ein Mensch an einer festgelegten Stelle eine KI-Ausgabe prüft, korrigiert oder eine Entscheidung freigibt. Welche Eingriffe möglich und nötig sind, muss zum Risiko der Aufgabe passen.
Der Mensch ist in diesem Ablauf nicht bloß dekorativ „dabei“. Seine Rolle, Informationen, Entscheidungsmacht und Eingriffsmöglichkeiten müssen klar sein. Bei einer risikoarmen Textvorbereitung kann eine Endprüfung genügen; bei einer folgenreichen Aktion ist vor der Ausführung eine echte Freigabe nötig.
Menschliche Aufsicht kann auch außerhalb eines einzelnen Entscheidungsschritts liegen. Deshalb sollte man genau benennen, wer was wann kontrolliert und ob eine Person die Aktion tatsächlich stoppen oder ändern kann.
Praktische Bedeutung
Bei unterstützten Entscheidungen legt das Team fest, welche Ausgaben nur Vorschläge sind und an welcher Stelle ein Mensch prüfen, stoppen oder freigeben muss. Die prüfende Person braucht dafür verständliche Informationen und echte Eingriffsmöglichkeiten.
Gesellschaftliche Bedeutung
Menschliche Aufsicht kann helfen, Fehler und riskante Automatisierung abzufangen. Sie ist nur wirksam, wenn Zuständigkeit, Zeit und Entscheidungsmacht tatsächlich vorhanden sind.
Ein einfaches Beispiel
Ein KI-Agent soll ein Software-Release vorbereiten. Fehlt die vorgeschriebene Sicherheitsfreigabe, meldet er den Blocker und wartet, bis eine zuständige Person entschieden hat, statt den Schritt selbst zu überspringen.
Nicht verwechseln mit
Eine Freigabe vor einer folgenreichen Aktion wirkt anders als eine nachträgliche Qualitätsprüfung. Dass irgendwann ein Mensch ein Ergebnis sieht, macht einen Ablauf noch nicht zu einer wirksamen Human-in-the-Loop-Kontrolle.
Verwandte Begriffe
Quellen und weiterführende Links
Redaktionell verantwortlich: David Schmitt · KI-Unterstützung bei Recherche und Formulierung.
Veröffentlicht: · Aktualisiert: