Human-in-the-Loop

Human-in-the-Loop heißt, dass ein Mensch an einer vorher festgelegten Stelle im Ablauf eines KI-Systems entscheidet, freigibt oder korrigiert. Geprüft wird dabei nicht jede Ausgabe, sondern die, bei der ein Fehler teuer wird. Entscheidend ist, dass diese Stelle im Vorfeld definiert ist und nicht dem Zufall überlassen bleibt.

Wie sieht Human-in-the-Loop in der Praxis aus?

In den meisten Systemen tritt eines von drei Mustern auf.

Freigabe vor Wirkung: Das System bereitet etwas vor, ein Mensch gibt frei, erst danach passiert etwas nach außen. Sinnvoll überall dort, wo ein Fehler direkt beim Kunden landet, etwa bei Angeboten oder Gutschriften.

Stichprobe nach Wirkung: Das System handelt selbst, ein Anteil der Fälle wird nachträglich geprüft. Sinnvoll bei hoher Menge und begrenztem Schaden pro Fall, etwa beim Einsortieren von Anfragen.

Eskalation bei Unsicherheit: Das System handelt selbst, solange es sicher ist, und gibt ab, sobald es das nicht mehr ist. Das setzt voraus, dass Unsicherheit überhaupt gemessen wird, was in der Praxis der anspruchsvollste Teil ist.

Welches Muster passt, hängt am Schaden pro Fehler und an der Menge. Ein KI-Agent ohne definierte Übergabe fällt in der Regel auf das teuerste Muster zurück: Irgendwann prüft jemand alles von Hand, und der Zeitgewinn verschwindet.

Warum ist Human-in-the-Loop mehr als eine Sicherheitsmaßnahme?

Drei Gründe, die im Gespräch mit Geschäftsführung, Datenschutz und Betriebsrat regelmäßig auftauchen.

Verantwortung: Eine Maschine kann keine Entscheidung verantworten. Wenn eine Rechnung falsch freigegeben wird, braucht es eine Person, bei der die Entscheidung lag.

Recht: Der EU AI Act verlangt für Hochrisiko-Systeme ausdrücklich menschliche Aufsicht. Auch außerhalb dieser Kategorie erwarten Datenschutzbeauftragte eine Antwort auf die Frage, wer eine automatisch getroffene Entscheidung überstimmen kann.

Verbesserung: Jede Korrektur ist ein Datenpunkt. Ein System, in dem Menschen an einer definierten Stelle eingreifen, sammelt genau die Fälle ein, an denen es scheitert. Ohne diese Schleife bleibt unklar, warum ein Ergebnis schlecht war.

Laut Bitkom nennen 53 % der deutschen Unternehmen rechtliche Unsicherheit als Hemmnis beim KI-Einsatz. Eine nachvollziehbare Kontrollstelle nimmt einem Teil dieser Unsicherheit die Grundlage.

Was Human-in-the-Loop nicht ist

Es bedeutet nicht, dass jemand alles gegenliest. Vollständige Kontrolle über alle Ausgaben kostet meist mehr Zeit, als die Automatisierung einspart, und sie ermüdet: Wer zweihundert korrekte Vorschläge freigegeben hat, sieht den zweihunderteinsten Fehler nicht mehr.

Es ist auch keine Übergangslösung, die man nach der Einführung wieder entfernt. Die Kontrollstelle wandert mit der Reife des Systems, von der Freigabe jedes Falls hin zur Stichprobe, aber sie verschwindet in ernsthaften Anwendungen nicht.

Wie sich das beim Weg in den Produktivbetrieb konkret auswirkt, steht im Beitrag KI, die in der Produktion überlebt.