Human in the Loop

Vorbereiten und entscheiden sind zwei Schritte

Der Begriff wird oft als Beteuerung benutzt, dass schon jemand hinschaut. Gemeint ist etwas Genaueres: Ein Ablauf hat eine definierte Stelle, an der er anhält, bis eine benannte Person zustimmt. Das Modell erzeugt einen Vorschlag, der Vorschlag wartet, und erst die Freigabe setzt ihn in Gang.

Der Unterschied zu einer nachträglichen Kontrolle ist erheblich. Wer erst hinterher prüft, korrigiert eine bereits verschickte Mail. Wer davor prüft, verhindert sie. Deshalb gehört die Freigabe in den Ablauf und nicht in die Qualitätssicherung.

Warum eine Freigabestelle allein nicht genügt

Eine Freigabe wirkt nur, solange sie tatsächlich gelesen wird. Das Bundesamt für Sicherheit in der Informationstechnik beschreibt in seinem Katalog zu generativen KI-Modellen unter der Kennung R8 den Automation Bias: Weil die Ausgaben überzeugend wirken, entsteht zu großes Vertrauen, und sie werden ungeprüft übernommen.

Das liegt nahe, wenn eine Person zwanzig ähnliche Entwürfe hintereinander freigeben soll. Nach einigen liest niemand mehr wirklich. Wirksam dagegen sind nach unserer Erfahrung drei Dinge: ein festes Ausgabeformat, damit immer dieselbe Stelle geprüft wird, eine Stichprobe statt einer Vollprüfung bei großen Mengen, und eine Kennzeichnung der Felder, die das Modell ergänzt hat.

Wo die Freigabe zwingend bleibt

Drei Bereiche gehören im Eventbetrieb nicht an einen Ablauf delegiert, unabhängig davon, wie gut er funktioniert.

Entscheidungen über Menschen, also Zulassung, Auswahl, Bewertung und Rangfolgen. Das ist zugleich der regulatorisch heikelste Bereich, siehe Hochrisiko-KI-System.

Aussagen mit rechtlicher oder finanzieller Wirkung, also Fristen, Konditionen und Zusagen. Ein Modell ergänzt hier hilfsbereit Angaben, die niemand vereinbart hat.

Kommunikation in laufenden Konflikten, etwa bei Absagen und Beschwerden. Dort entscheidet der Ton über den Ausgang, und der Ton ist genau das, was ein Standardablauf nicht kennt.

Was der Begriff rechtlich bedeutet

Die KI-Verordnung kennt menschliche Aufsicht als Anforderung an Hochrisikosysteme. Nach Artikel 14 müssen solche Systeme so gebaut sein, dass natürliche Personen sie während der Verwendung wirksam beaufsichtigen können. Die Aufsichtsperson soll die Fähigkeiten und Grenzen des Systems verstehen, seine Ausgabe richtig deuten, sie außer Acht lassen oder rückgängig machen und den Betrieb anhalten können. Ausdrücklich nennt der Artikel auch die Neigung zu einem automatischen oder übermäßigen Vertrauen in die Ausgabe, die er Automatisierungsbias nennt und derer sich die Aufsichtsperson bewusst bleiben soll.

Diese Pflicht gilt für Hochrisikosysteme und nicht für jeden Textentwurf. Als Maßstab taugt die Liste trotzdem auch dort, wo sie nicht verbindlich ist: verstehen, deuten, verwerfen können, anhalten können.

Für die meisten Veranstalter ist ein anderer Punkt näher. Artikel 4 verlangt seit dem 2. Februar 2025 ausreichende KI-Kompetenz bei allen, die mit solchen Systemen arbeiten. Eine Freigabe durch jemanden, der nicht beurteilen kann, was er freigibt, erfüllt diesen Anspruch nicht.

Der Verband der deutschen Messewirtschaft AUMA führt das Prinzip in der Diskussion um die Kennzeichnung KI-erzeugter Inhalte unter demselben Namen. Dort ist die menschliche Prüfung der Grund, aus dem eine Kennzeichnung in vielen Fällen entfällt. Wer also ohnehin freigibt, löst damit zwei Fragen auf einmal.

Wie sich die Freigabe messen lässt

Ob die Stelle trägt, zeigt eine einzige Kennzahl: die Korrekturquote. Wie viele der Entwürfe wurden inhaltlich geändert, nicht nur stilistisch? Liegt sie sehr hoch, ist die Vorlage das Problem. Liegt sie bei null, wird vermutlich nicht mehr gelesen, und dann ist die Freigabe nur noch ein Klick.

Was bedeutet Human in the Loop konkret?

Der Ablauf hält an einer definierten Stelle an, bis eine benannte Person zustimmt. Das Modell bereitet vor, der Mensch entscheidet. Eine nachträgliche Kontrolle ist etwas anderes, weil sie den Fehler nicht mehr verhindert.

Reicht es, wenn jemand die Ergebnisse kontrolliert?

Nur wenn die Kontrolle vor dem Versand liegt und tatsächlich stattfindet. Das BSI beschreibt unter R8 den Automation Bias, also zu großes Vertrauen in überzeugend wirkende Ausgaben. Feste Formate und Stichproben wirken dagegen besser als der Vorsatz, genau hinzusehen.

Wo darf die Freigabe nicht entfallen?

Bei Entscheidungen über Menschen, bei Aussagen mit rechtlicher oder finanzieller Wirkung und in laufenden Konflikten. Der Rest lässt sich nach zwei gemessenen Durchläufen schrittweise lösen.

Ist Human in the Loop gesetzlich vorgeschrieben?

Als Begriff nicht. Die KI-Verordnung verlangt menschliche Aufsicht bei Hochrisikosystemen und seit Februar 2025 ausreichende KI-Kompetenz bei allen Beteiligten. Bei der Kennzeichnung erzeugter Inhalte ist die menschliche Prüfung zudem der Grund, aus dem ein Hinweis oft entfällt.