Human in the Loop
Human in the Loop bezeichnet einen Ablauf, in dem ein KI-System vorbereitet und ein Mensch entscheidet. Der Mensch ist dabei nicht Kontrollinstanz am Rand, sondern fester Bestandteil des Ablaufs. Ohne diese Freigabestelle ist ein automatisierter Vorgang im Eventbetrieb nicht betriebssicher.
Vorbereiten und entscheiden sind zwei Schritte
Der Begriff wird oft als Beteuerung benutzt, dass schon jemand hinschaut. Gemeint ist etwas Genaueres: Ein Ablauf hat eine definierte Stelle, an der er anhält, bis eine benannte Person zustimmt. Das Modell erzeugt einen Vorschlag, der Vorschlag wartet, und erst die Freigabe setzt ihn in Gang.
Der Unterschied zu einer nachträglichen Kontrolle ist erheblich. Wer erst hinterher prüft, korrigiert eine bereits verschickte Mail. Wer davor prüft, verhindert sie. Deshalb gehört die Freigabe in den Ablauf und nicht in die Qualitätssicherung.
Warum eine Freigabestelle allein nicht genügt
Eine Freigabe wirkt nur, solange sie tatsächlich gelesen wird. Das Bundesamt für Sicherheit in der Informationstechnik beschreibt in seinem Katalog zu generativen KI-Modellen unter der Kennung R8 den Automation Bias: Weil die Ausgaben überzeugend wirken, entsteht zu großes Vertrauen, und sie werden ungeprüft übernommen.
Genau das passiert, wenn eine Person zwanzig ähnliche Entwürfe hintereinander freigeben soll. Ab dem fünften liest niemand mehr wirklich. Wirksam dagegen sind drei Dinge: ein festes Ausgabeformat, damit immer dieselbe Stelle geprüft wird, eine Stichprobe statt einer Vollprüfung bei großen Mengen, und eine Kennzeichnung der Felder, die das Modell ergänzt hat.
Wo die Freigabe zwingend bleibt
Drei Bereiche gehören im Eventbetrieb nicht an einen Ablauf delegiert, unabhängig davon, wie gut er funktioniert.
Entscheidungen über Menschen, also Zulassung, Auswahl, Bewertung und Rangfolgen. Das ist zugleich der regulatorisch heikelste Bereich, siehe Hochrisiko-KI-System.
Aussagen mit rechtlicher oder finanzieller Wirkung, also Fristen, Konditionen und Zusagen. Ein Modell ergänzt hier hilfsbereit Angaben, die niemand vereinbart hat.
Kommunikation in laufenden Konflikten, etwa bei Absagen und Beschwerden. Dort entscheidet der Ton über den Ausgang, und der Ton ist genau das, was ein Standardablauf nicht kennt.
Was der Begriff rechtlich bedeutet
Die KI-Verordnung kennt menschliche Aufsicht als Anforderung an Hochrisikosysteme. Für die meisten Veranstalter ist ein anderer Punkt näher: Artikel 4 verlangt seit dem 2. Februar 2025 ausreichende KI-Kompetenz bei allen, die mit solchen Systemen arbeiten. Eine Freigabe durch jemanden, der nicht beurteilen kann, was er freigibt, erfüllt diesen Anspruch nicht.
Der Verband der deutschen Messewirtschaft AUMA führt das Prinzip in der Diskussion um die Kennzeichnung KI-erzeugter Inhalte unter demselben Namen. Dort ist die menschliche Prüfung der Grund, aus dem eine Kennzeichnung in vielen Fällen entfällt. Wer also ohnehin freigibt, löst damit zwei Fragen auf einmal.
Wie sich die Freigabe messen lässt
Ob die Stelle trägt, zeigt eine einzige Kennzahl: die Korrekturquote. Wie viele der Entwürfe wurden inhaltlich geändert, nicht nur stilistisch? Liegt sie sehr hoch, ist die Vorlage das Problem. Liegt sie bei null, wird vermutlich nicht mehr gelesen, und dann ist die Freigabe nur noch ein Klick.
Häufige Fragen
Was bedeutet Human in the Loop konkret?
Der Ablauf hält an einer definierten Stelle an, bis eine benannte Person zustimmt. Das Modell bereitet vor, der Mensch entscheidet. Eine nachträgliche Kontrolle ist etwas anderes, weil sie den Fehler nicht mehr verhindert.
Reicht es, wenn jemand die Ergebnisse kontrolliert?
Nur wenn die Kontrolle vor dem Versand liegt und tatsächlich stattfindet. Das BSI beschreibt unter R8 den Automation Bias, also zu großes Vertrauen in überzeugend wirkende Ausgaben. Feste Formate und Stichproben wirken dagegen besser als der Vorsatz, genau hinzusehen.
Wo darf die Freigabe nicht entfallen?
Bei Entscheidungen über Menschen, bei Aussagen mit rechtlicher oder finanzieller Wirkung und in laufenden Konflikten. Der Rest lässt sich nach zwei gemessenen Durchläufen schrittweise lösen.
Ist Human in the Loop gesetzlich vorgeschrieben?
Als Begriff nicht. Die KI-Verordnung verlangt menschliche Aufsicht bei Hochrisikosystemen und seit Februar 2025 ausreichende KI-Kompetenz bei allen Beteiligten. Bei der Kennzeichnung erzeugter Inhalte ist die menschliche Prüfung zudem der Grund, aus dem ein Hinweis oft entfällt.
