Hochrisiko-KI-System

Wann ein KI-System als hochriskant gilt

Der EU AI Act kennt zwei Hauptwege in die Hochrisikoklasse. Erstens ist das KI-System selbst ein reguliertes Produkt oder Sicherheitsbestandteil eines Produkts nach Anhang I und unterliegt einer externen Konformitätsbewertung. Zweitens fällt sein vorgesehener Zweck unter einen in Anhang III genannten Einsatz, etwa Bewerberauswahl oder bestimmte Bildungsentscheidungen.

Für Karrieremessen ist vor allem Anhang III Nummer 4 relevant. Er nennt KI für zielgerichtete Stellenanzeigen, die Analyse und Filterung von Bewerbungen sowie die Bewertung von Kandidatinnen und Kandidaten. Betroffen sind damit unter anderem Systeme in Beschäftigung, Bildung, kritischer Infrastruktur, Strafverfolgung und Biometrie.

Ist KI-Matching auf Events automatisch hochriskant?

Nein. Ein System, das Teilnehmenden passende Aussteller oder Gesprächspartner empfiehlt, nimmt nicht zwingend eine Bewerberauswahl vor. Es kann vor allem der Orientierung und Terminfindung dienen, siehe KI-Matching.

Anders sieht es aus, wenn das System Lebensläufe im Auftrag von Arbeitgebern bewertet, Kandidaten nach Eignung sortiert, Menschen unterhalb eines Scores ausblendet, darüber entscheidet, wer ein Recruiting-Gespräch erhält, oder Stellenanzeigen anhand persönlicher Profile gezielt nur bestimmten Personen zeigt. Dann beeinflusst die KI den Zugang zu Beschäftigung und kann unter den Hochrisikofall fallen.

Der vorgesehene Zweck entscheidet

Für die Klassifizierung kommt es nicht allein auf den Algorithmus an. Entscheidend ist, wofür das System nach Produktbeschreibung, Dokumentation und tatsächlicher Ausgestaltung bestimmt ist. Ein und dieselbe technische Methode kann deshalb unterschiedlich einzuordnen sein.

• Empfehlung eines Vortrags anhand gewählter Themen: regelmäßig kein Recruiting-Fall.
• Empfehlung eines Arbeitgebers für ein freiwilliges Messegespräch: konkret prüfen.
• Bewertung der beruflichen Eignung für ein Interview: regelmäßig Recruiting-Kontext.

Die Produktbezeichnung Matching, Assistent oder Empfehlungsfunktion ändert diese Wirkung nicht. Auch Matchmaking ist kein Rechtsbegriff.

Welche Fristen gelten

Die Hochrisiko-Anforderungen für Systeme nach Anhang III sollten ursprünglich ab dem 2. August 2026 gelten. Der AI Omnibus, die Verordnung (EU) 2026/1744, hat den Termin auf den 2. Dezember 2027 verschoben. Für hochriskante KI in Produkten nach Anhang I gilt der 2. August 2028.

Davon unabhängig gelten andere Teile des AI Act bereits. Die Transparenzpflichten für bestimmte KI-Systeme und KI-generierte Inhalte gelten seit dem 2. August 2026, siehe KI-Kennzeichnungspflicht. In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur zentrale Anlauf- und Beschwerdestelle.

Welche Anforderungen gelten für Hochrisiko-KI

Für Anbieter gehören insbesondere folgende Bereiche dazu: Risikomanagement, Anforderungen an Daten und Datenqualität, technische Dokumentation, automatische Protokollierung, verständliche Informationen für Betreiber, wirksame menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit sowie Konformitätsbewertung und Registrierung, soweit vorgeschrieben.

Betreiber müssen das System bestimmungsgemäß einsetzen, die menschliche Aufsicht organisieren, relevante Eingangsdaten kontrollieren und den Betrieb überwachen. Welche Pflicht die konkrete Organisation trifft, hängt von Rolle und Einsatz ab. Wie sich Anbieter und Betreiber unterscheiden, steht unter KI-Verordnung für Veranstalter.

Was ist der Unterschied zur DSGVO

Der AI Act bewertet Risiken eines KI-Systems. Die DSGVO regelt die Verarbeitung personenbezogener Daten. Beide Prüfungen laufen nebeneinander. Ein KI-System kann datenschutzkonform betrieben werden und dennoch als Hochrisiko-KI gelten. Umgekehrt ist ein System außerhalb der Hochrisikoklasse nicht automatisch datenschutzkonform.

Besonders relevant ist Artikel 22 DSGVO, wenn eine ausschließlich automatisierte Entscheidung rechtliche oder ähnlich erhebliche Folgen für eine Person hat. Ein bloßer Gesprächsvorschlag ist etwas anderes als ein automatischer Ausschluss aus einem Bewerbungsverfahren. Ob eine Datenschutz-Folgenabschätzung nötig ist, richtet sich nach dem Risiko der Verarbeitung. Dieser Eintrag beschreibt den Rahmen und ersetzt keine Rechtsberatung im Einzelfall.

Ist generative KI automatisch Hochrisiko-KI?

Nein. Ein Sprachmodell wird nicht allein wegen seiner Größe oder Leistungsfähigkeit zum Hochrisiko-System. Entscheidend ist das konkrete System und dessen vorgesehener Einsatz.

Sind KI-generierte Texte Hochrisiko-KI?

In der Regel nicht. Für bestimmte generierte Inhalte können jedoch Transparenz- und Kennzeichnungspflichten nach Artikel 50 gelten.

Ist menschliche Kontrolle ausreichend, um die Hochrisikoklasse zu vermeiden?

Nein. Eine menschliche Schlussentscheidung ändert die Klassifizierung nicht automatisch, wenn die KI Auswahl oder Bewertung bereits wesentlich beeinflusst.

Seit wann gelten die Hochrisiko-Anforderungen im Recruiting?

Nach aktuellem Stand ab dem 2. Dezember 2027. Der Termin wurde durch den AI Omnibus 2026 verschoben.

Muss ein Veranstalter die Klassifizierung selbst vornehmen?

Der Anbieter muss den vorgesehenen Zweck und die Klassifizierung seines Systems dokumentieren. Veranstalter sollten diese Angaben prüfen und den tatsächlich geplanten Einsatz festhalten. Eine Zweckänderung kann die Bewertung verändern.