Hochrisiko-KI-Systeme nach EU AI Act: Risikoklassen, Verbote und Artikel 6

Ein Softwareunternehmen mit 300 Beschäftigten stellt schnell ein. Die Personalabteilung nutzt seit Kurzem eine Software, die eingehende Lebensläufe liest, mit dem Stellenprofil abgleicht und die Liste sortiert, bevor jemand aus der Personalgewinnung sie ansieht. Das spart jede Woche Stunden. Dann schreibt ein abgelehnter Bewerber eine kurze E-Mail: „Wurde meine Bewerbung von einer KI bewertet, und nach welchen Kriterien?“

Nach dem EU AI Act ist diese Software ein Lehrbuchfall für ein Hochrisiko-KI-System. KI, die Bewerbungen auswählt oder filtert, steht in Anhang III der Verordnung. Seit dem AI Omnibus gelten die Pflichten für solche Systeme vollständig ab dem 2. Dezember 2027. Die Einstufung entscheidet schon heute, welche Systeme ein Risikomanagement, eine technische Dokumentation und menschliche Aufsicht brauchen und welche nur einen Eintrag im KI-Register.

Das Wichtigste in Kürze

• Der AI Act ordnet KI-Systeme nach Risiko: verbotene Praktiken, Hochrisiko-Systeme, Systeme mit Transparenzpflichten und alles Übrige.
• Verbotene Praktiken sind seit dem 2. Februar 2025 untersagt. Zwei neue Verbote, zu nicht einvernehmlichen intimen Darstellungen und zu Darstellungen sexuellen Kindesmissbrauchs, gelten ab dem 2. Dezember 2026.
• Hochrisiko nach Anhang III (etwa Personalwesen, Kreditwürdigkeit, Bildung, kritische Infrastruktur) gilt ab dem 2. Dezember 2027. Hochrisiko in regulierten Produkten nach Anhang I gilt ab dem 2. August 2028.
• Artikel 6 Absatz 3 erlaubt eine Ausnahme für Anhang-III-Systeme ohne erhebliches Risiko. Ein Anhang-III-System, das Personen profiliert, ist immer Hochrisiko.
• Die Bußgelder reichen bis 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes bei verbotenen Praktiken und bis 15 Millionen Euro oder 3 Prozent bei den meisten anderen Verstößen.
• Die Einstufung beginnt mit einem KI-Register. Einstufen können Sie nur, was Sie kennen.

Die Risikoklassen des EU AI Act

Der AI Act, die Verordnung (EU) 2024/1689, regelt, wie KI eingesetzt wird. Dasselbe Sprachmodell kann in einer internen Suche harmlos sein und hochriskant, wenn es Bewerbungen sortiert. Deshalb arbeitet die Verordnung mit Risikoklassen, jede mit eigenen Pflichten und Terminen.

Ein System kann in mehrere Klassen fallen. Ein Chatbot, der Kreditanfragen vorsortiert, ist wegen der Entscheidung Hochrisiko und wegen des Dialogs mit Menschen zugleich ein Fall für Artikel 50. Beide Pflichtenkataloge gelten.

Was ganz verboten ist

Artikel 5 zählt Praktiken auf, die in der EU nicht erlaubt sind. Die Verbote gelten seit dem 2. Februar 2025:

• manipulative oder täuschende Techniken, die Verhalten verzerren und erheblichen Schaden verursachen,
• das Ausnutzen von Schwächen wegen Alter, Behinderung oder sozialer oder wirtschaftlicher Lage,
• die Bewertung von Personen nach ihrem sozialen Verhalten (Social Scoring), die zu ungerechtfertigter oder unverhältnismäßiger Behandlung führt,
• Vorhersagen von Straftaten allein auf Basis von Profiling oder Persönlichkeitsmerkmalen,
• ungezieltes Auslesen von Gesichtsbildern, um Datenbanken zur Gesichtserkennung aufzubauen,
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen,
• biometrische Kategorisierung, die auf sensible Merkmale wie politische Meinung, Religion oder sexuelle Orientierung schließt,
• biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung, mit engen Ausnahmen.

Der AI Omnibus hat zwei Verbote ergänzt, die ab dem 2. Dezember 2026 gelten: KI-Systeme, die realistische intime oder sexuell explizite Darstellungen erkennbarer Personen ohne deren Einwilligung erzeugen oder verändern, und Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen.

Die meisten Unternehmen bauen nichts davon. Das Verbot, das in der Praxis Unternehmen trifft, ist die Emotionserkennung am Arbeitsplatz: Eine Callcenter-Software, die die Stimmung der eigenen Mitarbeiter aus ihrer Stimme bewertet, fällt darunter.

Wann gelten KI-Systeme als Hochrisiko-KI-Systeme?

Artikel 6 kennt zwei Wege in die Hochrisiko-Klasse.

Weg 1: KI in regulierten Produkten (Anhang I)

Ein KI-System ist Hochrisiko, wenn es Sicherheitsbauteil eines Produkts ist oder selbst ein Produkt, das unter die in Anhang I genannten EU-Produktvorschriften fällt, und dieses Produkt eine Konformitätsbewertung durch Dritte braucht. Beispiele sind Medizinprodukte, Maschinen, Spielzeug oder Aufzüge. Der Omnibus hat den Begriff „Sicherheitsbauteil“ auf Funktionen eingeengt, die Risiken für Gesundheit und Sicherheit verhindern oder mindern sollen. Für diese Systeme gelten die Pflichten ab dem 2. August 2028.

Weg 2: eigenständige Einsatzbereiche (Anhang III)

Ein KI-System ist auch Hochrisiko, wenn es in einem der Bereiche aus Anhang III eingesetzt wird:

• Biometrie, etwa Fernidentifizierung und Emotionserkennung, soweit nicht verboten,
• Kritische Infrastruktur, als Sicherheitsbauteil in digitaler Infrastruktur, Verkehr oder der Versorgung mit Wasser, Gas, Wärme und Strom,
• Allgemeine und berufliche Bildung, etwa Zulassung, Bewertung und Prüfungsaufsicht,
• Beschäftigung und Personalmanagement, etwa Personalgewinnung, Auswahl, Beförderung, Kündigung und Aufgabenverteilung,
• Zugang zu wesentlichen Leistungen, etwa Kreditwürdigkeitsprüfung, Kredit-Scoring, Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung, öffentliche Leistungen und die Einstufung von Notrufen,
• Strafverfolgung, Migration und Grenzkontrolle sowie Rechtspflege und demokratische Prozesse.

Für Anhang-III-Systeme gelten die Pflichten ab dem 2. Dezember 2027. Systeme, die schon vorher auf dem Markt waren, fallen nur darunter, wenn sie danach wesentlich geändert werden. KI-Systeme von Behörden haben bis zum 2. August 2030 Zeit.

Die Ausnahme in Artikel 6 Absatz 3

Nicht jedes Anhang-III-System ist Hochrisiko. Artikel 6 Absatz 3 nimmt Systeme aus, die kein erhebliches Schadensrisiko bergen, weil sie

• eine eng gefasste Verfahrensaufgabe ausführen,
• das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessern,
• Muster oder Abweichungen in früheren Entscheidungen erkennen, ohne die menschliche Bewertung ohne angemessene Prüfung zu ersetzen oder zu beeinflussen, oder
• eine vorbereitende Aufgabe für eine Bewertung aus Anhang III ausführen.

Eine Grenze ist hart: Ein Anhang-III-System, das natürliche Personen profiliert, ist immer Hochrisiko. Und die Ausnahme greift nicht von selbst. Der Anbieter muss seine Bewertung vor dem Inverkehrbringen dokumentieren und der Behörde auf Verlangen vorlegen. Die EU-Kommission hat am 19. Mai 2026 Entwurfsleitlinien zur Einstufung veröffentlicht; die endgültige Fassung steht noch aus.

Zurück zur Bewerbungssoftware. Sie bewertet und sortiert Bewerber, das ist Profiling natürlicher Personen. Die Ausnahme nach Artikel 6 Absatz 3 ist damit ausgeschlossen. Die Software ist Hochrisiko.

Was Hochrisiko in der Praxis bedeutet

Die Pflichten hängen von Ihrer Rolle ab. Der Anbieter entwickelt das System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Der Betreiber setzt es in eigener Verantwortung ein. Ein Unternehmen, das die Bewerbungssoftware einkauft, ist Betreiber. Ein Unternehmen, das ein eigenes Scoring-Modell baut und Kunden anbietet, ist Anbieter.

Anbieter

• ein Risikomanagementsystem über den gesamten Lebenszyklus (Artikel 9),
• Daten-Governance für Trainings-, Validierungs- und Testdaten, einschließlich Prüfung auf Verzerrungen (Artikel 10),
• technische Dokumentation (Artikel 11 und Anhang IV) und automatische Protokollierung (Artikel 12),
• eine Betriebsanleitung, mit der Betreiber das System verstehen und richtig einsetzen können (Artikel 13),
• eine Gestaltung, die wirksame menschliche Aufsicht erlaubt (Artikel 14),
• angemessene Genauigkeit, Robustheit und Cybersicherheit (Artikel 15),
• ein Qualitätsmanagementsystem (Artikel 17),
• Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank vor dem Inverkehrbringen,
• Beobachtung nach dem Inverkehrbringen und Meldung schwerwiegender Vorfälle.

Der Omnibus hat einige Erleichterungen für KMU, etwa vereinfachte Dokumentation und ein verhältnismäßigeres Qualitätsmanagement, auf kleine Midcap-Unternehmen (Small Mid-Caps) mit weniger als 750 Beschäftigten und bis zu 150 Millionen Euro Umsatz ausgeweitet.

Betreiber

• das System nach der Betriebsanleitung des Anbieters einsetzen,
• die menschliche Aufsicht Personen mit der nötigen Kompetenz und Befugnis übertragen,
• sicherstellen, dass Eingabedaten unter eigener Kontrolle relevant und repräsentativ sind,
• den Betrieb überwachen und den Anbieter über Risiken und schwerwiegende Vorfälle informieren,
• die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren,
• Arbeitnehmervertretung und betroffene Beschäftigte vor dem Einsatz am Arbeitsplatz informieren,
• Personen informieren, über die das System entscheidet oder Entscheidungen vorbereitet.

Behörden, private Unternehmen, die öffentliche Dienstleistungen erbringen, und Betreiber, die KI für Kredit-Scoring oder die Preisbildung in Lebens- und Krankenversicherungen nutzen, müssen vor dem ersten Einsatz zusätzlich eine Grundrechte-Folgenabschätzung durchführen.

Was bis Dezember 2027 passieren muss

Gut dreizehn Monate lassen weniger Zeit, als es scheint, aus drei Gründen. Erstens brauchen Anbieter Dokumentation, Tests und ein Qualitätsmanagementsystem, bevor sie ein System in Verkehr bringen, und der Aufbau dauert meist den größten Teil eines Jahres. Zweitens hängen Betreiber von ihren Lieferanten ab: Ist der Anbieter Ihrer Personalsoftware nicht bereit, müssen Sie über einen Wechsel entscheiden, und Beschaffung braucht Zeit. Drittens verlangt ISO/IEC 42001, eine verbreitete Norm für die KI-Governance, ein laufendes Managementsystem, bevor ein Auditor zertifiziert.

Die Einstufung ist der Schritt, der alles Weitere bestimmt, und Sie können sie jetzt angehen. Sie beantwortet auch die Frage des Bewerbers aus der Einleitung: Ab dem 2. Dezember 2027 haben Personen, die von einer Entscheidung auf Grundlage eines Hochrisiko-Systems betroffen sind, ein Recht auf Erläuterung (Artikel 86). Schon heute gibt die DSGVO ihnen ein Auskunftsrecht und bei vollautomatisierten Entscheidungen die Schutzrechte aus Artikel 22.

So stufen Sie Ihre Systeme ein

1. KI-Register aufbauen. Erfassen Sie jedes KI-System, das Sie entwickeln, einkaufen oder nutzen, auch KI-Funktionen in bestehender Software.
2. Rolle festhalten für jedes System: Anbieter, Betreiber oder beides.
3. Zuerst Artikel 5 prüfen. Was verboten ist, muss enden, unabhängig von Terminen.
4. Anhang I und Anhang III prüfen. Bereich und Zweckbestimmung notieren.
5. Die Ausnahme nach Artikel 6 Absatz 3 prüfen und die Begründung schriftlich festhalten. Profiling schließt die Ausnahme aus.
6. Artikel 50 prüfen für Systeme, die mit Menschen interagieren oder Inhalte erzeugen.
7. Pflichten planen für jedes Hochrisiko-System, mit Verantwortlichen und Terminen vor dem 2. Dezember 2027.
8. Lieferanten fragen, wie sie ihre Systeme einstufen und wann ihre Dokumentation fertig ist.

Wo die Einstufung schiefgeht

Die Technik einstufen. Die Klasse ergibt sich aus Zweckbestimmung und Einsatz, gleich welches Modell dahintersteht.

Annehmen, dass der Anbieter das Risiko trägt. Betreiber haben eigene Pflichten, von der menschlichen Aufsicht bis zur Information der Beschäftigten.

Artikel 6 Absatz 3 nutzen, ohne es aufzuschreiben. Eine nicht dokumentierte Ausnahme hilft gegenüber einer Behörde nicht.

KI-Funktionen in vorhandener Software übersehen. Bewerbermanagement, CRM und Personalplattformen bringen immer öfter Scoring-Funktionen mit, die die Einstufung ändern.

Häufige Fragen zu Hochrisiko-KI-Systemen

Ist Software zur Vorauswahl von Bewerbungen Hochrisiko?

Ja. KI-Systeme für die Einstellung oder Auswahl von Personen, insbesondere zum Sichten und Filtern von Bewerbungen und zur Bewertung von Bewerbern, stehen in Anhang III. Die Hochrisiko-Pflichten gelten ab dem 2. Dezember 2027.

Ab wann gelten die Hochrisiko-Regeln?

Für Anhang-III-Systeme ab dem 2. Dezember 2027, für KI in regulierten Produkten nach Anhang I ab dem 2. August 2028.

Ist ein KI-Chatbot mit allgemeinem Verwendungszweck ein Hochrisiko-KI-System?

Nicht als solches. Für KI-Modelle mit allgemeinem Verwendungszweck gelten eigene Pflichten. Hochrisiko wird ein System durch seine Zweckbestimmung: Wird ein solches System zur Vorauswahl von Bewerbungen eingesetzt, fällt dieser Einsatz unter Anhang III, und wer es dafür einsetzt, kann Anbieterpflichten übernehmen (Artikel 25).