Hochrisiko-KI-Systeme im AI Act: Welche KI ist betroffen? [2026]

Die vier Risikoklassen im AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) folgt einem risikobasierten Ansatz. Nicht jede KI wird gleich reguliert — die Pflichten richten sich nach dem Risiko, das ein System für Menschen und Grundrechte darstellt [1].

Die vier Stufen im Überblick:

* Das Verbot gilt für die Strafverfolgung. Ausnahmen gibt es nur in eng begrenzten Fällen (z. B. gezielte Suche nach Opfern, Abwehr einer Terrorgefahr, Lokalisierung von Verdächtigen bestimmter schwerer Straftaten), in der Regel mit vorheriger Genehmigung (Art. 5 Abs. 1 Buchst. h, Abs. 2–3).

Dieser Artikel konzentriert sich auf die zweite Stufe: Hochrisiko-KI-Systeme. Sie sind der Kern der Regulierung — mit den umfangreichsten Pflichten, aber auch den größten Unsicherheiten in der Praxis [2].

Was genau ist ein Hochrisiko-KI-System?

Ob ein KI-System als hochriskant gilt, legt Art. 6 AI Act fest – nicht eine allgemeine Gefahrenabwägung. Der AI Act definiert zwei Wege, auf denen ein System in die Hochrisiko-Kategorie fällt [3]:

Entscheidend: Die Einstufung hängt nicht von der Technologie ab, sondern vom Einsatzzweck. Dasselbe KI-Modell kann in einem Kontext minimal-riskant sein (Produktempfehlungen im Online-Shop) und in einem anderen hochriskant (automatisierte Kreditentscheidungen) [4].

Die acht Bereiche aus Annex III

Annex III des AI Act listet acht Anwendungsbereiche auf, in denen KI-Systeme als hochriskant gelten. Hier die vollständige Übersicht mit konkreten Beispielen [5]:

1. Biometrische Identifikation und Kategorisierung

KI-Systeme zur biometrischen Fernidentifizierung von Personen (außer Verifizierung zur Authentifizierung), zur biometrischen Kategorisierung nach sensiblen oder geschützten Merkmalen sowie zur Emotionserkennung [6]. Achtung: Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer aus medizinischen oder Sicherheitsgründen) sowie biometrische Kategorisierung, die z. B. auf Ethnie oder politische Einstellung schließen soll, sind nicht nur hochriskant, sondern verboten (Art. 5 Abs. 1 Buchst. f und g).

Beispiel: Ein System, das Personen ohne ihr aktives Zutun per Gesichtserkennung aus der Distanz mit einer Datenbank abgleicht, fällt hierunter. Ein Smartphone-Entsperren per FaceID dagegen nicht (das ist Verifizierung). Ob eine Zugangskontrolle am Firmeneingang Fernidentifizierung oder Verifizierung ist, hängt von der konkreten Ausgestaltung ab.

2. Kritische Infrastruktur

KI als Sicherheitsbauteil in der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, Straßenverkehr, Wasser-, Gas-, Strom- und Wärmeversorgung [7].

Beispiel: Ein KI-System, das Stromnetz-Ausfälle vorhersagt und automatisch Lastverteilungen steuert.

3. Bildung und Berufsausbildung

KI-Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen, zur Bewertung von Prüfungsleistungen, zur Einstufung des Bildungsniveaus und zur Überwachung von Prüfungen [8].

Beispiel: Ein System, das Universitätsbewerbungen automatisch vorsortiert oder Prüfungsaufsätze per KI bewertet.

4. Beschäftigung und Personalmanagement

KI zur Einstellung, Auswahl, Beförderung, Kündigung, Aufgabenzuweisung und Leistungsüberwachung von Arbeitnehmern. Einer der am breitesten gefassten Bereiche [9].

Beispiel: Automatisiertes Bewerber-Screening, das Lebensläufe filtert und Kandidaten rankt. Auch KI-gestützte Mitarbeiterüberwachung (Produktivitäts-Tracking) fällt darunter.

5. Zugang zu wesentlichen privaten und öffentlichen Diensten

KI-Systeme, mit denen Behörden den Anspruch auf wesentliche öffentliche Unterstützungsleistungen prüfen, KI zur Bewertung der Kreditwürdigkeit natürlicher Personen (ausgenommen Finanzbetrugserkennung), zur Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen sowie zur Bewertung und Priorisierung von Notrufen [10].

Beispiel: Eine Bank nutzt KI, um Kreditanträge von Privatpersonen zu bewerten. Oder: Ein Lebens- oder Krankenversicherer berechnet individuelle Prämien per Algorithmus (Kfz- oder Sachversicherungen fallen nicht unter Nr. 5).

6. Strafverfolgung

KI von oder für Strafverfolgungsbehörden zur Bewertung des Risikos, Opfer einer Straftat zu werden, als Lügendetektor, zur Bewertung der Verlässlichkeit von Beweismitteln, zur Rückfall- oder Straftatprognose (nicht ausschließlich auf Basis von Profiling) und zum Profiling bei Ermittlungen [11]. Eine Straftatprognose für Einzelpersonen, die allein auf Profiling oder Persönlichkeitsmerkmalen beruht, ist verboten (Art. 5 Abs. 1 Buchst. d).

Beispiel: Ein System, das die Wahrscheinlichkeit berechnet, ob ein Verdächtiger erneut straffällig wird.

7. Migration, Asyl und Grenzkontrolle

KI von oder für zuständige Behörden als Lügendetektor, zur Bewertung von Sicherheits-, Migrations- oder Gesundheitsrisiken bei Einreise, zur Unterstützung bei der Prüfung von Asyl-, Visums- und Aufenthaltsanträgen sowie zur Erkennung und Identifizierung von Personen im Migrationskontext – ausgenommen die Überprüfung von Reisedokumenten [12].

Beispiel: Automatisierte Gesichtserkennung an EU-Außengrenzen oder KI, die Asylanhörungen auswertet.

8. Rechtsprechung und demokratische Prozesse

KI, die von einer Justizbehörde oder in deren Auftrag (auch bei alternativer Streitbeilegung) zur Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und zur Anwendung des Rechts eingesetzt wird, sowie KI zur Beeinflussung des Ergebnisses von Wahlen oder des Wahlverhaltens [13].

Beispiel: Ein Richterassistenzsystem, das Strafmaßempfehlungen berechnet. Oder: KI, die Wahlwerbung personalisiert ausliefert.

Sicherheitsbauteile in regulierten Produkten (Annex I)

Neben den acht Bereichen in Annex III gibt es einen zweiten Weg zur Hochrisiko-Einstufung: Wenn KI als Sicherheitsbauteil in einem Produkt verwendet wird, das bereits unter EU-Harmonisierungsvorschriften fällt (Article 6(1)) [15].

Betroffene Produktkategorien aus Annex I (Auszug). Wichtig: Unmittelbar gelten die Hochrisiko-Anforderungen des AI Act nur für Produkte aus Abschnitt A (u. a. Medizinprodukte, Spielzeug, Aufzüge, Funkanlagen). Für Abschnitt B – u. a. Kraftfahrzeuge, Luftfahrt und seit dem Digital-Omnibus (VO (EU) 2026/1744) auch Maschinen nach Verordnung (EU) 2023/1230 – werden die Anforderungen über die jeweiligen Sektorvorschriften eingeführt (Article 2(2)):

• Maschinen (Maschinenverordnung (EU) 2023/1230)
• Medizinprodukte (Verordnungen (EU) 2017/745 und 2017/746)
• Spielzeug (Richtlinie 2009/48/EG)
• Aufzüge (Richtlinie 2014/33/EU)
• Funkanlagen (Richtlinie 2014/53/EU)
• Kraftfahrzeuge (Verordnung (EU) 2019/2144)
• Luftfahrt (Verordnung (EU) 2018/1139)

Beispiel: Eine CNC-Fräsmaschine mit KI-gesteuerter Kollisionsvermeidung. Hochriskant ist das KI-Sicherheitsbauteil nur, wenn die Maschine nach der Maschinenverordnung (EU) 2023/1230 einer Konformitätsbewertung durch eine benannte Stelle unterliegt. Seit dem Digital-Omnibus stehen Maschinen in Annex I Abschnitt B – die KI-Anforderungen werden dann über die Maschinenverordnung umgesetzt, nicht direkt über Kapitel III des AI Act [16].

Pflichten für Anbieter von Hochrisiko-KI

Wer ein Hochrisiko-KI-System entwickelt oder auf den EU-Markt bringt, muss umfangreiche Pflichten erfüllen. Articles 8 bis 15 legen die Anforderungen an das System fest – neben den folgenden auch Transparenz und Betriebsanleitung für Betreiber (Art. 13). Hinzu kommen die Anbieterpflichten nach Art. 16 ff., u. a. ein Qualitätsmanagementsystem (Art. 17) [17]:

Zusätzlich muss vor der Markteinführung eine Konformitätsbewertung (Article 43) durchgeführt werden. Hochrisiko-KI-Systeme aus Annex III (außer Nr. 2, kritische Infrastruktur – dort nationale Registrierung) sind zudem in der EU-Datenbank zu registrieren (Article 49) [18]. Auch wer sein Annex-III-System nach Article 6(3) als nicht hochriskant einstuft, muss es registrieren – nach dem Digital-Omnibus mit vereinfachten Angaben.

Pflichten für Betreiber (Deployer)

Nicht nur Anbieter sind in der Pflicht. Wer ein Hochrisiko-KI-System einsetzt (der „Deployer“), hat eigene Verpflichtungen nach Article 26 [19]:

• Bestimmungsgemäße Verwendung: Das System nur so einsetzen, wie vom Anbieter vorgesehen
• Menschliche Aufsicht: Kompetente Personen benennen, die das System überwachen
• Input-Daten: Sicherstellen, dass die eingegebenen Daten dem Zweck entsprechen
• Monitoring: Das System überwachen und bei Fehlfunktionen den Anbieter informieren
• Aufbewahrung: Automatisch generierte Protokolle mindestens 6 Monate aufbewahren
• Grundrechte-Folgenabschätzung: Öffentliche Stellen, private Erbringer öffentlicher Dienste sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risiko-/Preisbewertung bei Lebens- und Krankenversicherungen müssen sie vor der Inbetriebnahme durchführen (Article 27)

Praxisrelevanz: Auch wenn du ein KI-Tool nur kaufst und einsetzt (nicht selbst entwickelst), bist du als Betreiber verantwortlich. Das betrifft jedes Unternehmen, das z.B. ein KI-gestütztes Bewerber-Screening-Tool eines Drittanbieters nutzt [20].

Selbstcheck: Ist mein KI-System hochriskant?

Drei Fragen helfen bei der Einordnung:

Wenn Frage 1 oder 2 mit „Ja“ beantwortet ist und keine Ausnahme greift: Dein System ist wahrscheinlich hochriskant. Prüfe die genaue Formulierung in Annex III bzw. Annex I und konsultiere ggf. rechtliche Beratung [21].

Wenn alle Antworten „Nein“: Prüfe noch, ob eine verbotene Praxis nach Article 5 vorliegt. Ist das nicht der Fall, gelten ggf. Transparenzpflichten nach Article 50 (nur für bestimmte Systeme, z. B. Chatbots oder Deepfakes) – sonst keine spezifischen Pflichten außer der KI-Kompetenz nach Article 4.

Ausnahmen und Erleichterungen

Nicht jedes System in den Annex-III-Bereichen ist automatisch hochriskant. Article 6(3) definiert eine wichtige Ausnahme [22]:

Achtung: Diese Ausnahme gilt nicht für Profiling natürlicher Personen. Wenn dein System Personen profiliert, greift die Ausnahme nie — unabhängig davon, wie eng die Aufgabe ist [23].

Weitere Erleichterungen:

• KMU und Startups: Zugang zu regulatorischen Sandboxes (Article 57), bevorzugte Unterstützung, reduzierte Gebühren für Konformitätsbewertungen [24]
• Forschung und Entwicklung: Systeme, die ausschließlich zu Forschungszwecken entwickelt werden, fallen nicht unter die Hochrisiko-Pflichten (Article 2(6))
• Open-Source: Sonderregeln für freie und quelloffene KI-Modelle — aber nicht für Hochrisiko-Anwendungen (Article 2(12))

Fristen und Übergangszeiten

Die Pflichten gelten nicht auf einen Schlag. Der AI Act sieht eine gestaffelte Einführung vor [25]:

Für die meisten Unternehmen ist der 2. Dezember 2027 der entscheidende Stichtag: Bis dahin müssen Hochrisiko-KI-Systeme aus Annex III compliant sein. Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat diesen Termin vom ursprünglich 2. August 2026 verschoben. Für eine vollständige Fristen-Übersicht haben wir einen eigenen Artikel.

Strafen bei Verstößen

Wer die Hochrisiko-Pflichten nicht einhält, riskiert empfindliche Bußgelder nach Article 99 [26]:

• Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen Hochrisiko-Pflichten
• Bis zu 7,5 Millionen Euro oder 1 % des Umsatzes für falsche Angaben gegenüber Behörden
• Für KMU gilt jeweils der niedrigere Betrag

Eine detaillierte Aufschlüsselung aller Strafstufen findest du in unserem Artikel AI Act Strafen und Bußgelder.

Praxisbeispiele: Welche Tools sind betroffen?

Wie wirkt sich die Hochrisiko-Einstufung in der Praxis aus? Hier sechs typische Szenarien [27]:

Faustregel: Hochriskant ist ein KI-System, wenn es in einem der konkret in Annex III genannten Fälle eingesetzt wird – etwa bei Kreditwürdigkeit, Bewerberauswahl, Prüfungsbewertung oder Sozialleistungen – oder als drittgeprüftes Sicherheitsbauteil nach Annex I. Entscheidungen über Menschen außerhalb dieser Fälle machen ein System nicht automatisch hochriskant. Wenn es nur Inhalte generiert oder Prozesse optimiert, meist nicht [28].

FAQ

Was sind Hochrisiko-KI-Systeme im AI Act?

Hochrisiko-KI-Systeme sind KI-Anwendungen, die der EU AI Act nach Art. 6 als hochriskant einstuft: entweder weil sie in einem der acht Bereiche aus Annex III eingesetzt werden (biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienste, Strafverfolgung, Migration und Rechtspflege/Wahlen) oder weil sie Sicherheitsbauteil eines drittgeprüften Produkts nach Annex I sind (z. B. Medizinprodukte).

Welche KI-Systeme gelten als hochriskant?

Hochriskant sind unter anderem: biometrische Echtzeit-Identifikation, KI in der Kreditbewertung, automatisierte Bewerber-Screenings, KI-gestützte Prüfungsbewertungen, prädiktive Polizeiarbeit, KI zur Grenzüberwachung und Systeme zur Beweiswürdigung vor Gericht. Die vollständige Liste steht in Annex III der Verordnung (EU) 2024/1689.

Welche Pflichten haben Anbieter von Hochrisiko-KI?

Anbieter müssen ein Risikomanagementsystem einrichten, Datenqualität sicherstellen, technische Dokumentation erstellen, automatische Protokollierung und eine Betriebsanleitung bereitstellen, menschliche Aufsicht ermöglichen sowie Genauigkeit, Robustheit und Cybersicherheit gewährleisten (Articles 8 bis 15). Hinzu kommen ein Qualitätsmanagementsystem (Art. 17), die Konformitätsbewertung vor Markteintritt (Art. 43) und bei Annex-III-Systemen die Registrierung (Art. 49).

Ist mein KI-Tool hochriskant?

Prüfe drei Fragen: 1) Fällt dein System unter einen Anwendungsfall aus Annex III (acht Bereiche von Biometrie bis Justiz)? 2) Ist es Sicherheitsbauteil eines Produkts aus Annex I (z. B. Medizinprodukt, Spielzeug), das von einer unabhängigen Stelle geprüft werden muss? 3) Greift bei einem Annex-III-System eine Ausnahme nach Article 6(3) – die bei Profiling nie greift? Bei Ja zu 1 oder 2 ohne Ausnahme: wahrscheinlich hochriskant.

Ab wann gelten die Hochrisiko-Pflichten?

Nach der Digital-Omnibus-Verordnung (EU) 2026/1744 (Amtsblatt 24.07.2026) gelten die Pflichten für Hochrisiko-KI-Systeme nach Annex III ab dem 2. Dezember 2027. Für KI-Systeme, die als Sicherheitsbauteil in bereits regulierten Produkten eingebettet sind (Annex I), gilt der 2. August 2028. Ursprünglich waren 2. August 2026 bzw. 2027 vorgesehen.

Was passiert wenn ich ein Hochrisiko-System nicht registriere?

Wer als Anbieter ein Hochrisiko-KI-System ohne die vorgeschriebene Registrierung in der EU-Datenbank in Verkehr bringt oder die Konformitätsbewertung umgeht, riskiert Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (der höhere Betrag). Für KMU gilt der jeweils niedrigere Betrag. Die konkreten Sanktionsvorschriften legen die Mitgliedstaaten fest.

Quellen

Olaf Mergili

Olaf beschäftigt sich seit über 20 Jahren mit IT-Infrastruktur und Digitalisierung. Als Geschäftsführer eines Industrie-PC-Unternehmens und Prokurist eines Kalibrierlabors kennt er die praktischen Herausforderungen, die der AI Act für den Mittelstand bringt. Auf mylurch.com erklärt er KI-Regulierung aus der Perspektive eines Praktikers.

Änderungen: 04.10.2026 – gegen Art. 5, 6, 7, 8–27, 49 und Anhang I/III der Verordnung, Kommissions-Leitlinien und den Digital-Omnibus geprüft. Korrigiert u.a.: Emotionserkennung am Arbeitsplatz ist verboten (Art. 5), nicht hochriskant; Prüfung von Reisedokumenten an Grenzen ist in Anhang III Nr. 7 ausgenommen; bei Versicherungen nur Lebens- und Krankenversicherung; Justiz-KI nur bei Nutzung durch Justizbehörden; Art. 7 erlaubt nur neue Anwendungsfälle in den acht Bereichen; Art. 13 in der Pflichtentabelle ergänzt; „autonome Entscheidungen über Personen“ ist kein eigenes Hochrisiko-Kriterium – maßgeblich ist allein Art. 6 mit Anhang I und III; NeuralFlow-Hinweis entfernt; Autorenangabe korrigiert.