Hochrisiko-KI-Systeme im AI Act: Welche KI ist betroffen? [2026]

Die vier Risikoklassen im AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) folgt einem risikobasierten Ansatz. Nicht jede KI wird gleich reguliert — die Pflichten richten sich nach dem Risiko, das ein System für Menschen und Grundrechte darstellt [1].

Die vier Stufen im Überblick:

* Ausnahme: Strafverfolgung bei schweren Straftaten unter strengen Bedingungen.

Dieser Artikel konzentriert sich auf die zweite Stufe: Hochrisiko-KI-Systeme. Sie sind der Kern der Regulierung — mit den umfangreichsten Pflichten, aber auch den größten Unsicherheiten in der Praxis [2].

Was genau ist ein Hochrisiko-KI-System?

Ein KI-System gilt als hochriskant, wenn es eine erhebliche Gefahr für die Gesundheit, Sicherheit oder Grundrechte von Personen darstellt. Der AI Act definiert zwei Wege, auf denen ein System in die Hochrisiko-Kategorie fällt [3]:

Entscheidend: Die Einstufung hängt nicht von der Technologie ab, sondern vom Einsatzzweck. Dasselbe KI-Modell kann in einem Kontext minimal-riskant sein (Produktempfehlungen im Online-Shop) und in einem anderen hochriskant (automatisierte Kreditentscheidungen) [4].

Die acht Bereiche aus Annex III

Annex III des AI Act listet acht Anwendungsbereiche auf, in denen KI-Systeme als hochriskant gelten. Hier die vollständige Übersicht mit konkreten Beispielen [5]:

1. Biometrische Identifikation und Kategorisierung

KI-Systeme zur biometrischen Fernidentifikation von Personen (außer Verifizierung zur Authentifizierung). Dazu gehören Gesichtserkennung in Echtzeit, Emotionserkennung am Arbeitsplatz und biometrische Kategorisierung nach sensiblen Merkmalen wie Ethnie oder politischer Einstellung [6].

Beispiel: Eine Kamera am Firmeneingang, die Mitarbeiter per Gesichtserkennung identifiziert, fällt hierunter. Ein Smartphone-Entsperren per FaceID dagegen nicht (das ist Verifizierung).

2. Kritische Infrastruktur

KI als Sicherheitsbauteil in der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, Straßenverkehr, Wasser-, Gas-, Strom- und Wärmeversorgung [7].

Beispiel: Ein KI-System, das Stromnetz-Ausfälle vorhersagt und automatisch Lastverteilungen steuert.

3. Bildung und Berufsausbildung

KI-Systeme zur Bestimmung des Zugangs zu Bildungseinrichtungen, zur Bewertung von Prüfungsleistungen, zur Einstufung des Bildungsniveaus und zur Überwachung von Prüfungen [8].

Beispiel: Ein System, das Universitätsbewerbungen automatisch vorsortiert oder Prüfungsaufsätze per KI bewertet.

4. Beschäftigung und Personalmanagement

KI zur Einstellung, Auswahl, Beförderung, Kündigung, Aufgabenzuweisung und Leistungsüberwachung von Arbeitnehmern. Einer der am breitesten gefassten Bereiche [9].

Beispiel: Automatisiertes Bewerber-Screening, das Lebensläufe filtert und Kandidaten rankt. Auch KI-gestützte Mitarbeiterüberwachung (Produktivitäts-Tracking) fällt darunter.

5. Zugang zu wesentlichen privaten und öffentlichen Diensten

KI-Systeme zur Bewertung der Kreditwürdigkeit, Risikobewertung bei Versicherungen, Bewertung des Anspruchs auf Sozialleistungen und Priorisierung von Notrufen [10].

Beispiel: Eine Bank nutzt KI, um Kreditanträge zu bewerten. Oder: Ein Versicherer berechnet individuelle Prämien per Algorithmus.

6. Strafverfolgung

KI zur individuellen Risikobewertung von Personen (Rückfallprognose), Lügendetektoren, Beweiswürdigung und prädiktive Polizeiarbeit (Predictive Policing) [11].

Beispiel: Ein System, das die Wahrscheinlichkeit berechnet, ob ein Verdächtiger erneut straffällig wird.

7. Migration, Asyl und Grenzkontrolle

KI zur Bewertung von Sicherheitsrisiken bei Einreise, Unterstützung bei der Prüfung von Asylanträgen und Erkennung von Dokumentenfälschungen [12].

Beispiel: Automatisierte Gesichtserkennung an EU-Außengrenzen oder KI, die Asylanhörungen auswertet.

8. Rechtsprechung und demokratische Prozesse

KI zur Recherche und Auslegung von Sachverhalten und Rechtsvorschriften sowie zur Beeinflussung des Ergebnisses von Wahlen [13].

Beispiel: Ein Richterassistenzsystem, das Strafmaßempfehlungen berechnet. Oder: KI, die Wahlwerbung personalisiert ausliefert.

Sicherheitsbauteile in regulierten Produkten (Annex I)

Neben den acht Bereichen in Annex III gibt es einen zweiten Weg zur Hochrisiko-Einstufung: Wenn KI als Sicherheitsbauteil in einem Produkt verwendet wird, das bereits unter EU-Harmonisierungsvorschriften fällt (Article 6(1)) [15].

Betroffene Produktkategorien aus Annex I (Auszug):

• Maschinen (Maschinenverordnung (EU) 2023/1230)
• Medizinprodukte (Verordnungen (EU) 2017/745 und 2017/746)
• Spielzeug (Richtlinie 2009/48/EG)
• Aufzüge (Richtlinie 2014/33/EU)
• Funkanlagen (Richtlinie 2014/53/EU)
• Kraftfahrzeuge (Verordnung (EU) 2019/2144)
• Luftfahrt (Verordnung (EU) 2018/1139)

Beispiel: Eine CNC-Fräsmaschine mit KI-gesteuerter Kollisionsvermeidung. Die Maschine fällt unter die Maschinenverordnung — das KI-System als Sicherheitsbauteil ist daher hochriskant [16].

Pflichten für Anbieter von Hochrisiko-KI

Wer ein Hochrisiko-KI-System entwickelt oder auf den EU-Markt bringt, muss umfangreiche Pflichten erfüllen. Articles 8 bis 15 des AI Act definieren sechs Kernpflichten [17]:

Zusätzlich muss vor der Markteinführung eine Konformitätsbewertung (Article 43) durchgeführt und das System in der EU-Datenbank für Hochrisiko-KI registriert werden (Article 49) [18].

Pflichten für Betreiber (Deployer)

Nicht nur Anbieter sind in der Pflicht. Wer ein Hochrisiko-KI-System einsetzt (der „Deployer“), hat eigene Verpflichtungen nach Article 26 [19]:

• Bestimmungsgemäße Verwendung: Das System nur so einsetzen, wie vom Anbieter vorgesehen
• Menschliche Aufsicht: Kompetente Personen benennen, die das System überwachen
• Input-Daten: Sicherstellen, dass die eingegebenen Daten dem Zweck entsprechen
• Monitoring: Das System überwachen und bei Fehlfunktionen den Anbieter informieren
• Aufbewahrung: Automatisch generierte Protokolle mindestens 6 Monate aufbewahren
• Grundrechte-Folgenabschätzung: Bei bestimmten Systemen vor der Inbetriebnahme durchführen (Article 27)

Praxisrelevanz: Auch wenn du ein KI-Tool nur kaufst und einsetzt (nicht selbst entwickelst), bist du als Betreiber verantwortlich. Das betrifft jedes Unternehmen, das z.B. ein KI-gestütztes Bewerber-Screening-Tool eines Drittanbieters nutzt [20].

Selbstcheck: Ist mein KI-System hochriskant?

Drei Fragen helfen bei der Einordnung:

Wenn eine Antwort „Ja“ lautet: Dein System ist wahrscheinlich hochriskant. Prüfe die genaue Formulierung in Annex III und konsultiere ggf. rechtliche Beratung [21].

Wenn alle Antworten „Nein“: Dein System fällt wahrscheinlich unter „begrenztes Risiko“ (Transparenzpflichten nach Article 50) oder „minimales Risiko“ (keine Pflichten).

Ausnahmen und Erleichterungen

Nicht jedes System in den Annex-III-Bereichen ist automatisch hochriskant. Article 6(3) definiert eine wichtige Ausnahme [22]:

Achtung: Diese Ausnahme gilt nicht für Profiling natürlicher Personen. Wenn dein System Personen profiliert, greift die Ausnahme nie — unabhängig davon, wie eng die Aufgabe ist [23].

Weitere Erleichterungen:

• KMU und Startups: Zugang zu regulatorischen Sandboxes (Article 57), bevorzugte Unterstützung, reduzierte Gebühren für Konformitätsbewertungen [24]
• Forschung und Entwicklung: Systeme, die ausschließlich zu Forschungszwecken entwickelt werden, fallen nicht unter die Hochrisiko-Pflichten (Article 2(6))
• Open-Source: Sonderregeln für freie und quelloffene KI-Modelle — aber nicht für Hochrisiko-Anwendungen (Article 2(12))

Fristen und Übergangszeiten

Die Pflichten gelten nicht auf einen Schlag. Der AI Act sieht eine gestaffelte Einführung vor [25]:

Für die meisten Unternehmen ist der 2. August 2026 der entscheidende Stichtag. Bis dahin müssen Hochrisiko-KI-Systeme aus Annex III compliant sein. Für eine vollständige Fristen-Übersicht haben wir einen eigenen Artikel.

Strafen bei Verstößen

Wer die Hochrisiko-Pflichten nicht einhält, riskiert empfindliche Bußgelder nach Article 99 [26]:

• Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen Hochrisiko-Pflichten
• Bis zu 7,5 Millionen Euro oder 1 % des Umsatzes für falsche Angaben gegenüber Behörden
• Für KMU gilt jeweils der niedrigere Betrag

Eine detaillierte Aufschlüsselung aller Strafstufen findest du in unserem Artikel AI Act Strafen und Bußgelder.

Praxisbeispiele: Welche Tools sind betroffen?

Wie wirkt sich die Hochrisiko-Einstufung in der Praxis aus? Hier sechs typische Szenarien [27]:

Faustregel: Sobald dein KI-System Entscheidungen über Menschen trifft — ihre Kreditwürdigkeit, Eignung, Zugang zu Diensten oder Rechte — ist es wahrscheinlich hochriskant. Wenn es nur Inhalte generiert oder Prozesse optimiert, meist nicht [28].

FAQ

Was sind Hochrisiko-KI-Systeme im AI Act?

Hochrisiko-KI-Systeme sind KI-Anwendungen, die laut EU AI Act ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte von Personen darstellen. Sie sind in Annex III des AI Act in acht Bereichen aufgelistet: biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, öffentliche Dienste, Strafverfolgung, Migration und Rechtsprechung.

Welche KI-Systeme gelten als hochriskant?

Hochriskant sind unter anderem: biometrische Echtzeit-Identifikation, KI in der Kreditbewertung, automatisierte Bewerber-Screenings, KI-gestützte Prüfungsbewertungen, prädiktive Polizeiarbeit, KI zur Grenzüberwachung und Systeme zur Beweiswürdigung vor Gericht. Die vollständige Liste steht in Annex III der Verordnung (EU) 2024/1689.

Welche Pflichten haben Anbieter von Hochrisiko-KI?

Anbieter müssen ein Risikomanagementsystem einrichten, technische Dokumentation erstellen, Datenqualität sicherstellen, menschliche Aufsicht ermöglichen, Genauigkeit und Robustheit gewährleisten, und das System vor Markteintritt einer Konformitätsbewertung unterziehen. Diese Pflichten stehen in Articles 8 bis 15 des AI Act.

Ist mein KI-Tool hochriskant?

Prüfe drei Fragen: 1) Ist dein System in Annex III aufgelistet (acht Bereiche von Biometrie bis Justiz)? 2) Ist es ein Sicherheitsbauteil eines Produkts aus Annex I (z.B. Medizinprodukt, Maschine, Spielzeug)? 3) Trifft es autonome Entscheidungen über Personen? Wenn ja bei einer Frage: wahrscheinlich hochriskant. Die Ausnahme nach Article 6(3) greift nur bei engen Voraussetzungen.

Ab wann gelten die Hochrisiko-Pflichten?

Die Pflichten für Hochrisiko-KI-Systeme gelten ab dem 2. August 2026. Für KI-Systeme, die als Sicherheitsbauteil in bereits regulierten Produkten eingebettet sind (Annex I), gilt der 2. August 2027. Unternehmen haben also je nach Kategorie noch 4 bis 16 Monate Zeit.

Was passiert wenn ich ein Hochrisiko-System nicht registriere?

Wer ein Hochrisiko-KI-System ohne Registrierung in der EU-Datenbank betreibt oder die Konformitätsbewertung umgeht, riskiert Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für KMU gilt der jeweils niedrigere Betrag.

Quellen

Olaf Mergili

Olaf beschäftigt sich seit über 20 Jahren mit IT-Infrastruktur und Digitalisierung. Als Geschäftsführer zweier Unternehmen (Industrie-PCs und Kalibrierlabor) kennt er die praktischen Herausforderungen, die der AI Act für den Mittelstand bringt. Auf mylurch.com erklärt er KI-Regulierung aus der Perspektive eines Praktikers.