Hochrisiko-KI-Systeme: Einstufung, Anhang III und Pflichten

Hochrisiko-KI-Systeme sind nach Artikel 6 der KI-Verordnung entweder Sicherheitsbauteile bzw. Produkte nach Anhang I (etwa Medizinprodukte, Maschinen) oder Systeme für sensible Zwecke aus Anhang III, etwa Personalauswahl, Kreditprüfung oder Bildung. Für sie gelten strenge Pflichten – nach dem Digital Omnibus ab dem 2. Dezember 2027 (Anhang III) bzw. 2. August 2028 (Anhang I).

Das Wichtigste in Kürze

• Hochrisiko ergibt sich aus dem Verwendungszweck, nicht aus der Technik: Dasselbe Sprachmodell kann harmlos oder Hochrisiko-KI sein.
• Anhang III umfasst acht Bereiche, darunter Beschäftigung, Bildung, Zugang zu wesentlichen Dienstleistungen wie Kredit und Versicherung, Strafverfolgung und Justiz.
• Artikel 6 Abs. 3 nimmt Systeme aus, die nur eng begrenzte vorbereitende Aufgaben erfüllen – nicht aber Systeme, die Profiling natürlicher Personen betreiben.
• Anbieter brauchen Risikomanagement, Dokumentation, Konformitätsbewertung und Registrierung; Betreiber Aufsicht, Protokolle und Information der Betroffenen.
• Bestimmte Betreiber müssen zusätzlich eine Grundrechte-Folgenabschätzung durchführen.

Wie Artikel 6 Hochrisiko bestimmt

Die Verordnung kennt zwei Wege in die Hochrisiko-Klasse. Welche Rolle diese Klasse im Gesamtgefüge spielt, zeigt der Beitrag zu den Risikoklassen des EU AI Act; den Rahmen beschreibt unser Leitfaden zum AI Act.

Weg 1: Produkte nach Anhang I (Artikel 6 Abs. 1)

Ein KI-System ist hochriskant, wenn es selbst ein Produkt oder Sicherheitsbauteil eines Produkts ist, das unter EU-Harmonisierungsrecht aus Anhang I fällt – etwa Maschinen, Spielzeug, Aufzüge, Funkanlagen, Medizinprodukte und In-vitro-Diagnostika – und dieses Produkt eine Konformitätsbewertung durch Dritte braucht. Beispiel: eine KI-Bildauswertung, die als Medizinprodukt Tumore markiert, oder eine KI-gestützte Schutzfunktion an einer Industriemaschine. Diese Pflichten gelten ab dem 2. August 2028.

Weg 2: Verwendungszwecke nach Anhang III (Artikel 6 Abs. 2)

Unabhängig von einem Produkt ist ein System hochriskant, wenn es für einen der Zwecke in Anhang III bestimmt ist. Diese Pflichten gelten ab dem 2. Dezember 2027.

Die acht Bereiche aus Anhang III

Die Ausnahme nach Artikel 6 Abs. 3

Nicht jedes System in einem Anhang-III-Bereich ist automatisch hochriskant. Es gilt nicht als Hochrisiko-KI, wenn es kein erhebliches Risiko birgt, weil es

• nur eine eng gefasste Verfahrensaufgabe erfüllt (etwa Dokumente nach Kategorien sortieren),
• das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessert (etwa sprachliche Glättung),
• Entscheidungsmuster oder Abweichungen erkennt, ohne die menschliche Bewertung zu ersetzen, oder
• eine vorbereitende Aufgabe für eine Bewertung übernimmt.

Wichtig: Ein System, das Profiling natürlicher Personen vornimmt, ist immer hochriskant. Wer sich auf die Ausnahme beruft, muss das vor dem Inverkehrbringen dokumentieren und das System registrieren. Ein Tool, das Bewerbungen lediglich nach Eingangsdatum und Vollständigkeit ordnet, kann unter die Ausnahme fallen; eines, das Kandidaten nach Passung bewertet, nicht.

Was Anbieter von Hochrisiko-KI tun müssen

1. Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9)
2. Daten-Governance für Trainings-, Validierungs- und Testdaten (Art. 10)
3. technische Dokumentation (Art. 11, Anhang IV)
4. automatische Protokollierung (Art. 12)
5. Transparenz und Gebrauchsanweisung für Betreiber (Art. 13)
6. Vorkehrungen für menschliche Aufsicht (Art. 14)
7. Genauigkeit, Robustheit, Cybersicherheit (Art. 15)
8. Qualitätsmanagementsystem (Art. 17)
9. Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung (Art. 43, 47, 48)
10. Registrierung in der EU-Datenbank (Art. 49) und Beobachtung nach dem Inverkehrbringen (Art. 72)

Für die meisten Anhang-III-Systeme genügt eine interne Konformitätsbewertung; für biometrische Systeme kann eine notifizierte Stelle nötig sein. KMU und – seit dem Digital Omnibus – kleine Midcaps profitieren von vereinfachter Dokumentation.

Was Betreiber von Hochrisiko-KI tun müssen

Die meisten Unternehmen werden Hochrisiko-KI nicht bauen, sondern einkaufen – etwa eine Recruiting-Software. Als Betreiber müssen sie nach Artikel 26 das System gemäß Gebrauchsanweisung verwenden, menschliche Aufsicht mit kompetenten Personen besetzen, relevante Eingabedaten sicherstellen, den Betrieb überwachen, Protokolle mindestens sechs Monate aufbewahren, Beschäftigte und Arbeitnehmervertretung vor dem Einsatz am Arbeitsplatz informieren und Betroffene informieren, wenn das System Entscheidungen über sie trifft oder unterstützt. Die Abgrenzung der Rollen erläutert der Beitrag zu Anbieter und Betreiber.

Grundrechte-Folgenabschätzung

Öffentliche Stellen, private Einrichtungen, die öffentliche Dienstleistungen erbringen, sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risiko- und Preisbewertung in der Lebens- und Krankenversicherung müssen vor der ersten Nutzung eine Grundrechte-Folgenabschätzung nach Artikel 27 durchführen. Sie beschreibt Einsatz, Dauer, betroffene Personengruppen, konkrete Schadensrisiken, Aufsichtsmaßnahmen und Abhilfe bei Risiken; das Ergebnis wird der Marktüberwachungsbehörde mitgeteilt. Eine vorhandene Datenschutz-Folgenabschätzung kann die Grundlage bilden – mehr dazu im Beitrag KI und Datenschutz.

In Deutschland ist für Hochrisiko-KI in Bereichen wie Personal, kritische Infrastruktur und Bildung grundsätzlich die Bundesnetzagentur zuständig, für Kredit- und Versicherungsanwendungen beaufsichtigter Unternehmen die BaFin.

In fünf Schritten zur Einstufung

1. Ist es überhaupt ein KI-System im Sinne von Artikel 3? (Einfache regelbasierte Software meist nicht.)
2. Ist es eine verbotene Praxis nach Artikel 5? Dann stopp.
3. Ist es ein Produkt oder Sicherheitsbauteil nach Anhang I mit Drittprüfung?
4. Fällt der Zweck unter Anhang III – und greift die Ausnahme nach Artikel 6 Abs. 3, ohne Profiling?
5. Ergebnis dokumentieren, Rolle bestimmen, Datum zuordnen.

Eine strukturierte Grundlage für diese Prüfung liefert die Vorlage zur KI-Risikobewertung. Wer seine Systeme zunächst grob einordnen möchte, kann den kostenlosen KI-Governance-Check nutzen.

Ein Beispiel aus dem Personalwesen

Ein Handelsunternehmen mit 3.000 Beschäftigten kauft eine Recruiting-Software ein, die Bewerbungen für Filialjobs analysiert und eine Rangliste erstellt. Das ist ein klarer Fall von Anhang III Nr. 4. Der Softwarehersteller ist Anbieter und muss ab dem 2. Dezember 2027 Konformitätsbewertung, Dokumentation und Registrierung vorweisen. Das Handelsunternehmen ist Betreiber.

Es sollte sich jetzt die Gebrauchsanweisung und Angaben zu Tests auf Diskriminierung geben lassen, festlegen, wer in der Personalabteilung die Rangliste überprüft und Entscheidungen verantwortet, den Betriebsrat einbinden (Auswahlrichtlinien nach § 95 BetrVG, Mitbestimmung bei technischer Überwachung) und Bewerberinnen und Bewerber über den KI-Einsatz informieren. Hinzu kommt eine Datenschutz-Folgenabschätzung. Wer das 2027 nachholen will, verhandelt unter Zeitdruck mit dem Anbieter.

Häufig gestellte Fragen

Was gilt als Hochrisiko-KI nach dem EU AI Act?

Zwei Gruppen: KI, die Produkt oder Sicherheitsbauteil eines Produkts nach Anhang I mit Drittprüfung ist, und KI für Zwecke aus Anhang III – Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienste wie Kredit und Versicherung, Strafverfolgung, Migration sowie Justiz und Demokratie. Entscheidend ist der vorgesehene Verwendungszweck.

Ab wann gelten die Pflichten für Hochrisiko-KI-Systeme?

Für Systeme nach Anhang III ab dem 2. Dezember 2027, für KI in Produkten nach Anhang I ab dem 2. August 2028. Beide Termine wurden durch die Verordnung (EU) 2026/1744 verschoben. Hochrisiko-Systeme, die bereits von Behörden genutzt werden, haben bis zum 2. August 2030 Zeit.

Ist ein Kundenservice-Chatbot Hochrisiko-KI?

In der Regel nicht. Ein Chatbot, der Fragen zu Lieferzeiten oder Tarifen beantwortet, fällt unter die Transparenzpflichten nach Artikel 50. Hochrisiko wird er erst, wenn er für einen Anhang-III-Zweck eingesetzt wird – etwa wenn er über den Anspruch auf eine öffentliche Leistung entscheidet oder die Kreditwürdigkeit bewertet.

Ist Microsoft Copilot ein Hochrisiko-KI-System?

Nicht als solches. Copilot ist ein Allzweckwerkzeug ohne Hochrisiko-Zweckbestimmung. Setzt ein Unternehmen ihn aber gezielt ein, um Bewerbungen zu bewerten oder Leistungen von Beschäftigten zu beurteilen, kann diese Nutzung hochriskant werden – und das Unternehmen nach Artikel 25 Anbieterpflichten tragen. Regeln Sie solche Nutzungen deshalb ausdrücklich.

Müssen Hochrisiko-Systeme registriert werden?

Ja. Anbieter registrieren Hochrisiko-Systeme nach Anhang III in der EU-Datenbank, bevor sie sie in Verkehr bringen. Auch wer sich auf die Ausnahme nach Artikel 6 Abs. 3 beruft, muss registrieren. Betreiber, die Behörden oder öffentliche Stellen sind, registrieren ihre Nutzung ebenfalls.

Finden Sie heraus, welche Systeme betroffen sind

Die meisten Unternehmen haben weniger Hochrisiko-KI als befürchtet – aber oft mehr, als ihnen bewusst ist, vor allem im Personalwesen. Der KI-Governance & Readiness-Check von Opsio fragt in vierzehn Schritten ab, wofür Sie KI einsetzen, und liefert nach rund 40 Minuten eine Vorlage zur KI-Risikobewertung, ein KI-Governance-Rahmenwerk, eine KI-Richtlinie für Mitarbeitende und eine Checkliste zur Prüfung von KI-Anbietern. Dazu kommt Ihr Reifegrad in zehn Bereichen. Die Word-Dateien sind auf Englisch und frei bearbeitbar. Kostenlos und unverbindlich.

Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung. Maßgeblich ist die konsolidierte Fassung der Verordnung (EU) 2024/1689 in der durch die Verordnung (EU) 2026/1744 geänderten Fassung. Stand: Oktober 2026.