KI-Risikobewertung: Vorlage für die Risikoanalyse nach AI Act
Eine KI-Risikobewertung untersucht für ein einzelnes KI-System, welche Schäden es für Betroffene, für Ihr Unternehmen und für die Einhaltung von Gesetzen verursachen kann, wie wahrscheinlich und schwer diese sind und welche Maßnahmen sie begrenzen. Die Vorlage unten hat zwölf Abschnitte – von der Systembeschreibung über Einstufung nach KI-Verordnung und Bewertungsmatrix bis zu Freigabe und Überprüfung.
Das Wichtigste in Kürze
- Anbieter von Hochrisiko-KI brauchen nach Artikel 9 ein Risikomanagementsystem. Betreiber haben keine ausdrückliche Pflicht zu einer eigenen Risikobewertung – brauchen sie aber praktisch, um Artikel 26, die DSGVO und die eigene Sorgfalt zu erfüllen.
- Eine gute Vorlage verbindet drei Perspektiven: Einstufung nach KI-Verordnung, Datenschutz und Geschäftsrisiko.
- Bewerten Sie Risiken für Menschen nicht nur für das Unternehmen: Diskriminierung, Fehlentscheidungen, Intransparenz.
- Ohne benannte Freigabe und Überprüfungsanlässe veraltet jede Risikobewertung.
- Normen wie ISO/IEC 23894 und das NIST AI RMF helfen bei der Methode, ersetzen aber nicht die Bewertung des konkreten Einsatzes.
Warum Sie eine KI-Risikobewertung brauchen
Ein Chatbot gibt falsche Tarifauskünfte, ein Scoring-Modell benachteiligt Bewerberinnen über 50, ein Copilot fasst ein vertrauliches Dokument für den falschen Verteiler zusammen. Solche Fehler entstehen selten aus böser Absicht, sondern weil niemand vor dem Einsatz systematisch gefragt hat: Was kann schiefgehen, wen trifft es, und was tun wir dagegen?
Die KI-Verordnung macht diese Frage für Hochrisiko-Systeme verbindlich, die DSGVO für Verarbeitungen mit hohem Risiko für Betroffene. Und Kunden, Versicherer und Prüfer fragen zunehmend danach. Die Einordnung der Verordnung finden Sie in unserem Leitfaden zum EU AI Act.
Sie können die Vorlage unten übernehmen. Alternativ erstellt Ihnen der kostenlose KI-Governance-Check von Opsio eine Vorlage zur KI-Risikobewertung, die bereits auf Ihre Antworten zu Tools, Daten und Verantwortlichen zugeschnitten ist – als englische Word-Datei, zusammen mit drei weiteren Governance-Dokumenten.
Brauchen Sie Unterstützung bei KI-Risikobewertung?
Unsere Cloud-Architekten unterstützen Sie bei KI-Risikobewertung — von der Strategie bis zur Umsetzung. Buchen Sie ein kostenloses 30-Minuten-Beratungsgespräch ohne Verpflichtung.
Artikel 9 und die Praxis der Betreiber
Artikel 9 verlangt von Anbietern von Hochrisiko-KI ein Risikomanagementsystem als kontinuierlichen Prozess über den gesamten Lebenszyklus: bekannte und vorhersehbare Risiken für Gesundheit, Sicherheit und Grundrechte ermitteln, bei bestimmungsgemäßer Verwendung und vernünftigerweise vorhersehbarer Fehlanwendung abschätzen, nach dem Inverkehrbringen beobachten und Maßnahmen treffen. Besonders zu berücksichtigen sind Auswirkungen auf Minderjährige und schutzbedürftige Gruppen.
Betreiber sind von Artikel 9 nicht direkt erfasst. Sie müssen aber nach Artikel 26 den Betrieb überwachen, Risiken melden und die menschliche Aufsicht organisieren; bestimmte Betreiber müssen eine Grundrechte-Folgenabschätzung nach Artikel 27 durchführen. Die DSGVO verlangt eine Datenschutz-Folgenabschätzung, wenn ein hohes Risiko für Betroffene wahrscheinlich ist. Eine einheitliche Vorlage, die alle drei Fragen abdeckt, spart doppelte Arbeit – mehr dazu im Beitrag KI und Datenschutz.
Normen, an denen sich die Vorlage orientiert
| Rahmenwerk | Was es beiträgt |
|---|---|
| ISO/IEC 23894 | Leitfaden für KI-spezifisches Risikomanagement auf Basis von ISO 31000 |
| ISO/IEC 42001 | KI-Risikobeurteilung und KI-Systemfolgenabschätzung als Teil eines Managementsystems |
| ISO/IEC 42005 | Leitfaden für Folgenabschätzungen von KI-Systemen |
| NIST AI RMF | Funktionen Govern, Map, Measure, Manage; frei verfügbar |
| KI-Verordnung | Risikoklassen, Pflichten je Rolle, Grundrechte-Folgenabschätzung |
Wer ein Managementsystem nach ISO 42001 plant, kann die Vorlage später direkt übernehmen – siehe Was ist ISO 42001?.
Die Vorlage zur KI-Risikobewertung – Abschnitt für Abschnitt
1. Dokumentensteuerung
Systemname, Version der Bewertung, Datum, Autor, Status (Entwurf, freigegeben), nächster Überprüfungstermin.
2. Systembeschreibung
Was macht das System, welcher Anbieter, welches Modell, wie wird es bereitgestellt (SaaS, eigene Cloud, lokal), welche Schnittstellen zu anderen Systemen? Nennen Sie die Version, damit spätere Änderungen erkennbar sind.
3. Zweck und Einsatzkontext
Wofür wird das System genau genutzt, von wem, in welchem Prozess, mit welcher Reichweite? Wer ist betroffen – Beschäftigte, Kunden, Bewerberinnen, Patienten, Minderjährige? Halten Sie auch fest, wofür es ausdrücklich nicht genutzt werden darf.
4. Einstufung nach KI-Verordnung und Rolle
Risikoklasse (verboten, hoch, Transparenz, minimal) mit Begründung, Rolle (Anbieter, Betreiber …), anwendbare Fristen. Bei Hochrisiko: welcher Bereich aus Anhang III oder welches Produktrecht aus Anhang I. Details zur Einstufung bietet der Beitrag zu Hochrisiko-KI-Systemen.
5. Risikoidentifikation
Sammeln Sie Risiken strukturiert nach Kategorien: Genauigkeit und Halluzinationen, Verzerrung und Diskriminierung, Datenschutz und Vertraulichkeit, Sicherheit (Prompt-Injection, Datenabfluss), Transparenz, Abhängigkeit vom Anbieter, Recht und Haftung, Reputation, Auswirkungen auf Beschäftigte.
6. Bewertung von Wahrscheinlichkeit und Auswirkung
Eine einfache 4×4-Matrix reicht für die meisten Unternehmen. Definieren Sie die Stufen schriftlich, damit verschiedene Bewertende zu vergleichbaren Ergebnissen kommen.
| Stufe | Wahrscheinlichkeit | Auswirkung |
|---|---|---|
| 1 | selten – nicht innerhalb eines Jahres zu erwarten | gering – leicht korrigierbar, kein Schaden für Betroffene |
| 2 | möglich – einmal im Jahr denkbar | spürbar – interner Mehraufwand, Ärger bei Einzelnen |
| 3 | wahrscheinlich – mehrmals im Jahr | erheblich – finanzieller oder rechtlicher Nachteil für Betroffene, meldepflichtiger Vorfall |
| 4 | fast sicher – laufend | schwer – Grundrechtsverletzung, Gesundheitsschaden, behördliches Verfahren |
7. Bestehende und geplante Maßnahmen
Je Risiko: technische Maßnahmen (Zugriffsrechte, Protokollierung, Filter, Tests auf Verzerrung), organisatorische Maßnahmen (Richtlinie, Schulung, Vier-Augen-Prinzip) und vertragliche Maßnahmen (Zusicherungen des Anbieters, kein Training mit Ihren Daten).
8. Restrisiko
Bewertung nach Maßnahmen und Entscheidung: akzeptieren, weiter mindern, nicht einsetzen. Wer welches Restrisiko akzeptieren darf, regelt Ihr Governance-Rahmenwerk.
9. Menschliche Aufsicht
Wer prüft Ergebnisse, mit welcher Kompetenz und Befugnis, und kann die Person das System stoppen oder übersteuern? Bei Hochrisiko-KI ist das Pflicht nach Artikel 14 und 26.
10. Bezug zum Datenschutz
Werden personenbezogene Daten verarbeitet? Rechtsgrundlage, Auftragsverarbeitung, Drittlandübermittlung, Ergebnis der DSFA-Schwellwertprüfung, Verweis auf die DSFA.
11. Freigabe
Name und Funktion der freigebenden Person, Datum, Bedingungen der Freigabe (etwa „nur für interne Entwürfe“).
12. Überprüfungsanlässe
Festes Intervall (z. B. jährlich) plus Anlässe: neues Modell oder neue Version, neuer Zweck, Vorfall, Beschwerde, neue Leitlinien oder Rechtsänderung.
Beispielzeilen aus einer ausgefüllten Bewertung
| Risiko | W | A | Maßnahme | Rest-W | Rest-A |
|---|---|---|---|---|---|
| Kundenservice-Chatbot nennt falsche Kündigungsfristen | 3 | 3 | Antworten auf geprüfte Wissensbasis beschränken, Übergabe an Menschen bei Vertragsfragen, Stichproben | 2 | 2 |
| Beschäftigte geben Kundendaten in kostenloses Tool ein | 3 | 3 | Unternehmenslizenz, Sperre privater Konten, Richtlinie, Schulung | 1 | 3 |
| Bewerber-Ranking benachteiligt Teilzeitlücken im Lebenslauf | 2 | 4 | Tests auf Verzerrung vom Anbieter anfordern, menschliche Prüfung jeder Absage, Betriebsrat einbinden | 1 | 4 |
| Prompt-Injection über hochgeladene Dokumente | 2 | 3 | Eingabefilter, keine Schreibrechte des Bots auf Kundensysteme, Protokollierung | 1 | 3 |
W = Wahrscheinlichkeit, A = Auswirkung. Beachten Sie die dritte Zeile: Die Auswirkung bleibt hoch, weil eine Diskriminierung schwer wiegt – die Maßnahme senkt nur die Wahrscheinlichkeit.
So führen Sie die Bewertung durch
- System aus dem KI-Inventar auswählen; mit Hochrisiko- und Kundenkontakt-Systemen beginnen.
- Kurzer Workshop mit Fachbereich, IT, Datenschutz und – bei Beschäftigtenbezug – Personal.
- Anbieterinformationen einholen: Gebrauchsanweisung, Testergebnisse, Datenverarbeitung. Dafür hilft eine strukturierte Anbieterprüfung.
- Risiken bewerten, Maßnahmen festlegen, Restrisiko entscheiden.
- Freigeben, ablegen, Überprüfungstermin setzen.
Die Risikobewertung je System ist ein zentraler Baustein der Gap-Analyse zur KI-Verordnung.
Beispiel: Microsoft 365 Copilot im Vertrieb
Wie die Vorlage im Alltag aussieht, zeigt ein typischer Fall. Ein Maschinenbauer führt Copilot für 150 Beschäftigte im Vertrieb ein. In Abschnitt 3 steht der Zweck: Angebote vorformulieren, E-Mails zusammenfassen, Besprechungsprotokolle erstellen – ausdrücklich nicht die Bewertung von Beschäftigten oder Bewerbern. Abschnitt 4 stuft das System als minimales Risiko ein, das Unternehmen ist Betreiber; es gelten Artikel 4 und gegebenenfalls Artikel 50.
In Abschnitt 5 tauchen vor allem drei Risiken auf: Copilot findet über zu weit gefasste SharePoint-Berechtigungen vertrauliche Dokumente und fasst sie für Unbefugte zusammen; Angebotstexte enthalten falsche technische Angaben; Protokolle von Kundenterminen werden ohne Wissen der Teilnehmenden erstellt. Die Maßnahmen in Abschnitt 7: Berechtigungen vor dem Rollout bereinigen, Vier-Augen-Prüfung technischer Angaben, Hinweis an Teilnehmende vor der Aufzeichnung, Betriebsvereinbarung zur Auswertung von Nutzungsdaten. Abschnitt 12 legt fest: Neubewertung, sobald Copilot-Agenten mit Schreibrechten auf das CRM eingeführt werden.
Gerade das erste Risiko wird oft unterschätzt. Ein KI-Assistent macht keine neuen Daten zugänglich, er macht vorhandene Zugriffsrechte aber plötzlich nutzbar. Die Bereinigung von Berechtigungen ist deshalb häufig die wirksamste Einzelmaßnahme.
Häufige Fehler
- Nur das Unternehmensrisiko bewerten, nicht die Folgen für Betroffene.
- Eine Bewertung für „ChatGPT“ insgesamt statt je Einsatzzweck.
- Maßnahmen notieren, die es gar nicht gibt („Mitarbeitende prüfen alles“).
- Keine Freigabe durch eine Person mit Entscheidungsbefugnis.
- Kein Überprüfungstermin – die Bewertung bleibt beim Stand des Pilotprojekts stehen.
Häufig gestellte Fragen
Ist eine KI-Risikobewertung nach dem AI Act Pflicht?
Für Anbieter von Hochrisiko-KI ja, als Risikomanagementsystem nach Artikel 9. Bestimmte Betreiber müssen eine Grundrechte-Folgenabschätzung durchführen. Für alle anderen gibt es keine ausdrückliche Pflicht, aber die DSGVO, die Betreiberpflichten nach Artikel 26 und die allgemeine Sorgfalt machen eine Bewertung je System praktisch notwendig.
Was ist der Unterschied zwischen KI-Risikobewertung und Grundrechte-Folgenabschätzung?
Die Grundrechte-Folgenabschätzung nach Artikel 27 ist eine gesetzlich vorgeschriebene Prüfung für bestimmte Betreiber von Hochrisiko-KI und konzentriert sich auf Grundrechte der Betroffenen. Die KI-Risikobewertung ist breiter: Sie umfasst auch Geschäfts-, Sicherheits- und Rechtsrisiken. Eine gute Vorlage kann beides in einem Dokument abbilden.
Wie oft sollte eine KI-Risikobewertung aktualisiert werden?
Mindestens jährlich und immer, wenn sich etwas Wesentliches ändert: ein neues Modell, ein neuer Einsatzzweck, ein Vorfall, eine Beschwerde oder neue rechtliche Vorgaben. Bei Systemen, die laufend dazulernen oder häufig aktualisiert werden, sind kürzere Abstände sinnvoll.
Kann ich ISO/IEC 23894 oder das NIST AI RMF statt einer eigenen Vorlage nutzen?
Beide liefern die Methode, keine fertige Vorlage. Sie helfen, Risiken systematisch zu identifizieren und zu behandeln. Die Bezüge zur KI-Verordnung – Risikoklasse, Rolle, Fristen, Grundrechte-Folgenabschätzung – müssen Sie ergänzen. Viele Unternehmen bauen ihre Vorlage deshalb auf ISO/IEC 23894 auf und erweitern sie.
Wer sollte eine KI-Risikobewertung freigeben?
Eine Person mit Entscheidungsbefugnis über den Einsatz, meist die Leitung des Fachbereichs, der das System nutzt. Bei hohen Restrisiken sollte die Freigabe eine Ebene höher liegen oder durch ein KI-Gremium erfolgen. Datenschutz und Informationssicherheit beraten, entscheiden aber in der Regel nicht allein.
Ihre Vorlage zur KI-Risikobewertung – kostenlos
Wenn Sie nicht bei null anfangen möchten: Im KI-Governance & Readiness-Check von Opsio beantworten Sie etwa 40 Minuten lang Fragen zu Ihrer KI-Nutzung. Danach erhalten Sie sofort eine Vorlage zur KI-Risikobewertung, die Ihre Systeme und Verantwortlichen bereits aufgreift, dazu ein KI-Governance-Rahmenwerk, eine KI-Richtlinie für Mitarbeitende und eine Checkliste zur Prüfung von KI-Anbietern sowie Ihren Reifegrad in zehn Bereichen. Die Word-Dateien sind auf Englisch, die Fragen auf Deutsch. Kostenlos, unverbindlich, die Dokumente gehören Ihnen.
Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung. Maßgeblich ist die konsolidierte Fassung der Verordnung (EU) 2024/1689 in der durch die Verordnung (EU) 2026/1744 geänderten Fassung. Stand: Oktober 2026.
Über den Autor
Group COO & CISO
Fredrik ist Group COO und CISO bei Opsio. Er konzentriert sich auf operative Exzellenz, Governance und Informationssicherheit und arbeitet eng mit den Liefer- und Führungsteams zusammen, um Technologie, Risiko und Geschäftsergebnisse in komplexen IT-Umgebungen in Einklang zu bringen. Er leitet die Sicherheitspraxis von Opsio, einschließlich SOC-Services, Penetrationstests und Compliance-Frameworks.
Redaktionelle Standards: Dieser Artikel wurde von einer zertifizierten Fachperson verfasst und von unserem Engineering-Team geprüft. Wir überarbeiten ihn, wenn sich die behandelte Technologie oder Regulierung ändert; die Daten oben zeigen die letzte Aktualisierung. Opsio ist redaktionell unabhängig — wir empfehlen Lösungen nach technischen Kriterien, nicht nach Geschäftsbeziehungen.