01
Was macht die KI?
Unterstützt sie Recherche, erzeugt Inhalte,
bewertet Personen, priorisiert Vorgänge oder
beeinflusst Entscheidungen?
Anfrage senden
Hinterlassen Sie kurz Ihre Kontaktdaten und Ihr Anliegen. Wir kümmern uns um die weitere Bearbeitung und melden uns bei Bedarf persönlich zurück.
Ich bin damit einverstanden, dass meine Angaben zur Bearbeitung der Anfrage verarbeitet werden. Weitere Informationen stehen in der Datenschutzerklärung.
KI-Regulierung · EU AI Act · Risikomanagement
KI-Risikobewertung: Checkliste für KI-Systeme und Use Cases
Wie riskant ist ein konkreter KI-Einsatz im Unternehmen? Eine belastbare KI-Risikobewertung betrachtet nicht nur das verwendete Modell, sondern den vollständigen Use Case: Zweck, betroffene Personen, Daten, Entscheidungswirkung, mögliche Schäden, technische Risiken, regulatorische Einordnung und vorhandene Schutzmaßnahmen.
Risikobewertung
Vier Fragen bestimmen den Ausgangspunkt
Das Risiko eines KI-Systems lässt sich nicht allein aus dem Produktnamen oder verwendeten Modell ableiten. Entscheidend ist der konkrete betriebliche Kontext.
02
Wer ist betroffen?
Mitarbeiter, Bewerber, Kunden, Patienten,
Bürger oder andere natürliche Personen können
unterschiedliche Schutzbedürfnisse haben.
03
Was kann schiefgehen?
Fehler, Halluzinationen, Bias, Datenabfluss,
Manipulation oder Fehlentscheidungen können
unterschiedliche Schäden verursachen.
04
Welche Kontrollen bestehen?
Human Oversight, Freigaben, Guardrails,
Zugriffsschutz und Monitoring können das
tatsächliche Restrisiko deutlich beeinflussen.
KI-Risikobewertung und AI-Act-Klassifizierung
sind verwandt, aber nicht identisch.
Die AI-Act-Einordnung beantwortet regulatorische Fragen.
Die betriebliche Risikobewertung geht darüber hinaus und
berücksichtigt zusätzlich technische, organisatorische,
wirtschaftliche und operative Auswirkungen.
Answer First
Wie führt man eine KI-Risikobewertung im Unternehmen durch?
Ausgangspunkt ist immer der konkrete KI-Use-Case. Derselbe KI-Dienst kann in einem Unternehmen ein geringes Risiko haben und in einem anderen Einsatzkontext erhebliche Auswirkungen erzeugen.
Ein Textassistent für interne Formulierungshilfen ist beispielsweise anders zu bewerten als ein System, das Bewerber priorisiert, medizinische Informationen auswertet oder Entscheidungen über Kunden beeinflusst.
Deshalb sollten Zweck, Daten, Nutzer, Betroffene, Entscheidungswirkung, potenzielle Schäden, technische Risiken und Kontrollmaßnahmen gemeinsam betrachtet werden. Erst danach lässt sich das verbleibende Restrisiko sinnvoll bewerten.
EU AI Act
Verboten
Hochrisiko
Transparenz
Minimal
Wie ordnet der EU AI Act KI-Risiken ein?
Der EU AI Act folgt einem risikobasierten Ansatz. Für die praktische Bewertung ist entscheidend, ob ein konkretes KI-System oder eine konkrete KI-Praxis unter verbotene Anwendungen, Hochrisiko-Anforderungen, besondere Transparenzpflichten oder einen Bereich mit minimalem beziehungsweise keinem regulatorischen Risiko fällt.
Verbotene KI-Praktiken
Bestimmte KI-Praktiken sind nach Art. 5 AI Act unzulässig. Deshalb muss bei jeder Risikoprüfung zuerst geprüft werden, ob der Use Case überhaupt zulässig ist.
High-Risk AI
Für Hochrisiko-KI-Systeme gelten umfangreiche Anforderungen, unter anderem an Risikomanagement, Dokumentation, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Transparenzrisiken
Bestimmte Systeme unterliegen besonderen Transparenzpflichten, etwa bei direkter Interaktion mit Menschen oder bei bestimmten KI-generierten beziehungsweise manipulierten Inhalten.
Minimales oder kein Risiko
Für viele gewöhnliche KI-Anwendungen sieht der AI Act keine zusätzlichen produktspezifischen Risikopflichten vor. Andere Rechtsgebiete und interne Governance können trotzdem relevant bleiben.
Wichtig bei Annex-III-Systemen
Ein System, das grundsätzlich in einen in Anhang III
genannten Hochrisikobereich fällt, kann unter bestimmten
Voraussetzungen als nicht hochriskant bewertet werden.
Eine solche Bewertung muss vom Anbieter dokumentiert werden.
Systeme in diesen Bereichen, die Profiling natürlicher
Personen durchführen, gelten jedoch stets als Hochrisiko-Systeme.
Vorgehensmodell
Von der KI-Idee zur dokumentierten Freigabeentscheidung
Eine belastbare Risikobewertung sollte reproduzierbar sein. Ein festes Verfahren ermöglicht es, unterschiedliche KI-Use-Cases nach denselben Kriterien zu bewerten.
1
Use Case
Zweck, Prozess, Anwender und erwartete Ergebnisse eindeutig beschreiben.
2
Betroffene
Personen und Gruppen bestimmen, auf die das System Auswirkungen haben kann.
3
Risiken
Fehler, Schäden, Missbrauch und regulatorische Risiken erfassen.
4
Kontrollen
Technische und organisatorische Schutzmaßnahmen bewerten.
5
Freigabe
Restrisiko dokumentieren und Freigabeentscheidung treffen.
Praxischeck
10-Punkte-Checkliste für eine KI-Risikobewertung
Diese Struktur eignet sich für neue KI-Projekte, bestehende KI-Dienste, Agenten, LLM-Anwendungen und automatisierte KI-gestützte Geschäftsprozesse.
1
Zweck und Use Case eindeutig beschreiben
- Welches Problem soll die KI lösen?
- In welchem Geschäftsprozess wird sie eingesetzt?
- Welche Ergebnisse soll sie erzeugen?
- Wer nutzt das System?
- Welche Entscheidungen hängen vom Ergebnis ab?
2
Betroffene Personen und Gruppen bestimmen
- Wer kann unmittelbar betroffen sein?
- Gibt es mittelbar betroffene Personen?
- Werden Beschäftigte, Bewerber oder Kunden bewertet?
- Sind Kinder oder andere vulnerable Gruppen betroffen?
- Welche Rechte oder Interessen können berührt werden?
3
Daten und Datenqualität bewerten
- Welche Daten verarbeitet das KI-System?
- Sind personenbezogene oder sensible Daten enthalten?
- Wie zuverlässig und aktuell sind Eingabedaten?
- Können fehlerhafte Daten systematische Fehlentscheidungen verursachen?
- Woher stammen Trainings-, Referenz- oder Kontextdaten?
4
Regulatorische AI-Act-Einordnung durchführen
- Ist der Use Case eine verbotene KI-Praxis?
- Fällt das System unter eine Hochrisiko-Konstellation?
- Sind Transparenzpflichten nach Art. 50 relevant?
- Welche Rolle hat das Unternehmen: Anbieter oder Betreiber?
- Bewertung und Begründung dokumentieren.
5
Fehler- und Schadenspotenzial bewerten
- Was passiert bei einer falschen Antwort?
- Kann ein Fehler finanzielle Schäden verursachen?
- Können Gesundheit oder Sicherheit betroffen sein?
- Können Personen unfair benachteiligt werden?
- Können Fehler unbemerkt weiterverarbeitet werden?
6
Modellrisiken prüfen
- Kann das System halluzinieren?
- Wie reproduzierbar sind Ergebnisse?
- Bestehen Bias- oder Diskriminierungsrisiken?
- Wie reagiert das System auf ungewöhnliche Eingaben?
- Sind Leistungsgrenzen bekannt und dokumentiert?
7
Security- und Missbrauchsrisiken bewerten
- Kann das System durch Prompt Injection manipuliert werden?
- Kann es vertrauliche Informationen offenlegen?
- Wie werden Zugriffe kontrolliert?
- Welche Missbrauchsszenarien sind vorhersehbar?
- Wie werden Sicherheitsvorfälle erkannt?
8
Menschliche Kontrolle definieren
- Wer kontrolliert relevante KI-Ausgaben?
- Wann ist eine menschliche Freigabe verpflichtend?
- Kann ein Mensch Ergebnisse übersteuern?
- Versteht die prüfende Person die Grenzen des Systems?
- Sind Eskalationswege definiert?
9
Risikomindernde Maßnahmen bewerten
- Welche Guardrails sind vorhanden?
- Gibt es Rollen- und Zugriffsbeschränkungen?
- Werden Outputs validiert?
- Sind Monitoring und Logging eingerichtet?
- Welche zusätzlichen Maßnahmen reduzieren das Risiko?
10
Restrisiko und Freigabe dokumentieren
- Eintrittswahrscheinlichkeit nach Kontrollen bewerten.
- Verbleibendes Schadensausmaß bestimmen.
- Restrisiko dokumentieren.
- Freigabe, Auflagen oder Ablehnung festhalten.
- Re-Assessment-Termin und Änderungstrigger definieren.
Bewertungsmodell
Wie funktioniert eine 5×5-KI-Risikomatrix?
Eine klassische Risikomatrix kombiniert Eintrittswahrscheinlichkeit und Schadensausmaß. Für KI sollte die Bewertung immer nach Berücksichtigung der vorhandenen Kontrollmaßnahmen erneut vorgenommen werden, um das Restrisiko sichtbar zu machen.
5 × 1
5
5
5 × 2
10
10
5 × 3
15
15
5 × 4
20
20
5 × 5
25
25
4 × 1
4
4
4 × 2
8
8
4 × 3
12
12
4 × 4
16
16
4 × 5
20
20
3 × 1
3
3
3 × 2
6
6
3 × 3
9
9
3 × 4
12
12
3 × 5
15
15
2 × 1
2
2
2 × 2
4
4
2 × 3
6
6
2 × 4
8
8
2 × 5
10
10
1 × 1
1
1
1 × 2
2
2
1 × 3
3
3
1 × 4
4
4
1 × 5
5
5
| Dimension | Zentrale Frage | Beispiel für erhöhtes Risiko | Mögliche Kontrolle |
|---|---|---|---|
| Zweck | Wofür wird die KI eingesetzt? | Bewertung oder Auswahl von Personen | Use-Case-Begrenzung |
| Betroffene | Wer kann Auswirkungen erfahren? | Bewerber, Patienten, Kinder | Human Oversight |
| Daten | Welche Informationen werden verarbeitet? | Sensible personenbezogene Daten | Minimierung / Pseudonymisierung |
| Entscheidung | Welche Rolle spielt der KI-Output? | Automatische Ablehnung | Menschliche Freigabe |
| Fehler | Was passiert bei falscher Ausgabe? | Gesundheits- oder Sicherheitsfolge | Validierung / Fallback |
| Bias | Können Gruppen systematisch benachteiligt werden? | Ungleiche Bewerberbewertung | Tests / Monitoring |
| Security | Kann das System manipuliert werden? | Prompt Injection / Datenabfluss | Guardrails / Zugriffsschutz |
| Abhängigkeit | Was passiert bei Ausfall oder Modellwechsel? | Geschäftsprozess steht still | Fallback / Exit-Konzept |
AUDITORA
KI-gestützte Risikobewertung
KI-Risikobewertung digital durchführen
Mit Auditora, einem Produkt der AI Techno Center GmbH, kann die Bewertung von KI-Systemen strukturiert und KI-gestützt durchgeführt werden. Das Modul verbindet eine Risikobewertung mit der regulatorischen Einordnung nach der EU KI-Verordnung.
- geführte Erfassung des konkreten KI-Systems und Use Cases
- Risikobewertung nach ISO-31000-orientierter Methodik
- 5×5-Risikomatrix
- Einordnung nach EU AI Act
- dokumentierbares Bewertungsergebnis
- PDF-Bericht für interne Compliance- und Governance-Nachweise
Red Flags
KI entscheidet über Menschen
Sensible Daten
Keine menschliche Kontrolle
Unbekannte Fehlerquote
Grundrechtsrelevante Wirkung
Keine Exit- oder Fallback-Strategie
Wann sollte ein KI-Use-Case nicht einfach freigegeben werden?
Diese Situationen sind keine automatische Verbotsliste. Sie sind jedoch klare Signale dafür, dass eine vertiefte Prüfung oder zusätzliche Schutzmaßnahmen erforderlich sind.
Die KI bewertet, priorisiert oder empfiehlt Entscheidungen über Bewerber, Mitarbeiter, Kunden oder andere Personen.
Gesundheitsdaten, biometrische Daten oder andere besonders schutzbedürftige Informationen werden verarbeitet.
KI-Ergebnisse werden direkt umgesetzt, obwohl Fehlentscheidungen erhebliche Folgen haben könnten.
Das System wurde für den konkreten Anwendungsfall nicht getestet und seine Leistungsgrenzen sind unbekannt.
Der Use Case kann Diskriminierung, Privatsphäre, Zugang zu Leistungen oder andere Grundrechte beeinflussen.
Der Geschäftsprozess ist vollständig von einem Modell oder Provider abhängig, ohne kontrollierte Alternative.
Häufige Fragen
Was Unternehmen zur KI-Risikobewertung wissen möchten
Wie bewertet man das Risiko eines KI-Systems?
Bewertet werden sollten mindestens Zweck, betroffene Personen, Daten, Entscheidungswirkung, mögliche Schäden, Eintrittswahrscheinlichkeit, regulatorische Einordnung und vorhandene Kontrollmaßnahmen. Daraus wird das Restrisiko nach Berücksichtigung der Schutzmaßnahmen abgeleitet.
Welche Risiken muss ich bei einem KI-Use-Case prüfen?
Typische Risikofelder sind Fehlentscheidungen, Halluzinationen, Bias, Diskriminierung, Datenschutzverletzungen, Sicherheitsprobleme, Missbrauch, mangelnde Nachvollziehbarkeit, fehlende menschliche Kontrolle und technische Anbieterabhängigkeiten.
Wie erstelle ich eine KI-Risikomatrix?
Eine typische Risikomatrix kombiniert Eintrittswahrscheinlichkeit und Schadensausmaß. Beide Größen können beispielsweise auf einer Skala von 1 bis 5 bewertet werden. Nach Berücksichtigung der vorhandenen Kontrollen sollte zusätzlich das verbleibende Restrisiko bewertet werden.
Wann ist ein KI-System nach dem EU AI Act hochriskant?
Ob ein KI-System als Hochrisiko-System gilt, ergibt sich insbesondere aus Art. 6 des EU AI Act in Verbindung mit den dort genannten Produktkategorien und Anwendungsbereichen in Anhang III. Deshalb kann nicht allein aus der verwendeten Technologie oder dem Namen eines KI-Tools auf die Risikoklasse geschlossen werden.
Sind alle generativen KI-Systeme Hochrisiko-Systeme?
Nein. Generative KI ist nicht allein aufgrund ihrer technischen Funktionsweise automatisch ein Hochrisiko-KI-System. Entscheidend sind unter anderem Zweck, Funktion und Einsatzkontext. Für bestimmte generative Systeme können jedoch Transparenz- oder andere Pflichten gelten.
Wie bewertet man Halluzinationen bei KI?
Entscheidend ist nicht nur, ob Halluzinationen auftreten können, sondern welche Folgen eine falsche Ausgabe im konkreten Use Case hat. Bei einem internen Ideengenerator ist die Auswirkung anders als bei medizinischen, rechtlichen oder sicherheitskritischen Prozessen.
Wann braucht ein KI-System Human Oversight?
Menschliche Kontrolle ist besonders relevant, wenn falsche oder verzerrte KI-Ergebnisse erhebliche Auswirkungen auf Personen, Sicherheit oder Geschäftsprozesse haben können. Bei Hochrisiko-KI enthält der AI Act ausdrücklich Anforderungen an menschliche Aufsicht.
Wie dokumentiere ich eine KI-Risikobewertung?
Dokumentiert werden sollten mindestens KI-System, Anbieter, Zweck, Nutzergruppen, Daten, betroffene Personen, identifizierte Risiken, regulatorische Einordnung, Bewertung von Eintrittswahrscheinlichkeit und Schadensausmaß, Schutzmaßnahmen, Restrisiko, Verantwortliche und Freigabeentscheidung.
Wer sollte die KI-Risikobewertung durchführen?
Die Bewertung sollte interdisziplinär erfolgen. Abhängig vom Use Case können Fachbereich, IT, Informationssicherheit, Datenschutz, Compliance, KI-Governance und gegebenenfalls juristische Fachberatung beteiligt sein.
Wie oft sollte ein KI-System neu bewertet werden?
Neben einem regelmäßigen Review sollte eine erneute Bewertung insbesondere bei wesentlichen Änderungen erfolgen – etwa bei neuem Modell, verändertem Use Case, neuen Daten, anderen Nutzergruppen, neuen Integrationen, Sicherheitsvorfällen oder regulatorischen Änderungen.
Kann ich eine KI-Risikobewertung automatisieren?
Teile der strukturierten Erfassung, Klassifizierung und Dokumentation lassen sich digital unterstützen. Auditora bietet dafür eine KI-gestützte Risikobewertung mit 5×5-Risikomatrix, EU-AI-Act-Einordnung und dokumentierbarem Bericht.
Fachliche Grundlage
Regulatorische Quellen
EU AI Act:
Verordnung (EU) 2024/1689 über künstliche Intelligenz.
EUR-Lex – Verordnung (EU) 2024/1689
Europäische Kommission:
Übersicht zum risikobasierten Regulierungsmodell
des EU AI Act.
EU-Kommission – Europäischer Rechtsrahmen für KI
Transparenzpflichten:
Leitlinien der Europäischen Kommission zu
Art. 50 AI Act für Anbieter und Betreiber
bestimmter KI-Systeme.
EU-Kommission – Guidelines on transparency obligations
Informationsstand: 3. September 2026. Diese Seite dient der fachlichen Orientierung und stellt keine Rechtsberatung dar. Die regulatorische Klassifizierung und Risikobewertung eines KI-Systems hängt vom konkreten System, seiner Zweckbestimmung, dem Einsatzkontext und der regulatorischen Rolle des Unternehmens ab.
Weiterführende Themen