Grundrechte-Folgenabschätzung nach der KI-Verordnung
Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten und der zuständigen Marktüberwachungsbehörde grundsätzlich gemeldet werden.
Pflichtige Betreiber
Die Pflicht trifft nicht jeden Nutzer eines Hochrisiko-KI-Systems. Art. 27 nennt bestimmte öffentliche und private Betreiber sowie einzelne Systeme aus Anhang III. Maßgeblich sind Rolle, Zweck und Einsatzkontext.
Inhalt der Prüfung
Zu dokumentieren sind Prozesse und Einsatzhäufigkeit, Dauer, betroffene Personen, spezifische Grundrechtsrisiken, menschliche Aufsicht, Beschwerdewege sowie Maßnahmen zur Risikoverwirklichung. Informationen des Anbieters bilden eine Grundlage, ersetzen die kontextspezifische Betreiberprüfung aber nicht.
Verhältnis zur DSGVO
Die Grundrechte-Folgenabschätzung ist von der Datenschutz-Folgenabschätzung nach Art. 35 DSGVO zu unterscheiden. Beide können sich überschneiden und koordiniert durchgeführt werden, behalten aber eigenständige Voraussetzungen und Schutzgüter.
Beispiel
Eine Behörde setzt KI zur Priorisierung von Sozialleistungsprüfungen ein. Vor dem Einsatz untersucht sie Risiken fehlerhafter Benachteiligung, Datenqualität, Erklärbarkeit, menschliche Kontrolle und wirksame Rechtsbehelfe.
Häufige Fragen
Ist die Abschätzung öffentlich?
Die Verordnung verlangt Dokumentation und Behördeninformation; Veröffentlichung folgt nicht stets automatisch.
Wann ist sie zu aktualisieren?
Wenn sich wesentliche Tatsachen oder Risiken während des Einsatzes ändern.
Ersetzt sie die Konformitätsbewertung?
Nein. Anbieter- und Betreiberpflichten sind getrennt.
Quellen
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.