Konformitätsbewertung für KI-Systeme
Die Konformitätsbewertung für KI-Systeme ist das Verfahren, mit dem vor dem Inverkehrbringen oder der Inbetriebnahme eines Hochrisiko-KI-Systems geprüft wird, ob die Anforderungen der EU-KI-Verordnung erfüllt sind. Verantwortlich ist grundsätzlich der Anbieter. Je nach System und einschlägigem Harmonisierungsrecht erfolgt die Bewertung durch interne Kontrolle oder unter Beteiligung einer notifizierten Stelle. Geprüft werden insbesondere Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit.
Zeitpunkt und Verantwortlicher
Die Bewertung muss grundsätzlich abgeschlossen sein, bevor ein Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Wesentliche Änderungen können eine erneute Bewertung auslösen. Die Verantwortung verbleibt beim Anbieter, auch wenn eine notifizierte Stelle mitwirkt.
Interne Kontrolle oder Drittprüfung
Art. 43 der EU-KI-Verordnung ordnet unterschiedliche Verfahren an. Bei bestimmten eigenständigen Hochrisiko-Systemen ist interne Kontrolle möglich, wenn harmonisierte Standards oder gemeinsame Spezifikationen vollständig angewendet werden; andernfalls oder bei besonderen Kategorien kann eine notifizierte Stelle erforderlich sein.
Ergebnis
Bei erfolgreicher Bewertung erstellt der Anbieter die EU-Konformitätserklärung und bringt die CE-Kennzeichnung an. Konformität ist kein dauerhafter Freibrief: Qualitätsmanagement, Beobachtung nach dem Inverkehrbringen, Vorfallsmeldung und Korrekturpflichten bestehen fort.
Beispiel
Ein Anbieter entwickelt ein biometrisches Hochrisiko-System. Vor dem Vertrieb dokumentiert er Trainingsdaten, Fehlerraten, Aufsichtsfunktionen und Sicherheitsmaßnahmen und durchläuft das einschlägige Bewertungsverfahren.
Häufige Fragen
Ist jedes KI-System bewertungspflichtig?
Nein. Die spezielle Konformitätsbewertung betrifft insbesondere Hochrisiko-KI.
Ersetzt CE die Datenschutzprüfung?
Nein. Die DSGVO gilt unabhängig weiter.
Wann ist neu zu bewerten?
Insbesondere bei einer wesentlichen Änderung, die Konformität oder Zweckbestimmung beeinflusst.
Verwandte Begriffe
Das Verfahren ist Teil der Pflichten aus der EU-KI-Verordnung und setzt die rechtliche Einordnung des jeweiligen KI-Systems voraus.
Quellen
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.