Hochrisiko-KI-System
Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen ergänzende Nutzungspflichten. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten.
Rechtliche Bedeutung
Die Hochrisikoeinstufung knüpft an Zweckbestimmung und konkreten Einsatzbereich an.
Voraussetzungen und Folgen
Die genaue rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften, der Beteiligtenrolle und den Umständen des Einzelfalls.
Beispiel
Ein System bewertet Bewerber und beeinflusst wesentlich die Personalauswahl.
Häufige Fragen
Was ist der rechtliche Kern?
Die Hochrisikoeinstufung knüpft an Zweckbestimmung und konkreten Einsatzbereich an.
Was sollte praktisch geprüft werden?
Fristen, Form, Nachweise, Zuständigkeit und mögliche Rechtsbehelfe sind frühzeitig zu klären.
Verwandte Begriffe
Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.