Hochrisiko-KI-System

VonRechtsanwalt Thomas Hummel

Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen ergänzende Nutzungspflichten. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten.

Rechtliche Bedeutung

Die Hochrisikoeinstufung knüpft an Zweckbestimmung und konkreten Einsatzbereich an.

Voraussetzungen und Folgen

Die genaue rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften, der Beteiligtenrolle und den Umständen des Einzelfalls.

Beispiel

Ein System bewertet Bewerber und beeinflusst wesentlich die Personalauswahl.

Häufige Fragen

Was ist der rechtliche Kern?

Die Hochrisikoeinstufung knüpft an Zweckbestimmung und konkreten Einsatzbereich an.

Was sollte praktisch geprüft werden?

Fristen, Form, Nachweise, Zuständigkeit und mögliche Rechtsbehelfe sind frühzeitig zu klären.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • Algorithmische Diskriminierung

    VonRechtsanwalt Thomas Hummel

    Algorithmische Diskriminierung liegt vor, wenn automatisierte Systeme Personen wegen geschützter Merkmale unmittelbar oder mittelbar benachteiligen. Ursachen können verzerrte Trainingsdaten, ungeeignete Zielgrößen, fehlerhafte Modellannahmen oder diskriminierende Nutzung sein. Rechtlich greifen insbesondere Gleichbehandlungsrecht, Datenschutzrecht, Grundrechte und KI-Verordnung. Betroffene benötigen nachvollziehbare Entscheidungswege und wirksamen Rechtsschutz. Nicht jede statistische Ungleichheit ist rechtswidrig; entscheidend sind Schutzmerkmal, Nachteil, Rechtfertigung und Verantwortlichkeit….

  • | | |

    Kennzeichnung von Deepfakes

    VonRechtsanwalt Thomas Hummel

    Die Kennzeichnung von Deepfakes ist eine Transparenzpflicht nach Art. 50 der EU-KI-Verordnung. Wer ein KI-System betreibt, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich echt erscheinen, muss offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden. Die Information muss klar und spätestens bei der ersten…

  • Transparenzpflicht für KI-Systeme

    VonRechtsanwalt Thomas Hummel

    Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen…

  • |

    Menschliche Aufsicht über KI-Systeme

    VonRechtsanwalt Thomas Hummel

    Menschliche Aufsicht über KI-Systeme bezeichnet organisatorische und technische Vorkehrungen, durch die eine fachkundige Person den Betrieb eines KI-Systems verstehen, überwachen und erforderlichenfalls beeinflussen kann. Bei Hochrisiko-KI-Systemen verlangt die KI-Verordnung eine wirksame, risikogerechte Aufsicht während der Nutzung. Sie soll Fehlentscheidungen, Automatisierungsvertrauen und Grundrechtsverletzungen begrenzen. Eine nur formale Anwesenheit eines Menschen genügt nicht; die Aufsichtsperson benötigt Kompetenz,…

  • Deepfake

    VonRechtsanwalt Thomas Hummel

    Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…

  • | |

    Grundrechte-Folgenabschätzung nach der KI-Verordnung

    VonRechtsanwalt Thomas Hummel

    Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten…

Ein Kommentar

  1. Pingback: Grundrechte-Folgenabschätzung nach der KI-Verordnung – Das juristische Wörterbuch

Die Kommentare sind geschlossen.