Verbotene KI-Praktiken

Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe Bußgelder auslösen. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

Die Verbote markieren die äußerste Risikogrenze des europäischen KI-Rechts.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Arbeitgeber setzt ohne zulässige Ausnahme KI zur Emotionserkennung am Arbeitsplatz ein.

Häufige Fragen

Was ist der Kern des Begriffs?

Die Verbote markieren die äußerste Risikogrenze des europäischen KI-Rechts.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • Hochrisiko-KI-System

    Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen…

  • Transparenzpflicht für KI-Systeme

    Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen…

  • Künstliche Intelligenz

    Künstliche Intelligenz bezeichnet technische Systeme, die aus Eingaben ableiten, wie sie Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen. Rechtlich ist entscheidend, ob ein System unter die Begriffsbestimmungen der KI-Verordnung fällt. KI-Anwendungen berühren außerdem Datenschutz, Urheberrecht, Arbeitsrecht, Produkthaftung und Diskriminierungsschutz. Die rechtlichen Pflichten richten sich nach Zweck, Risiko, Rolle des Beteiligten und konkretem Einsatz. Nicht…

  • KI-Kompetenz

    KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung…

  • |

    Registrierung von Hochrisiko-KI-Systemen

    Die Registrierung von Hochrisiko-KI-Systemen ist die Eintragung gesetzlich bestimmter Angaben in die unionsweite Datenbank nach der KI-Verordnung. Anbieter oder Bevollmächtigte müssen erfasste Systeme grundsätzlich vor dem Inverkehrbringen oder der Inbetriebnahme registrieren; für bestimmte Betreiber gelten eigene Eintragungspflichten. Die Registrierung erleichtert Marktüberwachung und öffentliche Kontrolle, ersetzt aber weder die Konformitätsbewertung noch die Verantwortung für einen rechtmäßigen…

  • | |

    Grundrechte-Folgenabschätzung nach der KI-Verordnung

    Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten…