Verbotene KI-Praktiken

Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe Bußgelder auslösen. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

Die Verbote markieren die äußerste Risikogrenze des europäischen KI-Rechts.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Arbeitgeber setzt ohne zulässige Ausnahme KI zur Emotionserkennung am Arbeitsplatz ein.

Häufige Fragen

Was ist der Kern des Begriffs?

Die Verbote markieren die äußerste Risikogrenze des europäischen KI-Rechts.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • |

    KI-Modell mit allgemeinem Verwendungszweck (GPAI)

    Ein KI-Modell mit allgemeinem Verwendungszweck, kurz GPAI-Modell, ist nach der EU-KI-Verordnung ein KI-Modell mit erheblicher Allgemeinheit, das unabhängig von seiner Vermarktungsweise ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und in zahlreiche nachgelagerte Systeme oder Anwendungen integriert werden kann. Ausgenommen sind vor Markteinführung ausschließlich zu Forschung, Entwicklung oder Prototyping verwendete Modelle. Anbieter treffen besondere Dokumentations-, Informations-,…

  • Modell mit allgemeinem Verwendungszweck

    Ein Modell mit allgemeinem Verwendungszweck ist nach der KI-Verordnung ein KI-Modell, das erhebliche Allgemeinheit aufweist, viele unterschiedliche Aufgaben kompetent erfüllen kann und in zahlreiche nachgelagerte Systeme integrierbar ist. Anbieter treffen Dokumentations-, Informations- und urheberrechtliche Pflichten. Modelle mit systemischem Risiko unterliegen zusätzlichen Anforderungen zu Bewertung, Risikominderung, Vorfallsmeldung und Cybersicherheit. Reine Forschungsmodelle können unter begrenzten Voraussetzungen ausgenommen…

  • |

    Menschliche Aufsicht über KI-Systeme

    Menschliche Aufsicht über KI-Systeme bezeichnet organisatorische und technische Vorkehrungen, durch die eine fachkundige Person den Betrieb eines KI-Systems verstehen, überwachen und erforderlichenfalls beeinflussen kann. Bei Hochrisiko-KI-Systemen verlangt die KI-Verordnung eine wirksame, risikogerechte Aufsicht während der Nutzung. Sie soll Fehlentscheidungen, Automatisierungsvertrauen und Grundrechtsverletzungen begrenzen. Eine nur formale Anwesenheit eines Menschen genügt nicht; die Aufsichtsperson benötigt Kompetenz,…

  • | |

    Grundrechte-Folgenabschätzung nach der KI-Verordnung

    Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten…

  • KI-Kompetenz

    KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung…

  • Deepfake

    Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…