KI-Kompetenz

KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung umfassen. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

KI-Kompetenz ist eine organisationsbezogene Pflicht und kein einheitlicher staatlicher Abschluss.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Unternehmen schult Beschäftigte vor Einsatz eines KI-Systems zu Risiken und menschlicher Kontrolle.

Häufige Fragen

Was ist der Kern des Begriffs?

KI-Kompetenz ist eine organisationsbezogene Pflicht und kein einheitlicher staatlicher Abschluss.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • | |

    EU-KI-Verordnung (AI Act)

    Die EU-KI-Verordnung, Verordnung (EU) 2024/1689, ist ein unmittelbar geltendes europäisches Regelwerk für künstliche Intelligenz. Sie verfolgt einen risikobasierten Ansatz, verbietet bestimmte besonders grundrechtsgefährdende Praktiken und legt Anforderungen für Hochrisiko-KI-Systeme, Transparenzpflichten für bestimmte KI-Anwendungen sowie Sonderregeln für Modelle mit allgemeinem Verwendungszweck fest. Die Verordnung gilt auch für bestimmte Anbieter außerhalb der Europäischen Union. Ihre Vorschriften werden…

  • |

    Menschliche Aufsicht über KI-Systeme

    Menschliche Aufsicht über KI-Systeme bezeichnet organisatorische und technische Vorkehrungen, durch die eine fachkundige Person den Betrieb eines KI-Systems verstehen, überwachen und erforderlichenfalls beeinflussen kann. Bei Hochrisiko-KI-Systemen verlangt die KI-Verordnung eine wirksame, risikogerechte Aufsicht während der Nutzung. Sie soll Fehlentscheidungen, Automatisierungsvertrauen und Grundrechtsverletzungen begrenzen. Eine nur formale Anwesenheit eines Menschen genügt nicht; die Aufsichtsperson benötigt Kompetenz,…

  • Verbotene KI-Praktiken

    Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe…

  • | | |

    Kennzeichnung von Deepfakes

    Die Kennzeichnung von Deepfakes ist eine Transparenzpflicht nach Art. 50 der EU-KI-Verordnung. Wer ein KI-System betreibt, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlich echt erscheinen, muss offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden. Die Information muss klar und spätestens bei der ersten…

  • |

    Registrierung von Hochrisiko-KI-Systemen

    Die Registrierung von Hochrisiko-KI-Systemen ist die Eintragung gesetzlich bestimmter Angaben in die unionsweite Datenbank nach der KI-Verordnung. Anbieter oder Bevollmächtigte müssen erfasste Systeme grundsätzlich vor dem Inverkehrbringen oder der Inbetriebnahme registrieren; für bestimmte Betreiber gelten eigene Eintragungspflichten. Die Registrierung erleichtert Marktüberwachung und öffentliche Kontrolle, ersetzt aber weder die Konformitätsbewertung noch die Verantwortung für einen rechtmäßigen…

  • Deepfake

    Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…