KI-Kompetenz

VonRechtsanwalt Thomas Hummel

KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung umfassen. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

KI-Kompetenz ist eine organisationsbezogene Pflicht und kein einheitlicher staatlicher Abschluss.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Unternehmen schult Beschäftigte vor Einsatz eines KI-Systems zu Risiken und menschlicher Kontrolle.

Häufige Fragen

Was ist der Kern des Begriffs?

KI-Kompetenz ist eine organisationsbezogene Pflicht und kein einheitlicher staatlicher Abschluss.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • Transparenzpflicht für KI-Systeme

    VonRechtsanwalt Thomas Hummel

    Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen…

  • |

    Menschliche Aufsicht über KI-Systeme

    VonRechtsanwalt Thomas Hummel

    Menschliche Aufsicht über KI-Systeme bezeichnet organisatorische und technische Vorkehrungen, durch die eine fachkundige Person den Betrieb eines KI-Systems verstehen, überwachen und erforderlichenfalls beeinflussen kann. Bei Hochrisiko-KI-Systemen verlangt die KI-Verordnung eine wirksame, risikogerechte Aufsicht während der Nutzung. Sie soll Fehlentscheidungen, Automatisierungsvertrauen und Grundrechtsverletzungen begrenzen. Eine nur formale Anwesenheit eines Menschen genügt nicht; die Aufsichtsperson benötigt Kompetenz,…

  • Hochrisiko-KI-System

    VonRechtsanwalt Thomas Hummel

    Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen…

  • KI-System

    VonRechtsanwalt Thomas Hummel

    Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…

  • Betreiber eines KI-Systems

    VonRechtsanwalt Thomas Hummel

    Betreiber eines KI-Systems ist nach der KI-Verordnung eine Person oder Organisation, die ein KI-System in eigener Verantwortung verwendet, ausgenommen eine rein persönliche, nicht berufliche Nutzung. Betreiber müssen das System bestimmungsgemäß einsetzen, menschliche Aufsicht sicherstellen, Eingabedaten kontrollieren und je nach System Protokolle aufbewahren oder Folgenabschätzungen durchführen. Pflichten unterscheiden sich nach Risikoklasse und Einsatz. Wer ein System…

  • | |

    EU-KI-Verordnung (AI Act)

    VonRechtsanwalt Thomas Hummel

    Die EU-KI-Verordnung, Verordnung (EU) 2024/1689, ist ein unmittelbar geltendes europäisches Regelwerk für künstliche Intelligenz. Sie verfolgt einen risikobasierten Ansatz, verbietet bestimmte besonders grundrechtsgefährdende Praktiken und legt Anforderungen für Hochrisiko-KI-Systeme, Transparenzpflichten für bestimmte KI-Anwendungen sowie Sonderregeln für Modelle mit allgemeinem Verwendungszweck fest. Die Verordnung gilt auch für bestimmte Anbieter außerhalb der Europäischen Union. Ihre Vorschriften werden…