Betreiber eines KI-Systems

Betreiber eines KI-Systems ist nach der KI-Verordnung eine Person oder Organisation, die ein KI-System in eigener Verantwortung verwendet, ausgenommen eine rein persönliche, nicht berufliche Nutzung. Betreiber müssen das System bestimmungsgemäß einsetzen, menschliche Aufsicht sicherstellen, Eingabedaten kontrollieren und je nach System Protokolle aufbewahren oder Folgenabschätzungen durchführen. Pflichten unterscheiden sich nach Risikoklasse und Einsatz. Wer ein System wesentlich verändert, kann rechtlich selbst zum Anbieter werden. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten.

Rechtliche Bedeutung

Die Betreiberrolle betrifft den verantwortlichen Einsatz, nicht die technische Entwicklung allein.

Voraussetzungen und Folgen

Die genaue rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften, der Beteiligtenrolle und den Umständen des Einzelfalls.

Beispiel

Ein Arbeitgeber nutzt ein Hochrisiko-KI-System zur Bewerberauswahl.

Häufige Fragen

Was ist der rechtliche Kern?

Die Betreiberrolle betrifft den verantwortlichen Einsatz, nicht die technische Entwicklung allein.

Was sollte praktisch geprüft werden?

Fristen, Form, Nachweise, Zuständigkeit und mögliche Rechtsbehelfe sind frühzeitig zu klären.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • |

    Registrierung von Hochrisiko-KI-Systemen

    Die Registrierung von Hochrisiko-KI-Systemen ist die Eintragung gesetzlich bestimmter Angaben in die unionsweite Datenbank nach der KI-Verordnung. Anbieter oder Bevollmächtigte müssen erfasste Systeme grundsätzlich vor dem Inverkehrbringen oder der Inbetriebnahme registrieren; für bestimmte Betreiber gelten eigene Eintragungspflichten. Die Registrierung erleichtert Marktüberwachung und öffentliche Kontrolle, ersetzt aber weder die Konformitätsbewertung noch die Verantwortung für einen rechtmäßigen…

  • KI-Kompetenz

    KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung…

  • Verbotene KI-Praktiken

    Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe…

  • KI-System

    Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…

  • | |

    Grundrechte-Folgenabschätzung nach der KI-Verordnung

    Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten…

  • | |

    EU-KI-Verordnung (AI Act)

    Die EU-KI-Verordnung, Verordnung (EU) 2024/1689, ist ein unmittelbar geltendes europäisches Regelwerk für künstliche Intelligenz. Sie verfolgt einen risikobasierten Ansatz, verbietet bestimmte besonders grundrechtsgefährdende Praktiken und legt Anforderungen für Hochrisiko-KI-Systeme, Transparenzpflichten für bestimmte KI-Anwendungen sowie Sonderregeln für Modelle mit allgemeinem Verwendungszweck fest. Die Verordnung gilt auch für bestimmte Anbieter außerhalb der Europäischen Union. Ihre Vorschriften werden…