Betreiber eines KI-Systems

Betreiber eines KI-Systems ist nach der KI-Verordnung eine Person oder Organisation, die ein KI-System in eigener Verantwortung verwendet, ausgenommen eine rein persönliche, nicht berufliche Nutzung. Betreiber müssen das System bestimmungsgemäß einsetzen, menschliche Aufsicht sicherstellen, Eingabedaten kontrollieren und je nach System Protokolle aufbewahren oder Folgenabschätzungen durchführen. Pflichten unterscheiden sich nach Risikoklasse und Einsatz. Wer ein System wesentlich verändert, kann rechtlich selbst zum Anbieter werden. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten.

Rechtliche Bedeutung

Die Betreiberrolle betrifft den verantwortlichen Einsatz, nicht die technische Entwicklung allein.

Voraussetzungen und Folgen

Die genaue rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften, der Beteiligtenrolle und den Umständen des Einzelfalls.

Beispiel

Ein Arbeitgeber nutzt ein Hochrisiko-KI-System zur Bewerberauswahl.

Häufige Fragen

Was ist der rechtliche Kern?

Die Betreiberrolle betrifft den verantwortlichen Einsatz, nicht die technische Entwicklung allein.

Was sollte praktisch geprüft werden?

Fristen, Form, Nachweise, Zuständigkeit und mögliche Rechtsbehelfe sind frühzeitig zu klären.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • |

    Konformitätsbewertung für KI-Systeme

    Die Konformitätsbewertung für KI-Systeme ist das Verfahren, mit dem vor dem Inverkehrbringen oder der Inbetriebnahme eines Hochrisiko-KI-Systems geprüft wird, ob die Anforderungen der EU-KI-Verordnung erfüllt sind. Verantwortlich ist grundsätzlich der Anbieter. Je nach System und einschlägigem Harmonisierungsrecht erfolgt die Bewertung durch interne Kontrolle oder unter Beteiligung einer notifizierten Stelle. Geprüft werden insbesondere Risikomanagement, Datenqualität, technische…

  • Hochrisiko-KI-System

    Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen…

  • Algorithmische Diskriminierung

    Algorithmische Diskriminierung liegt vor, wenn automatisierte Systeme Personen wegen geschützter Merkmale unmittelbar oder mittelbar benachteiligen. Ursachen können verzerrte Trainingsdaten, ungeeignete Zielgrößen, fehlerhafte Modellannahmen oder diskriminierende Nutzung sein. Rechtlich greifen insbesondere Gleichbehandlungsrecht, Datenschutzrecht, Grundrechte und KI-Verordnung. Betroffene benötigen nachvollziehbare Entscheidungswege und wirksamen Rechtsschutz. Nicht jede statistische Ungleichheit ist rechtswidrig; entscheidend sind Schutzmerkmal, Nachteil, Rechtfertigung und Verantwortlichkeit….

  • Deepfake

    Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…

  • Transparenzpflicht für KI-Systeme

    Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen…

  • KI-System

    Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…