Transparenzpflicht für KI-Systeme

Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen klar, rechtzeitig und zugänglich sein. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

Transparenzpflichten richten sich je nach Fall an Anbieter oder Betreiber des Systems.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Chatbot weist den Nutzer darauf hin, dass er mit einem KI-System kommuniziert.

Häufige Fragen

Was ist der Kern des Begriffs?

Transparenzpflichten richten sich je nach Fall an Anbieter oder Betreiber des Systems.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • | | |

    Kennzeichnung KI-generierter Inhalte

    Die Kennzeichnung KI-generierter Inhalte umfasst Pflichten, synthetische oder manipulierte Texte, Bilder, Audio- und Videoaufnahmen als maschinell erzeugt oder verändert erkennbar zu machen. Die KI-Verordnung unterscheidet technische Kennzeichnungspflichten der Anbieter von Offenlegungspflichten bestimmter Betreiber. Ziel ist, Herkunft und Authentizität digitaler Inhalte überprüfbar zu halten. Umfang und Form hängen von Inhalt, Einsatzkontext und Verantwortungsrolle ab; nicht jede…

  • Betreiber eines KI-Systems

    Betreiber eines KI-Systems ist nach der KI-Verordnung eine Person oder Organisation, die ein KI-System in eigener Verantwortung verwendet, ausgenommen eine rein persönliche, nicht berufliche Nutzung. Betreiber müssen das System bestimmungsgemäß einsetzen, menschliche Aufsicht sicherstellen, Eingabedaten kontrollieren und je nach System Protokolle aufbewahren oder Folgenabschätzungen durchführen. Pflichten unterscheiden sich nach Risikoklasse und Einsatz. Wer ein System…

  • KI-System

    Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…

  • KI-Kompetenz

    KI-Kompetenz bezeichnet nach der KI-Verordnung Fähigkeiten, Kenntnisse und Verständnis, die einen sachkundigen und verantwortungsvollen Umgang mit KI-Systemen ermöglichen. Anbieter und Betreiber sollen Maßnahmen treffen, damit ihr Personal und andere beauftragte Personen über ausreichende Kompetenz verfügen. Zu berücksichtigen sind technische Kenntnisse, Erfahrung, Ausbildung, Einsatzkontext und betroffene Personengruppen. Geeignete Maßnahmen können Schulungen, Leitlinien, Aufsichtskonzepte und fortlaufende Aktualisierung…

  • |

    KI-Modell mit allgemeinem Verwendungszweck (GPAI)

    Ein KI-Modell mit allgemeinem Verwendungszweck, kurz GPAI-Modell, ist nach der EU-KI-Verordnung ein KI-Modell mit erheblicher Allgemeinheit, das unabhängig von seiner Vermarktungsweise ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und in zahlreiche nachgelagerte Systeme oder Anwendungen integriert werden kann. Ausgenommen sind vor Markteinführung ausschließlich zu Forschung, Entwicklung oder Prototyping verwendete Modelle. Anbieter treffen besondere Dokumentations-, Informations-,…

  • | |

    Grundrechte-Folgenabschätzung nach der KI-Verordnung

    Die Grundrechte-Folgenabschätzung nach Art. 27 der EU-KI-Verordnung ist eine vor dem ersten Einsatz bestimmter Hochrisiko-KI-Systeme durchzuführende Prüfung ihrer Auswirkungen auf Grundrechte. Verpflichtet sind insbesondere Einrichtungen des öffentlichen Rechts, private Anbieter öffentlicher Dienste sowie bestimmte Betreiber von Kreditwürdigkeits- und Versicherungsrisikosystemen. Die Abschätzung beschreibt Einsatzabläufe, betroffene Personengruppen, konkrete Schadensrisiken, menschliche Aufsicht und Abhilfemaßnahmen. Sie muss aktuell gehalten…