Transparenzpflicht für KI-Systeme

Transparenzpflichten für KI-Systeme sollen sicherstellen, dass Menschen erkennen können, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte erhalten. Die KI-Verordnung verlangt je nach Anwendung Hinweise bei Chatbots, Kennzeichnung maschinenlesbarer synthetischer Inhalte und Offenlegung bestimmter Deepfakes oder Texte von öffentlichem Interesse. Ausnahmen und besondere Regeln gelten für Kunst, Satire, Strafverfolgung und redaktionelle Verantwortung. Informationen müssen klar, rechtzeitig und zugänglich sein. Beteiligtenrolle, Risikoklasse und Einsatzkontext bestimmen die konkreten Pflichten.

Rechtliche Bedeutung

Transparenzpflichten richten sich je nach Fall an Anbieter oder Betreiber des Systems.

Voraussetzungen und Folgen

Die rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften und den konkreten Umständen.

Beispiel

Ein Chatbot weist den Nutzer darauf hin, dass er mit einem KI-System kommuniziert.

Häufige Fragen

Was ist der Kern des Begriffs?

Transparenzpflichten richten sich je nach Fall an Anbieter oder Betreiber des Systems.

Was ist besonders zu beachten?

Voraussetzungen, Fristen, Nachweise und mögliche Rechtsfolgen sollten systematisch geprüft werden.

Verwandte Begriffe

Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.

Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.

Ähnliche Beiträge

  • Anbieter eines KI-Systems

    Anbieter eines KI-Systems ist nach der KI-Verordnung, wer ein KI-System oder Modell entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Anbieter tragen zentrale Pflichten für Konformität, Risikomanagement, technische Dokumentation, Qualität und Marktbeobachtung. Umfang und Intensität hängen von Systemart und Risikoklasse ab. Auch Importeure, Händler…

  • |

    KI-Modell mit allgemeinem Verwendungszweck (GPAI)

    Ein KI-Modell mit allgemeinem Verwendungszweck, kurz GPAI-Modell, ist nach der EU-KI-Verordnung ein KI-Modell mit erheblicher Allgemeinheit, das unabhängig von seiner Vermarktungsweise ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen und in zahlreiche nachgelagerte Systeme oder Anwendungen integriert werden kann. Ausgenommen sind vor Markteinführung ausschließlich zu Forschung, Entwicklung oder Prototyping verwendete Modelle. Anbieter treffen besondere Dokumentations-, Informations-,…

  • Deepfake

    Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…

  • KI-System

    Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…

  • Verbotene KI-Praktiken

    Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe…

  • Modell mit allgemeinem Verwendungszweck

    Ein Modell mit allgemeinem Verwendungszweck ist nach der KI-Verordnung ein KI-Modell, das erhebliche Allgemeinheit aufweist, viele unterschiedliche Aufgaben kompetent erfüllen kann und in zahlreiche nachgelagerte Systeme integrierbar ist. Anbieter treffen Dokumentations-, Informations- und urheberrechtliche Pflichten. Modelle mit systemischem Risiko unterliegen zusätzlichen Anforderungen zu Bewertung, Risikominderung, Vorfallsmeldung und Cybersicherheit. Reine Forschungsmodelle können unter begrenzten Voraussetzungen ausgenommen…