KI-Recht

Ein Deepfake ist ein mit künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der authentisch wirkt und reale Personen oder Ereignisse täuschend nachbildet. Rechtlich können Persönlichkeitsrecht, Recht am eigenen Bild, Datenschutz, Urheberrecht, Strafrecht und Wahlrecht betroffen sein. Die KI-Verordnung sieht für bestimmte künstlich erzeugte oder manipulierte Inhalte Transparenzpflichten vor. Zulässigkeit hängt besonders von Einwilligung,…

Künstliche Intelligenz bezeichnet technische Systeme, die aus Eingaben ableiten, wie sie Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen. Rechtlich ist entscheidend, ob ein System unter die Begriffsbestimmungen der KI-Verordnung fällt. KI-Anwendungen berühren außerdem Datenschutz, Urheberrecht, Arbeitsrecht, Produkthaftung und Diskriminierungsschutz. Die rechtlichen Pflichten richten sich nach Zweck, Risiko, Rolle des Beteiligten und konkretem Einsatz. Nicht…

Ein KI-System ist nach der KI-Verordnung ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie arbeitet, anpassungsfähig sein kann und aus Eingaben ableitet, wie es Ergebnisse erzeugt. Solche Ergebnisse können Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen sein, die physische oder virtuelle Umgebungen beeinflussen. Die Einordnung entscheidet über Verbote, Transparenz- oder Hochrisikopflichten. Herkömmliche, rein deterministische Software fällt…

Ein Hochrisiko-KI-System ist ein KI-System, dessen Einsatz nach der KI-Verordnung erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte birgt und deshalb besonderen Anforderungen unterliegt. Erfasst werden bestimmte Sicherheitskomponenten sowie in Anhang III aufgeführte Einsatzbereiche, etwa Beschäftigung, Bildung, kritische Infrastruktur oder wesentliche Dienstleistungen. Anbieter müssen Risikomanagement, Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit gewährleisten. Betreiber treffen…

Betreiber eines KI-Systems ist nach der KI-Verordnung eine Person oder Organisation, die ein KI-System in eigener Verantwortung verwendet, ausgenommen eine rein persönliche, nicht berufliche Nutzung. Betreiber müssen das System bestimmungsgemäß einsetzen, menschliche Aufsicht sicherstellen, Eingabedaten kontrollieren und je nach System Protokolle aufbewahren oder Folgenabschätzungen durchführen. Pflichten unterscheiden sich nach Risikoklasse und Einsatz. Wer ein System…

Anbieter eines KI-Systems ist nach der KI-Verordnung, wer ein KI-System oder Modell entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Anbieter tragen zentrale Pflichten für Konformität, Risikomanagement, technische Dokumentation, Qualität und Marktbeobachtung. Umfang und Intensität hängen von Systemart und Risikoklasse ab. Auch Importeure, Händler…

Algorithmische Diskriminierung liegt vor, wenn automatisierte Systeme Personen wegen geschützter Merkmale unmittelbar oder mittelbar benachteiligen. Ursachen können verzerrte Trainingsdaten, ungeeignete Zielgrößen, fehlerhafte Modellannahmen oder diskriminierende Nutzung sein. Rechtlich greifen insbesondere Gleichbehandlungsrecht, Datenschutzrecht, Grundrechte und KI-Verordnung. Betroffene benötigen nachvollziehbare Entscheidungswege und wirksamen Rechtsschutz. Nicht jede statistische Ungleichheit ist rechtswidrig; entscheidend sind Schutzmerkmal, Nachteil, Rechtfertigung und Verantwortlichkeit….

Ein Modell mit allgemeinem Verwendungszweck ist nach der KI-Verordnung ein KI-Modell, das erhebliche Allgemeinheit aufweist, viele unterschiedliche Aufgaben kompetent erfüllen kann und in zahlreiche nachgelagerte Systeme integrierbar ist. Anbieter treffen Dokumentations-, Informations- und urheberrechtliche Pflichten. Modelle mit systemischem Risiko unterliegen zusätzlichen Anforderungen zu Bewertung, Risikominderung, Vorfallsmeldung und Cybersicherheit. Reine Forschungsmodelle können unter begrenzten Voraussetzungen ausgenommen…

Verbotene KI-Praktiken sind Anwendungen, die die KI-Verordnung wegen inakzeptabler Risiken grundsätzlich untersagt. Dazu gehören bestimmte manipulative oder ausnutzende Systeme, unzulässiges Social Scoring, einzelne Formen biometrischer Kategorisierung, Emotionserkennung in Arbeitsplatz und Schule sowie bestimmte biometrische Fernidentifizierung. Die Verbote enthalten genaue Voraussetzungen und Ausnahmen. Anbieter und Betreiber müssen Zweck, Funktionsweise und Einsatzkontext sorgfältig prüfen; Verstöße können hohe…