Algorithmische Diskriminierung
Algorithmische Diskriminierung liegt vor, wenn automatisierte Systeme Personen wegen geschützter Merkmale unmittelbar oder mittelbar benachteiligen. Ursachen können verzerrte Trainingsdaten, ungeeignete Zielgrößen, fehlerhafte Modellannahmen oder diskriminierende Nutzung sein. Rechtlich greifen insbesondere Gleichbehandlungsrecht, Datenschutzrecht, Grundrechte und KI-Verordnung. Betroffene benötigen nachvollziehbare Entscheidungswege und wirksamen Rechtsschutz. Nicht jede statistische Ungleichheit ist rechtswidrig; entscheidend sind Schutzmerkmal, Nachteil, Rechtfertigung und Verantwortlichkeit. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten. Risikoklasse, Beteiligtenrolle und Verwendungszweck bestimmen die jeweiligen gesetzlichen Pflichten.
Rechtliche Bedeutung
Der Begriff verbindet technische Verzerrungen mit rechtlichen Diskriminierungsverboten.
Voraussetzungen und Folgen
Die genaue rechtliche Beurteilung richtet sich nach den einschlägigen Vorschriften, der Beteiligtenrolle und den Umständen des Einzelfalls.
Beispiel
Ein Auswahlalgorithmus benachteiligt systematisch Bewerber eines geschützten Personenkreises.
Häufige Fragen
Was ist der rechtliche Kern?
Der Begriff verbindet technische Verzerrungen mit rechtlichen Diskriminierungsverboten.
Was sollte praktisch geprüft werden?
Fristen, Form, Nachweise, Zuständigkeit und mögliche Rechtsbehelfe sind frühzeitig zu klären.
Verwandte Begriffe
Siehe die thematisch verwandten Beiträge dieses Wörterbuchs.
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.