Öffentliches Recht

Menschliche Aufsicht über KI-Systeme bezeichnet organisatorische und technische Vorkehrungen, durch die eine fachkundige Person den Betrieb eines KI-Systems verstehen, überwachen und erforderlichenfalls beeinflussen kann. Bei Hochrisiko-KI-Systemen verlangt die KI-Verordnung eine wirksame, risikogerechte Aufsicht während der Nutzung. Sie soll Fehlentscheidungen, Automatisierungsvertrauen und Grundrechtsverletzungen begrenzen. Eine nur formale Anwesenheit eines Menschen genügt nicht; die Aufsichtsperson benötigt Kompetenz,…

Ein systemisches Risiko bei GPAI-Modellen ist ein unionsweit erhebliches Risiko, das von den besonderen Fähigkeiten eines Modells mit allgemeinem Verwendungszweck ausgeht und wegen seiner Reichweite oder tatsächlichen beziehungsweise vernünftigerweise vorhersehbaren negativen Auswirkungen den EU-Markt beeinflussen kann. Betroffen sein können unter anderem Gesundheit, Sicherheit, Grundrechte, demokratische Prozesse oder die Gesellschaft insgesamt. Die Einstufung löst zusätzliche Prüf-,…