Systemisches Risiko bei GPAI-Modellen
Ein systemisches Risiko bei GPAI-Modellen ist ein unionsweit erhebliches Risiko, das von den besonderen Fähigkeiten eines Modells mit allgemeinem Verwendungszweck ausgeht und wegen seiner Reichweite oder tatsächlichen beziehungsweise vernünftigerweise vorhersehbaren negativen Auswirkungen den EU-Markt beeinflussen kann. Betroffen sein können unter anderem Gesundheit, Sicherheit, Grundrechte, demokratische Prozesse oder die Gesellschaft insgesamt. Die Einstufung löst zusätzliche Prüf-, Minderungs-, Melde- und Cybersicherheitspflichten für den Anbieter aus.
Einstufung als Modell mit systemischem Risiko
Die KI-Verordnung erfasst Modelle mit allgemeinen Verwendungszweck, deren Fähigkeiten besonders wirksam sind oder die von der Kommission entsprechend eingestuft werden. Bei einem kumulierten Trainingsrechenaufwand von mehr als 1025 Gleitkommaoperationen wird eine hohe Wirksamkeit vermutet.
Pflichten des Anbieters
Bewertung und Risikominderung
Der Anbieter muss standardisierte Modellevaluierungen und gegnerische Tests durchführen, systemische Risiken ermitteln und angemessene Minderungsmaßnahmen dokumentieren. Maßstab sind Art und Schwere der vorhersehbaren Gefahren.
Vorfälle und Cybersicherheit
Schwerwiegende Vorfälle sind zu verfolgen, zu dokumentieren und den zuständigen Stellen zu melden. Außerdem ist ein angemessener Schutz des Modells und seiner physischen Infrastruktur gegen Cyberangriffe erforderlich.
Beispiel
Ein leistungsfähiges Basismodell kann massenhaft überzeugende Falschinformationen erzeugen und zugleich automatisierte Cyberangriffe erleichtern. Sein Anbieter muss diese Risiken testen, bewerten und durch technische sowie organisatorische Maßnahmen begrenzen.
Häufige Fragen
Ist jedes große Sprachmodell systemisch riskant?
Nein. Erforderlich ist eine Einstufung nach den Kriterien der KI-Verordnung; die Rechenschwelle begründet lediglich eine gesetzliche Vermutung.
Kann die Kommission ein Modell einstufen?
Ja. Sie kann ein Modell aufgrund seiner Fähigkeiten und Auswirkungen als systemisch riskant benennen.
Ersetzen Verhaltenskodizes die gesetzlichen Pflichten?
Nein. Sie können die praktische Erfüllung konkretisieren, beseitigen aber die gesetzlichen Pflichten nicht.
Verwandte Begriffe
GPAI-Modelle können Bestandteile eines KI-Systems sein; ihre Einstufung ist von der Einordnung eines konkreten Hochrisiko-KI-Systems zu unterscheiden.
Rechtsquelle
Maßgeblich sind Art. 51 bis 56 der Verordnung (EU) 2024/1689.
Dieser Beitrag dient der allgemeinen Information und ersetzt keine Rechtsberatung.