EU-Gesetzesvorhaben Weißer Rauch aus Brüssel: Das KI-Gesetz steht!
Nahezu alle, die mit Informationssystemen arbeiten, werden mit ihm zu tun bekommen, dem europäischen KI-Gesetz. Nach turbulente Verhandlungen – die Interessen sind astronomisch – gibt es eine Einigung.
Sie formt die Basis für eine Verordnung, die nach zwei Jahren in Kraft treten wird. Für sogenannte „verbotene KI“ greift das Gesetz jedoch schon früher. Systeme, die Bürgerrechte und die Demokratie gefährden können, werden verboten. Beispielsweise biometrische Identifizierungssysteme, aus denen sich sensible personenbezogene Daten ableiten lassen, Algorithmen zur Erkennung von Emotionen, die am Arbeitsplatz oder in der Schule eingesetzt werden, soziale Bewertungsmechanismen und manipulative KI. Darüber hinaus unterscheidet das Gesetz zwischen Hochrisiko-, Niedrigrisiko- und allgemeiner KI (z. B. ChatGPT). Strengstens reguliert sind KI-Systeme mit hohem Risiko, die eine Gefahr für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit darstellen können. Denkbar sind Systeme, die im Verkehrswesen (selbstfahrende Fahrzeuge) oder in der Medizin (wo KI den Chirurgen unterstützt oder bei der Diagnose hilft) eingesetzt werden, KI zur Bewertung von Schultests oder zur Erstellung von Kreditratings. Denken Sie auch an KI in Personalprozessen (Auswahl von Lebensläufen) oder bei der Überwachung von Mitarbeitern. Algorithmen, die von der Regierung eingesetzt werden, z.B. bei Migrations-, Asyl- und Grenzkontrollen oder der Durchsetzung von Gesetzen, fallen ebenfalls in die Hochrisikokategorie.
Als Entwickler oder Nutzer von KI mit hohem Risiko haben Sie viele Verpflichtungen. So müssen Sie beispielsweise im Vorfeld eine Grundrechtsprüfung durchführen, um zu untersuchen, welche Auswirkungen auf die Bürgerrechte zu erwarten sind. Sie müssen auch sicherstellen, dass Sie die richtigen Datensätze verwenden, um die Algorithmen damit zu „füttern“, und Sie müssen ein Register führen, die Ausführung überwachen und kontrollieren und eine „Stopptaste“ einbauen. Die Bürger sollten auch Zugang zu den über sie getroffenen Entscheidungen haben.
Ähnliche Anforderungen gelten für generische KI mit großer Auswirkung (wie ChatGPT). Es wird eine KI-Behörde eingerichtet, die Geldbußen von bis zu 35 Mio. EUR oder 7 % des Jahresumsatzes verhängen kann. Auch die Haftungsvorschriften werden aktualisiert, um den Bürgern die Durchsetzung ihrer Rechte zu erleichtern.
