Viele Kanzleien. Ein starkes Netzwerk.
Aktuelles
Neues aus Markt und Netzwerk
 

EU-Gesetzesvorhaben Weißer Rauch aus Brüssel: Das KI-Gesetz steht!

Nahezu alle, die mit Informationssystemen arbeiten, werden mit ihm zu tun bekommen, dem europäischen KI-Gesetz. Nach turbulente Verhandlungen – die Interessen sind astronomisch – gibt es eine Einigung.

Sie formt die Basis für eine Verordnung, die nach zwei Jahren in Kraft treten wird. Für sogenannte „verbotene KI“ greift das Gesetz jedoch schon früher. Systeme, die Bürgerrechte und die Demokratie gefährden können, werden verboten. Beispielsweise biometrische Identifizierungssysteme, aus denen sich sensible personenbezogene Daten ableiten lassen, Algorithmen zur Erkennung von Emotionen, die am Arbeitsplatz oder in der Schule eingesetzt werden, soziale Bewertungsmechanismen und manipulative KI. Darüber hinaus unterscheidet das Gesetz zwischen Hochrisiko-, Niedrigrisiko- und allgemeiner KI (z. B. ChatGPT). Strengstens reguliert sind KI-Systeme mit hohem Risiko, die eine Gefahr für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit darstellen können. Denkbar sind Systeme, die im Verkehrswesen (selbstfahrende Fahrzeuge) oder in der Medizin (wo KI den Chirurgen unterstützt oder bei der Diagnose hilft) eingesetzt werden, KI zur Bewertung von Schultests oder zur Erstellung von Kreditratings. Denken Sie auch an KI in Personalprozessen (Auswahl von Lebensläufen) oder bei der Überwachung von Mitarbeitern. Algorithmen, die von der Regierung eingesetzt werden, z.B. bei Migrations-, Asyl- und Grenzkontrollen oder der Durchsetzung von Gesetzen, fallen ebenfalls in die Hochrisikokategorie. 

Als Entwickler oder Nutzer von KI mit hohem Risiko haben Sie viele Verpflichtungen. So müssen Sie beispielsweise im Vorfeld eine Grundrechtsprüfung durchführen, um zu untersuchen, welche Auswirkungen auf die Bürgerrechte zu erwarten sind. Sie müssen auch sicherstellen, dass Sie die richtigen Datensätze verwenden, um die Algorithmen damit zu „füttern“, und Sie müssen ein Register führen, die Ausführung überwachen und kontrollieren und eine „Stopptaste“ einbauen. Die Bürger sollten auch Zugang zu den über sie getroffenen Entscheidungen haben.

Ähnliche Anforderungen gelten für generische KI mit großer Auswirkung (wie ChatGPT). Es wird eine KI-Behörde eingerichtet, die Geldbußen von bis zu 35 Mio. EUR oder 7 % des Jahresumsatzes verhängen kann. Auch die Haftungsvorschriften werden aktualisiert, um den Bürgern die Durchsetzung ihrer Rechte zu erleichtern.

Alle Fachbeiträge zeigen

KI-AI-Urheber-IT-Internet
Informationstechnologie, Informationstechnologierecht, IT-Recht, Internetrecht, Europarecht
13.09.2025

EU AI Act 2025: Ihr Fahrplan für rechtssichere und erfolgreiche KI-Nutzung im Unternehmen

Künstliche Intelligenz (KI) ist längst kein Zukunftsthema mehr, sondern prägt schon heute zahlreiche Geschäftsprozesse – vom Kundenservice über das Personalmanagement bis hin zur Produktion und Logistik. Auch kleine und mittelständische Unternehmen (KMU) profitieren von den Effizienzsteigerungen, die KI-Systeme bieten. Mit der Verabschiedung des EU AI Act steht jedoch ein Paradigmenwechsel bevor.

Beitrag lesen
Auto-Unfall-Verkehr
Schadensrecht, Schadensersatzrecht
28.08.2025

Fiktive Schadensabrechnung trotz niedrigerer tatsächlicher Reparaturkosten?

Geschädigte müssen bei fiktiver Abrechnung keine tatsächlichen Reparaturkosten nachweisen

Beitrag lesen
Auto-Unfall-Verkehr
Gewährleistungsrecht, Kaufrecht
28.08.2025

Normaler Verschleiß oder Mangel?

Bei Gebrauchtwagen muss der Verkäufer nicht über typische Abnutzungserscheinungen aufklären

Beitrag lesen