23.05.2024

Grünes Licht für KI-Gesetz

Am 21.05.2024 hat der Rat der EU ein weltweit einmaliges Gesetz verabschiedet, das darauf abzielt, die Regeln für künstliche Intelligenz zu harmonisieren, das sogenannte Gesetz über künstliche Intelligenz.

ESRS: Delegierter Rechtsakt veröffentlicht

©Alexander Limbach/fotolia.com

Das neue Gesetz zielt darauf ab, die Entwicklung und Einführung sicherer und vertrauenswürdiger KI-Systeme im gesamten EU-Binnenmarkt sowohl durch private als auch öffentliche Akteure zu fördern. Gleichzeitig sollen die Achtung der Grundrechte der EU-Bürger sichergestellt und Investitionen und Innovationen im Bereich der künstlichen Intelligenz in Europa gefördert werden. Das KI-Gesetz gilt nur für Bereiche des EU-Rechts und sieht Ausnahmen etwa für Systeme vor, die ausschließlich für Militär- und Verteidigungszwecke sowie für Forschungszwecke genutzt werden.

Einstufung von KI-Systemen als risikoreiche und verbotene KI-Praktiken

Das KI-Gesetz kategorisiert verschiedene Arten künstlicher Intelligenz nach Risiko. KI-Systeme, die nur ein begrenztes Risiko darstellen, würden sehr geringen Transparenzpflichten unterliegen, während KI-Systeme mit hohem Risiko zugelassen würden, aber einer Reihe von Anforderungen und Verpflichtungen unterliegen würden, um Zugang zum EU-Markt zu erhalten. KI-Systeme wie beispielsweise kognitive Verhaltensmanipulation und Social Scoring werden aus der EU verbannt, da ihr Risiko als inakzeptabel gilt. Das Gesetz verbietet auch den Einsatz von KI für vorausschauende Polizeiarbeit auf der Grundlage von Profilen und Systemen, die biometrische Daten verwenden, um Menschen nach bestimmten Kategorien wie Rasse, Religion oder sexueller Orientierung zu kategorisieren.

Allzweck-KI-Modelle

Das KI-Gesetz befasst sich auch mit der Verwendung von GPAI-Modellen (Allzweck-KI). GPAI-Modelle, die keine systemischen Risiken bergen, unterliegen einigen begrenzten Anforderungen, beispielsweise hinsichtlich der Transparenz, wohingegen Modelle mit systemischen Risiken strengere Regeln einhalten müssen.

Strafen

Die Bußgelder für Verstöße gegen das KI-Gesetz werden als Prozentsatz des weltweiten Jahresumsatzes des betreffenden Unternehmens im vorangegangenen Geschäftsjahr oder als vorher festgelegter Betrag festgesetzt, je nachdem, welcher Betrag höher ist. Gegen KMU und Start-ups drohen verhältnismäßige Bußgelder.

Transparenz und Schutz der Grundrechte

Bevor einige Unternehmen, die öffentliche Dienstleistungen erbringen, ein KI-System mit hohem Risiko einsetzen, müssen die Auswirkungen auf die Grundrechte bewertet werden. Die Verordnung sorgt außerdem für mehr Transparenz bei der Entwicklung und Nutzung risikoreicher KI-Systeme. Hochrisiko-KI-Systeme sowie bestimmte Nutzer eines Hochrisiko-KI-Systems, bei denen es sich um öffentliche Einrichtungen handelt, müssen in der EU-Datenbank für Hochrisiko-KI-Systeme registriert werden, und Nutzer eines Emotionserkennungssystems müssen dies natürlich mitteilen, wenn sie einem solchen System ausgesetzt sind.

Maßnahmen zur Unterstützung von Innovationen

Das KI-Gesetz sorgt für einen innovationsfreundlichen Rechtsrahmen und soll evidenzbasiertes Regulierungslernen fördern. Das neue Gesetz sieht vor, dass KI-Regulierungssandboxen, die eine kontrollierte Umgebung für die Entwicklung, Prüfung und Validierung innovativer KI-Systeme ermöglichen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollen.


Rat der EU vom 21.05.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

©Andrey Popov/fotolia.com

08.04.2025

Die Bundesregierung bringt frischen Wind ins Berufsrecht der Wirtschaftsprüfer. Mit einem neuen Gesetzesentwurf soll nicht nur das Berufsbild erweitert, sondern auch die Attraktivität der Branche gestärkt werden. Im Fokus: der neue Syndikus-Wirtschaftsprüfer – mit Chancen und klaren Grenzen.

weiterlesen
Änderungen am Berufsrecht der Wirtschaftsprüfer

Meldung

©vege/fotolia.com

31.03.2025

Datenschutz ist nicht nur Privatsache – sondern auch Wettbewerbssache. Der Bundesgerichtshof hat entschieden, dass Verbraucherschutzverbände und Mitbewerber Datenschutzverstöße zivilrechtlich verfolgen dürfen.

weiterlesen
Datenschutz als Wettbewerbsfaktor: BGH stärkt Klagebefugnis

Meldung

©CrazyCloud /fotolia.com

26.03.2025

Ein Anwalt wird ausgeschlossen, weil er frühere Mitgliedsbeiträge nicht gezahlt hat – und das nur wenige Tage nach seiner Wiederaufnahme. Doch der Europäische Gerichtshof für Menschenrechte stellt klar: So geht das nicht. In einem aktuellen Urteil stärkt der EGMR die Rechte von Berufsangehörigen und kritisiert das willkürliche Vorgehen der Anwaltskammer in Aserbaidschan.

weiterlesen
Die EMRK schützt auch berufliche Mitgliedschaften

Meldung

©Sashkin/fotolia.com

21.02.2025

Das BAG hat mit seinem aktuellen Urteil eine wichtige Entscheidung zur Sorgfaltspflicht von Rechtsanwälten in Fristsachen getroffen. Demnach genügt es, wenn ein Anwalt die Vermerke in der Handakte überprüft, sofern keine Zweifel an deren Richtigkeit bestehen. Diese Rechtsprechung stärkt die Rechtssicherheit für Anwälte und Kanzleien.

weiterlesen
Kontrollpflichten eines Rechtsanwalts bei Fristsachen

Haben wir Ihr Interesse für die ZURe geweckt?

Sichern Sie sich das ZURe Gratis Paket: 2 Hefte + Datenbank