01.08.2024

KI-Gesetz tritt in Kraft

Am 01.08.2024 ist der AI Act der EU in Kraft getreten. Mit dem KI-Gesetz soll sichergestellt werden, dass die in der EU entwickelte und eingesetzte KI vertrauenswürdig ist und die Grundrechte der Menschen geschützt werden.

ESRS: Delegierter Rechtsakt veröffentlicht

pitinan/123.rf.com

Die weltweit erste umfassende Verordnung über künstliche Intelligenz, das europäische Gesetz über die künstliche Intelligenz (KI-Gesetz), ist in Kraft getreten. Die meisten Vorschriften des KI-Gesetzes gelten ab dem 02.08.2026. Mit dem KI-Gesetz wird eine zukunftsorientierte Definition von KI eingeführt, sie beruht auf einem produktsicherheits- und risikobasierten Ansatz in der EU:

Minimales Risiko:

Die meisten KI-Systeme, wie z. B. KI-gestützte Empfehlungssysteme und Spam-Filter, fallen in diese Kategorie. Für diese Systeme gelten aufgrund ihres minimalen Risikos für die Rechte und die Sicherheit der Bürger keine Verpflichtungen im Rahmen des KI-Gesetzes. Unternehmen können auf freiwilliger Basis zusätzliche Verhaltenskodizes annehmen.

Spezifisches Transparenzrisiko:

KI-Systeme wie Chatbots müssen den Nutzern klar zu verstehen geben, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte (einschließlich Deep Fakes) müssen als solche gekennzeichnet werden. Die Nutzer müssen informiert werden, wenn biometrische Kategorisierungs- oder Emotionserkennungssysteme verwendet werden. Darüber hinaus müssen die Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkannt werden können.

Hohes Risiko:

KI-Systeme, die als hochriskant eingestuft werden, müssen strenge Anforderungen erfüllen. Dazu gehören Systeme zur Risikominderung, eine hohe Qualität der Datensätze, die Protokollierung von Aktivitäten, eine ausführliche Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandkästen werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalauswahl eingesetzt werden, um zu beurteilen, ob jemand einen Anspruch auf einen Kredit hat, oder um autonome Roboter zu betreiben.

Unannehmbares Risiko:

KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte von Menschen darstellen, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzerinnen und Nutzer zu umgehen, wie z. B. Spielzeug, das Minderjährige durch Sprachsteuerung zu gefährlichem Verhalten anregt, Systeme, die eine „soziale Bewertung“ durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit (predictive policing). Darüber hinaus werden einige Anwendungen biometrischer Systeme verboten, z. B. Systeme zur Erkennung von Emotionen am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit zu Strafverfolgungszwecken in öffentlich zugänglichen Räumen (mit engen Ausnahmen).

KI-Modelle für allgemeine Zwecke

Ergänzend zu diesem System führt das KI-Gesetz auch Vorschriften für sog. KI-Modelle für allgemeine Zwecke ein. Dabei handelt es sich um hochgradig leistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben ausgelegt sind – etwa das Erstellen von Texten, die sich lesen, als hätten Menschen sie geschrieben. KI-Modelle für allgemeine Zwecke werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und sich mit möglichen systemischen Risiken der leistungsfähigsten Modelle befassen.

Anwendung und Durchsetzung der KI-Vorschriften

Die Mitgliedstaaten haben bis zum 02.08.2025 Zeit, die zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungsmaßnahmen durchführen werden. Das Amt für Künstliche Intelligenz der Kommission (AI Office) wird die wichtigste Stelle für die Umsetzung des KI-Gesetzes auf EU-Ebene sowie für die Durchsetzung der Vorschriften für KI-Modelle für allgemeine Zwecke sein.

Verstoß gegen die Vorschriften kann hohe Geldbußen nach sich ziehen

Unternehmen, die sich nicht an die Vorschriften halten, müssen mit Geldstrafen rechnen. Die Bußgelder können bis zu 7 % des weltweiten Jahresumsatzes für Verstöße gegen das Verbot von KI-Anwendungen, bis zu 3 % für Verstöße gegen andere Verpflichtungen und bis zu 1,5 % für die Angabe falscher Informationen betragen.

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes werden ab dem 02.08.2026 gelten. Verbote von KI-Systemen, die ein unannehmbares Risiko darstellen, werden jedoch bereits nach sechs Monaten, die Regeln für sog. Allzweck-KI-Modelle nach 12 Monaten gelten.

KI-Pakt

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission den KI-Pakt ins Leben gerufen. Mit dieser Initiative werden KI-Entwickler aufgefordert, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen freiwillig zu übernehmen.

KI-Leitlinien

Die Kommission entwickelt außerdem Leitlinien, um zu definieren und zu präzisieren, wie das KI-Gesetz umgesetzt werden sollte, und um Koregulierungsinstrumente wie Standards und Verhaltenskodizes zu erleichtern. Die Kommission hat einen Aufruf zur Interessenbekundung für die Teilnahme an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eine Konsultation mehrerer Interessengruppen gestartet, um allen Beteiligten die Möglichkeit zu geben, zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes Stellung zu nehmen.


EU-Kommission vom 01.08.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

©Thomas Reimer/fotolia.com

14.12.2024

Die gesetzlichen Rechtsanwaltsgebühren sollen erhöht werden. Damit soll den gestiegenen Personal- und Sachkosten von Rechtsanwaltskanzleien Rechnung getragen werden.

weiterlesen
Höhere Gebühren für Rechtsanwältinnen und Rechtsanwälte

Meldung

©photo 5000/fotolia.com

06.12.2024

Das Bundeskabinett hat am 04.12.2024 Änderungen an der Bürokratieentlastungsverordnung beschlossen. Passend hierzu untersucht eine neue Studie die Auswirkungen der Bürokratie auf deutsche Unternehmen und deren Wahrnehmung des Unternehmensstandorts Deutschland.

weiterlesen
22 % der Arbeitszeit für Bürokratie nötig

Meldung

©jat306/fotolia.com

26.11.2024

Der Bundesrat hat am 22.11.2024 der Bürokratieentlastungsverordnung nach Maßgabe zugestimmt. Diese Verordnung ergänzt das vierte Bürokratieentlastungsgesetz, das den Bundesrat bereits im Oktoberplenum passiert hatte.

weiterlesen
Grünes Licht für den Bürokratieabbau

Meldung

©your123/fotolia.com

13.11.2024

Im Bericht für das Jahr 2024 kommt die Cybersicherheitsbehörde des Bundes zur Einschätzung: Die Lage der IT-Sicherheit in Deutschland war und ist besorgniserregend.

weiterlesen
BSI-Bericht zur Lage der IT-Sicherheit 2024

Haben wir Ihr Interesse für die ZURe geweckt?

Sichern Sie sich das ZURe Gratis Paket: 2 Hefte + Datenbank