22.05.2023

KI-Gesetz: Erste Regeln für künstliche Intelligenz

Um eine menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz (KI) zu garantieren, hat das Europäische Parlament neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt.

ESRS: Delegierter Rechtsakt veröffentlicht

pitinan/123.rf.com

Am 11.05.2023 haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, sodass sie für die KI-Systeme von heute und morgen gelten kann.

Risikobasierter Ansatz für KI – Verbotene KI-Praktiken

Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Verbot für aufdringliche und diskriminierende KI-Anwendungen

Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen wie etwa:

  • biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
  • biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
  • biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
  • prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
  • Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
  • wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Hochriskante KI

Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.

KI für allgemeine Zwecke – Transparenzmaßnahmen

Die Abgeordneten haben Verpflichtungen für Anbieter von Foundation-Modellen – ein neuer und sich rasch entwickelnder Bereich der KI – aufgenommen, die einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten müssen. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.

Generative Foundation-Modelle wie GPT müssten zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Auch müssten Modelle so konzipiert sein, dass keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht werden.

Nächste Schritte

Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15.06.2023 erwartet.

„Angesichts der tiefgreifenden Auswirkungen, die KI auf unsere Gesellschaften und Volkswirtschaften haben wird, ist das KI-Gesetz wahrscheinlich der wichtigste Rechtsakt in diesem Mandat“, erklärte Mitberichterstatter Dragos Tudorache. „Es ist die erste Rechtsvorschrift dieser Art weltweit, was bedeutet, dass die EU eine Vorreiterrolle dabei spielen kann, KI menschenzentriert, vertrauenswürdig und sicher zu machen. Wir haben uns dafür eingesetzt, die KI-Innovation in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben und gleichzeitig die Grundrechte zu schützen, die demokratische Kontrolle zu stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung zu gewährleisten.“


EU-Parlament vom 11.05.2023 / Viola C. Didier, RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

dmitrydemidovich/123rf.com

19.04.2024

Die Abgeordneten des EU-Parlaments haben am 11.04.2024 Pläne gebilligt, die die verstärkte Nutzung erneuerbarer und CO₂-armer Gase, einschließlich Wasserstoff, auf dem EU-Gasmarkt erleichtern sollen.

weiterlesen
Reformen für einen nachhaltigeren EU-Gasmarkt

Meldung

©Coloures-Pic/fotolia.com

10.04.2024

Der durch die Corona-Pandemie ausgelöste Schub auf die Digitalisierung in Deutschland hält an – insbesondere im Hinblick auf mittelständische Unternehmen, wie der neue KfW-Digitalisierungsbericht von KfW Research zeigt.

weiterlesen
KfW-Digitalisierungsbericht: Schub aus Coronajahren hält an

Meldung

©photo 5000/fotolia.com

09.04.2024

Die Unterschiede im Regierungsentwurf zum Referentenentwurf eines Vierten Gesetzes zur Entlastung der Bürgerinnen und Bürger, der Wirtschaft sowie der Verwaltung von Bürokratie („Viertes Bürokratieentlastungsgesetz“ bzw. „BEG IV“) untersucht die WPK.

weiterlesen
Die wichtigsten Änderungen beim BEG IV

Meldung

pitinan/123.rf.com

08.04.2024

Eine aktuelle Bitkom-Untersuchung zeigt, dass die eine Hälfte der Arbeitnehmenden in Deutschland gern Routinearbeiten an die KI abgeben will, die andere Hälfte dies aber komplett ablehnt. 13 % glauben, dass eine Künstliche Intelligenz ihren Job komplett übernehmen könnte.

weiterlesen
KI-Einsatz bei der Arbeit: Beschäftigte sind geteilter Meinung

Haben wir Ihr Interesse für die ZURe geweckt?

Sichern Sie sich das ZURe Gratis Paket: 2 Hefte + Datenbank