22.05.2023

KI-Gesetz: Erste Regeln für künstliche Intelligenz

Um eine menschenzentrierte und ethische Entwicklung der Künstlichen Intelligenz (KI) zu garantieren, hat das Europäische Parlament neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt.

ESRS: Delegierter Rechtsakt veröffentlicht

pitinan/123.rf.com

Am 11.05.2023 haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, sodass sie für die KI-Systeme von heute und morgen gelten kann.

Risikobasierter Ansatz für KI – Verbotene KI-Praktiken

Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.

Verbot für aufdringliche und diskriminierende KI-Anwendungen

Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen wie etwa:

  • biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
  • biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
  • biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
  • prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
  • Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
  • wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).

Hochriskante KI

Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.

KI für allgemeine Zwecke – Transparenzmaßnahmen

Die Abgeordneten haben Verpflichtungen für Anbieter von Foundation-Modellen – ein neuer und sich rasch entwickelnder Bereich der KI – aufgenommen, die einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten müssen. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.

Generative Foundation-Modelle wie GPT müssten zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Auch müssten Modelle so konzipiert sein, dass keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht werden.

Nächste Schritte

Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15.06.2023 erwartet.

„Angesichts der tiefgreifenden Auswirkungen, die KI auf unsere Gesellschaften und Volkswirtschaften haben wird, ist das KI-Gesetz wahrscheinlich der wichtigste Rechtsakt in diesem Mandat“, erklärte Mitberichterstatter Dragos Tudorache. „Es ist die erste Rechtsvorschrift dieser Art weltweit, was bedeutet, dass die EU eine Vorreiterrolle dabei spielen kann, KI menschenzentriert, vertrauenswürdig und sicher zu machen. Wir haben uns dafür eingesetzt, die KI-Innovation in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben und gleichzeitig die Grundrechte zu schützen, die demokratische Kontrolle zu stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung zu gewährleisten.“


EU-Parlament vom 11.05.2023 / Viola C. Didier, RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

© Marco2811 / fotolia.com

23.10.2024

Das OLG Frankfurt/M. hat entschieden, dass der erhöhte Aufwand eines Anwalts durch die widersprüchlichen und unglaubhaften Angaben des Mandanten im Rahmen eines Geldwäscheverdachtsverfahrens gerechtfertigt war.

weiterlesen
Komplexität des Mandantenverhaltens rechtfertigt höheren Anwaltsaufwand

Meldung

adiruch/123rf.com

15.10.2024

Das DRSC hat ein Briefing Paper mit einem besonderen Fokus auf die persönlichen und zeitlichen Anwendungsbereiche der Corporate Sustainability Reporting Directive (CSRD) und der Corporate Sustainability Due Diligence Directive (CSDDD) für EU-Unternehmen veröffentlicht.

weiterlesen
Überschneidungen von CSRD und CSDDD

Haben wir Ihr Interesse für die ZURe geweckt?

Sichern Sie sich das ZURe Gratis Paket: 2 Hefte + Datenbank