Am 11.05.2023 haben der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten in Straßburg den Entwurf eines Verhandlungsmandats für die ersten Regeln für Künstliche Intelligenz mit 84 Ja-Stimmen, 7 Nein-Stimmen und 12 Enthaltungen angenommen. In ihren Änderungsanträgen zum Kommissionsvorschlag wollen die Europaabgeordneten sicherstellen, dass KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Außerdem wollen sie eine einheitliche und technologieneutrale KI-Definition, sodass sie für die KI-Systeme von heute und morgen gelten kann.
Risikobasierter Ansatz für KI – Verbotene KI-Praktiken
Die Vorschriften folgen einem risikobasierten Ansatz und legen Verpflichtungen für Anbieter und Nutzerinnen und Nutzer fest, die sich nach dem Grad des Risikos richten, das die KI erzeugen kann. KI-Systeme, die ein inakzeptables Risiko für die Sicherheit von Menschen darstellen, wären strengstens verboten. Dazu gehören Systeme, die unterschwellige oder absichtlich manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder für Social Scoring (Klassifizierung von Menschen auf der Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder persönlicher Merkmale) verwendet werden.
Verbot für aufdringliche und diskriminierende KI-Anwendungen
Die Abgeordneten änderten die Liste erheblich, um Verbote für aufdringliche und diskriminierende Anwendungen von KI-Systemen aufzunehmen wie etwa:
- biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen;
- biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung;
- biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung);
- prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten);
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen; und
- wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken (Verletzung der Menschenrechte und des Rechts auf Privatsphäre).
Hochriskante KI
Die Abgeordneten haben die Klassifizierung der Hochrisikobereiche um die Bereiche Gesundheit, Sicherheit, Grundrechte und Umwelt erweitert. Sie fügten auch KI-Systeme zur Beeinflussung von Wählerinnen und Wählern in politischen Kampagnen und in Empfehlungssystemen, die von Social-Media-Plattformen (mit mehr als 45 Millionen Nutzern gemäß dem Gesetz über digitale Dienste) verwendet werden, der Liste der Hochrisikobereiche hinzu.
KI für allgemeine Zwecke – Transparenzmaßnahmen
Die Abgeordneten haben Verpflichtungen für Anbieter von Foundation-Modellen – ein neuer und sich rasch entwickelnder Bereich der KI – aufgenommen, die einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten müssen. Sie müssten Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen.
Generative Foundation-Modelle wie GPT müssten zusätzliche Transparenzanforderungen erfüllen und beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden. Auch müssten Modelle so konzipiert sein, dass keine illegalen Inhalte generiert und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlicht werden.
Nächste Schritte
Bevor die Verhandlungen mit dem Rat über die endgültige Form des Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats vom gesamten Parlament gebilligt werden; die Abstimmung wird für die Sitzung vom 12. bis 15.06.2023 erwartet.
„Angesichts der tiefgreifenden Auswirkungen, die KI auf unsere Gesellschaften und Volkswirtschaften haben wird, ist das KI-Gesetz wahrscheinlich der wichtigste Rechtsakt in diesem Mandat“, erklärte Mitberichterstatter Dragos Tudorache. „Es ist die erste Rechtsvorschrift dieser Art weltweit, was bedeutet, dass die EU eine Vorreiterrolle dabei spielen kann, KI menschenzentriert, vertrauenswürdig und sicher zu machen. Wir haben uns dafür eingesetzt, die KI-Innovation in Europa zu unterstützen und Start-ups, KMU und der Industrie Raum für Wachstum und Innovation zu geben und gleichzeitig die Grundrechte zu schützen, die demokratische Kontrolle zu stärken und ein ausgereiftes System der KI-Governance und -Durchsetzung zu gewährleisten.“
