07.02.2024

KI-Verordnung einstimmig gebilligt

Der Rahmen für Künstliche Intelligenz in der EU steht. Die KI-Verordnung soll eine Balance zwischen Innovation und Risikoschutz schaffen. International ist dieser Rechtsrahmen ein Novum – Europa wird damit zum Pionier.

ESRS: Delegierter Rechtsakt veröffentlicht

pitinan/123.rf.com

Die Mitgliedstaaten der Europäischen Union haben die Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (KI-Verordnung, AI Act) am 02.02.2024 einstimmig gebilligt. Mit der KI-Verordnung setzt die EU den Rahmen für den Einsatz von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, Innovationen zu fördern, gleichzeitig das Vertrauen in KI zu stärken und sicherzustellen, dass diese Technologie in einer Weise genutzt wird, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Die KI-Verordnung ist das weltweit erste umfassende Regelwerk für KI.

Inhalte der KI-Verordnung

Für die Vertretung der deutschen Position bei den europäischen Verhandlungen über die KI-Verordnung sind das Bundesministerium der Justiz und das Bundesministerium für Wirtschaft und Klimaschutz federführend zuständig. Folgende Meilensteine konnten erreicht werden:

  • Es wird klargestellt, dass es sich bei der KI-Verordnung um eine Produktregulierung handelt, die sich nicht auf Forschungs- und Entwicklungsaktivitäten bezieht. Gleichzeitig schafft die Verordnung das Fundament für die Entwicklung anwendungsorientierter KI in Europa.
  • Social Scoring mithilfe Künstlicher Intelligenz und Emotionserkennung am Arbeitsplatz wird es in Europa nicht geben. Zur biometrischen Fernidentifikation enthält die Verordnung strenge und einschränkende Vorgaben und beugt einer flächendeckenden biometrischen Überwachung vor.
  • Hierin zeigt sich auch der risikobasierte Ansatz, den die KI-Verordnung verfolgt: Je höher das Risiko ist, desto strenger sind auch die Pflichten. Während KI-Systeme mit einem inakzeptablen Risiko (wie etwa Social Scoring) gänzlich verboten werden und für Hochrisiko-KI-Systeme strenge technische und organisatorische Anforderungen gelten, unterliegen Anwendungen mit geringem Risiko lediglich bestimmten Transparenz- und Informationspflichten.
  • Besondere Vorschriften wird es zudem für generative KI geben, namentlich sogenannte KI-Modelle mit allgemeinem Verwendungszweck, darunter auch solche, die Inhalte wie Texte und Bilder generieren. Dabei unterliegen besonders wirkmächtige KI-Modelle mit systemischem Risiko strengeren Auflagen.
  • Konkretisierend wird es auf Verhaltenskodizes (Codes of Practice) ankommen, die zusammen mit Modellanbietern und Stakeholdern erarbeitet werden, bis später auf Standards und damit harmonisierte europäische Normen zurückgegriffen werden kann. Damit wird der hochdynamischen Entwicklung von KI Rechnung getragen und unter anderem sichergestellt, dass Anwender über die für sie notwendigen Informationen verfügen. Die Pflichten sind auch infolge des Einsatzes der Bundesregierung begrenzt und möglichst praktikabel ausgestaltet.
  • Das gilt insbesondere für das Urheberrecht. Während die Regelungen des europäischen Urheberrechts uneingeschränkt gelten, soll durch angemessene und erfüllbare Transparenzvorgaben den Rechtsinhabern die Durchsetzung ihrer Rechte in Zukunft erleichtert werden.
  • Auch für kleine und mittlere Unternehmen wird Transparenz die Anwendung von KI erleichtern. Insgesamt werden die Interessen und Bedürfnisse von KMU und Start-ups verstärkt berücksichtigt – auch durch die von der Bundesregierung eingebrachten Regeln für Reallabore, die Freiräume zur Erprobung von Innovationen schaffen.

Vor Inkrafttreten der KI-Verordnung müssen noch das Europäische Parlament und eine Ratsformation formell zustimmen. Die Verordnung tritt am 20. Tag nach Veröffentlichung im EU-Amtsblatt in Kraft und findet grundsätzlich 24 Monate später Anwendung. Einige Vorschriften sind aber auch schon früher anwendbar: So greifen die Verbote bereits nach sechs Monaten, die Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck gelten nach 12 Monaten.

Bei der nun anstehenden Umsetzung wird sich die Bundesregierung gemeinsam mit den anderen Mitgliedstaaten und der Kommission für eine bürokratiearme und innovationsfreundliche Lösung einsetzen.


BMJ vom 02.02.2024 / RES JURA Redaktionsbüro

Weitere Meldungen


Meldung

dmitrydemidovich/123rf.com

19.04.2024

Die Abgeordneten des EU-Parlaments haben am 11.04.2024 Pläne gebilligt, die die verstärkte Nutzung erneuerbarer und CO₂-armer Gase, einschließlich Wasserstoff, auf dem EU-Gasmarkt erleichtern sollen.

weiterlesen
Reformen für einen nachhaltigeren EU-Gasmarkt

Meldung

©Coloures-Pic/fotolia.com

10.04.2024

Der durch die Corona-Pandemie ausgelöste Schub auf die Digitalisierung in Deutschland hält an – insbesondere im Hinblick auf mittelständische Unternehmen, wie der neue KfW-Digitalisierungsbericht von KfW Research zeigt.

weiterlesen
KfW-Digitalisierungsbericht: Schub aus Coronajahren hält an

Meldung

©photo 5000/fotolia.com

09.04.2024

Die Unterschiede im Regierungsentwurf zum Referentenentwurf eines Vierten Gesetzes zur Entlastung der Bürgerinnen und Bürger, der Wirtschaft sowie der Verwaltung von Bürokratie („Viertes Bürokratieentlastungsgesetz“ bzw. „BEG IV“) untersucht die WPK.

weiterlesen
Die wichtigsten Änderungen beim BEG IV

Meldung

pitinan/123.rf.com

08.04.2024

Eine aktuelle Bitkom-Untersuchung zeigt, dass die eine Hälfte der Arbeitnehmenden in Deutschland gern Routinearbeiten an die KI abgeben will, die andere Hälfte dies aber komplett ablehnt. 13 % glauben, dass eine Künstliche Intelligenz ihren Job komplett übernehmen könnte.

weiterlesen
KI-Einsatz bei der Arbeit: Beschäftigte sind geteilter Meinung

Haben wir Ihr Interesse für die ZURe geweckt?

Sichern Sie sich das ZURe Gratis Paket: 2 Hefte + Datenbank