Gesetz über künstliche Intelligenz: Wegweisende Einigung für weltweit erste KI-Regeln erzielt

Gesetz über künstliche Intelligenz: Wegweisende Einigung für weltweit erste KI-Regeln erzielt

Einleitung

Nach intensiven dreitägigen Verhandlungen wurde zwischen der Ratspräsidentschaft und dem Europäischen Parlament eine historische Einigung über das Gesetz zur Künstlichen Intelligenz erzielt. Dieser Akt, eine bahnbrechende Gesetzesinitiative, zielt darauf ab, KI sicher in den europäischen Markt zu integrieren und gleichzeitig die Grundrechte zu schützen und die Innovation in Europa zu fördern.

Erklärung von Carme Artigas

Carme Artigas, die spanische Staatssekretärin für Digitalisierung und KI, betonte die Bedeutung dieser Vereinbarung. Sie schafft ein Gleichgewicht zwischen der Förderung von KI-Innovationen in ganz Europa und dem Schutz der Grundrechte der Bürger.

Die Vision des KI-Gesetzes

Die KI-Akte soll die Entwicklung und Nutzung von KI im EU-Binnenmarkt steuern. Sie verfolgt einen risikobasierten Ansatz und legt strengere Regeln für KI-Systeme fest, die größere Risiken bergen. Das Gesetz soll ein globaler Maßstab für die KI-Regulierung werden, ähnlich wie die Datenschutz-Grundverordnung (GDPR) es für den Datenschutz war.

Höhepunkte der vorläufigen Vereinbarung

1. Neue Regeln und Governance:
2. Die Vereinbarung führt Regeln für KI-Modelle mit hoher Auswirkung und KI-Systeme mit hohem Risiko ein.
3. Ein überarbeitetes Governance-System sieht Durchsetzungsbefugnisse auf EU-Ebene vor.
4. Die Liste der Verbote wird erweitert, erlaubt aber den Strafverfolgungsbehörden, unter bestimmten Garantien biometrische Fernidentifizierung in öffentlichen Räumen zu verwenden.
5. Betreiber von KI-Systemen mit hohem Risiko müssen vor dem Einsatz eine Folgenabschätzung für die Grundrechte durchführen.
6. Definitionen und Anwendungsbereich
7. Die Definition eines KI-Systems orientiert sich am OECD-Ansatz und enthält klare Kriterien.
8. Das KI-Gesetz erstreckt sich nicht auf die nationale Sicherheit, militärische Zwecke, Forschung, Innovation oder nicht-professionelle KI-Nutzung.
9. Klassifizierung von KI-Systemen:
10. Eine horizontale Schutzebene umfasst die Einstufung von KI-Systemen als Hochrisikosysteme.
11. KI-Systeme mit hohem Risiko unterliegen den Anforderungen für den EU-Marktzugang, wobei die Datenqualität und die technische Dokumentation, insbesondere für KMU, zu berücksichtigen sind.
12. Verbotene KI-Praktiken:
13. Bestimmte KI-Anwendungen werden als zu riskant angesehen und sind verboten, z. B. kognitive Verhaltensmanipulationen, Emotionserkennung am Arbeitsplatz und vorausschauende Polizeiarbeit.
14. Ausnahmen für die Strafverfolgung:
15. Für die Strafverfolgung werden besondere Ausnahmen gemacht, die ein Gleichgewicht zwischen der Vertraulichkeit der Arbeit und dem Schutz der Grundrechte herstellen.
16. KI-Systeme für allgemeine Zwecke und Grundlagenmodelle:
17. Neue Bestimmungen befassen sich mit KI-Systemen für allgemeine Zwecke und Grundmodellen, wobei der Schwerpunkt auf Transparenz und systemischem Risikomanagement liegt.
18. Governance-Architektur:
19. Ein KI-Büro innerhalb der Kommission wird fortgeschrittene KI-Modelle beaufsichtigen.
20. Der KI-Vorstand, der sich aus Vertretern der Mitgliedstaaten zusammensetzt, wird die Umsetzung koordinieren und zu den Grundmodellen beraten.
21. Ein beratendes Forum wird verschiedene Interessengruppen mit technischem Fachwissen einbeziehen.
22. Sanktionen:
23. Die Geldbußen werden als Prozentsatz des weltweiten Jahresumsatzes oder als ein im Voraus festgelegter Betrag festgesetzt, wobei für KMU und Start-ups anteilige Obergrenzen gelten.
24. Transparenz und Grundrechte:
25. Vor dem Einsatz von KI-Systemen mit hohem Risiko wird eine Folgenabschätzung für die Grundrechte vorgeschrieben.
26. Für den Einsatz von KI-Systemen mit hohem Risiko wird mehr Transparenz gefordert.
27. Innovationsförderung:
28. Das Abkommen ändert die Maßnahmen zur Innovationsförderung, einschließlich KI-Sandkästen für Tests unter realen Bedingungen.
29. Inkrafttreten und nächste Schritte:
30. Das KI-Gesetz wird zwei Jahre nach seiner Verabschiedung in Kraft treten, wobei für einige Bestimmungen spezifische Fristen gelten.
31. Der Kompromisstext wird vor der formellen Verabschiedung noch überarbeitet und juristisch-sprachlich überarbeitet.

Hintergrund:

Der im April 2021 eingebrachte Kommissionsvorschlag ist Teil der EU-Politik zur Förderung einer sicheren und rechtmäßigen KI-Entwicklung, die die Grundrechte respektiert. Auf der Grundlage eines risikobasierten Ansatzes soll ein einheitlicher Rechtsrahmen für KI geschaffen werden, der die Governance und die Durchsetzung verbessert und einen Binnenmarkt für KI-Anwendungen ermöglicht. Die Verhandlungen mit dem Europäischen Parlament begannen Mitte Juni 2023, nachdem der Rat im Dezember 2022 eine Einigung über dieses Dossier erzielt hatte.

Weitere Lektüre

• Gesetz über künstliche Intelligenz, Allgemeine Ausrichtung des Rates, 6. Dezember 2022
• Rechtsakt über künstliche Intelligenz, Vorschlag der Kommission, 14. April 2021
• Ein europäisches Konzept für künstliche Intelligenz (Informationen der Europäischen Kommission)
• Eine digitale Zukunft für Europa (Hintergrundinformationen)
• Ihr Leben im Netz: Wie die EU es für Sie einfacher und sicherer macht (Feature Story)
• Künstliche Intelligenz (Hintergrundinformationen)