Fallbeispiele

Das KI-Gesetz: Die digitale Zukunft Europas gestalten und den Energiesektor umgestalten

22. Juli 2024 von Jürgen Ritzek
Das KI-Gesetz: Die digitale Zukunft Europas gestalten und den Energiesektor umgestalten

Zusammenfassung

Das EU-Gesetz über künstliche Intelligenz (KI-Gesetz) ist ein umfassender Rechtsrahmen zur Regulierung von KI-Systemen in der gesamten EU. Er führt ein risikobasiertes Klassifizierungssystem ein: von unannehmbaren Risiken bis hin zu minimalen Risiken. KI-Systeme mit hohem Risiko müssen strenge Anforderungen erfüllen, z. B. ein solides Risikomanagement, hochwertige Daten und menschliche Aufsicht, bevor sie auf den Markt kommen. Das Gesetz hat extraterritoriale Auswirkungen und gilt für Einrichtungen außerhalb der EU, wenn sie EU-Bürger betreffen.

 

Um die vertrauenswürdige Nutzung von KI zu fördern, verlangt das Gesetz transparente Abläufe, die Kennzeichnung von KI-Interaktionen und verbietet risikoreiche Praktiken wie Social Scoring und die wahllose Nutzung biometrischer Daten durch die Strafverfolgung. Innovationen und das Wachstum von KMU werden durch Bestimmungen wie regulatorische Sandkästen für die Erprobung von KI und spezielle KMU-Fördermechanismen unterstützt.

 

Das KI-Gesetz enthält detaillierte Durchsetzungsmaßnahmen, wobei potenzielle Strafen für Verstöße bis zu 30 Millionen Euro oder 6 % des weltweiten Umsatzes betragen können. Außerdem bietet es ein Entschädigungssystem für Personen, die durch KI-Systeme geschädigt werden.

 

Das Gesetz hat auch erhebliche Auswirkungen auf den Energiesektor, wo KI das Versorgungsmanagement steuert und den Energieverbrauch in verschiedenen Branchen optimiert. Der Energiesektor muss sicherstellen, dass KI-Systeme die Anforderungen an Genauigkeit und Datenverwaltung einhalten. Regulatorische Sandkästen könnten bei der Erprobung von KI-Anwendungen im Energiesektor hilfreich sein und die digitale Transformation der Branche unterstützen.

 

Insgesamt zielt das KI-Gesetz darauf ab, die KI-Regulierung zu harmonisieren und gleichzeitig ethische Standards und Innovationen zu fördern, die sich auf verschiedene Sektoren, einschließlich der Energie, auswirken und Anpassungen erfordern, um dieser sich entwickelnden Regulierungslandschaft zu entsprechen.

Kompletten Artikel anzeigen

Das KI-Gesetz: Die digitale Zukunft Europas gestalten und den Energiesektor umgestalten

Hier ist die Frage: Was sind die Hauptthemen des AI-Gesetzes, das gerade im Amtsblatt veröffentlicht wurde und somit am 1. August in Kraft tritt?

Und was sind die wichtigsten Auswirkungen auf den Energiesektor, sowohl auf der Angebots- als auch auf der Nachfrageseite?

 

Harmonisierung der KI-Regulierung in der EU

Das Gesetz über künstliche Intelligenz (KI-Gesetz) ist ein wegweisender Rechtsakt, mit dem ein einheitlicher Ansatz für die KI-Regulierung in der gesamten Europäischen Union geschaffen werden soll. Im Kern zielt das Gesetz darauf ab, Innovationen zu fördern und gleichzeitig die Grundrechte zu schützen sowie die sichere Entwicklung und Nutzung von KI-Systemen zu gewährleisten.

Mit dem Gesetz wird ein risikobasierter Ansatz eingeführt, bei dem KI-Systeme auf der Grundlage ihrer potenziellen Auswirkungen auf die Gesellschaft kategorisiert werden. Dieses abgestufte System reicht von inakzeptablen Risiken (verbotene Praktiken) bis hin zu minimalen Risiken, mit entsprechenden Verpflichtungen für Entwickler und Nutzer. KI-Systeme mit hohem Risiko, die erhebliche Gefahren für die Gesundheit, die Sicherheit oder die Grundrechte mit sich bringen, unterliegen strengen Anforderungen, bevor sie auf den Markt gebracht werden können.

Eines der wichtigsten Merkmale des Gesetzes ist sein extraterritorialer Geltungsbereich. Er gilt nicht nur für Anbieter und Nutzer innerhalb der EU, sondern auch für solche außerhalb der EU, wenn ihre KI-Systeme Menschen in der EU betreffen. Dieser breite Geltungsbereich zielt darauf ab, gleiche Wettbewerbsbedingungen zu schaffen und Regulierungsarbitrage zu verhindern.

Der Rechtsakt legt auch einen Governance-Rahmen fest, einschließlich der Einrichtung eines Europäischen Ausschusses für künstliche Intelligenz, der die einheitliche Anwendung der Verordnung erleichtern soll. Die Mitgliedstaaten sind verpflichtet, zuständige nationale Behörden zu benennen, die die Vorschriften überwachen und durchsetzen.

 

Förderung von vertrauenswürdiger und ethischer KI

Ein zentrales Ziel des KI-Gesetzes ist die Förderung der Entwicklung und Nutzung vertrauenswürdiger und ethischer KI-Systeme. Die Gesetzgebung legt die wichtigsten Anforderungen für KI-Systeme mit hohem Risiko fest, darunter:

  • Robuste Risikomanagementsysteme
  • Hochwertige Trainings- und Testdaten
  • Ausführliche technische Dokumentation
  • Menschliche Aufsicht
  • Genauigkeit, Robustheit und Cybersicherheit

Diese Anforderungen sollen sicherstellen, dass KI-Systeme zuverlässig, transparent und rechenschaftspflichtig sind. Das Gesetz schreibt außerdem vor, dass Anbieter Konformitätsbewertungen durchführen müssen, bevor sie KI-Systeme mit hohem Risiko auf den Markt bringen.

Transparenz ist ein wichtiger Aspekt des Gesetzes. Die Anbieter müssen die Nutzer darüber informieren, wenn sie mit einem KI-System interagieren, insbesondere in Fällen von Emotionserkennung oder biometrischer Kategorisierung. Es gibt auch spezielle Bestimmungen für KI-generierte oder manipulierte Inhalte (oft "Deepfakes" genannt), die eine klare Kennzeichnung erfordern.

Das Gesetz verbietet bestimmte KI-Praktiken, die als unannehmbare Risiken angesehen werden, wie z. B. Social Scoring durch Behörden oder die Verwendung von biometrischen Fernidentifizierungssystemen in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (mit einigen engen Ausnahmen).

 

Förderung von Innovation und KMU-Wachstum

Das KI-Gesetz führt zwar erhebliche regulatorische Anforderungen ein, zielt aber auch darauf ab, Innovationen zu fördern und kleine und mittlere Unternehmen (KMU) im KI-Sektor zu unterstützen. Zu diesem Zweck enthält das Gesetz mehrere Bestimmungen:

  • Regulatorische Sandkästen: Die Mitgliedstaaten sind verpflichtet, regulatorische Sandkästen für KI einzurichten, um die Entwicklung und Erprobung innovativer KI-Systeme unter gelockerten regulatorischen Anforderungen zu erleichtern, bevor sie auf den Markt gebracht werden.
  • Unterstützung für KMU: Der Rechtsakt verpflichtet die Mitgliedstaaten, spezifische Maßnahmen zur Unterstützung von KMU und Start-ups zu ergreifen, einschließlich des vorrangigen Zugangs zu KI-Sandkästen und des Angebots gezielter Informationen und Anleitungen.
  • Verhaltenskodizes: Der Rechtsakt fördert die Entwicklung von Verhaltenskodizes für die freiwillige Anwendung der Anforderungen an KI-Systeme, die kein hohes Risiko darstellen, was kleineren Unternehmen bei der Umsetzung bewährter Verfahren helfen kann.
  • Standardisierung: Das Gesetz fördert die Entwicklung harmonisierter Standards, die den Prozess der Einhaltung der Vorschriften insbesondere für kleinere Unternehmen vereinfachen können.

Mit diesen Maßnahmen soll sichergestellt werden, dass der Rechtsrahmen Innovationen nicht ausbremst oder unüberwindbare Hindernisse für kleinere Akteure auf dem KI-Markt schafft.

 

Durchsetzung und Sanktionen

Um die Einhaltung seiner Bestimmungen zu gewährleisten, sieht das KI-Gesetz einen robusten Durchsetzungsmechanismus vor. Die Mitgliedstaaten sind verpflichtet, eine oder mehrere zuständige Behörden zu benennen, die die Anwendung und Umsetzung der Verordnung überwachen.

Das Gesetz sieht beträchtliche Strafen für die Nichteinhaltung vor. Die Geldbußen können bis zu 30 Mio. € oder 6 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist) für die schwerwiegendsten Verstöße, z. B. die Anwendung verbotener KI-Praktiken, betragen. Bei weniger schwerwiegenden Verstößen können Geldbußen von bis zu 20 Mio. EUR oder 4 % des weltweiten Jahresumsatzes verhängt werden.

Mit dem Gesetz wird auch ein System zur Marktüberwachung eingeführt, das den Behörden die Befugnis gibt, auf alle erforderlichen Unterlagen und Informationen, unter bestimmten Umständen auch auf den Quellcode, zuzugreifen. Es gibt Bestimmungen für die Rücknahme von KI-Systemen, die den Vorschriften nicht entsprechen, vom Markt.

Wichtig ist, dass das Gesetz individuelle und kollektive Rechtsmittel vorsieht, so dass Personen, die durch ein KI-System geschädigt wurden, Schadenersatz verlangen können.

 

KI im Energiebereich

Die Auswirkungen des KI-Gesetzes gehen weit über den Technologiesektor hinaus und haben erhebliche Auswirkungen auf die Energiebranche. Im Zuge der digitalen Transformation des Energiesektors spielt KI eine immer wichtigere Rolle bei der Steuerung sowohl der Angebots- als auch der Nachfrageseite.

 

Auf der Angebotsseite hat die KI das Potenzial, die Energieerzeugung, -übertragung und -verteilung zu revolutionieren. Nach Angaben der Internationalen Energieagentur (IEA) kann KI die Vorhersage der Energieversorgung aus erneuerbaren Quellen verbessern, den Netzbetrieb optimieren und die Wartungspläne für die Energieinfrastruktur verbessern. So können KI-Algorithmen beispielsweise Wettermuster analysieren, um die Erzeugung von Solar- und Windenergie vorherzusagen, was eine effizientere Integration erneuerbarer Energien in das Stromnetz ermöglicht.

Die Anforderungen des KI-Gesetzes für hochriskante KI-Systeme könnten auf viele dieser Anwendungen zutreffen, insbesondere auf solche, die mit der Verwaltung kritischer Infrastrukturen zu tun haben. Energieunternehmen werden sicherstellen müssen, dass ihre KI-Systeme die Standards des Gesetzes für Genauigkeit, Robustheit und Cybersicherheit erfüllen. Dies kann zwar die Kosten für die Einhaltung der Vorschriften erhöhen, könnte aber auch zu zuverlässigeren und vertrauenswürdigeren KI-Systemen im Energiesektor führen.

Auf der Nachfrageseite verändert die KI die Energieverbrauchsmuster in der Industrie, in Gebäuden und im Verkehr. Intelligente Gebäudesysteme nutzen KI zur Optimierung des Energieverbrauchs, während industrielle Prozesse KI für eine energieeffiziente Produktion nutzen. Im Verkehrssektor ist KI entscheidend für die Entwicklung der Ladeinfrastruktur für Elektrofahrzeuge und die Optimierung des Flottenmanagements.

 

Die IEA hebt hervor, dass KI-gestützte Energiemanagementsysteme in Gebäuden den Energieverbrauch ohne größere Hardware-Investitionen um bis zu 10 % senken könnten. In der Industrie kann die KI Prozesse optimieren, um den Energieverbrauch um 5-15 % zu senken. Diese Anwendungen werden wahrscheinlich den Anforderungen des KI-Gesetzes unterliegen, insbesondere in Bezug auf Datenqualität und Transparenz.

 

Die Bestimmungen des Gesetzes über regulatorische Sandkästen könnten für Innovationen im Energiesektor besonders nützlich sein. Sie könnten ein kontrolliertes Umfeld für die Erprobung neuer KI-Anwendungen in den Bereichen Netzmanagement, Laststeuerung und Energiehandel bieten.

 

Der Energiesektor wird sich jedoch auch mit den Anforderungen des Gesetzes an die Datenverwaltung auseinandersetzen müssen. Viele KI-Anwendungen im Energiesektor stützen sich auf große Datenmengen, darunter auch potenziell sensible Informationen über Energieverbrauchsmuster. Energieunternehmen müssen sicherstellen, dass ihre Datenpraktiken mit den Bestimmungen des Gesetzes zu Datenqualität, Datenschutz und Sicherheit übereinstimmen.

Das KI-Gesetz könnte auch die Entwicklung von erklärbarer KI im Energiesektor beschleunigen. Da die von KI-Systemen getroffenen Entscheidungen für die Energieinfrastruktur immer wichtiger werden, wird die Fähigkeit, diese Entscheidungen zu verstehen und zu erklären, von entscheidender Bedeutung sein. Dies steht im Einklang mit der Betonung von Transparenz und menschlicher Aufsicht durch das Gesetz.

 

Ausblick

Das KI-Gesetz ist ein wichtiger Schritt zur Schaffung eines harmonisierten, ethischen und innovationsfreundlichen KI-Ökosystems in Europa. Seine Auswirkungen werden in allen Sektoren zu spüren sein, auch im Energiesektor, wo KI das Potenzial hat, den Übergang zu einem nachhaltigeren und effizienteren Energiesystem voranzutreiben. Die Einhaltung des Gesetzes wird zwar Anstrengungen und Investitionen erfordern, bietet aber auch die Chance, Vertrauen in KI-Systeme aufzubauen und ihr volles Potenzial zu erschließen. Da sich das Gesetz auf seine Umsetzung zubewegt, sollten die Akteure aller Branchen jetzt mit den Vorbereitungen beginnen, um sicherzustellen, dass sie sich in dieser neuen Regulierungslandschaft zurechtfinden.

 

Ein paar Anmerkungen und eine Bitte zum Schluss...

Die erste Idee zu diesem Beitrag (und die zweite zum gleichen Thema...) geht auf einen kurzen LinkedIn-Beitrag meines alten Freundes Oliver Sueme zurück, der Partner und Tech & Data Lawyer bei Fieldfisher ist. Und er bezieht sich natürlich auf unsere Arbeit bei EEIP zur Digitalisierung und insbesondere zum Einsatz von KI. Es ist eine Reise in zwei Richtungen. Wir tauschen uns über Lösungen und bewährte Verfahren auf der Angebots- und Nachfrageseite aus und untersuchen gleichzeitig Anwendungsfälle für uns bei EEIP.

Wir haben vor kurzem unsere eigene KI-POLITIK ins Leben gerufen, die wir nicht nur als Ausgangspunkt für Leitlinien sehen, sondern auch als Instrument, um solche politischen Leitlinien zu ermitteln, die im Hinblick auf Vertrauen, Transparenz und Datenschutz sinnvoll sind. Und dort, wo diese Richtlinien unsere Wachstumschancen einschränken, eröffnen wir die Diskussion darüber, ob die Richtlinien aus gutem Grund beibehalten oder geändert werden sollten.

Ein EEIP-Anwendungsfall, den Sie vielleicht schon gesehen haben, ist unser neues mobiles Quiz, ein rasantes Spiel mit 5 Fragen in 45 Sekunden, mit Bestenlisten und Preisen. Im EU-Projekt EENOVA verwenden wir ein Quiz als Engagement-Tool. Und hier verwenden wir KI-Tools bei der Vorbereitung von Fragen, die mit Erklärungen und vollständigen Artikeln sowie Übersetzungen verknüpft sind.

Eine weitere Möglichkeit des Testens ist dieser Artikel, der der Zwillingsartikel zu The Future of AI: Navigating the AI Act and its impact on energy transition ist. Der inhaltliche Teil des Artikels, der die Hauptthemen des KI-Gesetzes zusammenfasst und seine Auswirkungen auf die Angebots- und Nachfrageseite untersucht, wurde hauptsächlich mit KI erstellt. Für diesen Artikel haben wir ChatGPT4.o verwendet. Der Ausgangspunkt für beide war die gleiche Frage. Daher bin ich natürlich gespannt, was Sie für besser halten (und warum). Bitte zögern Sie nicht, mir eine Nachricht unter meiner E-Mail-Adresse zukommen zu lassen.

Quellen:

  1. Internationale Energieagentur/(verschiedene)
  2. AI-Gesetz

 


mehr zum Thema   #KI-Gesetz  #künstliche Intelligenz  #Regulierung