DigitaliseringWet Kunstmatige Intelligentie: Belangrijke overeenkomst bereikt voor eerste AI-regels ter wereld
Samenvatting
De baanbrekende overeenkomst over de Wet op de Kunstmatige Intelligentie (AI) tussen het voorzitterschap van de Raad en het Europees Parlement schept een precedent voor de integratie van AI in de Europese markt en beschermt tegelijkertijd de grondrechten en bevordert innovatie. De AI-wet schetst een op risico's gebaseerd regelgevingskader, waarbij met name AI-systemen met een hoog risico aan strenge regels worden onderworpen. De herziene bestuursstructuur van de overeenkomst maakt handhaving op EU-niveau mogelijk en schrijft een beoordeling voor van de gevolgen voor de grondrechten van AI-toepassingen met een hoog risico.
AI-systemen zijn volgens de OESO-benadering categorisch gedefinieerd, waarbij gebruik voor nationale veiligheid, militaire doeleinden en andere niet-professionele toepassingen is uitgesloten. Voor systemen met een hoog risico gelden nu strenge EU-eisen voor markttoegang, met specifieke verbodsbepalingen voor praktijken als manipulatieve of voorspellende politietechnieken. Niettemin kan rechtshandhaving met de juiste voorzorgsmaatregelen biometrische identificatie op afstand toepassen.
Nieuw zijn bepalingen voor AI-systemen voor algemene doeleinden, gericht op transparantie en systeemrisicobeheer. Een gecentraliseerd AI-bureau zal deze systemen beheren, waarbij de AI-raad en een adviesforum de uitvoering ondersteunen en expertise leveren. Boetes voor niet-naleving zijn gebaseerd op de wereldwijde jaaromzet, met een passende correctie voor kleine en middelgrote ondernemingen en startende ondernemingen.
De overeenkomst is ook bedoeld om innovatie te stimuleren door ondersteunende maatregelen aan te passen en AI-regelgevingszandbakken op te richten. Het is de bedoeling dat de AI-wet twee jaar na inwerkingtreding van kracht wordt, waarbij voor sommige bepalingen specifieke tijdschema's gelden. Dit voorstel, dat in april 2021 van start ging, maakt deel uit van de inspanningen van de EU om de ontwikkeling van AI te harmoniseren met overwegingen op het gebied van grondrechten, in navolging van de invloed van de Algemene Verordening Gegevensbescherming op gegevensbescherming.
Open volledig artikel
Wet Kunstmatige Intelligentie: Belangrijke overeenkomst bereikt voor eerste AI-regels ter wereld
Inleiding
Na intensieve onderhandelingen van drie dagen hebben het voorzitterschap van de Raad en het Europees Parlement een historisch akkoord bereikt over de Wet op de Kunstmatige Intelligentie. Deze wet, een baanbrekend wetgevingsinitiatief, is bedoeld om AI veilig in de Europese markt te integreren en tegelijkertijd de grondrechten te waarborgen en innovatie in Europa te bevorderen.
Verklaring van Carme Artigas
Carme Artigas, de Spaanse staatssecretaris voor Digitalisering en AI, benadrukte het belang van deze overeenkomst. Er wordt een balans gevonden tussen het stimuleren van AI-innovatie in heel Europa en het beschermen van de grondrechten van burgers.
De visie van de AI-wet
De AI-wet is bedoeld als leidraad voor de ontwikkeling en het gebruik van AI in de interne markt van de EU. De wet hanteert een risicogebaseerde aanpak en stelt strengere regels vast voor AI-systemen die grotere risico's met zich meebrengen. Deze wet is klaar om een wereldwijde maatstaf te worden voor AI-regulering, net zoals de GDPR dat is voor gegevensbescherming.
Hoofdpunten van de voorlopige overeenkomst
- Nieuwe regels en governance:
- De overeenkomst introduceert regels voor AI-modellen met een grote impact en AI-systemen met een hoog risico.
- Een herzien governancesysteem omvat handhavingsbevoegdheden op EU-niveau.
- De lijst met verboden is uitgebreid, maar wetshandhavingsinstanties mogen onder bepaalde waarborgen biometrische identificatie op afstand gebruiken in openbare ruimten.
- Implementatie van AI-systemen met een hoog risico moet vóór gebruik een beoordeling van de gevolgen voor de grondrechten uitvoeren.
- Definities en toepassingsgebied
- De definitie van een AI-systeem is afgestemd op de OESO-benadering en bevat duidelijke criteria.
- De AI-wet heeft geen betrekking op nationale veiligheid, militaire doeleinden, onderzoek, innovatie of niet-professioneel AI-gebruik.
- Classificatie van AI-systemen:
- Een horizontale beschermingslaag omvat de classificatie van AI-systemen als systemen met een hoog risico.
- AI-systemen met een hoog risico moeten voldoen aan eisen voor toegang tot de EU-markt, met aandacht voor de kwaliteit van de gegevens en technische documentatie, met name voor kleine en middelgrote ondernemingen.
- Verboden AI-praktijken:
- Bepaalde AI-toepassingen worden als te risicovol beschouwd en zijn verboden, zoals cognitieve gedragsmanipulatie, emotieherkenning op het werk en voorspellend politiewerk.
- Uitzonderingen voor wetshandhaving:
- Er worden specifieke uitzonderingen gemaakt voor wetshandhaving, waarbij een balans wordt gevonden tussen operationele vertrouwelijkheid en bescherming van grondrechten.
- AI-systemen voor algemene doeleinden en basismodellen:
- Nieuwe bepalingen hebben betrekking op AI-systemen voor algemene doeleinden en basismodellen, waarbij de nadruk ligt op transparantie en systeemrisicobeheer.
- Governancearchitectuur:
- Een AI-bureau binnen de Commissie zal toezicht houden op geavanceerde AI-modellen.
- De AI-raad, bestaande uit vertegenwoordigers van de lidstaten, coördineert de implementatie en adviseert over basismodellen.
- Een adviesforum zal bestaan uit diverse belanghebbenden voor technische expertise.
- Sancties:
- Boetes worden vastgesteld als een percentage van de wereldwijde jaaromzet of een vooraf bepaald bedrag, met proportionele plafonds voor het mkb en startups.
- Transparantie en grondrechten:
- Een beoordeling van de gevolgen voor de grondrechten is verplicht voordat AI-systemen met een hoog risico worden ingezet.
- Er is meer transparantie nodig voor het gebruik van AI-systemen met een hoog risico.
- Steun voor innovatie:
- De overeenkomst wijzigt de steunmaatregelen voor innovatie, met inbegrip van gereguleerde AI-sandboxen voor tests in reële omstandigheden.
- Inwerkingtreding en volgende stappen:
- De AI-wet wordt twee jaar na inwerkingtreding van kracht, waarbij voor sommige bepalingen specifieke termijnen gelden.
- De compromistekst zal worden bijgewerkt en juridisch-taalkundig worden bijgeschaafd voordat hij formeel wordt aangenomen.
Achtergrond:
Het voorstel van de Commissie, dat in april 2021 is gelanceerd, maakt deel uit van het EU-beleid ter bevordering van een veilige en legale ontwikkeling van AI met inachtneming van de grondrechten. Op basis van een risicogebaseerde aanpak wordt beoogd een uniform rechtskader voor AI te creëren, de governance en handhaving te verbeteren en een interne markt voor AI-toepassingen te faciliteren. De onderhandelingen met het Europees Parlement zijn medio juni 2023 van start gegaan, nadat de Raad in december 2022 overeenstemming over dit dossier had bereikt.
Verder lezen
- Wet inzake kunstmatige intelligentie, algemene oriëntatie van de Raad, 6 december 2022
- Wet inzake kunstmatige intelligentie, voorstel van de Commissie, 14 april 2021
- Een Europese aanpak van kunstmatige intelligentie (informatie van de Europese Commissie)
- Een digitale toekomst voor Europa (achtergrondinformatie)
- Uw leven online: hoe de EU het voor u gemakkelijker en veiliger maakt (hoofdartikel)
- Kunstmatige intelligentie (achtergrondinformatie)
