Behandelfase Eerste Kamer: gepubliceerd in Europees publicatieblad.

nationaal

Op 15 februari 2022 nam de commissie de beantwoording van de regering en de Europese Commissie voor kennisgeving aan.

Europees

Op 12 juli 2024 is Verordening 2024/1689 van 13 juni 2024 gepubliceerd in het Europees Publicatieblad en treedt 20 dagen na publicatie in werking en zal gefaseerd van toepassing zijn. Deze verordening is verbindend in al haar onderdelen en is rechtstreeks toepasselijk in elke lidstaat.

volledige titel

Voorstel voor een Verordening van het Europees Parlement en de Raad tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (wet op de artificiële intelligentie) en tot wijziging van bepaalde wetgevingshandelingen van de Unie

document Europese Commissie

COM(2021)206, d.d. 21 april 2021

rechtsgrondslag

Artikel 114 VWEU

commissies Eerste Kamer

beleidsterreinen

verwante dossiers

Op 12 juli 2024 is Verordening 2024/1689 van 13 juni 2024 gepubliceerd in het Europees Publicatieblad en treedt 20 dagen na publicatie in werking en zal gefaseerd van toepassing zijn. Deze verordening is verbindend in al haar onderdelen en is rechtstreeks toepasselijk in elke lidstaat.

Op 15 februari 2022 nam de commissie de beantwoording van de regering en de Europese Commissie voor kennisgeving aan.

Op 5 februari 2022 stuurde de Europese Commissie een antwoord (EK, F) op de brief met vragen van 5 november 2021.

Op 18 januari 2022 besloot de commissie de bespreking van het verslag schriftelijk overleg aan te houden tot de reactie van de Europese Commissie op de brief van 5 november 2021 is ontvangen.

Op 14 december 2021 stuurden de minister voor Rechtsbescherming, de minister van Economische Zaken en Klimaat en de minister en de staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties een antwoord op de brief van 28 oktober 2021. Op 16 december 2021 werd het verslag van een schriftelijk overleg vastgesteld (EK, E).

Op 8 november 2021 organiseerde de Bijzondere Commissie artificiële intelligentie in het digitale tijdperk (AIDA) van het Europees Parlement een interparlementaire commissiebijeenkomst over "Artificial Intelligence and the Digital Decade ". Het lid Recourt (PvdA) nam deel aan deze bijeenkomst en gaf hierover op 9 november 2021 een terugkoppeling in de commissie.

Op 5 november 2021 werd de brief (EK, D) met vragen van de fractie van GroenLinks verstuurd aan de Europese Commissie. De fracties van de PvdA en de SP sloten zich bij de vragen aan.

Op 28 oktober 2021 werd de brief met vragen van de fracties van de VVD en GroenLinks verstuurd aan de minister voor Rechtsbescherming. De fracties van de PvdA en de SP sloten zich bij de vragen van de fractie van GroenLinks aan.

Op 14 september 2021 leverden de fracties van VVD (De Blécourt-Wouterse) en GroenLinks (Veldhoen) inbreng voor schriftelijk overleg met de regering en de Europese Commissie.

Op 29 juni 2021 besloten de commissies J&V, EZK/LNV en I&A/JBZ dat de commissie J&V de voorstellen in behandeling neemt. Zij levert op 14 september 2021 inbreng voor schriftelijk overleg.

Op 31 mei 2021 ontving de Kamer de BNC-fiches over de Commissiemededeling (COM(2021)205) en het voorstel voor een verordening betreffende geharmoniseerde regels (COM(2021)206) voor kunstmatige intelligentie. Het BNC-fiche over het voorstel voor een verordening betreffende machineproducten (COM(2021)202) ontving de Kamer op 18 juni 2021.

Op 11 mei 2021 besloten de commissies J&V, EZK/LNV en I&A/JBZ de BNC-fiches over de voorstellen af te wachten.

Op 21 oktober 2022 stuurde de minister van EZK de position paper (22.112/26.643, 3523) aan de Tweede Kamer met ideeën van Nederland over de inrichting van regulatory sandboxes (proeftuinen waar innovaties kunnen worden uitgeprobeerd) in de AI-verordening.

Op 9 maart 2022 verzocht de commissie DiZa de minister van EZK om ruim voor het commissiedebat over de Telecomraad op 31 mei 2022 de Tweede Kamer een stand van zaken te doen toekomen ten behoeve van de behandeling van de AI-Verordening. De minister stuurde op 20 mei 2022 de geannoteerde agenda voor de Telecomraad van 3 juni 2022 (21.501-33, 931) aan de Kamer. In deze brief wordt ook ingegaan op de stand van zaken.

Op 15 oktober 2021 stuurden de ministers van EZK, J&V, BZK en voor Rechtsbescherming en de staatssecretaris van BZK een brief waarin zij antwoorden op de vragen van 10 september 2021 over de BNC-fiches betreffende de Commissiemededeling en de conceptverordening inzake AI. Op 5 november 2021 werd het verslag van een schriftelijk overleg vastgesteld (22.112, 3221).

Gelijktijdig met de brief is een reactie op het bericht van het Rathenau Instituut inzake de "Zeven aandachtspunten voor de AI-verordening" aan de Tweede Kamer verzonden (22.112, 3222).

De commissie besprak de brieven tijdens het commissiedebat op 24 november 2021 ter voorbereiding op de Telecomraad van 3 december 2021.

Op 6 oktober 2021 stuurde de commissie DiZa een brief met vragen aan de minister van EZK naar aanleiding van de bijeenkomsten van de Telecomraad op 14 oktober 2021 en 4 juni 2021. In het schriftelijk overleg kwam onder meer het voorstel voor een verordening betreffende AI aan de orde. Op 18 oktober 2021 is het verslag van een schriftelijk overleg vastgesteld (21.501-33, 877). De commissie besprak het verslag schriftelijk overleg tijdens het commissiedebat van 24 november 2021 ter voorbereiding op de Telecomraad van 3 december 2021.

Op 23 juni 2021 verzocht de commissie DiZa de minister voor Rechtsbescherming om een kabinetsreactie op het bericht in de Volkskrant van 21 juni 2021 "Europese privacywaakhond wil verbod op elke vorm van gezichtsherkenning in de openbare ruimte ". Het bericht verwijst naar de opinie van de European Data Protection Board (EDPB) en de European Data Protection Supervisor (EDPS) over het voorstel voor een verordening betreffende AI. Op 18 oktober 2021 is de kabinetsreactie (32.761, 198) aan de Tweede Kamer verzonden. De commissie DiZa besprak dit op 3 november 2021 en besloot de reactie te agenderen voor het nog te plannen commmissiedebat over opkomende en toekomstige technologieën. Daarnaast is de brief behandeld tijdens het commissiedebat op 24 november 2021 ter voorbereiding op de Telecomraad van 3 december 2021.

Op 9 juni 2021 besloot de commissie DiZa op 10 september 2021 inbreng te leveren voor schriftelijk overleg over de Commissiemededeling (COM(2021)205) en het voorstel voor een verordening betreffende AI (COM(2021)206). Daarnaast wordt COM(2021)206 betrokken bij het gesprek met Eurocommissaris Vestager over de voorstellen inzake digitale diensten en digitale markten op 7 oktober 2021. De commissies EU, J&V, BiZa en EZK zijn volgcommissies.

Op 1 oktober 2021 liet de minister van Economische Zaken en Klimaat weten de vragen van 10 september 2021 niet binnen de gewenste termijn te kunnen beantwoorden (22.112, 3207). Op 13 oktober 2021 nam de commissie DiZa de uitstelbrief voor kennisgeving aan.

Op 27 mei 2021 besloot de commissie DiZa het voortouw over te nemen van de commissie EZK en het voorstel voor een verordening betreffende AI (COM(2021)206) aan te houden tot het BNC-fiche is ontvangen.

Op 12 mei 2021 besloot de commissie EZK de commissie DiZa te verzoeken om het voorstel voor een verordening betreffende AI (COM(2021)206) in behandeling te nemen.

In het BNC-fiche van 31 mei 2021 geeft het kabinet zijn standpunt over het voorstel. Het kabinet verwelkomt het voorstel. Het kabinet vindt het belangrijk dat striktere regels gaan gelden voor AI-systemen met een hoog risico. Ook is het positief over de doelstelling om als EU leiderschap te tonen in betrouwbare en veilige AI.

Kanttekeningen

Wel heeft het kabinet een aantal vragen en bezwaren. Het kabinet vindt dat niet alle definities en formuleringen in het voorstel helder zijn, met name de formulering van de verboden en de hoog-risico categorieën en de definities van provider, gebruiker en de 'ingebruikname' van AI-systemen. Ook heeft het kabinet vragen en kanttekeningen bij de definitie van AI, de uitvoering van conformiteitsbeoordelingen en de transparantieverplichtingen, toezicht op de inzet van AI-systemen en de praktische haalbaarheid van het plan voor bedrijven en organisaties. Het kabinet vraagt de Europese Commissie om zaken waar nodig te verduidelijken, en waar dat niet kan ruimte te geven om in de praktijk bij te sturen.

Bevoegdheid

De bevoegdheid van de EU voor het voorstel beoordeelt het kabinet positief. De EU heeft volgens artikel 114 VWEU de bevoegdheid tot harmonisatie van nationale wetgeving voor een goede werking van de interne markt. Het kabinet kan zich vinden in deze rechtsbasis. Daarnaast kan het kabinet zich vinden in artikel 16 VWEU als rechtsbasis voor de voorgestelde regels met betrekking tot AI-systemen die gebruik maken van persoonsgegevens, specifiek ten aanzien van AI-systemen die gebruikmaken van biometrische identificatie.

Subsidiariteit

Ook heeft het kabinet een positief oordeel over de subsidiariteit van het voorstel. Het kabinet vindt dat gezien de mogelijke grensoverschrijdende risico's voor veiligheid en fundamentele rechten die AI-systemen met zich mee kunnen brengen en het belang van een gelijk speelveld binnen de EU geharmoniseerde regels op EU-niveau wenselijk zijn.

Proportionaliteit

Verder oordeelt het kabinet positief over de proportionaliteit van het voorstel. Het voorstel staat volgens het kabinet in verhouding tot het doel van het voorstel, namelijk om ervoor zorgen dat AI-systemen die op de Europese markt worden gebracht en gebruikt, veilig en in overeenstemming zijn met de rechten en waarden binnen de EU.

Krachtenveld

De EU-lidstaten reageren volgens het kabinet overwegend positief op het voorstel. Het kabinet verwacht dat ook het Europees Parlement positief zal zijn over het voorstel, omdat het eerder heeft gepleit voor een kader voor ethische aspecten van kunstmatige intelligentie

Deze (ontwerp)verordening zorgt voor geharmoniseerde regelgeving voor artificiële intelligentie. AI behoort tot de snelgroeiende technologie die zorgt voor vele economische en maatschappelijke voordelen. Door het verbeteren van voorspelbaarheid, het optimaliseren van operaties en de toewijzing van middelen en het personaliseren van dienstverlening kan het gebruik van AI sociale en milieuvriendelijke resultaten bieden. Met name op de gebieden van klimaatveranderingen, milieu, zorg, financiën, mobiliteit en landbouw is optreden van AI goed denkbaar. Het gebruik van AI kan evenwel ook voor risico's of negatieve gevolgen voor individuelen of de maatschappij zorgen.

De verordening stelt daarom een risicogebaseerde aanpak voor, waarbij een onderscheid wordt gemaakt tussen AI-toepassingen die i) een onaanvaardbaar risico, ii) een hoog risico, en iii) een laag of minimaal risico met zich meebrengen. Er komt een lijst van verboden praktijken in titel II die alle AI-systemen bevat waarvan het gebruik onaanvaardbaar wordt geacht omdat het strijdig is met de waarden van de Unie, bijvoorbeeld vanwege een schending van grondrechten. Het verbod heeft betrekking op praktijken die een aanzienlijk potentieel hebben om personen, zonder dat ze zich daarvan bewust zijn, te manipuleren of misbruik te maken van de kwetsbaarheid van specifieke kwetsbare groepen.

AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht:

• - 

  adequate systemen voor risicobeoordeling en -beperking;
• - 

  hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten zoveel mogelijk uit te sluiten;
• - 

  registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen;
• - 

  gedetailleerde documentatie met alle nodige informatie om de autoriteiten in staat te stellen het doel en de conformiteit van het systeem te beoordelen;
• - 

  duidelijke en adequate informatie voor gebruikers;
• - 

  passend menselijk toezicht om de risico's tot een minimum te beperken;
• - 

  sterke robuustheid, beveiliging en nauwkeurigheid.

De EU wil ervoor zorgen dat Europeanen kunnen profiteren van nieuwe technologieën die zijn ontwikkeld en dat deze functioneren volgens de waarden, grondrechten en beginselen van de Unie.

Deze verordening beoogt een gecoördineerde Europese aanpak van menselijke en ethische implicaties van AI en vertrouwen in AI.

Met het regelgevend kader stelt de Commissie de volgende doelstellingen voor:

• - 

  Alle AI-systemen die in de Unie in de handel worden gebracht en worden gebruikt dienen veilig te zijn en in lijn met bestaande wetgeving inzake grondrechten en waarden van de Unie;
• - 

  Zorgen voor rechtszekerheid om investeringen en innovatie in AI te vergemakkelijken;
• - 

  Het verbeteren van het bestuur en de effectieve handhaving van bestaande wetgeving inzake fundamentele rechten en veiligheidsvoorschriften van AI-systemen;
• - 

  Het ontwikkelen van een interne markt voor legale, veilige en betrouwbare AI-toepassingen en het voorkomen van marktfragmentatie.

Op 21 mei 2024 stemde de Raad in met het voorstel. De Verordening zal binnenkort gepubliceerd worden in het Publicatieblad van de Europese Unie en gefaseerd in werking treden.

Op 2 februari 2024 stemde Coreper in met het voorlopig akkoord.

Op 8 december 2023 bereikten de Europese Instellingen een voorlopig akkoord over het voorstel COM(2021)206 betreffende een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie.

Tijdens de Telecomraad van 6 december 2022 (21.501-33, 1001) stemde de Raad unaniem in met een algemene oriëntatie voor over de AI-verordening. Nederland heeft steun uitgesproken en aangegeven tevreden te zijn hoe specifieke zorgen van Nederland zijn geadresseerd in de tekst. Nederland heeft het belang onderstreept van versterking van mensenrechten via de registratieplicht voor gebruikers van hoog-risico AI, klachtrecht en het meenemen van mensenrechten in de risicoanalyse. Als het Europees Parlement ook een akkoord bereikt, kunnen de onderhandelingen tussen de Raad en het Parlement starten richting een eindtekst.

Tijdens de Telecomraad van 3 juni 2022 (21.501-33, I) presenteerde het Voorzitterschap van de Raad de voortgangsrapportage over de AI-verordening. Het Voorzitterschap gaf aan voor het einde van zijn termijn een nieuwe tekst te publiceren. Nederland vroeg aandacht voor een proportionele afbakening van hoog-risico AI, innovatie en experimenteren via sandboxes en het toezichtsysteem in de AI-verordening en andere gerelateerde EU-wetgeving, en voor de toepasbaarheid daarvan voor organisaties en bedrijven. Mogelijk bereikt de Raad in december 2022 een algemene oriëntatie.

Tijdens de Telecomraad van 3 december 2021 (21.501-33, 900) presenteerde het Voorzitterschap een voortgangsrapportage over de AI-verordening. Het Voorzitterschap gaf aan dat een eerste compromistekst is geschreven over onder meer het toepassingsgebied, de definities, verboden AI-systemen en de indeling van hoog-risico AI-systemen.

Op 21 en 22 oktober 2021 besprak de Europese Raad (21.501-20, CB) de vooruitgang van lopende onderhandelingen over voorstellen op het gebied van digitalisering, waaronder de AI-verordening. Zij benadrukte het belang van snelle voortgang in het opzetten van een regelgevend kader voor kunstmatige intelligentie dat innovatie-vriendelijk is en tegelijkertijd veiligheid en respect voor fundamentele vrijheden in acht neemt.

Op 14 oktober 2021 vond in de informele Telecomraad (21.501-33, 882) een beleidsdebat plaats over het voorstel voor een AI-verordening. De Raad benadrukte het horizontale karakter van de AI-verordening en ging in op de vraag of deze voldoende waarborgen biedt om gezondheid, veiligheid en fundamentele rechten te beschermen. De Europese Commissie vindt dat de AI-verordening belangrijk is om met internationale partners ethische AI te ontwikkelen. Vrijwel alle lidstaten vinden het essentieel dat de AI-verordening fundamentele rechten beschermt en ruimte laat voor de ontwikkeling van innovatieve AI.

Op 7-8 oktober 2021 informeerde het voorzitterschap de JBZ-Raad (32.317, MO) over de digitale conferentie die zij op 20 juli 2021 heeft georganiseerd over de bescherming van fundamentele rechten bij regelgeving over kunstmatige intelligentie. Tijdens de conferentie is in twee panels gesproken over het voorstel voor de Verordening over kunstmatige intelligentie.

Tijdens de JBZ-Raad van 15-16 juli 2021 (32.317, MH) werd gesproken over het voorstel voor een verordening betreffende AI. Er vond een discussie plaats over de impact van de verwerking van biometrische gegevens door AI-systemen op de grondrechten. De meeste landen zijn positief over het voorstel. Lidstaten zien nog wel veel onduidelijkheden. Een aantal lidstaten wil, naast het huidige voorstel, een specifiek voorstel over het gebruik van AI bij rechtshandhaving.

Tijdens de JBZ-Raad van 7 en 8 juni 2021 (32.317, MF) vond een eerste gedachtewisseling plaats over het voorstel voor een verordening betreffende AI (COM(2021)206). De Telecomraad heeft het voortouw bij de behandeling van het voorstel. De JBZ-Raad bespreekt de impact van AI op het veiligheidsterrein. Lidstaten hadden zorgen over de subsidiariteit van het voorstel, met met name op het gebied van rechtshandhaving. Meerdere lidstaten, waaronder Nederland, vroegen om een effectbeoordeling voor het veiligheidsdomein en het evenwicht tussen AI en de bescherming van grondrechten.

Een prioriteit van het Sloveens Voorzitterschap is om de ethische aspecten en mogelijke effecten van het gebruik van AI op de grondrechten aan te pakken.

Tijdens de Telecomraad van 4 juni 2021 (21.501-33, 869) gaf de Eurocommissaris voor interne markt, Thierry Breton, een presentatie over het voorstel voor een verordening betreffende AI (COM(2021)206).

In de databank EUR-Lex wordt de laatste stand van zaken in de Europese behandeling van het voorstel weergegeven.

Op 13 maart 2024 stemde het Europees Parlement in met het eerder bereikte voorlopig akkoord door middel van een wetgevingsresolutie.

Op 13 februari 2024 stemde de commissies LIBE en IMCO in met het voorlopig akkoord. De plenaire behandeling staat gepland voor 10 en 11 april 2024.

Op 8 december 2023 bereikten de Europese Instellingen een voorlopig akkoord over het voorstel COM(2021)206 betreffende een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie.

Op 14 juni 2023 stemde het Europees Parlement in met het voorstel en het starten van de onderhandelingen tussen de EU-instellingen.

Op 11 mei 2023 stemden de commissies IMCO en LIBE in met het ontwerpverslag over het voorstel COM(2021)206. Naar verwachting wordt het voorstel op 12 juni 2023 plenair behandeld in het Europees Parlement. Daarna kunnen de onderhandelingen met de Raad starten.

Op 20 april 2022 brachten de commissies het ontwerpverslag uit over het voorstel.

De voorstellen voor een verordening betreffende machineproducten (COM(2021)202) en voor een verordening betreffende AI (COM(2021)206) behoren tot de lijst van gemeenschappelijke wetgevingsprioriteiten van de drie EU-instellingen. Hiermee willen zij in 2023/2024 aanzienlijke vooruitgang boeken.

Het Europees Parlement heeft verschillende studies gepubliceerd met betrekking tot AI. Deze zijn te vinden via deze link.

De commissies Interne markt en consumentenbescherming (IMCO) en Burgerlijke vrijheden, justitie en binnenlandse zaken (LIBE) behandelen het voorstel voor een verordening betreffende AI (COM(2021)206). De commissies Milieubeheer, volksgezondheid en voedselveiligheid (ENVI), Industrie, onderzoek en energie (ITRE), Vervoer en toerisme (TRAN), Cultuur en onderwijs (CULT) en Juridische zaken (JURI) zijn adviescommissies.

In de databank OEIL van het Europees Parlement wordt de laatste stand van zaken in de behandeling van het voorstel weergegeven.

Op 6 oktober 2021 nam de commissie voor Buitenlandse en Europese Zaken van de Poolse Senaat een standpunt in over het voorstel voor een verordening inzake AI (COM(2021)206).

Op 17 september 2021 nam de Duitse Bondsraad een standpunt in over het voorstel voor een AI-verordening (COM(2021)206). De Bondsraad verwelkomt het voorstel en benadrukt dat het positief is dat ook aanbieders van buiten de EU zich zouden moeten houden aan de regels in de Verordening als zij op de EU-markt willen opereren. De Bondsraad stelt wel voor om de Verordening op een aantal punten aan te passen. Hij vraagt onder meer om het eerste deel van Annex I (c) te verwijderen en de definities van AI-methoden aan te scherpen.

Op 21 juli 2021 nam de Tsjechische Senaat een resolutie aan over het voorstel voor een verordening inzake AI (COM(2021)206). De Senaat vraagt de rechten en plichten van providers en gebruikers van AI duidelijk te definiëren. De resolutie is verzonden aan de Europese Commissie.

Op 10 juni 2021 stuurde de commissie voor Europese Zaken van de Tsjechische Kamer van Afgevaardigden een resolutie over het AI-pakket aan de Europese Commissie in het kader van de politieke dialoog.

In de databank IPEX wordt de behandeling van het voorstel in de diverse (kandidaat) lidstaatparlementen weergegeven.

Op 22 februari 2022 publiceerde de commissie Meijers (onafhankelijke groep van experts die adviseert over Europees straf-, asiel-, migratie-, privacy, non-discriminatie en institutioneel recht) commentaar op het voorstel voor een AI-verordening. Volgens de commissie is het een belangrijk initiatief, maar biedt het huidige voorstel burgers onvoldoende bescherming.