Verslag van de vergadering van 21 maart 2023 (2022/2023 nr. 23)
Status: gecorrigeerd
Aanvang: 14.52 uur
Mevrouw De Blécourt-Wouterse i (VVD):
Voorzitter. "AI" staat voor "artificial intelligence", artificiële intelligentie. Het zou ook kunnen staan voor "ai, een veelkoppig en moeilijk af te bakenen vraagstuk". De VVD-fractie ziet veel kansen, maar de regulering en het toetsen van AI zijn een belangrijke uitdaging die wij moeten aangaan en die nodig is om belangrijke stappen vooruit te zetten. De commissie voor Justitie en Veiligheid heeft een AI-werkgroep opgezet die zich vanaf september 2020 met specialisten en ondersteund door het Rathenau Instituut heeft verdiept in het AI-onderwerp. Alle betrokkenen zijn daar al uitdrukkelijk voor bedankt, dus ik ga dat niet ook nog een keer doen.
Voorzitter. Het gebruik van AI is snel aan het groeien en de verwachting is dat deze technologie in de komende jaren een steeds belangrijkere rol gaat spelen. De snel evaluerende verzameling van technologieën zal een belangrijke rol kunnen spelen om economische en maatschappelijke activiteiten te bevorderen. Denk bijvoorbeeld aan gezondheidszorg, landbouw, onderwijs, justitie of openbare diensten. De VVD-fractie is van mening dat AI enorme kansen biedt om maatschappelijke problemen, zoals het grote arbeidsmarkttekort en de toenemende zorgvraag, aan te pakken. Uiteraard dienen wij onze ogen niet te sluiten voor de risico's, zoals privacybescherming, gelijke behandeling, ongehinderde toegang tot informatie- en dienstverlening, veiligheid en aansprakelijkheid. Daarom dient het gebruik van AI omgeven te worden door waarborgen als transparantie en is de menselijke maat belangrijk. Daarbij moet goed nagedacht zijn over het ethische aspect van dit vraagstuk, zoals alle voorgangers ook al hebben gezegd.
Voorzitter. AI-systemen dragen dagelijks bij aan bijvoorbeeld betere dienstverlening of het stellen van diagnoses in de gezondheidszorg. De ontwikkeling van innovatieve toepassingen van AI-systemen die in lijn zijn met onze regels, normen en waarden, is daarom essentieel. Hierop moet dan wel vooraf, tijdens en na het gebruik een helder toezicht worden ingericht.
Voorzitter. De scope van het debat van vandaag laat niet toe dat wij alle aspecten, haken en ogen op AI-technisch, -maatschappelijk, -juridisch en -ethisch vlak met elkaar bediscussiëren. Een gebrek aan focus in de discussie over AI kent als risico dat we in een zee van overwegingen verdrinken en niet verder komen. Daarom beperk ik mij in mijn inbreng namens de VVD-fractie tot het beoordelen van wetgeving waarbij AI een rol speelt. Hoe toets je wetten met een AI-component op rechtmatigheid, uitvoerbaarheid en handhaafbaarheid? De werkgroep is daar door het Rathenau Instituut bij geholpen.
Voorzitter. Op Europees niveau hebben we de AI-verordening die zaken als een representatieve, foutloze, relevante en volledige dataset vereist met als doel het voorkomen van het gebruik van onjuiste data. Ook stelt deze verordening dat de gebruiker van een AI-systeem in staat moet zijn om het causale verband tussen input en output naar behoren te interpreteren en te gebruiken. De Europese Unie wil nog dit jaar een omvangrijk AI-pakket voor wetgeving aannemen. Alleen een zeer beperkt aantal toepassingen met een hoog risico voor de samenleving wordt verboden, zoals gezichtsherkenningssoftware in straatcamera's die burgers op grote schaal classificeren in risicogroepen. Voor lagere risicotoepassingen als zelfrijdende auto's geldt de verplichte menselijke beoordeling van AI, transparantie over de werking en productaansprakelijkheid. Voor de laatste categorie risicotoepassingen geldt alleen transparantie over de werking. Tekst- en beeldgenerators vallen in de laatste risicocategorie. De wetgeving gaat gepaard met strenge straffen bij niet-naleving.
Voorzitter. Het Rathenau Instituut heeft naar aanleiding van alle presentaties door deskundigen handvatten opgesteld voor de Eerste Kamer die de Eerste Kamer zou kunnen gebruiken om wetten te toetsen. Juist omdat AI niet statisch is, maar de toepassingen zich in een rap tempo ontwikkelen, dient dat in de visie van de VVD-fractie een doorlopend proces te zijn. Eerste Kamerleden zullen zich moeten blijven bijscholen. De VVD-fractie is van mening dat de snelle ontwikkeling van het AI-onderwerp vraagt om een evaluatie op regelmatige basis. De staatssecretaris geeft dat zelf in haar brief ook aan. De VVD-fractie stelt voor om dat te doen via een jaarlijks gesprek tussen de staatssecretaris en de leden van de Eerste Kamer op basis van een beknopte rapportage van de staatssecretaris over de laatste ontwikkelingen en inzichten van dat jaar.
Verder vindt de VVD-fractie het belangrijk dat, gezien de impact die AI kan hebben of in sommige gevallen al heeft op grote delen van de samenleving, iedereen in die samenleving betrokken en op de hoogte blijft. De VVD-fractie ziet toegevoegde waarde in een AI-cursus, zowel in het lager als in het hoger onderwijs. Een nationale AI-cursus via de site van de overheid kan daar ook toe bijdragen. Graag een reflectie van de staatssecretaris.
Voorzitter. De brief van 16 februari roept nog een aantal vragen op bij de VVD-fractie. Ik zal me daarbij tot twee beperken. De mensenrechtentoets. In de brief noemt de staatssecretaris de mensenrechtentoets. Ze geeft aan dat ze geen exact beeld heeft van het gebruik daarvan. Wel werkt zij aan een implementatiekader voor de inzet van algoritmen. De VVD-fractie is van mening dat bij de implementatie van een wet waar AI een rol speelt een toets op het al dan niet schenden van mensenrechten essentieel is. De VVD-fractie is van mening dat een algoritme dat deze toets niet doorstaat, ook niet ingevoerd mag worden. Het zou in dat verband behulpzaam zijn als de resultaten van deze toetsen geregistreerd en bijvoorbeeld door Kamerleden geraadpleegd kunnen worden. Dat draagt bij aan het lerend vermogen. Graag een reactie van de staatssecretaris.
De tweede en laatste vraag over de brief gaat over het federatief datastelsel. De staatssecretaris geeft in haar brief aan dat dit stelsel het delen van data tussen overheden en semipublieke organisaties gaat verbeteren. Kan de staatssecretaris uitleggen waar wij aan moeten denken bij een federatief datastelsel?
Voorzitter. De VVD-fractie vraagt de staatssecretaris of Nederland op AI-gebied een voortrekkersrol speelt. De VVD-fractie is benieuwd of de staatssecretaris ook voornemens is om naast de EU samen te gaan werken met gelijkgestemden op dit gebied, zoals Singapore en Canada, nu de WRR adviseert om in te zetten op AI-diplomacy. Ook is de VVD in het licht van deze AI-wetgeving benieuwd waar de controle en de verantwoordelijkheid van de overheid begint en eindigt. Wordt er een onderscheid gemaakt tussen systemen die de overheid zelf heeft ontwikkeld of heeft laten ontwikkelen en de systemen die ingekocht zijn? Zouden er dan voor verschillende systemen andere wetten gaan gelden?
Voorzitter. De VVD-fractie staat ten slotte niet te springen om een nieuwe, aparte vaste Kamercommissie AI in de Eerste Kamer. De VVD-fractie is er nogal verbaasd over dat de staatssecretaris zich daar positief over uitspreekt, omdat het niet zozeer de regering, maar de Kamer aangaat. De werkzaamheden van de commissies in de Eerste Kamer verschillen van die in de Tweede Kamer. In de commissies in dit huis wordt immers gepraat over procedures van wetten. De VVD ziet niet in dat er veel wetten ter beoordeling naar de Eerste Kamer zullen komen die louter op AI zien en geen overlap hebben met onderwerpen die thans in bestaande commissies van de Eerste Kamer worden ondergebracht. Daarom heeft de VVD-fractie een alternatief. Hoewel het niet gebruikelijk is om in de eerste termijn een motie in te dienen, zou ik dat nu toch willen doen, omdat het een oproep aan de Eerste Kamer en met name aan de Voorzitter is voor een alternatief.
De voorzitter:
Door de leden De Blécourt-Wouterse, Otten, Gerkens, Prins, Dittrich en Veldhoen wordt de volgende motie voorgesteld:
De Kamer,
gehoord de beraadslaging,
constaterende het toenemende belang van AI in wetten;
overwegende dat AI-kennis voor alle commissies van de Eerste Kamer van belang is;
verzoekt de Voorzitter van de Eerste Kamer om te bewerkstelligen dat er op het terrein van digitalisering in het algemeen en artificiële intelligentie in het bijzonder ondersteuning en expertise binnen de griffie is (conform de juridische ondersteuning) ten behoeve van alle commissies van de Eerste Kamer,
en gaat over tot de orde van de dag.
Zij krijgt letter C (CXLVII).
Mevrouw De Blécourt-Wouterse (VVD):
De motie is ondertekend door meerdere fracties.
De heer Recourt i (PvdA):
Ik heb twee iets meer procedurele punten, waarvan een in de vorm van een vraag en een in de vorm van een opmerking. Ik begin met de opmerking. In de brief van de staatssecretaris heb ik gelezen dat zij schrijft: een commissie digitale zaken oprichten is aan de Kamer zelf; daar ga ik niet over, maar het lijkt me een goed idee.
Dan mijn vraag. Waarom dient de fractie van de VVD in eerste termijn een motie in? Het is toch de bedoeling dat we debatteren en de antwoorden afwachten? In dit geval gaat het om een debat tussen de leden van de Kamer zelf, maar desalniettemin: waarom heeft de VVD niet gewacht tot de tweede termijn, zodat de gedachte-uitwisseling heeft kunnen plaatsvinden?
Mevrouw De Blécourt-Wouterse (VVD):
Ja, dat had ik ook kunnen doen. Ik heb het net ook uitgelegd. Ik heb gezegd dat het niet gebruikelijk is om dit in eerste termijn te doen. In dit geval heb ik er wel voor gekozen, omdat het een alternatief is voor een aparte Kamercommissie.
De heer Recourt (PvdA):
Maar dat is dan toch een inhoudelijk argument als reactie op een procedureel punt? Ik snap het nog niet helemaal. U zegt: vanwege de inhoud van de motie doe ik het vooraf. Maar ook de inhoud van de motie vraagt toch gewoon om een debat van de Kamer? Een motie is een mening, en die mening formuleer je toch pas wanneer het debat is geweest?
Mevrouw De Blécourt-Wouterse (VVD):
Ik heb ervoor gekozen om die nu al te formuleren.
Mevrouw Veldhoen i (GroenLinks):
Ik begrijp dat de VVD vraagt om versterking van de griffie op het gebied van AI en digitalisering. Dat is natuurlijk een goed idee — laat ik dat vooropstellen — maar dat sluit een vaste Kamercommissie niet uit, want dan gaat het over ons eigen kennisniveau en ons eigen handelen als Kamerleden. De vraag aan de VVD is dus: een vaste Kamercommissie kan prima naast een versterkte griffie bestaan, toch?
Mevrouw De Blécourt-Wouterse (VVD):
De VVD ziet nut en noodzaak van een vaste Kamercommissie niet, omdat wij in de commissies procedures bespreken en het daar niet zozeer gaat om ondersteuning op inhoudelijk vlak. Bovendien hebben we juristen bij wie we onze vragen kunnen neerleggen en moeten we als Kamer zelf ook de wetten bestuderen. Wij denken dat het van belang is hierbij ondersteuning van de griffie te krijgen.
Mevrouw Veldhoen (GroenLinks):
Maar dat argument gaat toch op voor eigenlijk alles? U zegt: we moeten zelf wetten bestuderen en in de commissies worden alleen procedures besproken. Maar dat geldt voor ieder wetgevingstraject, dus …
Mevrouw De Blécourt-Wouterse (VVD):
Dat klopt ook.
Mevrouw Veldhoen (GroenLinks):
… dan zouden we eigenlijk iedere commissie kunnen opheffen. In de commissies treffen we ook voorbereidingen. Zo horen we bijvoorbeeld deskundigen en gaan we in op hoe we een wet behandelen. Er gebeurt dus wel meer dan alleen het bespreken van een procedure. Kunt u daar nog op reageren?
Mevrouw De Blécourt-Wouterse (VVD):
Dat ben ik met mevrouw Veldhoen eens. Bij wetten met een AI-component zal echter in 99% van de gevallen sprake zijn van overlap met bijvoorbeeld de commissies OCW of J&V, dus dan kan het toch in de desbetreffende commissie besproken worden? Dan kun je toch in die commissie deskundigen horen of een werkgroep opzetten? Daar heeft u nu ook het voortouw voor genomen.
De voorzitter:
Mevrouw Veldhoen, tot slot.
Mevrouw Veldhoen (GroenLinks):
Er is natuurlijk allerlei wetgeving met AI-componenten, maar de commissie zou zien op meer dan dat. De commissie zou zien op digitalisering in het algemeen. Zoals ik al zei in antwoord op een interruptie op mijn bijdrage: je kunt ook combinaties van commissies maken, waardoor je die kennis borgt en bijvoorbeeld bij zowel de commissie J&V als de commissie Digitale Zaken houdt. Ik zou het echt een ongelofelijk gemiste kans vinden als wij achterblijven, nu we een staatssecretaris Digitale Zaken en een Tweede Kamer met een vaste Kamercommissie voor Digitale Zaken hebben. Dat zou echt een gemiste kans zijn, wat mij betreft. Dat was geen vraag, maar een opmerking.
Mevrouw De Blécourt-Wouterse (VVD):
Mag ik daar nog op reageren, voorzitter?
De voorzitter:
Gaat uw gang.
Mevrouw De Blécourt-Wouterse (VVD):
De VVD-fractie ziet dat toch anders, omdat de Tweede Kamer een heel andere rol heeft. Die maakt wetten; wij maken geen wetten. De Tweede Kamer heeft gewoon een andere rol dan wij. Wij gaan over de procedures. Zij hebben ook "zoveelminutendebatten". Die hebben wij niet.
De heer Dittrich i (D66):
Even terug naar de motie die zojuist is ingediend. Die heb ik ook meeondertekend, omdat ik de gedachte onderschrijf dat de Kamer veel beter ondersteund moet worden als het gaat over digitalisering en AI. Ik vraag mevrouw De Blécourt of ik de motie zo kan lezen dat … Er staat nu dat de Voorzitter, hoe machtig die ook is, een bepaalde rol heeft, maar ik neem aan dat het uiteindelijk de Kamer is die over de financiële toedeling voor de versterking van de ondersteuning gaat, en niet alleen de Voorzitter.
Mevrouw De Blécourt-Wouterse (VVD):
Dat zegt de heer Dittrich helemaal correct. Zo mag u het lezen.
De voorzitter:
Vervolgt u uw betoog. Of bent u aan het eind van uw betoog?
Mevrouw De Blécourt-Wouterse (VVD):
Ja, ik ben klaar.
De voorzitter:
Dank u wel. Dan geef ik het woord aan de heer Verkerk namens de ChristenUnie.