Verslag van de vergadering van 21 maart 2023 (2022/2023 nr. 23)
Status: gecorrigeerd
Aanvang: 19.40 uur
De heer Recourt i (PvdA):
Dank, voorzitter. Dank, mevrouw Veldhoen, dat ik voor u mag. Ik heb een paar opmerkingen te maken over dit debat. Ik ben blij dat dit debat gevoerd is. Ik ben blij met de wijze waarop dit debat gevoerd is. In eerste termijn zei ik al dat ik het een zoeken naar aangrijpingspunten vond. Volgens mij hebben we die best redelijk weten te vinden, alhoewel iedereen het er wel mee eens is dat de ontwikkeling zo fundamenteel is dat dit een voortdurend punt van aandacht is voor regering en parlement.
Ik kom meteen op de argumenten voor het wel of niet instellen van een vaste commissie. Het belangrijkste argument tegen is dat je het dan weghaalt, ook de urgentie, bij de commissies die er al zijn. Ik denk dat het tegenovergestelde waar is, helemaal omdat we hier veel met volgcommissies werken. Je ziet het aan de commissie rond covidregelgeving. Die werkte prima met VWS, JenV en andere commissieleden samen. Ik zie het zelf aan de commissie Koninkrijksrelaties. Bij iedere vaste commissie komt ook de BES aan de orde. We moeten de eerste vragen van vakcommissies over de BES nog vinden, hoewel dat misschien wat erg negatief geformuleerd is. Dat is niet in het zicht van vakcommissies, wel in dat van de commissie Koninkrijksrelaties. Kortom, ik denk alleen maar dat je elkaar versterkt en als het niet werkt, stoppen we ermee. Mevrouw Gerkens, ik heb iets gezegd waar u het in ieder niet mee eens bent.
Mevrouw Gerkens i (SP):
Nee, het is precies wat de heer Recourt zei dat mij triggerde. Dat het niet in het oog is van de vakcommissies is namelijk precies het probleem. Het is mijn overtuiging dat wanneer je het juist niet bij de vakcommissies belegt, het daar ook nooit gaat landen, ook niet als je zegt, zoals mevrouw Veldhoen zei, "we doen het tijdelijk met de commissie Digitale Zaken om de kennis op te plussen". Dus juist wat u zegt, verstevigt mijn betoog dat je het juist wel, via de staf, bij de vakcommissies moet beleggen.
De voorzitter:
Dit heb ik vandaag al eerder gehoord, maar gaat uw gang.
De heer Recourt (PvdA):
Ik zal dan met mijn volgende punt doorgaan. Ik had nog iets opgeschreven over motiveren.
De voorzitter:
Mevrouw De Blécourt, nog een nieuwe vraag?
Mevrouw De Blécourt-Wouterse i (VVD):
Ja, ik vraag via de voorzitter of het niet een beetje vreemd is dat de Kamer in deze samenstelling iets gaat besluiten over een Kamer die een hele andere samenstelling zal kennen.
De heer Recourt (PvdA):
Nee, want wij hebben ook al besloten dat we een commissie voor JenV hebben, voor Koninkrijksrelaties en voor Sociale Zaken. Dat hebben we allemaal besloten voor de Kamer in de nieuwe samenstelling.
De voorzitter:
Misschien voor de goede orde: deze Kamer kan wel een advies of een voorstel meegeven aan een nieuwe Kamer, maar de nieuwe Kamer gaat sowieso over de commissie-indeling.
Mevrouw De Blécourt-Wouterse (VVD):
Oké, dank u wel.
De heer Recourt (PvdA):
Maar dan over alle commissies, niet alleen over deze.
De voorzitter:
Ja, over alle commissies.
De heer Recourt (PvdA):
Ik kom op het motiveringsbeginsel en de vraag of misschien niet nietigheid het gevolg moet zijn van het niet voldoen aan motiveren. Mijn stelling nu is dat de rechter die zicht heeft op AI-besluitvorming en die zich realiseert dat een deel van de besluitvorming in een besluit van de overheid dat is gebaseerd op AI niet gemotiveerd krijgt hoe dat werkt, al kan zeggen dat die beslissing niet voldoet aan het motiveringsbeginsel en daarmee voor vernietiging vatbaar is. Ik vraag de staatssecretaris of zij het daarmee eens is. Ik denk ook aan het civiele vonnis rond ... Nou ja, nou ben ik in alle consternatie de naam kwijt. Er is onder meer geprocedeerd door Maxim Februari weet ik en door Tommy Wieringa over dat programma SyRI, nou weet ik het weer. De rechter heeft daar ook al over gezegd "ik heb geen idee hoe het werkt, dus dat is geen goed plan". Ik denk dus dat dit nu al kan.
Voordat ik mijn motie ga voorlezen, heb ik nog een laatste punt. Ik heb een interruptiedebat met de staatssecretaris gehad over de risico's die ik zie voor het gewoon functioneren van de rechtspraak, het notariaat, de registers enzovoort op het moment dat de techniek zo goed wordt dat je echt vals en echt goed niet mee van elkaar kunt onderscheiden zonder technische hulpmiddelen. Nu is het al zo dat je een valse handtekening kunt zetten onder een stuk dat als bewijs moet dienen. Dan kan de tegenpartij zeggen: ik ga een deskundige op het gebied van handtekeningen laten vaststellen of die handtekening echt of vals is. Je hebt dus een middel om te verifiëren of dat zo is. Mijn grote angst is dus dat de valsheid niet meer te onderscheiden is met de methodes die we nu hebben en dat daarmee de basis wegvalt onder al ons bewijsrecht in alle rechtsgebieden. Dat is nogal een fundamentele angst. Ik hoor de staatssecretaris goed als zij zegt dat dit ook aan de organisatie zelf is. Ja, dat klopt, maar het zou goed zijn om de organisaties er ook op te wijzen dat die kans er mogelijk is.
Ik kom aan mijn motie. Die motie ziet op een andere zorg die ik had, namelijk dat we met de regulering binnen het gebaande stelsel mogelijk wat missen. Als we terugkijken, denken we misschien: we hebben iets laten gebeuren wat we eigenlijk niet wisten. Daarvoor moet je vrij fundamenteel terugdenken wat je nu eigenlijk wil dat gedigitaliseerd wordt. De rechter kan worden geholpen door AI, maar volgens mij vinden we allemaal dat de uitspraak zelf door de rechter moet worden gedaan. Democratie is hetzelfde verhaal. Je kan met AI allerlei onderzoeken doen over wat de bevolking wil, maar het gaat uiteindelijk om de beraadslaging tussen mensen, tussen ons allemaal, waarin we democratische besluiten nemen. Die dingen kun je vaststellen. Dit is aan mensen en niet aan de computer, terwijl de computer het wel zou kunnen.
Vandaar de volgende motie. Ook nog wat anders, ik heb de motie in een andere vorm gezet. De ondertekenaars zijn het er niet per se mee eens, maar ik wil graag een debat in dit huis over hoe we eigenlijk moties insteken. Die gekke vorm "overwegende", "horende" en "van mening zijnde", die passieve vorm past niet bij een Kamer die wil dat mensen ons begrijpen, dat mensen die de motie lezen ook snappen wat er staat. Die motie moet je gewoon helder formuleren en helder schrijven. Daarom heb ik voor de traditionalisten het begin en eind hetzelfde gehouden — ook volkomen archaïsch, maar dat terzijde — maar heb ik het midden al een beetje veranderd.
De voorzitter:
Door de leden Recourt, Veldhoen, Prins, Dittrich, Gerkens, Verkerk en Otten wordt de volgende motie voorgesteld:
De Kamer,
gehoord de beraadslaging,
vraagt de regering om helder te formuleren welke waarden en gedragingen voor het goed laten functioneren van de democratische rechtsstaat altijd door menselijk handelen en menselijke interactie moeten worden vormgegeven en op basis daarvan beleid en wetgeving te toetsen en te formuleren;
verzoekt de regering verder de uitkomst breed bekend te maken en het maatschappelijk debat hierover te stimuleren.
Dit verzoek wordt gedaan omdat de ontwikkeling van AI op fundamentele wijze onze manier van samenleven en de borging daarvan door onze democratische rechtsstaat verandert. Hoe wij deze verandering reguleren en vormgeven is aan de samenleving zelf. Hiervoor zijn maatschappelijk bewustzijn en debat nodig. Hiervoor is verder nodig dat de overheid niet alleen reageert op technische en commercieel gedreven ontwikkelingen op het gebied van data-analyse en AI, maar vooraf heeft nagedacht over welke essentiële menselijke waarden en gedragingen niet door AI mogen worden vervangen bij het functioneren van onze democratische rechtsstaat,
en gaat over tot de orde van de dag.
Zij krijgt letter D (CXLVII).
De heer Recourt (PvdA):
Voorzitter. Tot slot. Door omstandigheden moet ik nu met spoed naar huis. Mochten er vragen zijn over de motie, dan vraag ik mevrouw Veldhoen mij daarin te vervangen.
De voorzitter:
Dank u wel, meneer Recourt. Sterkte. Dan geef ik het woord aan mevrouw Veldhoen namens GroenLinks, mede namens de Partij voor de Dieren.