Verslag van de vergadering van 21 maart 2023 (2022/2023 nr. 23)
Status: gecorrigeerd
Aanvang: 20.02 uur
De heer Verkerk i (ChristenUnie):
Voorzitter. Ook van mijn kant hartelijk dank aan de staatssecretaris voor de antwoorden en ook voor de kwaliteit van de antwoorden. Het is mooi om te zien dat zij de genoemde positieve dingen van AI herkent, maar ook dat zij de zorgen herkent.
Voorzitter. Collega Gerkens ging uitgebreid in op ethiek. Ik heb daarover ook even een interruptie gehad. De vraag is of het voldoende is als er alleen maar onderwijs in ethiek is. Ik heb jaren in het bedrijfsleven gewerkt. Meerdere keren heb ik bij vragen aan mijn bazen het woord "ethiek" gebruikt. Ik moet eerlijk zeggen dat ik heel snel heb geleerd dat dat niet echt helpt en niet prettig is, want het wordt je gewoon verboden om het woord "ethiek" te gebruiken. Ik heb vervolgens de ethische vraag vertaald in een economische vraag. Toen werd er geluisterd.
Waarom vertel ik dit? Ik vertel dit omdat cultuur ook belangrijk is. Als je ethiek aan de orde wilt stellen, moet je ook over cultuur willen praten. De staatssecretaris zei: misschien was SyRI niet fout gegaan als we goede wetgeving hadden gehad. Misschien is dat zo. Maar ik zou hier ook willen opmerken dat zelfs als wij goede wetgeving hadden gehad, je ook een cultuur moet hebben waarin er een volledig respect is voor de waarden die aan die wetgeving ten grondslag liggen. Ik zou in dat verband aan de staatssecretaris willen vragen of zij een toezegging kan doen om dit punt van cultuur, het bespreekbaar maken van ethiek, op haar manier te bevorderen. Ik denk trouwens ook aan de motie van mevrouw De Blécourt, die zegt dat wij die kennis ook moeten hebben bij de griffie. Ik deel dat, maar dan moet ook bespreekbaar zijn dat die kennis van de griffie ook wordt gebruikt in de commissies en dat de commissies daarin ook iets worden opgevoed, als ik het zo mag uitdrukken.
Voorzitter. Ik vond het ook heel mooi dat de staatssecretaris benadrukte dat het bij AI ook gaat om betekenisvolle interventies.
Mevrouw De Blécourt-Wouterse i (VVD):
Misschien mag ik even aanhaken op wat collega Verkerk zei. De ondersteuning en expertise binnen de griffie is er ook ten behoeve van alle commissies in de Eerste Kamer.
De heer Verkerk (ChristenUnie):
Ik denk dat u dat prachtig hebt verwoord, dus dank daarvoor. Het enige wat ik wilde opmerken, is dat zelfs als dat in zo'n motie staat, we nog de cultuur moeten hebben dat de griffie dat, binnen haar kaders, uitdraagt en dat wij daarmee, binnen haar kaders, omgaan. Dank u.
Mevrouw De Blécourt-Wouterse (VVD):
Dat ben ik helemaal eens met de heer Verkerk.
De heer Verkerk (ChristenUnie):
Ik ga door. Het ging over kritische AI en over het feit dat ik blij was dat de staatssecretaris opmerkte dat betekenisvolle interventies van ambtenaren noodzakelijk zijn. Daar ben ik het helemaal mee eens. En toch — ook weer denkend aan SyRI en andere schandalen op dit punt — gaat het ook over cultuur. Het gaat steeds weer over cultuur. Cultuur maken wij als mensen. Ik wil dan ook aan de staatssecretaris vragen hoe zij die betekenisvolle interventies van ambtenaren, waar ik helemaal achter sta, zou willen bevorderen vanuit haar positie.
Voorzitter. Ook dank dat de staatssecretaris positief sprak over de noodzakelijkheid van wetgeving en het feit dat wetgeving, zeker als dit soort algoritmische systemen gebruikt worden, aan extra eisen moet voldoen. Ik zou haast zeggen: als aansporing zou ik de volgende motie willen voorlezen.
De voorzitter:
Door de leden Verkerk, Van Dijk, Prins, Recourt, Veldhoen en Dittrich wordt de volgende motie voorgesteld:
De Kamer,
gehoord de beraadslaging,
overwegende dat de overheid algoritmische besluitvorming breed toepast;
overwegende dat algoritmische besluitvorming kan leiden tot de aantasting van de grondrechten van burgers;
overwegende dat algoritmische besluitvorming zo complex kan zijn dat democratische controle en rechtspraak bemoeilijkt worden;
constaterende dat de Afdeling bestuursrechtspraak van de Raad van State heeft bepaald dat ter voorkoming van een gepercipieerde "black box" bij geautomatiseerde besluitvorming, het bestuursorgaan de gemaakte keuzes en de gebruikte gegevens en aannames volledig, tijdig en uit eigen beweging openbaar moet maken op een passende wijze, zodat deze keuzes, gegevens en aannames voor derden toegankelijk zijn;
constaterende dat de Hoge Raad deze jurisprudentielijn heeft overgenomen in belastingzaken waarbij volledig geautomatiseerde besluitvorming aan de orde is;
overwegende dat het aan de wetgever is om concrete en relevante eisen te formuleren, bijvoorbeeld op het gebied van de uitgangspunten van de modellen en algoritmen, de uitlegbaarheid van besluiten en het uitsluiten van bepaalde toepassingen;
verzoekt de regering te onderzoeken wat voor soort wetgeving nodig is en de Kamer te informeren op welke wijze en wanneer de regering deze wetgeving wil realiseren,
en gaat over tot de orde van de dag.
Zij krijgt letter H (CXLVII).
De heer Verkerk (ChristenUnie):
Voorzitter. Ik wil de staatsecretaris ook danken voor haar reactie op deepfake. Fijn dat de regering met een beleidsreactie op het rapport van Tilburg komt. Ik zou als input voor deze beleidsreactie de volgende motie willen voorlezen.
De voorzitter:
Door de leden Verkerk, Van Dijk, Prins, Recourt, Veldhoen en De Blécourt-Wouterse wordt de volgende motie voorgesteld:
De Kamer,
gehoord de beraadslaging,
overwegende dat de deepfaketechnologie zich razendsnel ontwikkelt;
constaterende dat 95% van de deepfakes van pornografische aard is;
constaterende dat in de meeste gevallen vrouwen het slachtoffer zijn;
overwegende dat een brede toepassing van deze technologie leidt tot grote schade voor de samenleving in het algemeen en vrouwen in het bijzonder;
overwegende dat een verbod op het gebruik van en/of de toegang tot deepfaketechnologie voor burgers verdedigbaar is;
verzoekt de regering te onderzoeken of een verbod op het gebruik van en/of de toegang tot deepfaketechnologie voor burgers rechtsstatelijk haalbaar is, invoerbaar is en handhaafbaar is,
en gaat over tot de orde van de dag.
Zij krijgt letter I (CXLVII).
Mevrouw Gerkens i (SP):
Ik zou vele dingen kunnen vragen over deze motie en over de uitvoerbaarheid ervan. Waar begint deepfake? Waar gaan we fotoshoppen? Waar eindigt het? Maar ik heb wel één groot probleem met een stukje tekst in deze motie, namelijk de verwijzing naar pornografische beelden en de koppeling daarvan aan vrouwen. Dat suggereert namelijk dat de deepfaketechnologie de problemen veroorzaakt bij het verspreiden van pornografische beelden van vrouwen, maar niets is minder waar. Het probleem is de verspreider, die denkt dat het normaal is om dit soort beelden te verspreiden. Wanneer we deepfake weghalen, lossen we het probleem niet op, want dan zijn er nog steeds beelden van vrouwen die onrechtmatig verspreid worden. Het zou fijner geweest zijn als we daarover een motie hadden gehad vandaag.
De heer Verkerk (ChristenUnie):
Ik ben het met de hoofdlijnen van de argumentatie van mevrouw Gerkens eens en ik wil haar graag uitnodigen om zo'n motie in te dienen, want dan is mijn motie helemaal compleet.
Voorzitter. Als laatste toch even het punt of we ICT niet overvragen. Terecht merkte de staatssecretaris op dat we AI veel kunnen aanleren, ook om langs juridische lijnen te denken en ook om emoties te beschrijven en te analyseren. Maar AI zal dat nooit begrijpen. AI heeft geen gevoel. Ik kijk regelmatig naar stukjes van processen, waarin de rechter uitspraak doet. Dan zie je bij heel veel rechters hoeveel persoonlijks zij in die uitspraak leggen. Dat persoonlijke, dat echt voelen wat onrecht is, voelen wat een verdachte is, dat kan AI niet. Ik zou de staatssecretaris willen vragen om ook hierop te reflecteren.
Ik dank u wel.
De voorzitter:
Dank u wel, meneer Verkerk. Dan is het woord aan mevrouw Gerkens namens de SP.