Verslag van de vergadering van 2 november 2021 (2021/2022 nr. 4)
Status: gecorrigeerd
Aanvang: 13.44 uur
Mevrouw De Boer i (GroenLinks):
Dank, voorzitter. De fractie van GroenLinks heeft een groot aantal kritische vragen gesteld over het voorliggende wetsvoorstel. De antwoorden op deze vragen hebben ons niet gerustgesteld. Integendeel. Ons principiële bezwaar tegen de wet is dat deze wet het mogelijk maakt om mensen te weigeren voor bepaalde, althans te bepalen overheidsfuncties op basis van ongeverifieerde informatie. In een rechtsstaat behoren mensen door de overheid te worden afgerekend op vaststaande feiten en niet op vermoedens. Dat geldt niet alleen voor een criminal charge in de zin van artikel 6 EVRM maar ook voor andere besluiten met vergaande negatieve consequenties, zoals de onmogelijkheid om een bepaalde functie te krijgen.
Wat er gebeurt als we als overheid mensen gaan afrekenen op vermoedens en signalen hebben we in de toeslagenaffaire kunnen zien. De Autoriteit Persoonsgegevens kwam vorige week met een vernietigend rapport over de zogenaamde Fraude Signalering Voorziening bij de Belastingdienst. Op basis van signalen, vermoedens en niet geverifieerde informatie kwamen mensen op een lijst, met vergaande gevolgen. Aleid Wolfsen beschreef de informatie die de Belastingdienst verzamelde als "een vergaarbak van rijp en groen door elkaar, van feiten en vermoedens, van goedbedoelde meldingen tot wraakacties". Een omschrijving die ook past bij de verzameling van politiegegevens die op basis van dit wetsvoorstel gebruikt kan worden om een vog te weigeren.
We hebben gelet op de toeslagenaffaire en de fraudelijst gezien dat we de overheid niet blind kunnen vertrouwen in de omgang met persoonlijke gegevens. Dat geldt voor de Belastingdienst maar wij hebben geen reden om aan te nemen dat dit niet zou gelden voor de politie, de Douane, Defensie en veiligheidsdiensten. Het is aan ons als wetgever om de grenzen aan te geven en ervoor te zorgen dat wetgeving geen ruimte laat om de regels op te rekken. Als Eerste Kamer zijn we begonnen met een aantal trajecten die erop gericht zijn om onze wetgevingskwaliteit te verbeteren. We hebben een werkgroep die zich richt op de lessen die wij als Eerste Kamer kunnen trekken uit de toeslagenaffaire. We hebben de parlementaire onderzoekscommissie Discriminatie en we hebben een werkgroep artificiële intelligentie, die onlangs een drietal deskundigenbijeenkomsten heeft georganiseerd. Alle drie deze trajecten zijn relevant voor dit wetsvoorstel.
Over de lessen van de toeslagenaffaire heb ik net al kort iets gezegd. Over de mogelijkheid van etnisch profileren is in de schriftelijke ronde al een en ander gewisseld, maar de antwoorden van de regering stellen ons niet gerust. Waar door vooroordelen — of die nou bij de politie leven of bij burgers of instanties die meldingen doen — bepaalde bevolkingsgroepen oververtegenwoordigd zijn in de politieregistraties, zal dat gaan doorwerken in de aantallen vog's die geweigerd gaan worden.
Met betrekking tot AI is de belangrijkste les dat we als wetgever moeten begrijpen wat de mogelijke AI-implicaties zijn, dat we daarover de juiste vragen moeten stellen en dat we duidelijk grenzen moeten stellen aan de toepassing van kunstmatige intelligentie. Ook voor het onderhavige wetsvoorstel is dat heel relevant. De wettekst zelf zegt niets over welke informatie er geautomatiseerd mag worden verzameld en of en hoe er algoritmen gebruikt mogen worden bij het combineren en wegen van informatie. De minister zegt wel dat het enige dat automatisch gebeurt, het genereren van een hit of een no-hit is, maar we hebben geen garantie dat een volgende minister dat niet anders ziet. We hebben zelfs geen garantie dat de uitvoeringsorganisatie dat niet anders ziet en het misschien wel handig vindt om een deel van het vervolgproces te gaan automatiseren. Welke garanties kan de minister geven dat er niet meer geautomatiseerd gaat worden dan de "hit/no hit"-functie?
Maar dan zijn we er nog niet. Die "hit/no hit"-functie lijkt heel binair en objectief, maar ook hierin zit al een beoordeling. Zo schrijft de minister dat een registratie als slachtoffer of getuige geen hit zal opleveren, maar hoe wordt dit gewaarborgd? Ik kijk af en toe voor en met cliënten politieregistraties in. Mij valt op dat ik dan korte tekstblokjes te zien krijg van registraties in het systeem. Uit de context moet duidelijk worden wat iemands rol was. Hoe gaat het geautomatiseerde systeem bepalen wat een hit moet zijn? Gaan hier algoritmes voor gebruikt worden en kunnen deze algoritmes op termijn wellicht zelflerend gaan worden?
Voorzitter. Ik wil zowel de minister als mijn mede-senatoren oproepen, nog eens goed naar dit wetsvoorstel te kijken op basis van de lessen die wij in de genoemde trajecten aan het leren zijn uit de toeslagenaffaire en vanuit het perspectief van rechtsstatelijkheid en wetgevingskwaliteit. Ik denk dat zij dan tot de conclusie moeten komen die wij ook hebben getrokken: dit moeten wij zo niet willen.
Dank u wel.
De voorzitter:
Dank u wel, mevrouw De Boer. De heer Arbouw heeft namens de VVD een interruptie op u.
De heer Arbouw i (VVD):
Ik had nog een vraag voor mevrouw De Boer. Ik heb haar eerst even laten uitspreken, want ik ken haar, zij heeft zeker wel de memorie van antwoord gelezen, waarin toch ook heel duidelijk is aangegeven dat de toeslagenaffaire — die vinden wij allemaal even erg, laten we daar geen misverstand over laten bestaan — echt onvergelijkbaar is met het voorstel dat hier nu ligt.
Want als we uw lijn zouden doortrekken, zouden we ook de normale vog-procedure dus nu op de kop moeten gaan zetten. Wat ik lastig vind, is dat u dit met uw bijdrage allemaal op één hoop gooit en zegt: alles wat de overheid zegt, is niet waar en vergroot het wantrouwen in het functioneren van onze overheid. Dus ik wil specifiek even op uw betoog ingaan als u zegt: de minister zegt dit, maar ik geloof het niet, die systematiek gaat waarschijnlijk op dezelfde manier werken. Als nou datgene wat de minister zegt in de memorie van antwoord ten aanzien van de systematiek die gehanteerd wordt voor het uitselecteren van die politiegegevens juist is, gaat u dan wel akkoord met dit voorstel?
Mevrouw De Boer (GroenLinks):
We hebben verschillende bezwaren. Het eerste bezwaar is dat het hier gaat om ongeverifieerde gegevens. Dat is daarmee niet verholpen. Dus onze bezwaren zien zowel daarop als op de systematiek, die te weinig waarborgen kent naar onze zin. Ook bij de toeslagenaffaire is er natuurlijk van tevoren wel gevraagd naar welke systematiek. Het blijkt gewoon dat uitvoeringsdiensten geneigd zijn om in het kader van efficiency wat te gaan oprekken. Met alleen een toezegging van de minister "het zal een hit/no hit zijn" is de les die wij geleerd hebben, en ik hoop velen met mij, dat alleen de goede bedoelingen om het op die manier te doen niet genoeg zijn, we moeten garanties hebben.
De heer Arbouw (VVD):
Dank voor de bespiegeling en voor het antwoord. Ik werk zelf ook bij een uitvoeringsdienst. Ik heb daar een iets andere mening en een ander gevoel over. Mijn tweede vraag is dan: wij hebben net als Kamer bijna unaniem — want de OSF was er niet bij — vóór een wetsvoorstel gestemd dat gaat over die ondermijnende criminaliteit. In feite gaat het daar bij dit wetsontwerp ook over. Vindt u dan ook niet dat we alles op alles moeten zetten om ervoor te zorgen dat we echt paal en perk stellen aan het insluipen in onze organisaties van de ondermijnende criminaliteit?
Mevrouw De Boer (GroenLinks):
Ja, dat vind ik ook, maar wel met inmenging daarin van de rechter.
De voorzitter:
Dank u wel. Dan geef ik nu het woord aan mevrouw Bezaan namens de fractie van de PVV.