Grip op algoritmische besluitvorming bij de overheid: debat samengevat

Er zijn acht moties ingediend, één motie is aangehouden.

De motie-De Blécourt c.s. verzoekt de Voorzitter van de Eerste Kamer om te bewerkstelligen dat er op het terrein van digitalisering in het algemeen en kunstmatige intelligentie in het bijzonder ondersteuning en expertise binnen de griffie is (conform de juridische ondersteuning) ten behoeve van alle commissies van de Eerste Kamer.

De motie-Recourt c.s. vraagt de regering om helder te formuleren welke waarden en gedragingen voor het goed laten functioneren van de democratische rechtsstaat altijd door menselijk handelen en menselijke interactie moeten worden vormgegeven en op basis daarvan beleid en wetgeving te toetsen en te formuleren en vraagt de regering verder de uitkomst breed bekend te maken en het maatschappelijk debat hierover te stimuleren. De staatssecretaris gaf deze motie het advies 'Oordeel Kamer' mee.

De motie-Veldhoen c.s. constateert dat er momenteel geen specifieke commissie binnen de Eerste Kamer is belast met de behandeling van digitale zaken terwijl dit in de Tweede Kamer wel het geval is met de vaste commissie voor Digitale Zaken en spreekt daarom uit dat het wenselijk is in de volgende Kamerperiode een vaste Kamercommissie Digitale Zaken in te stellen. Ook deze motie kreeg het advies 'Oordeel Kamer'.

De motie-Veldhoen c.s. verzoekt de regering een nieuwe werkwijze van het wetgevingsproces te onderzoeken waarbij in geval van wetgeving die door of met behulp van algoritmen wordt uitgevoerd, de kaders voor de daaraan ten grondslag liggende codes door de wetgever zelf worden uitgeschreven en zo onderdeel zijn van de parlementaire behandeling. De staatssecretaris gaf deze motie het advies 'Oordeel Kamer' mee.

De motie-Prins c.s. verzoekt de regering om ervoor te zorgen dat ook de inzet van geautomatiseerde besluitvorming met een hoog impact op de mensenrechten voortaan vooraf wordt voorgelegd aan de Tweede en Eerste Kamer. Deze motie is door de staatssecretaris ontraden. Wel stuurt zij op verzoek van de Kamer - voorafgaand aan de stemming - een brief waarin zij een alternatief biedt.

De motie-Verkerk c.s. verzoekt de regering te onderzoeken wat voor soort wetgeving nodig is en de Kamer te informeren op welke wijze en wanneer de regering deze wetgeving wil realiseren, overwegende dat algoritmische besluitvorming kan leiden tot de aantasting van de grondrechten van burgers en dat algoritmische besluitvorming zo complex kan zijn dat democratische controle en rechtsspraak bemoeilijkt worden. De staatssecretaris gaf deze motie het advies 'Oordeel Kamer' mee.

De motie-Verkerk c.s. verzoekt de regering te onderzoeken of een verbod op het gebruik van en /of de toegang tot deepfake -technologie voor burgers rechtstatelijk haalbaar, invoerbaar en handhaafbaar is, De staatssecretaris vroeg aan senator Verkerk of hij de motie wil aanhouden omdat er over dit onderwerp op zeer korte termijn al een kabinetsreactie komt. Senator Verkerk besloot daarop de motie aan te houden.

De motie-Gerkens c.s. verzoekt de staatssecretaris met haar collega van OCW in overleg te gaan om de besturen van de lerarenopleidingen te bewegen tot het formuleren van een ambitie voor digitale geletterdheid op lerarenopleiding op landelijk niveau en hierover aan de Kamer te rapporteren, Ook deze motie kreeg het advies 'Oordeel Kamer'.

Zorg voor checks and balances

Senator Veldhoen (GroenLinks) sprak mede namens de PvdD. Beide fracties willen AI niet tegenhouden, maar wel zorgen voor checks and balances . Veldhoen waarschuwde voor de gevolgen van AI voor het evenwicht in de trias politica (wetgevende, uitvoerende en rechtsprekende machten). Het AI-gebruik door de overheid vergroot de dominantie van het openbaar bestuur, de uitvoerende macht, volgens Veldhoen. Hierdoor blijven het parlement en de rechtspraak achter en raakt het evenwicht verstoord. Zij pleitte daarom voor een vaste Kamercommissie Digitale Zaken. Veldhoen betoogde dat het belangrijk is niet alleen de ondersteuning te versterken, maar ook de kennis van de leden zelf. Verder stelde zij voor dat er een adviesorgaan Digitale Zaken komt voor beide Kamers. Behalve het parlement moet ook de rechter zich veel meer kunnen laten bijstaan bij vraagstukken over AI. Veldhoen vroeg of de staatssecretaris bereid is hierover in overleg te treden met minister Weerwind? Het regulerend kader verdient eveneens versterking. Wat GroenLinks en PvdD betreft moet worden aangegeven of wetgeving tot stand is gekomen met AI, is onderzoek nodig de naar impact van algoritmen op mensenrechten, en moet er een wettelijk verbod komen op bepaalde AI-besluiten zonder menselijke tussenkomst. Tot slot zei Veldhoen dat niet alleen het gebruik door de overheid beter gereguleerd moet worden, maar ook het gebruik ervan in de private sector.

Niet verbieden, wel reguleren en normeren

Volgens senator Recourt (PvdA) is onze samenleving als gevolg van AI radicaal veranderd. De PvdA wil meer normatief gereguleerde sturing door de overheid, om zo macht en tegenmacht te organiseren. De ontwikkelingen op dit gebied gaan razendsnel. Algoritmen kunnen bewust en onbewust leiden tot ernstige mensenrechtenschendingen. Het gaat de PvdA niet om verbieden, maar om reguleren en normeren. De mens moet snappen wat de computer doet en hij moet kunnen ingrijpen. Als dat niet het geval is, dan mag de AI niet worden ingezet door de overheid. Recourt vroeg hoe het staat met de structurele invloed van ICT-deskundigen bij het formuleren en opstellen van wetgeving? Voorziet het beleid hierin en hoe worden hieraan handen en voeten gegeven? De overheid is er niet om te bepalen wat we wel of niet mogen zien, maar is er wel om ervoor te zorgen dat de burger bewust is van de werking van algoritmen, bijvoorbeeld op sociale media, aldus Recourt. Hij vroeg of het kabinet kan stimuleren dat er een digitaal middel ter beschikking komt dat iedereen in staat stelt om de herkomst van iets te achterhalen. Hij schaarde zich achter het voorstel van Veldhoen voor een aparte Kamercommissie en stelde voor dat te doen met ingang van de nieuwe Kamer (de nieuwe Eerste Kamer begint op 13 juni a.s.-red.). Dit debat is de eerste aanzet voor een voortdurende parlementaire aandacht voor dit soms te onzichtbare onderwerp, besloot Recourt.

Menselijke betrokkenheid

Senator Prins (CDA) vroeg de staatssecretaris of het door haar voorgestelde implementatiekader ook voor de verschillende uitvoeringsorganisaties geldt. En of de vragen van het Rathenau Instituut worden meegenomen in het implementatiekader? Eenduidigheid en helderheid van de taken is van essentieel belang, wat het CDA betreft. Prins vroeg hoe de staatssecretaris ervoor gaat zorgen dat de verschillende uitvoeringsorganisaties dezelfde interpretatie van een begrip hanteren. Ook wilde zij weten hoe het kabinet er zicht op houdt dat in bestaande wetgeving verstrekkende systemen worden ingezet (bij nieuwe wetgeving wordt daar vanaf nu wel op toegezien). Menselijke betrokkenheid is en blijft een voorwaarde, aldus Prins. Persoonlijk contact met de overheid moet worden versterkt. Door strakke sturing en het zware inzetten op rechtmatigheid vindt nu discriminatie plaats, zei zij. Prins vroeg hoe het kabinet de uitvoeringsorganisaties hierop aanstuurt. Tot slot wilde zij weten hoe de minister omgaat met Chat GPT: welke stappen zet het kabinet om ook hier kaders te stellen?

Doorlopende bijscholing

Ook senator De Blécourt-Wouterse (VVD) wees op de snelle groei van het gebruik van AI. De snel evoluerende verzameling van technologieën biedt enorme kansen om maatschappelijke problemen aan te pakken, zoals de arbeidsmarkt en de zorg. Uiteraard omgeven door waarborgen, voegde ze daaraan toe. De menselijke maat is van belang. Hoe toets je wetten met een AI-component op rechtmatigheid, uitvoerbaarheid en handhaafbaarheid, vroeg De Blécourt. De handvatten die door het Rathenau Instituut zijn opgesteld zouden de Kamer kunnen helpen. Dat is een doorlopend proces. Eerste Kamerleden moeten zich steeds laten bijscholen. De VVD-fractie stelde voor dit te doen door een jaarlijks gesprek tussen de leden en de staatssecretaris op basis van een door de het kabinet op te stellen jaaroverzicht. De VVD-fractie ziet verder veel heil in AI-cursussen in het onderwijs, en ook een jaarlijkse AI-cursus voor alle Nederlanders. De Blécourt vroeg waar de verantwoordelijkheid van de overheid begint en eindigt. De VVD-fractie staat niet te springen om een vaste Kamercommissie AI. Volgens De Blécourt zijn commissies in de Eerste Kamer puur procedureel en moet AI in alle reeds bestaande commissies aan bod komen.

Begrijpt AI fundamenten van de rechtsstaat?

Senator Verkerk (ChristenUnie) sprak mede namens de SGP. Voor de twee fracties is de vraag leidend of het gebruik van dit soort technologieën tot bloei van de samenleving en tot versterking van de rechtsstaat leidt. Hij wees op de complexiteit van het onderwerp en stelde enkele fundamentele vragen: Hoe worden de wetsteksten vertaald naar beslisregels? Hoe is dit democratisch te controleren? Kunnen systeembeheerders wel omgaan met ambiguïteit, brede kaders en tegenstrijdigheden? Overvragen we AI niet? Begrijpt AI de fundamenten van de rechtsstaat? Verkerk sloot zich aan bij de zorgen van Veldhoen over de rechtsstaat en de trias politica. Hoe kan de rechtspraak de burger beschermen tegen machtige overheid, vroeg hij. Een overheid met handelingsvermogen is cruciaal. AI versterkt het handelingsvermogen, maar we moeten erkennen dat het ook een bedreiging is voor dat handelingsvermogen, zei Verkerk. Het systeem van geautomatiseerde besluitvorming moet worden uitgelegd aan de burgers. Zouden de modellen ook niet beschikbaar moeten zijn voor kritisch wetenschappelijk onderzoek, vroeg hij. Laten we niet in de valkuil vallen dat we verder gaan met de technologie zonder een brede visie op het gebruik ervan, besloot Verkerk.

Markt denkt niet na over ethiek

Wij creëren systemen die zelfdenkend gaan zijn en op basis daarvan ook beslissingen gaan nemen en dat gaat bovendien nog eens heel erg snel, zei senator Gerkens (SP). Ze ziet drie technische fouten: algoritmen gaan uit van kansberekeningen en daar zitten fouten in; de omstandigheden waarin AI is getraind bepalen; de complexiteit van de input waardoor bij de output niet meer kan worden nagegaan wat er fout is gegaan. Volgens Gerkens loopt de politiek vaak blind achter een oplossing voor problemen aan, zonder te checken of het wel een goede oplossing is. De markt denkt niet zo erg na over ethiek, het bedrijfsleven kijkt naar de vooruitgang en de verdere ontwikkeling. De politiek denkt dat de markt zelf over ethiek nadenkt. En dat de politiek dat denkt is de kern van het probleem, aldus Gerkens. Ze vroeg de staatssecretaris wie toezicht houdt op de input en de output. Over de rol van de Staten-Generaal zei zij dat technische kennis niet per se nodig is om grip te krijgen, al helpt het wel. Ze is het eens met de andere woordvoerders dat de kennis van de Kamer vergroot moet worden. Gerkens is echter geen voorstander van een aparte commissie of een aparte bewindspersoon, omdat AI in alle onderwerpen verweven is. Ze vroeg de staatssecretaris hoe zij kijkt naar de debatten rondom de Omgevingswet, in het bijzonder het Digitaal Stelsel Omgevingswet. De wet is bij een andere bewindspersoon belegd, maar heeft wel grote digitaliseringscomponent, aldus Gerkens.

Digitalisering nooit waardenvrij

Volgens senator Dittrich (D66) gebeurt er met AI van alles, maar hebben we daar geen grip op. Digitalisering is nooit waardenvrij en zet daarom druk op de democratie, druk op de verhouding tussen burgers onderling, en tussen overheid en burgers. Het vertrouwen in de instituties neemt ook af, onder andere door problemen met ICT bij de overheid. De uitvoerende macht wordt steeds dominanter. Het parlement is hopeloos achtergebleven, aldus Dittrich. Wil de Kamer de regering goed kunnen controleren, dan zal die zich moeten versterken. Senatoren hebben deskundige ondersteuning nodig, zodat zij bij relevante wetgeving de juiste vragen kunnen stellen. De overheid moet ervoor zorgen dat er inzicht komt in wetgeving die met behulp van AI tot stand is gekomen en dat dit controleerbaar is. Daarom moet er een informatieplicht komen voor de overheid én een evaluatiebepaling waarin de effecten van AI standaard zijn opgenomen. Dittrich vroeg wat de staatssecretaris vindt van toetsing op AI-gebruik bij alle relevante wetten. Hij sloot zich aan bij het voorstel van De Blécourt voor een AI-jaarplan. D66 steunt het voorstel van de staatssecretaris om de mensenrechtentoets verplicht te stellen. Dittrich vroeg tot besluit wat de stand van zaken is rond de problemen met de ICT-structuur bij de overheid.

Rustig blijven nadenken

Alles wijst erop dat de ontwikkeling van de intelligentie van AI versnelt, zei senator Otten (Fractie-Otten). Moderne algoritmen zijn niet of nauwelijks te reguleren of te controleren. Software trekt zich bijna niets aan van landsgrenzen en jurisdicties. Natuurlijk kan elke technologie ten goede en ten kwade gebruikt worden. Een stanleymes kan dat ook, aldus Otten. Inkadering via wetgeving is volgens hem maar beperkt mogelijk en gebeurt maar marginaal via zelfregulering door bedrijven. Otten is sceptisch of de Nederlandse wetgever deze ontwikkelingen kan bijbenen. Hij vroeg de staatssecretaris hoe zij hier tegenaan kijkt. Zijn advies was vooral rustig te blijven en te blijven nadenken. Betrek deskundigen en benader het als een dynamisch vraagstuk, zei Otten.

Beantwoording staatssecretaris

Staatssecretaris Van Huffelen van Koninkrijksrelaties en Digitalisering zei dat het kabinet op het gebied van de wetgeving nadrukkelijk naar de uitvoering kijkt. Daarom is besloten om een invoeringstoets in te voeren om - nadat een wet in werking is getreden - te kijken hoe de invoering is verlopen. Heel vaak wordt AI als een black box gezien, zei zij. Er is nog wel veel te wensen ten aanzien van transparantie, erkende Van Huffelen. Daarom is inzicht in regels van belang. Bij de inzet van algoritmen zijn juridische kaders van belang. Vanuit de Europese Unie komen er AI-verordeningen die specifieke kaders aangeven. Nederland gaat daar nog verder in met het implementatiekader. Het gaat namelijk niet alleen om juridische kaders, zei de staatssecretaris. Daarom is het ook belangrijk om de mensenrechtentoets te doen, op verschillende momenten. Het is bovendien van groot belang dat er altijd een mens verantwoordelijk is, en dat het niet aan een computer wordt overgelaten in het geval van impactvolle beslissingen, aldus Van Huffelen.