Verslag van de vergadering van 21 maart 2023 (2022/2023 nr. 23)
Status: gecorrigeerd
Aanvang: 16.10 uur
De heer Otten i (Fractie-Otten):
Voorzitter. In 2005 las ik dit boek, The Singularity Is Near van Ray Kurzweil. Ik heb dat boek vanochtend even uit de kast getrokken. Ik heb het gedeeltelijk gelezen, want het is een lijvig boekwerk over artificial intelligence in een ander tijdperk, een tijdje geleden. Het is nu 2023 en de singulariteit is alweer een stuk dichterbij dan in 2005. Wat is singulariteit? Singulariteit beschrijft de hypothetische toekomst waarin de groei van technologie onbeheersbaar en onomkeerbaar wordt. Dit begrip wordt ook gehanteerd voor toekomstige computerprogramma's die zo geavanceerd zijn dat AI de menselijke intelligentie overstijgt, waardoor de nu nog bestaande grens tussen de mensheid en de computer verdwijnt. De schrijver van dit boek is ervan overtuigd dat dat gaat gebeuren. Ik weet niet of dat allemaal zo'n vaart loopt, maar de singulariteit wordt dus gezien als het moment dat de machinale intelligentie de menselijke intelligentie overstijgt. Dat kan utopische scenario's oproepen, maar ook terminatorachtige toekomstscenario's. Het is goed dat wij daar vandaag dit debat over hebben.
De consensus van deskundigen op dit moment is dat de singulariteit nog niet nabij is, maar dat er inmiddels wel grote stappen zijn genomen in machinale, artificial en augmented intelligence. Computers hebben reeds menselijke wereldkampioenen verslagen met schaken, ook met het spel Go, maar ook met kredietbeoordelingen, analyse van huidkanker, herkenning van muziek en andere complexe taken die nu al met succes door algoritmen worden uitgevoerd.
De heer Van Wely i (Fractie-Nanninga):
Dank voor deze provocatie. Ik vroeg me af of de heer Otten op de hoogte is dat de laatste Go-computer is verslagen door de method of distraction.
De heer Otten (Fractie-Otten):
Nee, daar was ik niet van op de hoogte, maar fijn dat u mij daarop updatet. Ik had van u als voormalig kampioen schaken ook niet anders verwacht. Ik weet veel van Go, maar niet van het spel.
De heer Van Wely (Fractie-Nanninga):
Nee, maar dat betekent dus dat de strijd nog niet gestreden is. Misschien is er nog hoop.
De heer Otten (Fractie-Otten):
Dat is dan een heel goede, feitelijke correctie. Het geeft in elk geval aan dat de singulariteit er nog niet is. Dank voor deze nuttige interruptie, zeg ik tegen de heer Van Wely van de Fractie-Nanninga.
Ik noemde een aantal taken die op dit moment beter door computers kunnen worden uitgevoerd dan door mensen. Alles wijst erop dat de vooruitgang in de intelligentie van algoritmen voortgaat. Sterker nog, alles wijst erop dat deze ontwikkeling nu versnelt, en recente ontwikkelingen in software lijken die versnelling te bevestigen. De applicatie DALL-E 2 maakt foto's op commando. We hebben dus ook geen fotograaf meer nodig hier in de zaal, dat kan allemaal geautomatiseerd worden. GPT-3 produceert teksten over elk denkbaar onderwerp, gebruikmakend van Large Language Models, LLM-technologie. En bedrijven als Google en Microsoft hebben bevestigd dat LLM-technologie cruciaal is in hun productontwikkelingsplannen. En de voortbrengselen van ChatGPT worden als spectaculair gezien en maken fundamentele, praktische, zakelijke en filosofische discussie los. Ik neem aan dat u allemaal net als ik al op ChatGPT vragen over uzelf heeft gesteld of een gedicht over uzelf heeft laten maken. Dat zal ik u allemaal besparen. Volgens ChatGPT was ik overigens Tweede Kamerlid en had ik de Tweede Kamer al in 2021 verlaten. U moet dus niet alles klakkeloos voor waar aannemen wat ChatGPT zegt, want ik zit al sinds 2019 onafgebroken in deze Eerste Kamer. Ik stelde de volgende vraag aan ChatGPT: wat kun je niet? Toen kreeg ik het volgende antwoord. "Als taalmodel van OpenAI heb ik beperkingen in mijn vermogen om informatie te verstrekken en specifieke taken uit te voeren. Hieronder staan de beperkingen die ik heb. 1: Ik heb geen realtime toegang tot informatie, dus mijn kennis is beperkt en mijn opleidingsgegevens zijn afgesneden in 2021. 2: Ik heb geen vermogen om emoties of subjectieve waarderingen te ervaren; ik kan alleen objectieve feiten en informatie verstrekken. 3: Ik heb geen vermogen om fysieke taken uit te voeren, zoals het uitvoeren van experimenten of het verzenden van post. 4: Ik kan soms fouten maken of onnauwkeurige informatie verstrekken, dus het is belangrijk om altijd meerdere bronnen te raadplegen en mijn antwoorden kritisch te beoordelen." Tot zover het antwoord van ChatGPT op de vraag "wat kun je niet?"
Enkele dagen geleden lanceerde OpenAI de volgende versie van het platform: GPT-4. Die wordt alweer als een forse stap voorwaarts gezien, een die van directe invloed is op alle processen waarin tekst geproduceerd wordt en die historisch gezien worden als uniek menselijk. Bovendien laat deze nieuwe versie toe dat de gebruiker ook kunstmatige afbeeldingen laat produceren met commando's, bijvoorbeeld door te zeggen: toon de voorzitter van de Eerste Kamer in een opgewonden toestand terwijl er veel interrupties zijn en doe dat in de stijl van Salvador Dalí. Dan wordt die foto dus gemaakt. Ik had er ook een bepaalde voorstelling bij toen ik deze speech schreef.
Bij dit debat over regulering van AI moeten we een aantal belangrijke punten met betrekking tot algoritmen goed in het oog blijven houden. Moderne intelligente algoritmen zijn probabilistisch. Ze werken met enorme hoeveelheden data en statistische patronen daarin. Ze zijn daarom niet of nauwelijks te reguleren of te auditen. Het begrip waarom ze tot besluiten komen, is beperkt of soms zelfs niet mogelijk. Software trekt zich bijna niets aan van landsgrenzen of jurisdicties en is oneindig kopieerbaar en combineerbaar. Het laat zich ook eenvoudig kopiëren of hergebruiken als onderdeel van andere software. We weten ook nog maar weinig van hoe die algoritmen zich gedragen en wat de kansen en risico's zijn. Natuurlijk kan elke technologie ten goede en ten kwade gebruikt worden. Dat geldt voor een stanleymes en ook voor een algoritme.
Voorzitter. Menigeen heeft hoge verwachtingen van regelgeving en toezicht, maar we moeten wel realistisch blijven. De ontwikkelingen gaan nu namelijk zo ontzettend snel en niet lineair. Inkadering via wetgeving is volgens ons maar beperkt mogelijk om de redenen die ik al noemde. Er bestaan op dit moment in feite ook geen kaders, hooguit marginaal via zelfregulering bij bedrijven. Er is nu zoveel onzekerheid dat het erg lastig is om dit juridisch in te kaderen. Dan hebben we het nog maar helemaal niet over de mogelijkheden om dergelijke juridische kaders te handhaven. Als dat al lukt, dan vindt AI weer een mogelijkheid om die te ontwijken. Zoals ik al zei, is software niet aan grenzen of jurisdicties gebonden. Dit vergroot de praktische problemen voor lokale regelgeving en toezicht.
Het is vroeg dag en het gaat hier om een dynamisch probabilistisch verschijnsel met een geringe causaliteit. Dat maakt dit probleem echt buitengewoon ingewikkeld. Onze fractie is dan ook sceptisch of de Nederlandse wetgever deze ontwikkelingen kan bijbenen, nog afgezien van het praktisch probleem van het vinden van de geschikte ICT-talenten. Hoe ziet de staatssecretaris dat? Ons advies is dan ook om vooral rustig te blijven, goed na te blijven denken, dit niet puur als een technisch probleem te zien en ook niet als een puur juridisch probleem. Betrek er deskundigen bij van multidisciplinaire herkomst en benader het vraagstuk als een onvoorspelbaar en dynamisch vraagstuk.
Wij zien graag de visie van de staatssecretaris op dit alles. Tot zover.
De voorzitter:
Dank u wel, meneer Otten. De heer Dittrich.
De heer Dittrich i (D66):
Ik hoorde de heer Otten zeggen dat we vooral rustig moeten blijven. Toen dacht ik: is dat onderdeel ook door ChatGPT geschreven?
De heer Otten (Fractie-Otten):
Nee, dat heb ik helemaal zelf bedacht. U kent mij toch? Ik blijf altijd rustig in alle situaties, dus ook in deze, zeg ik tegen de heer Dittrich. Bedankt voor de grappig bedoelde interruptie.
De heer Verkerk i (ChristenUnie):
Ik heb de heer Otten enkele mooie dingen horen zeggen. Hij gaf op ludieke wijze aan waar de beperkingen van AI zitten. Ik denk dat hij daarover een aantal hele goede dingen heeft gezegd. Hij heeft ook gezegd dat AI haast exponentieel wordt gebruikt. Betekent dit dat de beperkingen ook exponentieel groot worden? En als dat het geval is — en u constateert dat het waarschijnlijk heel moeilijk is om hieraan met wetgeving iets te doen — heb ik de vraag hoe u rustig kunt blijven. Of anders gezegd: wat zou u willen doen behalve rustig blijven?
De heer Otten (Fractie-Otten):
Ik denk dat het altijd zaak is om rustig te blijven en niet in paniek te raken, hoe lastig dat ook is. Ik kan daar ook binnen mijn politieke leven over meepraten. Angst is een slechte raadgever; dat zult u ongetwijfeld ook weleens hebben gelezen ergens in de vele boeken die u heeft gelezen. We moeten sowieso rustig blijven. Ik zeg tegen de heer Verkerk, voorzitter, dat we de mogelijkheden van de Nederlandse overheid op het vlak van ICT ook niet moeten gaan overschatten. Tot nu toe heeft het verleden geleerd dat die combinatie op z'n zachtst gezegd niet al te gelukkig is. Zoals ik al zei was ik gisteren bij de Belastingdienst op een heel interessant werkbezoek met de commissie Financiën, ook die van de Tweede Kamer, en daar werd heel openlijk toegegeven dat er grote problemen zijn. Als mensen daar opgeleid zijn, vertrekken ze op middenmanagementniveau allemaal naar het bedrijfsleven, omdat ze daar dan geen aantrekkelijke werkomgeving hebben. Het lukt bij de Belastingdienst al niet, dus we moeten geen al te overspannen verwachtingen hebben dat dit kabinet het met briljante IT'ers gaat oplossen, terwijl het een wereldwijd probleem is en het een toestand is die heel snel versnelt. Het is niet lineair. Het gaat niet stapje voor stapje; het gaat nu met hele grote sprongen tegelijk. Ik betwijfel of dat in te kaderen is. Ik heb daar m'n twijfels bij. Ik vroeg ook aan de staatssecretaris hoe zij daartegen aankijkt.
De voorzitter:
Dank u wel. Als u het goedvindt, wil ik gaan afronden, meneer Verkerk.
Wenst een van de leden in eerste termijn nog het woord? Dat is niet het geval. Dan vraag ik de leden aandacht voor het tijdschema, dat iets gewijzigd is. We zullen dat ook nog via Signal laten weten, overigens. We gaan nu schorsen tot 16.40 uur. Dan doen we een halfuur van de eerste termijn van de regering. Om 17.10 uur ga ik vanwege een aantal commissies schorsen voor de dinerpauze tot 18.10 uur. Dan hervatten we het debat.