T03661

Toezegging Cultuur en ethiek worden als onderwerpen bespreekbaar gemaakt bij AI-gebruik binnen de overheid (CXLVII)



De staatssecretaris Koninkrijksrelaties en Digitalisering zegt de Kamer, naar aanleiding van een vraag van het lid Verkerk (ChristenUnie), toe dat cultuur en ethiek als onderwerpen bespreekbaar worden gemaakt bij AI-gebruik binnen de overheid.


Kerngegevens

Nummer T03661
Status voldaan
Datum toezegging 21 maart 2023
Deadline 1 juli 2024
Verantwoordelijke(n) Staatssecretaris Digitalisering en Koninkrijksrelaties
Kamerleden Prof.dr. M.J. Verkerk (ChristenUnie)
Commissie commissie voor Digitalisering (DIGI)
Soort activiteit Plenaire vergadering
Categorie overig
Onderwerpen cultuur
ethiek
AI-gebruik
Kamerstukken Grip op algoritmische besluitvorming bij de overheid (CXLVII)


Uit de stukken

Handelingen I 2022-2023, nr. 23, item 9 - blz. 45

De heer Verkerk (ChristenUnie):

(…)

“Voorzitter. Collega Gerkens ging uitgebreid in op ethiek. Ik heb daarover ook even een interruptie gehad. De vraag is of het voldoende is als er alleen maar onderwijs in ethiek is. Ik heb jaren in het bedrijfsleven gewerkt. Meerdere keren heb ik bij vragen aan mijn bazen het woord "ethiek" gebruikt. Ik moet eerlijk zeggen dat ik heel snel heb geleerd dat dat niet echt helpt en niet prettig is, want het wordt je gewoon verboden om het woord "ethiek" te gebruiken. Ik heb vervolgens de ethische vraag vertaald in een economische vraag. Toen werd er geluisterd.

Waarom vertel ik dit? Ik vertel dit omdat cultuur ook belangrijk is. Als je ethiek aan de orde wilt stellen, moet je ook over cultuur willen praten. De staatssecretaris zei: misschien was SyRI niet fout gegaan als we goede wetgeving hadden gehad. Misschien is dat zo. Maar ik zou hier ook willen opmerken dat zelfs als wij goede wetgeving hadden gehad, je ook een cultuur moet hebben waarin er een volledig respect is voor de waarden die aan die wetgeving ten grondslag liggen. Ik zou in dat verband aan de staatssecretaris willen vragen of zij een toezegging kan doen om dit punt van cultuur, het bespreekbaar maken van ethiek, op haar manier te bevorderen. Ik denk trouwens ook aan de motie van mevrouw De Blécourt, die zegt dat wij die kennis ook moeten hebben bij de griffie. Ik deel dat, maar dan moet ook bespreekbaar zijn dat die kennis van de griffie ook wordt gebruikt in de commissies en dat de commissies daarin ook iets worden opgevoed, als ik het zo mag uitdrukken.”

Handelingen I 2022-2023, nr. 23, item 9 - blz. 49

Staatssecretaris Van Huffelen:

(…)

“Dan is er nog een vraag van de heer Verkerk: kan ik toezeggen dat cultuur en ethiek als onderwerpen bespreekbaar worden gemaakt? Dat doe ik heel graag. Het is natuurlijk superbelangrijk dat dat onderwerp aan de orde is. Ik denk dat het ook al eerder in het debat aan de orde kwam. Natuurlijk kunnen we heel goede wetten en regels en kaders maken, maar het gaat ook over de manier waarop je het doet, en daarbij ook over de manier waarop we het bespreken. Dat is een van de thema's. Dat blijkt denk ik ook uit de rapporten, zoals uit het rapport van de parlementaire enquête over de problemen bij de toeslagen. Ik bedoel dat toch ook heel erg de nadruk die er was op fraudebestrijding heeft geleid tot het maken van algoritmes waarmee fraude kon worden gedetecteerd. Dat maakt natuurlijk ook iets uit in de context waarin algoritmes worden gemaakt. Dus ik denk dat daar voor ons allen een belangrijke taak ligt op het punt van die cultuur, en een taak om die ethische vragen steeds te blijven stellen, ondanks goede regels en kaders.

Een andere vraag van de heer Verkerk was om te reflecteren op het feit dat AI geen emotie kent en een rechter wel. Dat is ook precies waar het om gaat. Hoe slim AI ook kan zijn en hoe veel er ook in kan zitten in termen van emotieherkenning enzovoorts, enzovoorts — dat zijn ook allemaal vraagstukken waar we het over moeten hebben: in hoeverre vinden we dat wenselijk? — de menselijke tussenkomst bij de overheid is wat mij betreft zo ontzettend belangrijk. We weten niet of AI dat in de toekomst misschien wel zal kunnen. We wisten een jaar geleden ook niet dat er zoiets bestond als Bing of Bard of ChatGPT. Misschien heeft meneer Otten over een kwartier nog een nieuwe gevonden. Maar de kern is dus dat het daarom zo belangrijk is dat die menselijke tussenkomst er blijft. We moeten onszelf dus steeds de vraag stellen welke van deze technologieën wij willen gebruiken in het werk van de overheid.”

De heer Verkerk (ChristenUnie):

“Ik wil toch even op heel positieve wijze reageren op de beantwoording door de staatssecretaris. Ik vind het heel mooi dat u, sprekende over ethiek, zegt: in dat kader moeten we ook de cultuur bespreekbaar maken, maar dat moeten we echt doen in de context. Ik denk dat dat de kern van ethiek is: in een heel concrete context begin je met ethische bezinning en wil je het bespreekbaar maken. Ik dank u dus voor uw toezegging en zie met belangstelling uit naar de manier waarop u het gaat uitvoeren. Ik hoop dat we elkaar daar nog eens over mogen spreken, maar zeker weet ik dat niet.”

Staatssecretaris Van Huffelen:

“Dank u wel. Het zal nog best een hele klus zijn, maar gelukkig zie ik ook — dat vind ik zelf ook fijn om te zien — dat de ethische kaders steeds meer worden gebruikt, niet alleen binnen ministeries, maar ook binnen lagere overheden. Dan wordt er goed gekeken naar die vraagstukken: hoe gaan we dit beleid nou implementeren, hoe gaan we om met dit soort vraagstukken? Ik noemde al het voorbeeld van de introductie van camera's, bodycams, in de gemeente Utrecht.”


Brondocumenten


Historie