De staatssecretaris Koninkrijksrelaties en Digitalisering zegt de Kamer, naar aanleiding van een vraag van het lid Verkerk (ChristenUnie), toe dat cultuur en ethiek als onderwerpen bespreekbaar worden gemaakt bij AI-gebruik binnen de overheid.
Nummer | T03661 |
---|---|
Status | voldaan |
Datum toezegging | 21 maart 2023 |
Deadline | 1 juli 2024 |
Verantwoordelijke(n) | Staatssecretaris Digitalisering en Koninkrijksrelaties |
Kamerleden | Prof.dr. M.J. Verkerk (ChristenUnie) |
Commissie | commissie voor Digitalisering (DIGI) |
Soort activiteit | Plenaire vergadering |
Categorie | overig |
Onderwerpen | cultuur ethiek AI-gebruik |
Kamerstukken | Grip op algoritmische besluitvorming bij de overheid (CXLVII) |
Handelingen I 2022-2023, nr. 23, item 9 - blz. 45
De heer Verkerk (ChristenUnie):
(…)
“Voorzitter. Collega Gerkens ging uitgebreid in op ethiek. Ik heb daarover ook even een interruptie gehad. De vraag is of het voldoende is als er alleen maar onderwijs in ethiek is. Ik heb jaren in het bedrijfsleven gewerkt. Meerdere keren heb ik bij vragen aan mijn bazen het woord "ethiek" gebruikt. Ik moet eerlijk zeggen dat ik heel snel heb geleerd dat dat niet echt helpt en niet prettig is, want het wordt je gewoon verboden om het woord "ethiek" te gebruiken. Ik heb vervolgens de ethische vraag vertaald in een economische vraag. Toen werd er geluisterd.
Waarom vertel ik dit? Ik vertel dit omdat cultuur ook belangrijk is. Als je ethiek aan de orde wilt stellen, moet je ook over cultuur willen praten. De staatssecretaris zei: misschien was SyRI niet fout gegaan als we goede wetgeving hadden gehad. Misschien is dat zo. Maar ik zou hier ook willen opmerken dat zelfs als wij goede wetgeving hadden gehad, je ook een cultuur moet hebben waarin er een volledig respect is voor de waarden die aan die wetgeving ten grondslag liggen. Ik zou in dat verband aan de staatssecretaris willen vragen of zij een toezegging kan doen om dit punt van cultuur, het bespreekbaar maken van ethiek, op haar manier te bevorderen. Ik denk trouwens ook aan de motie van mevrouw De Blécourt, die zegt dat wij die kennis ook moeten hebben bij de griffie. Ik deel dat, maar dan moet ook bespreekbaar zijn dat die kennis van de griffie ook wordt gebruikt in de commissies en dat de commissies daarin ook iets worden opgevoed, als ik het zo mag uitdrukken.”
Handelingen I 2022-2023, nr. 23, item 9 - blz. 49
Staatssecretaris Van Huffelen:
(…)
“Dan is er nog een vraag van de heer Verkerk: kan ik toezeggen dat cultuur en ethiek als onderwerpen bespreekbaar worden gemaakt? Dat doe ik heel graag. Het is natuurlijk superbelangrijk dat dat onderwerp aan de orde is. Ik denk dat het ook al eerder in het debat aan de orde kwam. Natuurlijk kunnen we heel goede wetten en regels en kaders maken, maar het gaat ook over de manier waarop je het doet, en daarbij ook over de manier waarop we het bespreken. Dat is een van de thema's. Dat blijkt denk ik ook uit de rapporten, zoals uit het rapport van de parlementaire enquête over de problemen bij de toeslagen. Ik bedoel dat toch ook heel erg de nadruk die er was op fraudebestrijding heeft geleid tot het maken van algoritmes waarmee fraude kon worden gedetecteerd. Dat maakt natuurlijk ook iets uit in de context waarin algoritmes worden gemaakt. Dus ik denk dat daar voor ons allen een belangrijke taak ligt op het punt van die cultuur, en een taak om die ethische vragen steeds te blijven stellen, ondanks goede regels en kaders.
Een andere vraag van de heer Verkerk was om te reflecteren op het feit dat AI geen emotie kent en een rechter wel. Dat is ook precies waar het om gaat. Hoe slim AI ook kan zijn en hoe veel er ook in kan zitten in termen van emotieherkenning enzovoorts, enzovoorts — dat zijn ook allemaal vraagstukken waar we het over moeten hebben: in hoeverre vinden we dat wenselijk? — de menselijke tussenkomst bij de overheid is wat mij betreft zo ontzettend belangrijk. We weten niet of AI dat in de toekomst misschien wel zal kunnen. We wisten een jaar geleden ook niet dat er zoiets bestond als Bing of Bard of ChatGPT. Misschien heeft meneer Otten over een kwartier nog een nieuwe gevonden. Maar de kern is dus dat het daarom zo belangrijk is dat die menselijke tussenkomst er blijft. We moeten onszelf dus steeds de vraag stellen welke van deze technologieën wij willen gebruiken in het werk van de overheid.”
De heer Verkerk (ChristenUnie):
“Ik wil toch even op heel positieve wijze reageren op de beantwoording door de staatssecretaris. Ik vind het heel mooi dat u, sprekende over ethiek, zegt: in dat kader moeten we ook de cultuur bespreekbaar maken, maar dat moeten we echt doen in de context. Ik denk dat dat de kern van ethiek is: in een heel concrete context begin je met ethische bezinning en wil je het bespreekbaar maken. Ik dank u dus voor uw toezegging en zie met belangstelling uit naar de manier waarop u het gaat uitvoeren. Ik hoop dat we elkaar daar nog eens over mogen spreken, maar zeker weet ik dat niet.”
Staatssecretaris Van Huffelen:
“Dank u wel. Het zal nog best een hele klus zijn, maar gelukkig zie ik ook — dat vind ik zelf ook fijn om te zien — dat de ethische kaders steeds meer worden gebruikt, niet alleen binnen ministeries, maar ook binnen lagere overheden. Dan wordt er goed gekeken naar die vraagstukken: hoe gaan we dit beleid nou implementeren, hoe gaan we om met dit soort vraagstukken? Ik noemde al het voorbeeld van de introductie van camera's, bodycams, in de gemeente Utrecht.”
Brondocumenten
-
debat over algoritmische besluitvorming bij de overheid Verslag EK 2022/2023, nr. 23, item 9
-
9 juli 2024
nieuwe status: voldaan
Voortgang: -
18 juni 2024
nieuwe status: openstaand
Voortgang: -
6 juni 2024
nieuwe status: openstaand
Voortgang:documenten:-
-brief van de staatssecretaris van BZK over de voortgang en afdoening van moties en toezeggingen die raken aan het onderwerp artificiële intelligentie en algoritmes
Voor kennisgeving aangenomen op 18 juni 2024.
EK, Q
-
-
28 mei 2024
nieuwe status: openstaand
Voortgang: -
13 mei 2024
nieuwe status: openstaand
Voortgang:documenten:-
-verslag van een schriftelijk overleg met de minister van BZK over (deels) openstaande toezeggingen
Op 14 mei 2024 door de commissie voor IWO voor kennisgeving aangenomen.
EK 36.410 VII / 36.410 IV, I
-
-
23 januari 2024
nieuwe commissie: commissie voor Digitalisering (DIGI) -
23 januari 2024
commissie vervallen: commissie voor Binnenlandse Zaken (BIZA) -
5 december 2023
nieuwe commissie: commissie voor Binnenlandse Zaken (BIZA) -
5 december 2023
nieuwe deadline: 1 juli 2024
nieuwe status: openstaand
Voortgang: -
5 december 2023
commissie vervallen: commissie voor Justitie en Veiligheid (J&V) -
24 november 2023
nieuwe status: openstaand
Voortgang:documenten:-
-verslag van een schriftelijk overleg met de minister van BZK over (deels) openstaande toezeggingen
EK 36.410 VII / 36.410 IV, C
-
-
21 maart 2023
toezegging gedaan