T02612

Toezegging Kamer schriftelijk informeren over toepassing algoritmen en kunstmatige intelligentie in de rechtspleging (34.775 VI)

De Minister voor Rechtsbescherming zegt de Kamer, naar aanleiding van vragen van de leden Strik, Van Bijsterveld en Duthler, toe in het najaar, kort na de zomer, te komen met een brief waarin enkele gedachtelijnen worden neergezet rond de toepassing van algoritmen en kunstmatige intelligentie in de rechtspleging.

Kerngegevens

Nummer T02612
Status voldaan
Datum toezegging 22 mei 2018
Deadline 1 oktober 2018
Verantwoordelijke(n) Minister voor Rechtsbescherming
Kamerleden prof. dr. S.C. van Bijsterveld (CDA)
mr. dr. A.W. Duthler (Fractie-Duthler)
mr. dr. M.H.A. Strik (GroenLinks)
Commissie commissie voor Justitie en Veiligheid (J&V)
Soort activiteit Plenaire vergadering
Categorie brief/nota
Onderwerpen algoritmen
artificiële intelligentie
horizontale privacy
rechtspleging
Staat van de rechtsstaat
Kamerstukken Begrotingsstaten Justitie en Veiligheid 2018 (34.775 VI)

Uit de stukken

Handelingen I 2017/2018, nr. 30, item 3, pg. 11

Mevrouw Strik (Groenlinks):

Voorzitter. Ik noemde al eerder het toenemend verlies aan grip voor burgers door de zich razendsnel ontwikkelende technologie. Daar moet de politiek een antwoord op hebben. Toekomstige algoritmen bijvoorbeeld kunnen in één dag meer doorzoeken dan talrijke juristen en advocaten in heel hun leven. Vrijwel onfeilbare leugendetectors kunnen in de nabije toekomst in onze hersenen zien aan de hand van fmri-scans of we wel of niet liegen. Ook gezichtsherkenning zal straks niet meer weg te denken zijn in veel domeinen van het overheidsbeleid. Bij de opdracht om een verdere digitalisering van onze rechtsstaat op een veilige manier in te richten en te borgen, is de grootste uitdaging om de technologie de baas te blijven. Zeker als het raakt aan fundamentele mensenrechten, is de wereldwijde vrije markt niet de aangewezen partij om de macht te hebben. Algoritmen zijn immers allesbehalve neutraal of waardevrij. Neem softwareprogramma's die rechters in de Verenigde Staten bijstaan en die berekenen of een verdachte opnieuw de fout ingaat. Die blijken ronduit te discrimineren. Het algoritme voorspelde in 60% van de gevallen correct of iemand weer opnieuw de fout inging, maar de foutmarge bleek bij zwarte Amerikanen twee keer zo groot. Ook in Nederland worden big data ingezet om risicoprofielen te destilleren: bij woonfraude, financiële fraude en inzet van politie. Is de regering het met ons eens dat het juist van groot belang is dat er controle en transparantie is als het algoritme aan fundamentele grondrechten van onze burgers raakt?

Handelingen I 2017/2018, nr. 30, item 6, pg. 1

Mevrouw Van Bijsterveld (CDA):

Inmiddels ontstaan ook allerlei privé-initiatieven tot rechtspraak, zoals e-Court. In hoeverre moeten wij als samenleving accepteren dat er aan een geschil beslechtende beslissing geen mens meer te pas komt? Kunnen wij geschillenbeslechting overlaten aan een algoritme of is het in essentie een menselijke activiteit? Graag een reactie van de minister.

Handelingen I 2017/2018, nr. 30, item 6, pg. 9

Mevrouw Duthler (VVD):

De digital transformation, of in gewoon Nederlands de digitale transformatie, wordt gezien als de volgende stap in de digitale evolutie. Het bijzondere van de huidige digitale transformatie ligt niet zozeer in snellere computers of nog betere programma's, maar in het altijd verbonden zijn van mens en machine met zijn omgeving. Een omgeving waarin het internet uit het bewustzijn van de mens zal verdwijnen. Het is er namelijk gewoon, of we nu onze smartphone uit onze jaszak halen, een apparaat aanzetten of een ruimte binnenlopen: we zijn verbonden met alles en iedereen om ons heen, zonder dat we daar verder nog over nadenken. Het ontbreken ervan zou zoiets zijn als het niet meer opkomen van de zon in de morgen. In dat verband spreken we wel van "the augmented human being". De convergentie van nanotechnologie, biotechnologie, informatietechnologie en cognitieve wetenschappen heeft niet alleen invloed op de mensenrechten, maar ook op het fundamentele concept van wat een "human being" karakteriseert. Grenzen tussen mens en machine, tussen online- en offlineactiviteiten, tussen de fysieke en de virtuele wereld, tussen natuurlijk en kunstmatig, tussen realiteit en virtualiteit vervagen als gevolg van die eerder genoemde digital transformation. De mensheid vergroot haar mogelijkheden met behulp van machines, robots en software. Dan komen we aan bij die augmented human being. Hoe bereidt de regering zich op dergelijke ontwikkelingen voor?

Handelingen I 2017/2018, nr. 30, item 6, pg. 41

Minister Dekker:

Ik ben ter voorbereiding bezig met een brief waarin ik enkele gedachtelijnen zal neerzetten rond de toepassing van algoritmen en kunstmatige intelligentie in de rechtspleging. De Tweede Kamer heeft me daarom gevraagd. Die brief kunt u in het najaar verwachten, kort na de zomer. Ik ben ook bezig met het ontwikkelen van een visie op waar ik het in het begin over had, namelijk horizontale privacy en de aandacht die we moeten besteden aan de mogelijkheden om het gebruik van bepaalde nieuwe technieken te normeren, voor zover die technieken van invloed kunnen zijn op de bescherming van de persoonlijke levenssfeer.

Handelingen I 2017/2018, nr. 30, item 6, pg. 42

Mevrouw Duthler (VVD):

Dit scheelt in de tweede termijn. Mag ik dit opvatten als een toezegging van de minister dat hij een overkoepelend standpunt zal formuleren over de wijze waarop we met dit soort ontwikkelingen om moeten gaan als we kijken naar die kernwaarden van de rechtsstaat, in brede zin?

Minister Dekker:

Ik maak 'm even heel specifiek. Ik heb de Tweede Kamer toegezegd dat ik in het najaar kom met een visie waarin ik het aspect van horizontale privacy meeneem. Maar er is ook nog het bredere vraagstuk hoe kunstmatige intelligentie raakt aan menselijke waardigheid en andere fundamentele grondrechten. Dat is echt wat breder dan dat, want dan heb je het ook over de effecten op gelijkheid, noem maar op. Dat vraagt iets meer tijd. Dat vraagt ook dat dat onderzoek is afgerond, en natuurlijk komen we, als dat onderzoek klaar is, met een kabinetsstandpunt op basis van de aanbevelingen die dat onderzoek oplevert.

Mevrouw Duthler (VVD):

Maar is dat dan het kabinetsstandpunt over die horizontale privacy, of is dat dan het bredere standpunt, waarin die onderwerpen die u net ook noemde betrokken zullen worden? Het gaat dan dus echt om de onderwerpen vrijheid van informatie, de verwevenheid van mens en machine, en vrije keuze. Is het zo dat echt die onderwerpen daarin worden betrokken, of beperkt de minister het echt alleen maar tot die horizontale privacy?

Minister Dekker:

Voorzitter, mag ik het volgende doen? Over die horizontale privacy kan ik duidelijk zijn. Dat weet ik toevallig, daar ga ik over en daar heb ik al verschillende malen met de Tweede Kamer over gedebatteerd. Dat komt in het najaar. Misschien mag ik dat bredere punt dan meenemen in mijn beantwoording van de tweede termijn. Dan plan ik nog even ruggespraak om te bekijken waar dat precies in de tijd zit. Er lopen nog onderzoeken, maar ik kan nog niet helemaal overzien wanneer die worden afgerond.


Brondocumenten

Historie