Verslag van de vergadering van 19 februari 2019 (2018/2019 nr. 19)
Status: gecorrigeerd
Aanvang: 15.13 uur
Mevrouw Baay-Timmerman i (50PLUS):
Voorzitter. Vandaag houden we de derde termijn van het beleidsdebat over de staat van de rechtsstaat. Als leden van de commissie JenV hebben we een soort verdeling gemaakt over de diversiteit van onderwerpen teneinde onnodige herhaling van standpunten te voorkomen. Mijn fractie zal zich met name focussen op de digitalisering in de rechtspraak. Wij haken in op de brieven van 19 december 2018 en die van 1 en 13 februari jongstleden van de minister voor Rechtsbescherming, waarin hij de toekomst schetst van het gebruik en de toepassing van algoritmen en artificiële intelligentie in de rechtspleging.
Laat helder zijn: onze uitgangspunten omtrent toepassing van kunstmatige intelligentie, puur als ondersteuning van het besluitvormingsproces om tot uitspraken te komen, juichen wij toe. Daarnaast kan het meer inzicht geven aan de rechtzoekende burger over zijn kansen op succes in een procedure. Maar 50PLUS plaatst bij toepassing van kunstmatige intelligentie in de rechtspleging en de gevolgen daarvan voor de juridische dienstverlening nog behoorlijk wat kanttekeningen. Want zoals al eerder opgemerkt, kunnen algoritmes ook veel minder voor de hand liggende patronen ontdekken en op basis daarvan voor mensen ondoorgrondelijke voorspellingen formuleren.
Het gevaar schuilt erin dat voor mensen niet bekend is en ook niet te achterhalen valt welke gegevens door een algoritme worden verzameld en hoe het algoritme deze gegevens ook verwerkt. Het gebrek aan transparantie over algoritmes is een belangrijk punt van aandacht, want een computeralgoritme kan ongemerkt informatie vervormen en daarmee ook de mening van de rechter in diens vonnis of uitspraak. De minister onderkent dat digitalisering kansen biedt, maar ook bedreigingen inhoudt. Hij stelt in zijn brief van 19 december 2018 op pagina 10, dat bij gebruikmaking van kunstmatige intelligentie de uitkomst altijd een rechterlijke toetsing moet kunnen doorstaan. Graag hoort mijn fractie hoe de minister deze garantie in de praktijk gaat uitvoeren, zeker wanneer het zaken betreft waarbij geen beroep is ingesteld. Toetst de rechter aan deze uitkomsten voor het verstrijken van de beroepstermijn of worden deze achteraf getoetst? Denkt de minister echt dat met de nu al onmenselijke werkdruk op rechters, deze nog uitspraken gaan toetsen waartegen zelfs geen beroep is ingesteld? Is dat wel een reële verwachting?
Hoogleraar psychologie Van Vugt waarschuwt ook voor de psychologische effecten van het gebruik van artificiële intelligentie. Immers, in onze huidige maatschappij nemen we al vaak klakkeloos conclusies over, conclusies die enkel door zelflerende algoritmen op basis van staten worden getrokken. Transparantie over de mate waarin een algoritme inzichtelijk is, verkrijg je alleen als je het zelf kunt begrijpen en uitleggen, maar bedrijven of overheden willen of kunnen vaak niet vertellen hoe hun algoritmen werken. Dat kan zijn vanwege intellectueel eigendom of een geheimhoudingsverplichting, maar het kan ook zijn omdat ze zelf evenmin begrijpen hoe hun zelflerende algoritme precies werkt.
Mocht het de bedoeling zijn dat artificiële intelligentie in de toekomst daadwerkelijk uitspraken gaat produceren, hoe kan dan aan rechters wel de eis worden gesteld dat ze de conclusies van kunstmatige intelligentie, waarop de rechterlijke uitspraken dan zijn gebaseerd, nader kunnen motiveren? Hoe wordt deze transparantie straks geborgd en wie of welke organisatie zal hierop toezicht houden? Wordt dat overgelaten aan particuliere organisaties of ziet de overheid hierop toe? Graag een nadere toelichting van de minister.
Mevrouw Duthler i (VVD):
Ik zou mevrouw Baay graag goed willen begrijpen. Gaat zij ervan uit dat er, nadat een uitspraak is gedaan, nog een keer een controleslag plaatsvindt om na te gaan of het algoritme goed is toegepast en er een redelijke en rechtvaardige uitspraak uit is gekomen? Of ziet zij ook mogelijkheden — dat zou mijn fractie meer voor de hand zien liggen — dat het algoritme zelf aan een controle wordt onderworpen en dat daarover de rechterlijke macht transparant is? Het gaat dan dus niet zozeer over het controleren van de output maar veeleer over het controleren van het algoritme voorafgaand, dus aan de inputkant.
Mevrouw Baay-Timmerman (50PLUS):
Uiteraard heeft dat laatste absoluut de voorkeur, omdat je daarmee mogelijke fouten kan voorkomen. Ik noem bijvoorbeeld de verkeersboetes waarbij de regels gevolgd worden door de burger. We hebben met de SP vragen gesteld over bijvoorbeeld het niet op de juiste plek plaatsen in de auto van een invalidenkaart. Door de digitalisering komt daar een bekeuring uit, terwijl de burger op zich volledig heeft voldaan aan de voorgeschreven regels. De burger moet nu al in dit soort gevallen ongelofelijk veel werk verzetten, beginnend vaak met een bezwaarschrift, dat dan weer niet wordt gehonoreerd omdat het ook allemaal via digitalisering wordt afgewezen. Vervolgens is er de mogelijkheid van een beroepschrift en daarna pas gaat een rechter ernaar kijken, waarbij het in veel gevallen alsnog wordt gehonoreerd. We hebben het nu als voorbeeld uitsluitend over verkeersboetes, maar als je dit soort complexe materie ook gaat toepassen in zaken waarbij vrijheidsberoving op het spel staat, dan moet het ook voor een rechter inzichtelijk zijn dat algoritmes niet een foutmelding kunnen maken waardoor uiteindelijk een vervormd beeld ontstaat.
Voorzitter. Invoering van een digitale infrastructuur in de rechtspraak zoals de minister die voor ogen staat, kost geld, veel geld. De prangende vraag is natuurlijk wie dat gaat bekostigen, terwijl er nu al ernstige tekorten bestaan bij de rechtspraak. De Boston Consulting Group, de BCG, heeft onlangs in februari in het rapport Doorlichting financiën rechtspraak onderzocht dat sinds 2016 een jaarlijks negatief saldo bij de rechtspraak is ontstaan en waarom deze financiële tekorten eerder toe dan af zullen nemen. Een van de genoemde factoren is de niet gerealiseerde besparing van de 54 miljoen euro als gevolg van het stopzetten van het digitaliseringsprogramma KEI. Mijn fractie vraagt de minister hoe hij denkt de noodzakelijke toepassing van de kunstmatige intelligentie in de toekomst te gaan bekostigen.
Een tweede factor voor het tekort is de forse afname van het aantal zaken waardoor er minder geld binnenkomt. Daartegenover staat een toename van de complexiteit van de zaken, waardoor ze meer tijd kosten terwijl de vergoeding per zaak niet omhooggaat en de vaste kosten gelijk blijven. Meent de minister dat ook voor de complexere zaken toepassing van kunstmatige intelligentie de oplossing zal zijn, zodat deze de zo gewenste kostenbesparing gaat opleveren? Wanneer verwacht hij de resultaten van de door hem genoemde experimenten die borging moeten bieden aan de kernwaarden, zoals verwoord in zijn brief van 13 februari jongstleden?
Een van de aanbevelingen uit het BCG-rapport om de vaste lasten te drukken, is het afstoten van rechtspraaklocaties door verkoop van gerechtsgebouwen. In de uitzending van Nieuwsuur van 7 februari jongstleden reageerde mr. mevrouw Van Waterschoot, rechter en voorzitter van de Nederlandse Vereniging voor Rechtspraak, hier zeer afwijzend op. Zij benadrukte hoe relevant hoorzittingen zijn, omdat een papieren dossier lang niet altijd alle essentiële details bevat die nodig zijn om een weloverwogen uitspraak te doen. Niet zelden wordt een voor de zitting ingenomen standpunt na zitting gewijzigd.
Door sluiting van rechtspraaklocaties is de rechter voor de burger nog moeilijker bereikbaar. Reistijden en reiskosten vormen een belemmering om naar de zitting te gaan. Ook de voorzitter van de Raad voor de rechtspraak, mr. Naves, stelt dat maatschappelijk en politiek draagvlak ontbreekt voor het sluiten van rechtspraaklocaties. Is de minister het eens met Van Waterschoot en Naves dat sluiting en verkoop van deze locaties absoluut voorkomen moeten worden, ook al levert dat een kostenbesparing op?
Voorzitter. Tot slot vraagt 50PLUS de minister wat hij gaat doen met de uitkomsten van het BCG-rapport, waarbij de conclusie is dat zeker rekening moet worden gehouden met een toekomstige toename van financiële tekorten in de rechtspraak.
Dank u wel.
De heer Backer i (D66):
Ik heb naar het verhaal van mevrouw Baay over de algoritmes geluisterd. Zij stelt een vraag aan de minister over de mogelijke bijdrage van algoritmes aan het oplossen van de financiële problematiek van de rechtspraak. Meen ik nou te beluisteren dat zij zelf denkt dat deze techniek een zodanige versnelling kan aanbrengen dat de financiële structuur daarmee in stand kan blijven en dat het zich op die wijze kan gaan oplossen? Of is het een onderdeeltje van de bijdrage?
Mevrouw Baay-Timmerman (50PLUS):
Het is een onderdeel van mijn bijdrage, maar het is met name de insteek van de minister, die stelt dat dit de werkdruk van de rechterlijke macht zou kunnen verminderen. Daardoor kunnen zaken wellicht sneller afgewikkeld worden, maar zoals ik in mijn bijdrage al heb aangegeven, brengt dat nog behoorlijk wat risico's met zich mee, zolang wij niet exact de transparantie van de toepassing van algoritmes kunnen onderkennen. Ik kan me ook voorstellen dat dat voor een rechter ook best heel erg lastig is.
De voorzitter:
Dank u wel, mevrouw Baay. Dan is nu het woord aan mevrouw Vlietstra.