Toezegging Vallen “other offences” ook in de hoog-risico categorie in de AI-verordening (CXLVII)

De staatssecretaris van BZK zegt de Kamer, naar aanleiding van een vraag van het lid Veldhoen (GroenLinks), toe na te gaan of in de hoog-risico categorie in de concept AI-verordening voorspellende AI-systemen voor “criminal offences” ook “other offences” moeten worden meegenomen.

Handelingen I 2022/23, nr. 23, item 9, p. 5.

Mevrouw Veldhoen (GroenLinks):

Dan een vraag naar aanleiding van de recente onthullingen rondom het frauderisico-algoritme van de gemeente Rotterdam. Kan de staatssecretaris toezeggen een overzicht te verstrekken van al het gebruik door lokale of nationale overheden van risicoprofileren om potentieel strafbare feiten of fraude te voorspellen? Criminaliteitsvoorspellingen staan als hoog risicosysteem in het huidige compromis van de AI-verordening. Maar daaraan zou wat ons betreft naast de "criminal offences" ook "other offences" moeten worden toegevoegd. Dan zouden risicoprofielen of het voorspellen van het overtreden van andere regelgeving dan het Wetboek van Strafrecht, zoals bijvoorbeeld bij bijstandsfraude, ook door dat verbod gedekt worden.

Handelingen I 2022/23, nr. 23, item 9, p. 51.

Mevrouw Veldhoen (GroenLinks):

Ik had in tweede termijn nog twee kleine vragen aan de staatssecretaris gesteld. Ik heb gevraagd of in de AI-verordening onder hoog risico naast criminal offences ook other offences worden meegenomen. Worden die ook in de onderhandeling meegenomen, zo moet ik het zeggen. De tweede vraag zag op de DSA en de algoritmische voorkeuren. Wordt een verbod daarop ook door de staatssecretaris in de onderhandeling meegenomen?

Staatssecretaris Van Huffelen:

Dan even over de AI-verordening. Wij hebben ernaar gezocht, maar wij zien het woord "offences" niet in de verordening staan. Ik weet dus niet helemaal wat u bedoelt, want de AI-verordening hanteert een classificatie van vormen van algoritmes: verboden, hoog risico en laag risico. Alle AI die persoonsgegevens verwerken, zitten in de categorie high risk. Als het gaat om offences, zou dat erin moeten zitten. Het gaat dus niet alleen maar om criminal offences. Misschien moeten we anders even met elkaar overleggen over waar het over gaat, want ik ben er even niet uitgekomen.

Mevrouw Veldhoen (GroenLinks): De DSA is natuurlijk al aangenomen. Het is al laat, maar het is inderdaad de vraag of de staatssecretaris zich hard gaat maken om die vraag in Europa nog op de kaart te zetten. Het punt over de offences heb ik echt wel uit de AI-verordening gehaald, maar ik kan nu niet reproduceren in welk artikel dat staat. Maar het gaat mij eigenlijk om de vraag of de staatssecretaris het met mij eens is dat voorspellende software en voorspellende algoritmen zowel verboden moeten worden als het gaat om criminal offences alsook bij "other offences", zoals ik dat noem, bijvoorbeeld bij fraude of andere overtredingen. Het gaat dus om de vraag of dit moet worden uitgebreid. Moet het niet én zien op strafbare feiten én op gevallen zoals fraude en overtreding?

Staatssecretaris Van Huffelen: Die zitten er ook gewoon in. Als het over AI gaat die risico-onderzoeken doen, die proberen om fraude te detecteren, welke vorm van fraude dan ook, dan zitten die allemaal in die hoogrisicocategorie. Mijn medewerkers luisteren mee. Als ik in deze iets zeg wat niet klopt, dan stuur ik u daar nog een brief over, maar in principe zitten die er gewoon in.

Brondocumenten

• 11 april 2023
  nieuwe status: voldaan
  Voortgang:
  documenten:

  • -   
    Korte aantekeningen vergadering commissie Justitie en Veiligheid (J&V) van 11 april 2023
    
• 30 maart 2023
  nieuwe status: openstaand
  Voortgang:
  documenten:

  • -   
    brief van de staatssecretaris van BZK met een reactie op de aangehouden motie-Prins c.s. over geautomatiseerde besluitvorming met een hoge impact op mensenrechten
    EK, K
    
• 21 maart 2023
  toezegging gedaan