#kinderopvangtoeslag

berternste2@diasp.nl

Risico’s van algoritmes? Kijk naar Nederland

NRC

Privacy- Er zijn te veel slechte ervaringen met algoritmen bij overheidsinstanties, schrijft Nadia Benaissa. Veranker mensenrechten in de AI-verordening.

(Tekst loopt door onder de foto.)

Foto van slachtoffers van de toeslagenaffaire en premier Rutte
Mark Rutte tijdens de parlementaire enquête Toeslagenaffaire in 2020. Foto Werry Crone.

Als er in Europa wordt gezocht naar voorbeelden waarmee de risico’s van AI zichtbaar worden, wordt er steevast naar Nederland gekeken. Zo mag DUO, de uitvoerder van de studielening, een fraudeopsporingsalgoritme niet meer gebruiken, omdat het er ernstig op lijkt dat dat discrimineert. Daarnaast hebben verschillende gemeenten fraudeopsporingsalgoritmen ingezet die discrimineren. Bovendien zette het ministerie van Buitenlandse Zaken een algoritme racistisch in bij visumaanvragen, ondanks waarschuwingen van de functionaris gegevensbescherming. En als klap op de vuurpijl: het Toeslagenschandaal. (...)

Maar in de onderhandelingen over de AI-verordening dringt Nederland erop aan dat er geen strikt verbod moet komen op biometrische identificatie. Die technologie kunnen opsporingsdiensten namelijk goed gebruiken. Alleen blijkt de politie nu al geen grip te hebben op een gezichtsherkenningsdatabase waarin tienduizenden mensen onterecht staan opgenomen. (...)

Uit onderzoek van Follow The Money bleek onlangs dat Nederlanders onterecht op ‘terreurlijsten’ terechtkomen, zonder dat ze daadwerkelijk verdacht worden van een strafbaar feit. (...)

Mensenrechten zijn er om mensen te beschermen, ook – of misschien vooral – tegen de overheid. En Nederland laat uitstekend zien waarom het geen overbodige luxe is om ervoor te zorgen dat die rechten beschermd worden in de AI-verordening. (...)

Hele artikel

> Zie ook: De Europese AI-wet dreigt te worden afgezwakt, onder druk van de techlobby (NRC)

Tags: #nederlands #eu #europese_unie #ai #kunstmatige_intelligentie #algoritme #toeslagenaffaire #duo #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening #gezichtsherkenning

berternste2@diasp.nl

De ‘cowboys’ van de Belastingdienst kregen opdracht bij opsporing ‘grenzen op te zoeken’

Trouw

Het management van Belastingdienst wist al in 2014 dat ook onschuldige toeslagenouders tot fraudeur werden bestempeld.

(Tekst loopt door onder de foto.)

Foto van staatssecretaris Marnix van Rij
Staatssecretaris Marnix van Rij (belastingen) staat de pers te woord na afloop van de wekelijkse ministerraad. Beeld ANP.

Het speciale fraudeopsporingsteam CAF kreeg bij de oprichting in 2013 nadrukkelijk opdracht ‘de grenzen op te zoeken’ bij het opsporen van fraude. Al in 2014 was bij het management van de Belastingdienst bekend dat het CAF ‘veelvuldig’ de wettelijke grenzen opzocht.

Ook was toen bekend dat zeker 20 procent van de ouders van onderzochte gastouderbureau’s hierdoor ten onrechte beschuldigd zouden worden van fraude. Er werd met die informatie niets gedaan.

Het zogeheten CAF-team van de Belastingdienst kreeg bij zijn oprichting in 2013 zelfs nadrukkelijk de opdracht zo creatief mogelijk te werk te gaan bij de fraudeopsporing. Ze mochten daarbij methodes gebruiken waarvan ‘de juridische kaders nog niet helemaal zijn uitgekristalliseerd’. In het plan van aanpak staat hoever het CAF-team mocht gaan: ‘Als niet op voorhand duidelijk is dat iets niet mogelijk is binnen de huidige regelgeving, doen we het.’

Opvallend is dat al in 2014 wordt besproken dat bij de jacht op foute gastouderbureaus er rekening mee moet worden gehouden dat 20 procent van de ouders te goeder trouw is. Toch kunnen deze ouders door de aanpak van het CAF-team wel als fraudeur te boek komen te staan, waarschuwt een manager.

Er wordt echter geen voorstel of actie ondernomen om deze ‘te goedertrouw’-ouders daadwerkelijk te beschermen tegen de onconventionele aanpak. (...)

Hele artikel

Tags: #nederlands #nederland #toeslagen #toeslagenaffaire #toeslagen #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #Kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening

berternste@pod.orkz.net

Belastingdienst ging vooral achter lage inkomens aan

Trouw

Om toeslagen te controleren op fouten en fraude gebruikte de Belastingdienst een zelflerend algoritme. Dat selecteerde vooral lage inkomens voor controle.

De Belastingdienst heeft jarenlang specifiek burgers met een laag inkomen geselecteerd voor extra controle op fraude met de kinderopvangtoeslag. Hogere inkomens werden juist bewust ontzien. Dat erkent de Belastingdienst in antwoorden op vragen van Trouw en RTL Nieuws over het zogeheten risicoclassificatiemodel van Toeslagen. (...)

Het gaat om een zelflerend algoritme, dat zelfstandig bepaalt welke indicatoren erop zouden kunnen wijzen dat bepaalde aanvragen voor toeslagen een verhoogde kans op fouten of fraude kennen. (...)

In de praktijk betekent dit dat lage inkomens een hogere risicoscore kregen, hogere inkomens kregen juist een lagere risicoscore. (...)

Volgens Liem wijst de enorme oververtegenwoordiging van lage inkomens op zogeheten selectiebias in het model. Kort gezegd: als het model vermoedt dat bij lagere inkomens meer kans is op fraude, worden vooral die aanvragen gecontroleerd. Dat leidt ertoe dat vooral aanvragen van lage inkomens worden gecorrigeerd. Omdat het model weer getraind wordt met die uitkomsten, wordt er steeds verder ingezoomd op lage inkomens.

“Iedereen die iets weet van risicoselectie weet dat je alert moet zijn op selectiebias”, zegt Liem. Bijvoorbeeld door ook aselect aanvragen te controleren. Maar dat gebeurde niet bij Toeslagen. (...)

Eerder bleek al uit onderzoek van Trouw en RTL Nieuws dat de Belastingdienst ook een indicator gebruikte om te selecteren op het al dan niet hebben van de Nederlandse nationaliteit. (...)

Hele artikel

> Zie ook: Rekenkamer: te weinig aandacht voor discriminatie bij gebruik algoritmes door overheid (Trouw)

Illustratie

Tags: #nederlands #nederland #toeslagenaffaire #toeslagen #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #tweede_kamer #politici #rechtspraak #bestuursrecht #grondwet #trias_politica #scheiding_der_machten #Kinderopvangtoeslag #raad_van_state #discriminatie #racisme #kabinet #aftreden #rutte