Risico’s van algoritmes? Kijk naar Nederland

NRC

Privacy- Er zijn te veel slechte ervaringen met algoritmen bij overheidsinstanties, schrijft Nadia Benaissa. Veranker mensenrechten in de AI-verordening.

(Tekst loopt door onder de foto.)

Mark Rutte tijdens de parlementaire enquête Toeslagenaffaire in 2020. Foto Werry Crone.

Als er in Europa wordt gezocht naar voorbeelden waarmee de risico’s van AI zichtbaar worden, wordt er steevast naar Nederland gekeken. Zo mag DUO, de uitvoerder van de studielening, een fraudeopsporingsalgoritme niet meer gebruiken, omdat het er ernstig op lijkt dat dat discrimineert. Daarnaast hebben verschillende gemeenten fraudeopsporingsalgoritmen ingezet die discrimineren. Bovendien zette het ministerie van Buitenlandse Zaken een algoritme racistisch in bij visumaanvragen, ondanks waarschuwingen van de functionaris gegevensbescherming. En als klap op de vuurpijl: het Toeslagenschandaal. (...)

Maar in de onderhandelingen over de AI-verordening dringt Nederland erop aan dat er geen strikt verbod moet komen op biometrische identificatie. Die technologie kunnen opsporingsdiensten namelijk goed gebruiken. Alleen blijkt de politie nu al geen grip te hebben op een gezichtsherkenningsdatabase waarin tienduizenden mensen onterecht staan opgenomen. (...)

Uit onderzoek van Follow The Money bleek onlangs dat Nederlanders onterecht op ‘terreurlijsten’ terechtkomen, zonder dat ze daadwerkelijk verdacht worden van een strafbaar feit. (...)

Mensenrechten zijn er om mensen te beschermen, ook – of misschien vooral – tegen de overheid. En Nederland laat uitstekend zien waarom het geen overbodige luxe is om ervoor te zorgen dat die rechten beschermd worden in de AI-verordening. (...)

Hele artikel

> Zie ook: De Europese AI-wet dreigt te worden afgezwakt, onder druk van de techlobby (NRC)

Tags: #nederlands #eu #europese_unie #ai #kunstmatige_intelligentie #algoritme #toeslagenaffaire #duo #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening #gezichtsherkenning

Het land van Rutte werkt vooral voor wie Nederland toch al werkte

NRC

Gaaf land - In het Nederland van Mark Rutte moeten mensen zo veel mogelijk zelf doen. Wie dat niet kan, wordt gewantrouwd, of loopt vast in een „spaghetti van wetten en regels”. (...)

(Tekst loopt door onder de foto.)

Zonnepanelen op de daken van Hoonhorst. Foto Dieuwertje Bravenboer.

„Van mijn ouders heb ik geleerd dat je eerst moet proberen om voor jezelf te zorgen, voordat je een beroep doet op de overheid”, zegt Mark Rutte in september 2013. De premier houdt op verzoek van Elsevier de HJ Schoo-lezing in Amsterdam, waarin hij zijn blik op Nederland deelt. Het land verkeert in financiële problemen, de gevolgen van de kredietcrisis een aantal jaar eerder dreunen nog altijd na. De staatskas is leeg, de gezondheidszorg is een bureaucratisch labyrint geworden en betaalbare woningen zijn er amper. Problemen die Rutte met zijn tweede kabinet (2012-2017) – met de ideologische tegenpool PvdA – moet zien te beteugelen. (...)

NRC trok in de week na de aankondiging van zijn vertrek het land in om de balans op te maken. „In zelfredzaamheid zit best iets goeds, maar veel mensen zijn dat niet.” (...)

Veel duidelijker is de tweedeling tussen de groepen die het door Rutte voorgeschreven medicijn van zelfredzaamheid aankonden en zij die er juist (verder) door de in moeilijkheden kwamen. (...)

Sociale werkplaatsen verdwenen en mensen moesten meer in ‘normale’ bedrijven en overheidsorganisaties aan de slag. Dat lukte niet. (...)

Voor de jeugdzorg was 2015 „een rampjaar”, zegt Jason Bhugwandass, die zich na eigen ervaring in de gesloten jeugdzorg nu inzet als adviseur. Het was altijd al „een problematische sector”, zegt hij. „Maar vanaf 2015 moesten gemeenten méér gaan doen met minder middelen, omdat er ook fors werd bezuinigd.” Door aanbestedingen kwamen er „perverse prikkels”, zegt hij. „Met lichtere zorg kun je namelijk meer geld verdienen.”

Het gevolg is dat de jongeren die het kwetsbaarst zijn en de grootste problemen hebben, het moeilijkst aan hulp komen. (...)

Ook het Sociaal en Cultureel Planbureau (SCP) concludeerde in 2020 in een vernietigende evaluatie dat de Participatiewet de positie van kwetsbaren niet had verbeterd – integendeel. „Er zijn lange wachttijden voor jongeren met complexe problemen en de baankansen zijn afgenomen voor mensen die aangepast werk nodig hebben.” En: de overheid overschatte de zelfredzaamheid die mensen aankunnen, aldus het planbureau. (...)

Hilhorst voorspelde: wie zijn eigen boontjes kan doppen, redt zich. Maar wie minder geluk heeft, vindt de overheid steeds vaker tegenover zich – ook door nieuwe, politiek breedgesteunde wetgeving, die foutjes met uitkeringen en toeslagen als fraude bestraft.

Anders gezegd: mensen moesten meer zelf gaan doen, maar wie dat niet kon, werd steviger gewantrouwd. Inmiddels loopt een op de vijf burgers vast in een „spaghetti van wetten en regels”, schatte de commissie van Tweede Kamerleden die in 2020 de problemen bij uitvoeringsorganisaties als de Belastingdienst onderzocht. (...)

Vroeger, vertelt ze, was er een boekje van de gemeente waarin burgers precies konden zien waar ze recht op hadden. Dat verdween. Daardoor lopen mensen nu geld mis waar ze wel recht op kunnen hebben. (...)

Burgers zien een opeenstapeling van crises: de wooncrisis, stijgende prijzen, de oorlog, de asielcrisis, de stikstofcrisis en dan speelt klimaat er ook nog doorheen.” Er is, zegt ze, „grote somberheid in de samenleving over de enorme hoeveelheid crises die door de politiek niet wordt opgelost”. (...)

Hele artikel

Tags: #nederlands #nederland #gaaf_land #rutte #mark_rutte #bureaucratie #participatiemaatschappij #participatiewet #kredietcrisis #gezondheidszorg #woningnood #toeslagenaffaire #aardbevingsschade #tweedeling #studiefinanciering #sociale_werkplaats #bezuinigingen #jeugdzorg #belastingdienst

De ‘cowboys’ van de Belastingdienst kregen opdracht bij opsporing ‘grenzen op te zoeken’

Trouw

Het management van Belastingdienst wist al in 2014 dat ook onschuldige toeslagenouders tot fraudeur werden bestempeld.

(Tekst loopt door onder de foto.)

Staatssecretaris Marnix van Rij (belastingen) staat de pers te woord na afloop van de wekelijkse ministerraad. Beeld ANP.

Het speciale fraudeopsporingsteam CAF kreeg bij de oprichting in 2013 nadrukkelijk opdracht ‘de grenzen op te zoeken’ bij het opsporen van fraude. Al in 2014 was bij het management van de Belastingdienst bekend dat het CAF ‘veelvuldig’ de wettelijke grenzen opzocht.

Ook was toen bekend dat zeker 20 procent van de ouders van onderzochte gastouderbureau’s hierdoor ten onrechte beschuldigd zouden worden van fraude. Er werd met die informatie niets gedaan.

Het zogeheten CAF-team van de Belastingdienst kreeg bij zijn oprichting in 2013 zelfs nadrukkelijk de opdracht zo creatief mogelijk te werk te gaan bij de fraudeopsporing. Ze mochten daarbij methodes gebruiken waarvan ‘de juridische kaders nog niet helemaal zijn uitgekristalliseerd’. In het plan van aanpak staat hoever het CAF-team mocht gaan: ‘Als niet op voorhand duidelijk is dat iets niet mogelijk is binnen de huidige regelgeving, doen we het.’

Opvallend is dat al in 2014 wordt besproken dat bij de jacht op foute gastouderbureaus er rekening mee moet worden gehouden dat 20 procent van de ouders te goeder trouw is. Toch kunnen deze ouders door de aanpak van het CAF-team wel als fraudeur te boek komen te staan, waarschuwt een manager.

Er wordt echter geen voorstel of actie ondernomen om deze ‘te goedertrouw’-ouders daadwerkelijk te beschermen tegen de onconventionele aanpak. (...)

Hele artikel

Tags: #nederlands #nederland #toeslagen #toeslagenaffaire #toeslagen #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #Kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening

Belastingparadijs Nederland ondergraaft de democratie

Hubert Smeets (NRC)

(...) Deze Uber files [zie: Financieele Dagblad, Trouw en De Groene Amsterdammer] stinken. Ze ruiken misschien niet naar regelrechte corruptie, maar toch zeker naar hypocrisie en rechtsstatelijk bederf. Om met de huichelarij te beginnen. Jarenlang heeft de Nederlandse regering corruptie opgevoerd als reden waarom Oekraïne geen lid zou kunnen worden van de EU. Op de index van Transparancy International staat Nederland qua smeergeldreinheid immers op de achtste plaats terwijl Oekraïne onderaan op 122 bungelt. Maar wat blijkt? Juist eigen vaderlanders en zelfs de Staat der Nederlanden die ‘ons’ Europa van vreemde smetten vrij wil houden, bezondigen zich aan subversief gedrag binnen de EU. (...)

Dat de Nederlandse fiscus tegelijkertijd vertrouwelijke informatie van fiscale collega’s in Zweden en Groot-Brittannië aan Uber doorspeelde om het bedrijf zo lang mogelijk uit de wind te houden, is echter meer dan pijnlijk. (...)

Hier gaat het niet meer om hypocrisie, hier is sprake van bederf. Mogelijk willens en wetens heeft de Belastingdienst geopereerd als dubbelagent door waardevolle geheime kennis te delen met een ‘disruptieve innovatieve’ onderneming uit het buitenland. Belastingparadijs Nederland heeft zich daarmee als onbetrouwbare bondgenoot binnen de EU ontmaskerd. (...)

De Belastingdienst is een bij uitstek rechtsstatelijke instelling. Als er één staatsmonopolie is dat alle burgers in gelijke omstandigheden gelijk moet behandelen, dan is het de fiscus. (...) Als de Belastingdienst zich verbindt met een buitenlands concern (Uber) en zich tegelijkertijd keert tegen gewone burgers (Toeslagenaffaire) – om slechts twee dossiers te noemen – dan ondergraaft ze niets minder dan een hoeksteen van de democratie: het onderlinge vertrouwen in de samenleving. (...)

Nog even en Nederland convergeert met het ‘corrupte’ Oosten, dat het zelf met zoveel ponteneur en eigendunk kritiseert. Tien tegen één dat ook Rutte zich hierin niet herkent. Dat zou een vergissing zijn. (...)

Hele artikel

Hubert Smeets

Tags: #nederlands #nederland #uber #taxi #uber_files #corruptie #democratie #belasting #belastingontwijking #belastingontduiking #belastingparadijs #belastingdienst #lobby #neelie_smit-kroes #europa #europese_unie #europese_commissie #toeslagenaffaire

Lekken van data is géén incident

Maxim Februari (NRC)

(...) De gemeente heeft al mijn gegevens laten stelen door een ransomewaregroep en die heeft ze op het dark web gegooid, waar de bankrover ze kennelijk heeft gevonden. (...)

Nog maar net had ik de brief over de diefstal gelezen en het bericht van de boef beluisterd of ik kreeg opdracht van tijdschrift De Gids om een kopie van mijn paspoort toe te sturen. De overheid had erom gevraagd. (...)

Deze rare optelsom van gebeurtenissen, die ik niet had durven verzinnen, is een schoolvoorbeeld van iets dat je een veiligheidsparadox zou kunnen noemen. Om misdaad te voorkomen, tuig je systemen op die de boel niet veilig maken maar juist onveilig op een andere manier. Om terrorisme te voorkomen, eis je persoonsgegevens van die aardige meneer van De Gids en vervolgens laat je zijn gegevens stelen door een misdaadsyndicaat. (...)

[I]k heb een stapeltje sorry-brieven in huis. „We doen er alles aan.” Nee, jullie doen er niet alles aan, anders zou je erkennen dat het probleem voortkomt uit je oplossing. Dat het ronddwalen van gegevens geen incident is, maar een uitvloeisel van het online verzamelen.

Als je serieus bent, snap je dat burgers het niet leuk vinden nog meer gegevens af te staan als ze die gegevens vervolgens op de gekste plekken tegenkomen. „We hechten veel waarden aan privacy”, schrijft de eerbiedwaardige organisatie X in haar excuusbrief. Wat betekent dat? Dat je het datalek aangrijpt om de noodzaak van online gegevensverzameling te heroverwegen? Nee? (...)

Geef liever toe dat het geen incidenten zijn, maar kenmerken van het systeem. Het rondzingen van gegevens draagt bij aan de moderne moeilijkheid dat je niet weet welke instantie je nog kunt vertrouwen. (...)

Hele artikel

Maxim Februari

Tags: #nederlands #data #dataverzameling #gegevens #gegevensverzameling #datalek #persoonlijke_gegevens #privacy #digitalisering #surveillancekapitalisme #data_mining #gevangenis #gevangenisstraf #crimonaliteit #ransomware #dark_web #jeugdinstelling #jeugdzorg #misbruik #geweld #belastingdienst #fraudebestrijding #toeslagenaffaire #veiligheidsparadox

Belastingdienst ging vooral achter lage inkomens aan

Trouw

Om toeslagen te controleren op fouten en fraude gebruikte de Belastingdienst een zelflerend algoritme. Dat selecteerde vooral lage inkomens voor controle.

De Belastingdienst heeft jarenlang specifiek burgers met een laag inkomen geselecteerd voor extra controle op fraude met de kinderopvangtoeslag. Hogere inkomens werden juist bewust ontzien. Dat erkent de Belastingdienst in antwoorden op vragen van Trouw en RTL Nieuws over het zogeheten risicoclassificatiemodel van Toeslagen. (...)

Het gaat om een zelflerend algoritme, dat zelfstandig bepaalt welke indicatoren erop zouden kunnen wijzen dat bepaalde aanvragen voor toeslagen een verhoogde kans op fouten of fraude kennen. (...)

In de praktijk betekent dit dat lage inkomens een hogere risicoscore kregen, hogere inkomens kregen juist een lagere risicoscore. (...)

Volgens Liem wijst de enorme oververtegenwoordiging van lage inkomens op zogeheten selectiebias in het model. Kort gezegd: als het model vermoedt dat bij lagere inkomens meer kans is op fraude, worden vooral die aanvragen gecontroleerd. Dat leidt ertoe dat vooral aanvragen van lage inkomens worden gecorrigeerd. Omdat het model weer getraind wordt met die uitkomsten, wordt er steeds verder ingezoomd op lage inkomens.

“Iedereen die iets weet van risicoselectie weet dat je alert moet zijn op selectiebias”, zegt Liem. Bijvoorbeeld door ook aselect aanvragen te controleren. Maar dat gebeurde niet bij Toeslagen. (...)

Eerder bleek al uit onderzoek van Trouw en RTL Nieuws dat de Belastingdienst ook een indicator gebruikte om te selecteren op het al dan niet hebben van de Nederlandse nationaliteit. (...)

Hele artikel

> Zie ook: Rekenkamer: te weinig aandacht voor discriminatie bij gebruik algoritmes door overheid (Trouw)

Tags: #nederlands #nederland #toeslagenaffaire #toeslagen #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #tweede_kamer #politici #rechtspraak #bestuursrecht #grondwet #trias_politica #scheiding_der_machten #Kinderopvangtoeslag #raad_van_state #discriminatie #racisme #kabinet #aftreden #rutte