0 Persons are tagged with #fsv

#fsv

berternste2@diasp.nl
Bert Ernste

Risico’s van algoritmes? Kijk naar Nederland

NRC

Privacy- Er zijn te veel slechte ervaringen met algoritmen bij overheidsinstanties, schrijft Nadia Benaissa. Veranker mensenrechten in de AI-verordening.

(Tekst loopt door onder de foto.)

Foto van slachtoffers van de toeslagenaffaire en premier Rutte
Mark Rutte tijdens de parlementaire enquête Toeslagenaffaire in 2020. Foto Werry Crone.

Als er in Europa wordt gezocht naar voorbeelden waarmee de risico’s van AI zichtbaar worden, wordt er steevast naar Nederland gekeken. Zo mag DUO, de uitvoerder van de studielening, een fraudeopsporingsalgoritme niet meer gebruiken, omdat het er ernstig op lijkt dat dat discrimineert. Daarnaast hebben verschillende gemeenten fraudeopsporingsalgoritmen ingezet die discrimineren. Bovendien zette het ministerie van Buitenlandse Zaken een algoritme racistisch in bij visumaanvragen, ondanks waarschuwingen van de functionaris gegevensbescherming. En als klap op de vuurpijl: het Toeslagenschandaal. (...)

Maar in de onderhandelingen over de AI-verordening dringt Nederland erop aan dat er geen strikt verbod moet komen op biometrische identificatie. Die technologie kunnen opsporingsdiensten namelijk goed gebruiken. Alleen blijkt de politie nu al geen grip te hebben op een gezichtsherkenningsdatabase waarin tienduizenden mensen onterecht staan opgenomen. (...)

Uit onderzoek van Follow The Money bleek onlangs dat Nederlanders onterecht op ‘terreurlijsten’ terechtkomen, zonder dat ze daadwerkelijk verdacht worden van een strafbaar feit. (...)

Mensenrechten zijn er om mensen te beschermen, ook – of misschien vooral – tegen de overheid. En Nederland laat uitstekend zien waarom het geen overbodige luxe is om ervoor te zorgen dat die rechten beschermd worden in de AI-verordening. (...)

Hele artikel

> Zie ook: De Europese AI-wet dreigt te worden afgezwakt, onder druk van de techlobby (NRC)

Tags: #nederlands #eu #europese_unie #ai #kunstmatige_intelligentie #algoritme #toeslagenaffaire #duo #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening #gezichtsherkenning

Opinie | Risico’s van algoritmes? Kijk naar Nederland

Privacy: Er zijn te veel slechte ervaringen met algoritmen bij overheidsinstanties, schrijft Nadia Benaissa. Veranker mensenrechten in de AI-verordening.

berternste2@diasp.nl
Bert Ernste

De ‘cowboys’ van de Belastingdienst kregen opdracht bij opsporing ‘grenzen op te zoeken’

Trouw

Het management van Belastingdienst wist al in 2014 dat ook onschuldige toeslagenouders tot fraudeur werden bestempeld.

(Tekst loopt door onder de foto.)

Foto van staatssecretaris Marnix van Rij
Staatssecretaris Marnix van Rij (belastingen) staat de pers te woord na afloop van de wekelijkse ministerraad. Beeld ANP.

Het speciale fraudeopsporingsteam CAF kreeg bij de oprichting in 2013 nadrukkelijk opdracht ‘de grenzen op te zoeken’ bij het opsporen van fraude. Al in 2014 was bij het management van de Belastingdienst bekend dat het CAF ‘veelvuldig’ de wettelijke grenzen opzocht.

Ook was toen bekend dat zeker 20 procent van de ouders van onderzochte gastouderbureau’s hierdoor ten onrechte beschuldigd zouden worden van fraude. Er werd met die informatie niets gedaan.

Het zogeheten CAF-team van de Belastingdienst kreeg bij zijn oprichting in 2013 zelfs nadrukkelijk de opdracht zo creatief mogelijk te werk te gaan bij de fraudeopsporing. Ze mochten daarbij methodes gebruiken waarvan ‘de juridische kaders nog niet helemaal zijn uitgekristalliseerd’. In het plan van aanpak staat hoever het CAF-team mocht gaan: ‘Als niet op voorhand duidelijk is dat iets niet mogelijk is binnen de huidige regelgeving, doen we het.’

Opvallend is dat al in 2014 wordt besproken dat bij de jacht op foute gastouderbureaus er rekening mee moet worden gehouden dat 20 procent van de ouders te goeder trouw is. Toch kunnen deze ouders door de aanpak van het CAF-team wel als fraudeur te boek komen te staan, waarschuwt een manager.

Er wordt echter geen voorstel of actie ondernomen om deze ‘te goedertrouw’-ouders daadwerkelijk te beschermen tegen de onconventionele aanpak. (...)

Hele artikel

Tags: #nederlands #nederland #toeslagen #toeslagenaffaire #toeslagen #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #Kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening

De ‘cowboys’ van de Belastingdienst kregen opdracht bij opsporing ‘grenzen op te zoeken’

Het management van Belastingdienst wist al in 2014 dat ook onschuldige toeslagenouders tot fraudeur werden bestempeld.

One person like that
berternste@pod.orkz.net
Bert Ernste

Desinteresse in technologie kan zomaar leiden tot staatssurveillance

Laurens Verhagen (De Volkskrant)

‘Het wetsvoorstel zet de deur wagenwijd open voor een onbegrensde surveillance door een onbegrensde hoeveelheid partijen, publiek en privaat.’ Nee, deze woorden gaan niet over China. Noch over Rusland. Het wetsvoorstel in kwestie is afkomstig van onze eigen minister Grapperhaus van Justitie en Veiligheid. (...)

De aangehaalde woorden zijn afkomstig van de Autoriteit Persoonsgegevens. (...)

‘Dit wetsvoorstel maakt het mogelijk dat nog veel meer instanties persoonsgegevens met elkaar delen, zonder dat er duidelijk iets aan de hand is. En niet alleen overheidsinstanties, ook private partijen. Hier ligt het risico van massasurveillance op de loer’, stelt AP-voorzitter Aleid Wolfsen.

Niet voor niets wordt de WGS een Super-SyRI genoemd: de wet gaat nog veel verder dan deze ook al sterk bekritiseerde Systeem Risico Indicatie. (...) De rechter oordeelde over SyRI vorig jaar dat dit systeem verboden moet worden. (...)

Klaar dus, zou je zeggen. Maar nee hoor, ondertussen werkte de minister al aan een super-SyRI. De AP vreest dat exact dezelfde fouten zullen worden gemaakt: burgers die zomaar op het verkeerde lijstje terechtkomen en zo in de verdrukking komen. Ook stelt de toezichthouder dat de wet te vaag is. Al bij ‘een eerste vermoeden van onrechtmatige activiteiten’ kunnen samenwerkingsverbanden gegevens delen met ‘andere partijen’ als dat noodzakelijk is. Wie die ‘andere partijen’ precies zijn? De AP heeft geen flauw idee en wij ook niet. (...)

In een deze week gepubliceerd rapport over kunstmatige intelligentie constateert de Wetenschappelijke Raad voor het Regeringsbeleid een schrijnend gebrek aan interesse voor digitale zaken bij de overheid. (...) ‘We shape our tools, and thereafter our tools shape us’, luidt het terecht beroemde citaat dat aan mediawetenschapper Marshall McLuhan wordt toegeschreven.

Hele artikel

> Zie ook: De zorgen over de nieuwe Big Brother-wet zijn terecht

Foto van minister Grapperhaus
Demissionair minister Ferdinand Grapperhaus van Justitie en Veiligheid (CDA) stelde een wet voor die het delen van persoonsgegevens van burgers makkelijker maakt. Beeld ANP.

Tags: #nederlands #nederland #surveillance #massasurveillance #autoriteit_persoonsgegevens #ap #wet_wgs #wgs #Wet_gegevensverwerking_samenwerkingsverbanden #gegevens #gegevensverwerking #fraude #fraudebestrijding #Financieel_Expertise_Centrum #FEC) #Infobox_Crimineel_en_Onverklaarbaar_Vermogen #iCOV #Regionale_Informatie--en_Expertise_Centra #RIEC #Zorg-_en_Veiligheidshuizen #ZVH’s #banken #Fraude_Signalering_Voorziening #FSV #belastingdienst

Desinteresse in technologie kan zomaar leiden tot staatssurveillance

‘Het wetsvoorstel zet de deur wagenwijd open voor een onbegrensde surveillance door een onbegrensde hoeveelheid partijen, publiek en privaat.’ Nee,...

One person like that