De echte dreiging voor democratieën? De invloed van technologie, aldus techcriticus Jamie Susskind.

NRC

Interview | Jamie Susskind - Mensen zijn niet perfect. Dus hoe kan je erop vertrouwen dat softwareontwikkelaars technologie ontwikkelen die mensen en democratieën dient? Hoog tijd om na te denken over betere controle. (...)

Het grootste probleem van dit digitale tijdperk is níét dat de grote technologiebedrijven lak hebben aan onze privacy. De echte dreiging voor ons, en onze democratieën, is breder. Namelijk: dat Google, Meta, Amazon en de andere grote techbedrijven een enorme politieke factor zijn geworden, terwijl ze nauwelijks ter verantwoording te roepen zijn. (...)

(Tekst loopt door onder de illustratie.)

Hij geeft zelf een krachtige voorzet, inclusief praktische suggesties, in zijn vorig jaar verschenen boek The Digital Republic; On Freedom and Democracy in the 21st Century.

Susskind richt zijn pijlen niet in de eerste plaats op de techreuzen of op de topmannen die het daar voor het zeggen hebben. Hij spreekt over „ons gemeenschappelijke falen” om technologie in goede banen te leiden. „Veel te lang hebben we digitale technologieën bekeken vanuit de optiek: wat hebben we er als consument aan, of wat is de commerciële waarde ervan? Ik vind dat we er in politieke termen over moeten denken.” (...)

„Nu gaan we een tijdperk in waarin technologie [bijv. ChatGPT] politieke betogen kan opstellen. Sneller, en soms beter, dan de gemiddelde mens dat kan. Dat vind ik nogal een wezenlijke verandering voor onze democratie.” (...)

„Straks hebben we het niet meer over door technologie geschreven regels op een pagina, maar over door AI gegenereerde gezichten en stemmen die overtuigend zijn. Ze kunnen er zelfs op worden toegesneden om speciaal aantrekkelijk te zijn voor de specifieke persoon die ernaar kijkt.

„Daarom zeg ik: het digitale is politiek.” (...)

„[Software engineers] oefenen macht uit over ons leven. Ze reguleren de informatie die via digitale systemen over de wereld wordt verspreid. De algoritmes die ze schrijven, kunnen invloed hebben op het functioneren van de democratie en op kwesties van sociale rechtvaardigheid: op de toewijzing van woningen, de vaststelling van verzekeringspremies of het functioneren van ons strafrechtelijk systeem. Als je regels schrijft die miljoenen mensen moeten volgen, dan is dat politiek – ook al komt er geen parlement aan te pas.” (...)

„Bij artsen, advocaten, bankiers en exploitanten van kerncentrales vertrouwen we er ook niet zomaar op dat ze de juiste beslissingen nemen. Zij moeten voldoen aan normen en regels, omdat we weten dat mensen, en de instellingen die ze oprichten, niet perfect zijn.” (...)

„Je zou van digitale systemen bovendien kunnen eisen dat ze gecertificeerd zijn, zodat je ervan op aan kan dat ze aan bepaalde normen voldoen en je data er veilig zijn. Als je een gebouw binnenloopt, word je ook niet geacht zélf de kwaliteit van de architectuur te inspecteren. Je mag ervan uitgaan dat het veilig is en dat daarop is toegezien. Als je in een auto stapt, kan je er ook van op aan dat hij is goedgekeurd. Ik zie niet in waarom zo’n certificatie niet ook geregeld kan worden voor kunstmatige intelligentie of andere krachtige digitale technologieën.” (...)

Hele artikel

Tags: #nederlands #boeken #technologie #ai #artificial_intelligence #kunstmatige_intelligentie #politiek #democratie #big_tech #tenologiebedrivn #regulering #algoritme #haatzaaien #google #alphabet #meta #facebook #apple #microsoft #twitter #amazon #social_media #software #softwareontwikkelaar #chatgpt #zoekmachine #data #big_data

Zorgen over surveillancestaat weerhouden regering niet van invoering digitale bewijspas

Follow the Money

Nederlanders kunnen de eerste Nederlandse digitale bewijspas, de zogenaamde NL Wallet, nog dit jaar gaan uitproberen. Met die pas kun je jezelf online legitimeren, je rijbewijs, verzekeringsbewijzen en je diploma’s beheren, en die waar nodig delen met instanties en bedrijven. De Tweede Kamer was tegen, en volgens experts neemt het ministerie te weinig maatregelen om de privacy en de vrije keuze serieus te beschermen. ‘Voordat burgers hun wallet kunnen snappen, moeten ze eerst de waarde van hun data begrijpen.’ (...)

(Tekst loopt door onder de illustratie.)

Burgers worden overigens niet verplicht om een door de overheid uitgegeven wallet te nemen. Ook private partijen zijn bezig ze te ontwikkelen; hun wallets kunnen worden ‘erkend’ en dan worden gebruikt voor overheidsdocumenten, zoals je rijbewijs en je paspoort.

Techbedrijven Google en Apple hebben sowieso een belangrijke rol in deze ontwikkeling, aangezien zij de besturingssystemen van telefoons in handen hebben. (...)

Lidstaten kunnen hun eigen wallet bouwen of met een commerciële wallet in zee gaan; ze krijgen daarvoor tot 2025 de tijd. Die verzameling erkende wallets en het raamwerk met afspraken eromheen heten samen de Europese Digitale Identiteit (EDI). (...)

‘Toch is het een beetje alsof je de schilder je huis laat ontwerpen,’ stelt Jacoba Sieders, die voor private banken en de Europese Investeringsbank processen rond identificatie coördineerde en ‘uit interesse’ naar de bijeenkomsten van het ministerie van BZK komt. Ze wil maar zeggen: er is veel aandacht voor het uiterlijk en het gebruiksgemak van de wallet, maar de fundamentele vragen blijven achterwege. Hoe wordt de app ingezet, waar zijn de voordelen, welke technische protocollen en standaarden worden gebruikt, en waarom is een nieuwe wallet eigenlijk nodig? (...)

‘Er wordt veel nadruk gelegd op de succesverhalen: ik ga met mijn app solliciteren en het werkt! Maar stel dat het proces halverwege stopt door een fout, of je hebt te maken met een fraudegeval: iemand solliciteert online met een wallet, maar is eigenlijk iemand anders of het diploma klopt niet. Ligt dat aan de wallet, aan de gebruiker, of aan de uitgifte-instantie? En kun je tijdens zo’n sollicitatie nog terugvallen op een fysiek alternatief?’ (...)

‘Deze veelomvattende wallet is niet zomaar een neutraal vraagstuk. De risico’s liggen grof gezegd op het domein van persoonlijke autonomie, privacy, gegevensbescherming, inclusie, projectuitvoering en governance,’ schreef coördinator digitale identiteit Wouter Welling van BZK in maart 2022 in een artikel voor iBestuur Magazine. ‘Ook zijn er complexe vragen over de marktinrichting rond de wallet. Is het een taak van de overheid om één goed werkende wallet te leveren omdat het een te belangrijke nutsfunctie is? Of kan de overheid beter toezicht houden op een open stelsel en wallets certificeren die voldoen aan bepaalde eisen?’ (...)

Een paar maanden later, eind juli 2022, publiceerde de staatssecretaris een overzicht waarin ze ‘vier belangrijke uitdagingen’ rond de Europese Digitale Identiteit noemt: overvraging, overidentificatie, gedwongen gebruik, en controlesamenleving en uitsluiting. Follow the Money besprak deze vier punten met experts en met kritische Kamerleden. (...)

Hele artikel

Tags: #nederlands #nederland #digitale_bewijspas #nl_wallet #wallet #tweede_kamer #privacy #data #data_mining #big_data #massasurveillance #surveillance #google #apple #alphabet #europese_digitale_identiteit #edi #eu #europese_unie #overvraging #overidentificatie #gedwongen_gebruik #controlesamenleving #uitsluiting

Privacy-expert: ‘Politie is veelpleger bij schending privacy-regels’

NRC

Rejo Zenger | Bits of Freedom - De politie haalt al jaren ongebreideld data over burgers binnen, zegt privacy-expert Rejo Zenger. Tijd voor actie, vindt hij.

De politie blijkt van negen miljoen Nederlanders ‘levensgebeurtenissen’ bij te houden, zoals een verhuizing, huwelijk of geboorte. Dagblad Trouw schreef hier maandag over op basis van een interne politiememo. Iedere burger die ooit contact had met de politie, bijvoorbeeld vanwege een aangifte of een getuigenis, wordt opgenomen in de politiesystemen. De gegevens worden voortdurend geactualiseerd met informatie uit de Basis Registratie Personen. Een zogenoemde ‘afnemersindicatie’ wordt nooit meer verwijderd, waardoor de politie van steeds meer Nederlanders gegevens verzamelt. (...)

De politie is volgens Zenger een „veelpleger” met tientallen datasystemen die de privacy-voorschriften schenden. (...)

In welke systemen bewaart de politie gegevens over burgers?
„Ik vraag me af of de politie daarvan zelf een volledig beeld heeft. Gevraagd naar de belangrijkste systemen, noemt de politie er al een stuk of veertig.” (...)

Wat voor zin heeft het om van negen miljoen burgers bij te houden of ze zijn verhuisd of getrouwd?
„Dat heeft ook geen zin. Dat is alleen relevant zolang iemand bijvoorbeeld verdachte is. Dan wil je graag weten of iemand is verhuisd.” (...)

„Uit interne politierapporten blijkt dat veel van deze systemen niet aan de privacy-voorschriften voldoen. Er is niet goed geregeld dat alleen bevoegde agenten bij de gegevens kunnen.” (...)

Welke risico’s lopen burgers nu?
„Als jij aangifte doet van verkrachting, dan wil je niet dat onbevoegde agenten in je dossier gaan neuzen. Als jij de politie belt omdat je denkt dat de buurman zich schuldig maakt aan huiselijk geweld, dan wil je niet dat de buurman daar achter komt. (...)

„Het is al meer dan tien jaar bekend dat de politie de Wet politiegegevens overtreedt en toch komt de organisatie er nog steeds mee weg.” (...)

Hele artikel

Rejo Zenger

Tags: #nederlands #nederland #privacy #data #data_mining #big_data #politie #toezichthouder #gegevens #persoonsgegevens #afnemersindicatie #tweede_kamer #autoriteit_persoonsgegevens #ap

‘Rijksdienst al jaren kritisch op verzamelen van persoonsgegevens door politie’

NRC

Privacy - De politie verzamelt automatisch persoonsgegevens van miljoenen mensen. Dit beleid zou twee jaar geleden veranderd moeten worden, maar daarvan is nog niks gekomen, zo meldt Trouw.

De politie verzamelt automatisch persoonsgegevens van zeker negen miljoen mensen, zoals adressen, nationaliteiten en burgerservicenummers. De Rijksdienst voor Identiteitsgegevens maakt zich al sinds 2015 zorgen over dit beleid, concludeert dagblad Trouw op basis van een ruim twee jaar oude interne memo dat het inzag. In het document werd besproken dat het verzamelbeleid zou veranderen, maar na twee jaar is dit nog altijd niet gelukt, aldus Trouw. (...)

Dat de politiesystemen nog steeds niet zijn aangepast, komt volgens de politie door logge computersystemen die niet zomaar uitgezet kunnen worden. Dit jaar zou er alsnog een begin gemaakt worden met de aanpassing van het verzamelsysteem. (...)

Hele artikel

Tags: #nederlands #nederland #privacy #data #data_mining #big_data #politie #toezichthouder #gegevens #persoonsgegevens

De toezichthouder heeft een erg slecht verhaal over massaal verzamelen ggz-data

Trouw

Zonder dat 800.000 patiënten in de ggz iets is gevraagd, legt de Nederlandse Zorgautoriteit NZa een grote databank aan met gegevens over hun mentaal welzijn. Terecht stuit dit op verzet van een groep kritische psychiaters en psychologen. De aanpak van de NZa deugt niet. Dat juist de toezichthouder op de zorg zo te werk gaat, geeft te denken. (...)

Want nu laat de toezichthouder psychologen en psychiaters dit werkje opknappen. Zij moeten de patiëntgegevens online aanleveren. Wie weigert, krijgt een boete. Dat deze beroepsgroepen zo in een onmogelijke positie worden gebracht – de behandelaren moeten hun beroepsgeheim terzijde schuiven – lijkt voor de toezichthouder op de zorg geen enkele rol te spelen. (...)

De NZa onderstreept verder dat het project zo veilig is. Privacy staat voorop. (...)

Data worden nooit voor de lol verzameld, daar wordt altijd iets mee gedaan. Wat over het gebruik van data nu wordt afgesproken, kan morgen of overmorgen anders zijn. Dat maakt het aanleggen van grote databanken met patiëntgegevens zo discutabel. Wie zich daar tóch aan waagt, moet dus heel goed nut en noodzaak kunnen uitleggen. De NZa kan dat tot nu toe niet.

800.000 scorelijsten over de mentale problemen van patiënten zijn een goudmijn voor onderzoekers. En anders wel voor zorgverzekeraars. (...)

Hele artikel

> Zie ook: Toezichthouder verzamelt ongevraagd info over 800.000 ggz-patiënten (Trouw)

> Zie ook: Weerstand tegen HONOS+(ROM)-lijsten opsturen naar NZa krijgt momentum (zorgictzorgen.nl)

Tags: #nederlands #nederland #privacy #data #data_mining #big_data #ggz #zorgverzekeraars #toezichthouder #nza #beroepsgeheim #medisch_beroepsgeheim

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

NRC

Data - Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.” (...)

Alegre wilde niets weten [van een spraakgestuurde digitale assistent op de kamer van haar zevenjarige dochter], vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.” (...)

Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen. (...)

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.” (...)

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken. (...)

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen.” (...)

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?
„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.”

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag.” (...)

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?”

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.”

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?” (...)

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.” (...)

Hele artikel

> Zie ook: Brussel vindt Nederlandse privacywaakhond te strikt (NRC)

Tags: #nederlands #boeken #big_tech #techbedrijven #data #data_mining #big_data #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #vrijheid #facebook #meta #metagegevens #metadata #sociale_media #google #alphabet #youtube #tiktok #twitter #gokreclames #gokken #Cambridge_Analytica #politieke_beinvloeding #persoonsgerichte_advertenties #gezondheidssites #medische_gegevens #apps #menstruatieapp #menstruatie #seksuele_voorkeur #gegevens #persoonlijke_gegevens #privacy #1984 #ethiek #mensenrechten