‘Vergeet de controlestaat, we leven in een controlemaatschappij’

Follow the Money

Volgens bijzonder hoogleraar digitale surveillance Marc Schuilenburg hebben wij geen geheimen meer. Bij alles wat we doen kijkt er wel iets of iemand mee die onze gangen registreert. We weten het, maar doen er gewoon aan mee. Zo diep zit digitale surveillance in de haarvaten van onze samenleving: ‘We herkennen het vaak niet eens meer.’ (...)

(Tekst loopt door onder de foto.)

Marc Schuilenburg

Na zijn aanstelling als hoogleraar digitale surveillance aan de Erasmus Universiteit besloot hij zich op de beantwoording van die vraag te storten. Daarbij gaat zijn bijzondere aandacht uit naar de impact van digitale surveillance-middelen, zoals intelligente camera’s, algoritmes en artificial intelligence (AI) op onze samenleving.

Deze week verscheen zijn boek: Making Surveillance Public. Daarin stelt hij dat door de opkomst van deze technologieën, overheden en opsporingsdiensten onze levens op ongekende schaal kunnen monitoren, terwijl er nauwelijks iets bekend is over de manieren waarop dit gebeurt en welke gevolgen dit heeft voor de rechten en vrijheden van burgers. (...)

Hij beperkt zich daarbij overigens niet tot de publieke sector. Techreuzen als Tesla, Amazon en Apple weten dankzij onze auto's, deurbellen en horloges zo mogelijk namelijk nog meer over ons.

De grenzen tussen publiek en privaat vervagen bovendien, stelt Schuilenburg, doordat dergelijke bedrijven zich met hun producten steeds vaker in het (publieke) veiligheidsdomein begeven. Ook de politie maakt gretig gebruik van de data die zij verzamelen. (...)

Er ontstaat een vernetwerking van data, zegt Schuilenburg. De samenleving verandert in een digitaal ‘superpanopticon’, waarbij we van alle kanten bekeken worden zonder dat we nog weten door wie en hoe: ‘Vergeet de surveillance-staat, we leven in een surveillance-maatschappij’. (...)

‘De gevaren van particuliere surveillance worden schromelijk onderschat. De data die wordt verzameld via intelligente koelkasten, slimme deurbellen en activiteitstrackers en dergelijke maakt je privéleven inzichtelijk voor derden die met die informatie doen wat ze willen. Doorverkopen aan adverteerders, gebruiken om profielen op te bouwen van jou en je omgeving: het gebeurt, zonder enige vorm van controle.

Dat gebruik van die data leidt tot stigmatisering. Dat zie je bij de route-navigatie-app Waze. In sommige landen geeft die aan of hij een bepaalde buurt veilig vindt of niet. (...)

Uiteindelijk zie je bij private surveillance zo dezelfde problemen ontstaan als we kennen van surveillance door de overheid en de politie. Ook in Nederland. Op basis van ondoorzichtige datasets en algoritmes worden bepaalde groepen mensen zonder het te weten benadeeld, uitgesloten of gediscrimineerd.’ (...)

‘Amazon verkoopt sinds 2018 de Ring-videodeurbel, waarmee je op je telefoon kunt zien wie er bij je op de stoep staat. Wereldwijd zijn miljoenen exemplaren verkocht. Tegelijkertijd werkt Amazon in de VS aan een eigen watchlist. Dat is een database met profielen van personen waarvan Amazon zelf denkt dat die mogelijk een bedreiging zijn. Als zo iemand vervolgens bij jou voor de deur staat en door de gezichtsherkenningssoftware in je Ring-deurbel wordt geïdentificeerd, gaat er automatisch een alarm af.

Amazon maakt dus zelfstandig een inschatting of iemand zich mogelijk schuldig zou kunnen maken aan een strafbaar feit, terwijl niet duidelijk is waar dat op is gebaseerd en hoe die technologie werkt. Dan ga je op de stoel van de politie zitten. En Amazon is niet het enige bedrijf dat dit doet. Tesla is inmiddels ook bezig met zo’n lijst.’ (...)

De data die particuliere partijen verzamelen, vindt namelijk ook op allerlei manieren zijn weg naar opsporingsdiensten. In Nederland heeft de politie inmiddels toegang tot tienduizenden videodeurbellen. Dat is een heel nieuw surveillancenetwerk van ongekende schaal dat de politie ineens ter beschikking heeft. (...)

Uw boek toont aan dat de natuurlijke volgorde voor surveillance is omgedraaid. Vroeger was er eerst een verdenking, waarna er werd gesurveilleerd. Nu is er alom surveillance en wordt vervolgens met AI-tools gezocht naar verdachte feiten. (...)

Wat zijn daar de risico’s van?
‘Dat de mens achter de data verloren gaat. Terwijl het behouden van die menselijkheid van ongekend belang is, juist voor overheden en grote bedrijven. Veel unieke eigenschappen die ons mens maken, zoals je ervaringen, emoties en intuïtie, kunnen bijna niet in data worden omgezet. Dat zal altijd een blind spot van AI blijven, terwijl die eigenschappen heel veel kunnen zeggen over wat het betekent om mens te zijn. (...)

Het gevaar is dat er een AI-mateloosheid is ontstaan, waarbij steeds meer surveillancemiddelen worden gebruikt, zonder dat goed wordt gekeken hoe effectief die zijn en wat het effect is op de rechten van burgers, of de rechtsstaat in het algemeen.

Daarbij gaat het gebruik van AI en zelflerende algoritmes vaak ten koste van de transparantie en de mate waarin politie en overheden in staat zijn verantwoording af te leggen over hun handelen. Instanties begrijpen de tools die ze gebruiken vaak zelf ook niet helemaal. Maar als een overheid niet kan uitleggen hoe zij tot beslissingen of een verdenking komt, heb je als samenleving een groot probleem.’ (...)

Als u de balans opmaakt tussen wat het gebruik van AI-gedreven en algoritmische surveillance-middelen door de politie ons opleveren en ons kosten, in de zin van rechten en waarden. Is die uitruil het dan waard?
‘Nee. Dat komt ook omdat Nederland echt al behoorlijk veilig is. Dus de winst die we behalen, als die er al is, weegt voor mij niet op tegen de nadelen.

Maar belangrijker is dat er onvoldoende democratische controle op deze middelen is, terwijl fundamentele rechten en rechtsstatelijke waarden als het recht op privacy en gelijke behandeling niet goed zijn geborgd.’ (...)

We zijn allemaal gevoelig voor de veiligheidsparadox: hoe minder criminaliteit er is, hoe hysterischer we het resterende stukje onveiligheid willen aanpakken. Dat is precies wat hier speelt en wat je ook terugziet in die behoefte aan luxury surveillance.

We hebben er als maatschappij meer aan als we inzetten op de zorgende kant van AI. (...)

Hele artikel

Tags: #nederlands #boeken #surveillance #massasurveilance #surveillancekapitalisme #tesla #amazon #ring #apple #controlemaatschappij #veiligheid #schijnveiligheid #algoritme #profilering #discriminatie #misdaad #criminaliteit

Slimme deurbellen zijn een gevaar voor onze samenleving

Trouw

Wie kijkt er allemaal mee met de slimme deurbel? Geef meer informatie over dit zorgelijke fenomeen, stelt Thijs Turèl, van het Amsterdam Institute for Advanced Metropolitan Solutions. (...)

(Tekst loopt door onder de foto.)

Beeld Getty Images

Op dit moment heeft al 1 op de 8 Nederlandse huishoudens zo’n bel. Een zorgelijke ontwikkeling. Vanwege de effecten op onze straten en buurten. En omdat we zo bijdragen aan de opbouw van een surveillance-infrastructuur. (...)

Paradoxaal genoeg voelt een deel van de gebruikers van deze bellen zich onveiliger. Ze zien alles wat er rond hun huis gebeurt. En bespreken dit bezorgd in buurt-whatsappgroepen. Hun subjectieve veiligheid vermindert, terwijl die objectief gezien niet verandert.

Daarbij hebben slimme deurbellen ook effect op buurtgenoten: 17 procent van Amsterdammers vindt ze ongemakkelijk. (...)

Ondertussen gluren niet alleen buren naar buren. Vrijwel alle slimme deurbellen zijn verbonden met bedrijven als Amazon (Ring) en Google (Nest). Op massale schaal gaan dus beelden uit Nederlandse straten naar de servers van deze techgiganten. (...)

Gezichtsherkenning in de slimme bellen zorgt daarbij voor een enorme surveillance-infrastructuur, waarmee kan worden vastgesteld wie, waar is, wanneer en met wie. Een infrastructuur die voor veel ongewenste belangen kan worden ingezet.

Is er dan niets geregeld? Jawel, maar dat werkt niet. De slimme deurbellen vallen onder de privacywetgeving. Maar de Autoriteit Persoonsgegevens (AP) moet per geval beoordelen of regels geschonden zijn. (...)

Ook in de aankomende Europese AI-wet worden slimme deurbellen niet verboden. (...)

Allereerst moet het bredere publiek door de overheid geïnformeerd worden over de risico’s van deze deurbellen. Daarnaast moeten lokale overheden onderzoeken hoe burgers zich kunnen verweren tegen de slimme deurbellen van buren. (...)

Tot slot het ontwerp. Blijkbaar voorzien deurbellen in een behoefte. Maar hoe zorgen we dat ze de privacy van anderen niet schenden? Kan er een type slimme deurbel ontworpen worden dat wel acceptabel is? Hoeveel intelligentie mag er in zo’n bel? Moeten die data echt naar Google en Amazon? (...)

[Inbraakrisico:] investeer liever in goed hang- en sluitwerk, in plaats van de onbedoelde neveneffecten op de maatschappij af te wentelen door ondoordacht naar een slimme deurbel te grijpen.

Hele artikel

Tags: #nederlands #nederland #slimme_deurbel #privacy #veiligheid #surveillance-infrastructuur #surveillance #massasurveillance #surveillancekapitalisme #ring #amazon #google #nest #autoriteit_persoonsgegevens #ap #inbraak

De man die Europa over Big Tech adviseert waarschuwt: ‘De wereld zag nog nooit zo’n machtsconcentratie’

NRC

Paul Nemitz | Hoofdadviseur Europese Commissie - Top-EU-ambtenaar Paul Nemitz waarschuwt voor de macht van Big Tech. „Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien.” (...)

De macht van deze bedrijven is zó groot, hield hij zijn gehoor in Perugia voor, „dat in Brussel de olifant in de kamer deze vraag is: kan de democratie haar primaat over de grote tech-bedrijven nog wel doen gelden? Of moeten we ons neerleggen bij de heerschappij van de technologie?” (...)

„Als er technologieën zijn die op de lange termijn tot het uitsterven van de mensheid kunnen leiden, of die onze manier van leven ingrijpend kunnen veranderen, zei hij, dan hebben we de verantwoordelijkheid er vandaag al actie op te ondernemen. Ook als we niet zéker weten hoe het zich verder zal ontwikkelen.” (...)

„Het is tegenwoordig heel moeilijk een conferentie of een academische instelling te vinden waar de relatie tussen internet en samenleving wordt onderzocht, en waar Big Tech níet op de een of andere manier financieel aan bijdraagt. Die bedrijven zijn zo rijk, dat ze hun geld kunnen gebruiken om overal vrienden te maken. Ze proberen een amicaal sfeertje te scheppen, waarin het ongemakkelijk of zelfs pijnlijk wordt om directe kritiek op ze te leveren. Dat is zorgelijk. Want als je geen onafhankelijke wetenschappers en journalisten hebt, dan ziet het er somber uit voor onze democratie.” (...)

„De voormalige leider van de Britse Liberale Partij, oud-vice-premier Nick Clegg, is nu toplobbyist van Meta. De speciale ambassadeur die Denemarken had aangesteld voor contacten met de technologiebedrijven, leidt inmiddels het Europese kantoor van Microsoft” (waar hij verantwoordelijk is voor contacten met Europese overheden). (...)

„Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien. Niet alleen horen ze tot de rijkste ondernemingen met de grootste beurswaarde op Wall Street. Ze hebben de controle over communicatienetwerken en de manier waarop we ons informeren. Ze weten meer over ons als individu, over ons gedrag online en offline, dan wie dan ook. Van miljarden mensen kunnen ze een profiel aanleggen. En als zich innovatieve concurrenten aandienen, imiteren ze die of nemen ze die over.” (...)

„Steeds meer systemen die vroeger door mensen draaiend werden gehouden, worden nu door automatische systemen uitgevoerd, al dan niet met kunstmatige intelligentie. Bij het selecteren van sollicitatiebrieven bijvoorbeeld, of het analyseren van röntgenfoto’s en andere medische beelden – twee heel gevoelige terreinen, waar de resultaten ingrijpende gevolgen kunnen hebben.

„Door het inzetten van kunstmatige intelligentie verliezen mensen bepaalde vaardigheden. En belangrijker: ze verliezen het vermogen en de bereidheid om die systemen te vernieuwen en te verbeteren. Kunstmatige intelligentie functioneert op basis van data die gisteren of eergisteren zijn verzameld. Een systeem stelt daar geen kritische vragen bij en is nooit ontevreden met de uitkomst." (...)

„Vooral voor staatsorganen is dat heel belangrijk. Als besluiten op basis van automatische systemen worden genomen, moet je er niet alleen voor zorgen dat de regels worden toegepast, maar ook dat je het systeem zo nodig kan veranderen als het blijft vastzitten in een verkeerd spoor. Zoals jullie in Nederland hebben gezien bij de Toeslagenaffaire.” (...)

„De bedrijven proberen ook allemaal actief te worden in de gezondheidszorg. Google is de grootste verzamelaar van gezondheidsdata ter wereld. Met hun technologie kunnen ze zeker grote verbeteringen in de zorgsector tot stand brengen. Maar door hun omvang maken ze het andere bedrijven moeilijk om op dat terrein ook winstgevend te zijn. En willen we echt dat essentiële publieke diensten, zoals gezondheidszorg, straks alleen nog maar geleverd kunnen worden door de reuzen uit Silicon Valley?” (...)

„De greep van Microsoft op het openbaar bestuur in Europa is enorm. De afhankelijkheid van software van Microsoft bij de Europese Commissie, nationale overheden en lagere bestuursorganen is verbijsterend.” (...)

„Het beleid van de afgelopen twintig jaar heeft ertoe geleid dat de zoekmachine van Google in Europa een marktaandeel heeft van meer dan negentig procent. Amerikaanse bedrijven hebben hier zo dominant kunnen worden door het neoliberale digitale beleid van zelfregulering in die jaren.” (...)

„En op klimaatgebied staan ze zeker voor enorme uitdagingen. Denk aan de energie die gebruikt wordt om een systeem van kunstmatige intelligentie te ontwikkelen, en vervolgens te gebruiken. Of de energie die gewone computercentra nodig hebben voor koeling. En de energie voor streamingdiensten. Je moet niet alleen kijken naar die bedrijven zélf en hoe ze hun eigen invloed op het klimaat aanpakken, maar ook naar de effecten van hun producten. Als de boodschap steeds is: zorg dat je voortdurend online bent, leidt dat ook tot een enorm energiegebruik.” (...)

„En laten we niet naïef zijn over de macht van deze concerns. Ze procederen veel en tot het uiterste, daar hebben ze onbeperkt geld voor.”

Hele artikel

Paul Nemitz

Tags: Enederlands #big_tech #grootbedrijf #machtsconcentratie #Google #Apple #Meta #Facebook) #Amazon #Microsoft #ict #technologie #democratie #media #nieuws #journalist #journalistiek #pers #lobby #eu #europese_unie #privacywet #privacy #AVG #data #data_mining #gegevens #persoonlijke_gegevens #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #kunstmatige_intelligentie #algoritme #ai #gezondheidszorg #medische_gegevens #klimaat #klimaatverandering #klimaatcrisis #energie #energiegebruik #democratie

Big Tech zit op school (en verandert daar de lessen)

Follow the Money

In het onderwijs zit steeds meer technologie. Het klaslokaal is veranderd in een goudmijn voor datahandelaren, maar veel software monitort kinderen nu ook buiten de school. Van de belofte dat de lessen door educatieve software op maat van ieder kind kunnen worden gesneden, komt intussen niet veel terecht. Hoog tijd om onderwijswaarden weer centraal te stellen. (...)

Het succes van educatieve technologie staat of valt immers met het verzamelen van data. En wie ‘data’ zegt, weet dat de datadieven op de loer liggen. Uit een ronduit schrikbarend onderzoek van Human Rights Watch naar 164 edutech-producten blijkt dat het overgrote deel ervan (84 procent!) kinderen tot ver buiten het klaslokaal trackt en monitort – of daartoe op z’n minst de mogelijkheid biedt.

De onderzochte aanbieders delen de persoonlijke gegevens van scholieren met liefst 196 derde partijen (voornamelijk adverteerders), valt uit de analyse van de mensenrechtenorganisatie op te maken. (...)

De opslag en verwerking van privégegevens aan de onzichtbare hand van de markt overlaten, staat al snel op gespannen voet met de bescherming van publieke waarden. Zo hebben scholen de opdracht om de integriteit van hun leerlingen te beschermen. Wie derde partijen laat meegluren met kinderen die worden geacht te leren en te experimenteren – en daarbij hoort misstappen en stommiteiten kunnen begaan of wegen mogen bewandelen zonder uitkomst of duidelijk doel – doet daar afbreuk aan. Het schoolgebouw behoort een veilige ruimte te zijn, afgesloten voor het spiedende oog van anonieme dataverzamelaars. (...)

Een interessante publicatie van Kennisnet, dat scholen adviseert en ondersteunt bij ict-vraagstukken, laat zien dat er veel valt af te dingen op de claims van de makers van oefensoftware.

Dergelijke systemen vergemakkelijken individueel leren, maar dat lijkt vooral de sterke leerlingen ten goede te komen. (...)

Bovendien ligt blikvernauwing op de loer. Door te focussen op meetbare prestaties raakt het sociale aspect van het leerproces – met en van elkaar leren – ondergesneeuwd. (...)

Wie zich laat beheksen door het doelmatigheids- en controlefetisjisme van de tech-industrie vergeet dat onderwijs ook in het teken van algemene vorming staat. Dat wil zeggen: een omgeving die nieuwsgierigheid naar de wereld stimuleert en die kinderen helpt zich voor te bereiden op een leven in de samenleving, inclusief alle ongemakken, grilligheden en onzekerheden die daarbij horen. (...)

De verleiding om eerder een dashboard te raadplegen dan oog te houden voor de subtiliteiten in het klaslokaal – denk aan lichaamstaal, een oogopslag of sociale interactie – is misschien begrijpelijk, maar komt wel met het risico dat de leraar vroeg of laat zélf in een dashboard verandert. Dat wil zeggen: in een onderwijsprofessional die, min of meer op de automatische piloot, zijn zicht op wezens van vlees en bloed laat belemmeren door de uitkomsten van een softwareprogramma. (...)

En zo krijgt de robotisering van het onderwijs, zonder dat er ooit een robot aan te pas komt, langzaam maar zeker gestalte. (...)

Het bijna blinde geloof in datagestuurd onderwijs is het zoveelste voorbeeld van wat criticus Evgeny Morozov ‘technologisch solutionisme’ noemt, de overtuiging dat technologie een kracht is die voor elk probleem een oplossing biedt. En nu komt het: tot op heden is er geen overtuigend bewijs dat digitale innovaties de onderwijskwaliteit verbeteren, zoals ook Kennisnet in de inleiding van het rapport vaststelt. Wat we wel weten, is dat bovenmatig gebruik van digitale media een negatieve invloed heeft op zoiets als begrijpend lezen. (...)

Hele artikel

Leerlingen testen VR-brillen voor afstandsonderwijs, 2022. © ANP / Joris van Gennip

Tags: #nederlands #nederland #onderwijs #big_tech #edutech #data #data_mining #surveillance #mass_surveillance #massasurveilance #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #algoritme #gezichtsherkenningssoftware #gezichtsherkenning

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

NRC

Data - Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.” (...)

Alegre wilde niets weten [van een spraakgestuurde digitale assistent op de kamer van haar zevenjarige dochter], vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.” (...)

Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen. (...)

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.” (...)

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken. (...)

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen.” (...)

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?
„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.”

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag.” (...)

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?”

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.”

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?” (...)

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.” (...)

Hele artikel

> Zie ook: Brussel vindt Nederlandse privacywaakhond te strikt (NRC)

Tags: #nederlands #boeken #big_tech #techbedrijven #data #data_mining #big_data #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #vrijheid #facebook #meta #metagegevens #metadata #sociale_media #google #alphabet #youtube #tiktok #twitter #gokreclames #gokken #Cambridge_Analytica #politieke_beinvloeding #persoonsgerichte_advertenties #gezondheidssites #medische_gegevens #apps #menstruatieapp #menstruatie #seksuele_voorkeur #gegevens #persoonlijke_gegevens #privacy #1984 #ethiek #mensenrechten

Lekken van data is géén incident

Maxim Februari (NRC)

(...) De gemeente heeft al mijn gegevens laten stelen door een ransomewaregroep en die heeft ze op het dark web gegooid, waar de bankrover ze kennelijk heeft gevonden. (...)

Nog maar net had ik de brief over de diefstal gelezen en het bericht van de boef beluisterd of ik kreeg opdracht van tijdschrift De Gids om een kopie van mijn paspoort toe te sturen. De overheid had erom gevraagd. (...)

Deze rare optelsom van gebeurtenissen, die ik niet had durven verzinnen, is een schoolvoorbeeld van iets dat je een veiligheidsparadox zou kunnen noemen. Om misdaad te voorkomen, tuig je systemen op die de boel niet veilig maken maar juist onveilig op een andere manier. Om terrorisme te voorkomen, eis je persoonsgegevens van die aardige meneer van De Gids en vervolgens laat je zijn gegevens stelen door een misdaadsyndicaat. (...)

[I]k heb een stapeltje sorry-brieven in huis. „We doen er alles aan.” Nee, jullie doen er niet alles aan, anders zou je erkennen dat het probleem voortkomt uit je oplossing. Dat het ronddwalen van gegevens geen incident is, maar een uitvloeisel van het online verzamelen.

Als je serieus bent, snap je dat burgers het niet leuk vinden nog meer gegevens af te staan als ze die gegevens vervolgens op de gekste plekken tegenkomen. „We hechten veel waarden aan privacy”, schrijft de eerbiedwaardige organisatie X in haar excuusbrief. Wat betekent dat? Dat je het datalek aangrijpt om de noodzaak van online gegevensverzameling te heroverwegen? Nee? (...)

Geef liever toe dat het geen incidenten zijn, maar kenmerken van het systeem. Het rondzingen van gegevens draagt bij aan de moderne moeilijkheid dat je niet weet welke instantie je nog kunt vertrouwen. (...)

Hele artikel

Maxim Februari

Tags: #nederlands #data #dataverzameling #gegevens #gegevensverzameling #datalek #persoonlijke_gegevens #privacy #digitalisering #surveillancekapitalisme #data_mining #gevangenis #gevangenisstraf #crimonaliteit #ransomware #dark_web #jeugdinstelling #jeugdzorg #misbruik #geweld #belastingdienst #fraudebestrijding #toeslagenaffaire #veiligheidsparadox