‘We zijn als Europa dicht bij een serieuze oorlog’

Villamedia

Operaties waarbij landen liever niet willen dat details naar buiten komen zijn de specialiteit van Volkskrant-onderzoeksjournalist Huib Modderkolk (42). Daarbij kan het gaan om spionageacties, cyberaanvallen en gevoelige dossiers. (...)

(Tekst loopt door onder de illustratie.)

‘Tien jaar geleden ging het over spionage: hoe diensten zoals de Amerikaanse NSA op grote schaal konden afluisteren. Dat is nu veranderd naar pogingen om met technologie invloed uit te oefenen. Terwijl aan de rand van Europa een oorlog woedt, zien we dat technologie ingezet kan worden om de democratie onder vuur te nemen. Wat me drijft is om dat in kaart te brengen.’

‘Ik ben bezorgd over in hoeverre onze democratie overeind blijft. Want die wordt nu van verschillende kanten, ook van binnenuit, getest. Bovendien zijn we als Europa dicht bij een serieuze oorlog. Wist je dat het ministerie van Defensie met een kleurenkaart bijhoudt waar we staan tussen oorlog en vrede? Groen is vrede, rood is oorlog. Die kaart staat op dit moment op donkeroranje. Ik geloof dat dat besef totáál niet is doorgedrongen. Het is niet ondenkbaar meer dat we binnen een à twee jaar betrokken worden bij een oorlog met Rusland. Denk eens aan de implicaties: dan zitten we nu dus in de fase vlak daarvoor. Zeg maar zoals in Oekraïne vóór de Russische invasie. In die jaren werd het bestaansrecht van het land in twijfel getrokken, er waren grootschalige destabiliserende campagnes, de overheid werd aangevallen en mensen kregen met propaganda te maken.’ (...)

‘En dan kan die technologie zich tegen de rechtsstaat keren. Dat hoeft niet van tegenstanders te komen, maar kan ook van binnenuit gebeuren. Omdat je een neiging ziet bij politici en inlichtingendiensten om altijd net iets meer te willen dan mag.’

Voorbeelden?
‘De politie mag van de wet geen gezichtsherkennings­camera’s gebruiken, maar doet dat al wel, terwijl ook veel politieke partijen die technologie eigenlijk te invasief vinden. Er wordt een uitzondering gemaakt, we doen gewoon even een proef heet het dan. Zo wordt er steeds gekeken: kunnen we die grenzen toch oprekken? En dan kan het snel gaan.’ (...)

‘Anonimiseren is een illusie. En dat gaat steeds meer blijken. Er wordt niet alleen heel veel verzameld over ons allemaal; er wordt ook nog eens heel veel informatie gekoppeld. En dan raken bedrijven ook nog eens veel persoonlijke data kwijt. Met al die data samen kun je, als je slim zoekt in openbare bronnen, een deel van iemands gedrag reconstrueren.’ (...)

‘Van de werking van sociale media weten we haast niets. Europa zou als voorwaarde moeten stellen aan X en TikTok: wil je hier actief zijn, dan moet je volledige openheid van zaken geven. Dan willen wij begrijpen hoe jullie algoritmen werken, hoe jullie gebruikers verslaafd maken en wat je ze voorschotelt. Er mag alleen niet één groep profijt van hebben. Of dat de algoritmen zo zijn ingesteld dat ze enkel emotie en controverse bevorderen in plaats van feiten brengen. Hier ligt ook een taak voor de journalistiek: neem sociale media niet zo serieus. Doe zelf onderzoek. Ga voorbij de reacties en de emoties.’ (...)

Hele artikel

Tags: #nederlands #spionage #ondermijning #technologie #BigTech #big_tech #oorlog #oekraine #nsa #surveillance #massasurveillance #democratie #algoritme #modderkolk #sociale_media #SocialMedia #media #journalist #journalistiek

EU-Raad onder vuur wegens controversiële en privacyschendende anti-kinderpornowet

De Volkskrant

Dat kinderen beschermd moeten worden op het internet, staat buiten kijf voor de EU. Desondanks stuit een wetsvoorstel van de Raad van de Europese Unie op felle kritiek, omdat hiermee surveillance-software geïnstalleerd kan worden op de telefoons van alle Europeanen.

(Tekst loopt door onder de foto.)

Een overheidscampagne om aandacht te vragen voor de (online) verspreiding van kinderporno. Beeld Harold Versteeg/ ANP.

In 2023 stuurden de wetenschappers al een open brief met kritiek over het voorstel naar de Raad, maar deze heeft hun waarschuwingen over surveillance en privacyschendingen op grote schaal niet ter harte genomen, schrijven meer dan 250 ondertekenaars donderdag in een tweede brief. Nog altijd wil de Raad AI-toepassingen installeren op de telefoons van Europeanen om te detecteren of iemand bijvoorbeeld op WhatsApp ongepast contact legt met minderjarigen of schadelijk materiaal deelt.

Deze technologie, client-side scanning geheten, doet een inbreuk op de privacy en kan onschuldige EU-burgers onterecht bestempelen als crimineel, vinden wetenschappers, het Meldpunt Kinderporno en de Tweede Kamer. Daar is het Europees Parlement het mee eens, waarna het een tegenvoorstel opstelde, dat gericht is op het voorkomen in plaats van het detecteren van kindermisbruik. (...)

Hele artikel

> Zie ook: Yesilgöz, koningin van de onderbuik Citaat:
“Het belangrijkste bezwaar van een hele reeks is echter dat er geen enkele garantie is dat client-side scanning alleen gebruikt zal worden voor de detectie van kinderporno. Niet voor niets nam de Tweede Kamer een motie aan die het kabinet opriep om tegen alle client-side scanning voorstellen van de Europese Commissie te stemmen. Maar Yesilgöz, koningin van de onderbuik, vertrouwt meer op haar gevoel dan op de experts, en legde de motie naast zich neer.”

Tags: #nederlands #nederland #kinderporno #client_side_scanning #censuur #privacy #kinderporno #europese_commissie #eu #europese_unie #vvd #tweede_kamer #massasurveillance

Lees vooral het hele verhaal. Schokkend!

Politie volgt illegaal 11 miljoen kinderen en volwassenen, soms al vlak na hun geboorte

Follow the Money

Elf miljoen Nederlanders worden geautomatiseerd door de politie gevolgd in de basisregistratie personen. Velen zelfs al sinds hun baby- en kindertijd. De politie overtreedt hiermee diverse wetten. De dienders en de korpsleiding weten dat al jaren, maar trekken zich er weinig van aan. Dat blijkt uit onderzoek van Follow the Money.

Dit stuk in 1 minuut

• De politie vraagt op grote schaal persoonlijke informatie, zoals adresgegevens, burgerservicenummers, nationaliteit en huwelijkse staat, van mensen op uit de Basisregistratie Personen: een databank waar alle Nederlanders in staan.
• Als de politie gegevens van iemand opvraagt, neemt de politie automatisch een ‘abonnement’ op die persoon. Van elke wijziging krijgt de politie automatisch bericht. Wie eenmaal een abonnement heeft, komt daar niet meer vanaf.
• Die automatische updates vergemakkelijken het dagelijks werk van de politie. Zo kan zij mensen snel identificeren.
• Het aantal abonnementen is totaal uit de hand gelopen, blijkt uit onderzoek door Follow the Money op basis van een beroep op de Wet open overheid. De politie volgt elf miljoen mensen op deze manier, waaronder miljoenen kinderen.
• De politie handelt hiermee in strijd met verschillende Nederlandse en Europese wetten. Hoewel de korpsleiding dit al jaren weet, laat zij deze onrechtmatige situatie voortbestaan.

Hele artikel

Tags: #nederlands #nederland #politie #surveillance #massasurveillance #privacy #data #data_mining #gegevens #persoonsgegevens

‘Surveillance is een vast onderdeel van ons leven geworden, en dat zal alleen maar toenemen’

Vrij Nederland (Alleen vandaag gratis)

‘Vroeger was er eerst een verdenking en dan volgde de surveillance, nu is er eerst surveillance en volgen pas daarna de verdenkingen,’ zegt bijzonder hoogleraar Digital Surveillance Mark Schuilenburg. (...)

(Tekst loopt door onder de foto.)

Mark Schuilenburg

Waze is volgens Schuilenburg een voorbeeld van een technologie die met behulp van Artificiële Intelligentie (AI) en algoritmes ons gedrag subtiel een bepaalde richting op stuurt. (...)

‘Mentale sturing en beïnvloeding worden voor techbedrijven steeds belangrijker, vooral op het gebied van veiligheid en gezondheid. Niet alleen het lichaam, maar ook de psyche, de geest, moet worden gestuurd. Dat is inderdaad anders dan de vlieg in het urinoir, omdat het gebeurt met enorme hoeveelheden data, en het voortdurend te personaliseren is. Bij een verkeersdrempel moet iedereen langzamer rijden, terwijl psychomacht op maat kan worden gesneden, via microtargeting, of doordat het de ene Facebookgebruiker bepaalde berichten laat zien die bij anderen niet of in andere vorm op hun tijdlijn verschijnen. Of dus bij een app als Waze.’

U plaatst Waze in hetzelfde rijtje als de Apple Watch en de digitale deurbel van Amazon.
‘Ik noem dat soort producten luxe-surveillance. Mensen willen zichzelf tegenwoordig monitoren en zijn bereid daarvoor te betalen. Dat is interessant. Surveillance werd altijd gezien als iets dat vanuit de staat kwam. Daar komen ook alle dystopische verhalen – China, Orwell – vandaan. Met luxe-surveillance zie je dat mensen zelf een flinke som geld neerleggen om zichzelf vrijwillig te bekijken. Dat illustreert de overgang van disciplinaire naar psychomacht.’ (...)

In de jaren negentig vernetwerkte surveillance. De camera’s op straat werden met elkaar verbonden en daardoor is de controle overal. Nu, in fase drie, zijn bewakingscamera’s uitgerust met AI en algoritmes, denk aan automatische gezichtsherkenningstechnologie. (...)

‘Surveillance is een vast onderdeel van ons leven geworden, en dat zal alleen maar toenemen. Je ziet dan ook dat surveillance met AI en algoritmes niet meer alleen wordt ingezet door de politie, maar ook daarboven, door organisaties als Europol, daarbeneden, wanneer burgers patrouilleren in de wijk en apps als Veiligebuurt of Citizen gebruiken, en ernaast, doordat techbedrijven als Amazon en Google de zorg voor veiligheid steeds vaker faciliteren door slimme apparaten met ingebouwde camera’s, microfoons en trackingsapparatuur te ontwikkelen.’ (...)

En dat is nou precies waar het nieuwe boek van Schuilenburg, Making Surveillance Public. Why You Should Be More Woke about AI and Algorithms, over gaat.

Want technologie wordt nog te vaak ontworpen en ingezet vanuit een ‘technologisch-economisch’ perspectief, vindt hij, waarin publieke waarden als privacy, non-discriminatie, transparantie en het nemen van verantwoordelijkheid (accountability) het afleggen tegen waarden als veiligheid en efficiëntie. (...)

‘Veel mensen herkennen de Apple Watch, Fitbit en Amazon-deurbel niet als surveillance.’ (...)

Hele artikel

Tags: #nederlands #boeken #privacy #gezichtsherkenning #clearview #facebook #google #surveillance #massasurveillance #surveillance_kapitalisme #algoritme #ai #artificial_intelligence #kunstmatige_intelligentie #waze #algoritme #nudging #amazon #apple #slimme_deurbel #gezichtsherkenning #veiigebuurt #citizen #tracking #fitbit

‘Nie wieder’ betekent ook: nooit weer zulke databanken met persoonsgegevens

Danny Mekić (De Volkskrant)

(...) Na de Tweede Wereldoorlog drong het besef door dat het mede dankzij de ‘perfecte Jodenadministratie’ was dat een groot deel van de Joodse gemeenschap in Nederland door de bezetter kon worden opgespoord en gedeporteerd. Een belangrijke les: privacy en persoonlijke gegevens zijn het beschermen waard. ‘Nie wieder’ betekende ook: nooit meer registers met persoonsgegevens die, eenmaal in verkeerde handen, desastreuze gevolgen kunnen hebben. (...)

(Tekst loopt door onder de foto.)

Danny Mekić

In 1953, 1983 en 2009 werd de bescherming van de persoonlijke levenssfeer herbevestigd in respectievelijk het Europees Verdrag voor de Rechten van de Mens, onze Grondwet, en het Europees Handvest. In 2018 trad de Algemene Verordening Gegevensbescherming in werking.

Maar nu we deze grondrechten eenmaal hebben, tekent zich een zorgwekkende trend af. Terwijl het aantal ernstige misdrijven op een historisch dieptepunt is, reageren we volgens criminologen steeds ‘hysterischer’ op de steeds minder overgebleven bedreigingen, ten koste van die zwaarbevochten grondrechten.

Hoewel overtuigend wetenschappelijk bewijs van effectiviteit ontbreekt, blijven we het land volhangen met steeds meer camera’s. (...) Alle vervoersbewegingen worden geregistreerd: ‘openbaar’ vervoer vereist een chipkaart en vliegtuigpassagiers worden vastgelegd in internationale databanken.

En het einde van de grondrechtenuitverkoop is nog niet in zicht. Vanaf 6 oktober moeten mensen die naar de Europese Unie willen reizen een gezichtsscan en vingerafdrukken afstaan. Nederlandse politici willen een identificatieplicht invoeren voor sociale media. Om strafbare feiten op te sporen wil de Europese Commissie preventief de digitale privéberichten van alle Europeanen gaan scannen, inclusief foto’s en video’s. Ook die van u. (...)

‘Je hebt toch niks te verbergen?’

Ja, totdat de bezetter ineens op de stoep staat. Verzetsstrijders? Alle communicatie gekoppeld aan je identiteit wordt afgeluisterd. (...) Nuttig voor de veiligheid? Volgens hoogleraar Geoffrey Stone hebben de Amerikaanse geheime diensten, die jarenlang dit soort gegevens verzamelden, er nooit één aanslag mee kunnen voorkomen. (...)

We kunnen kiezen voor veiligere, menselijkere methoden van beveiliging en controle. Meer agenten, in plaats van meer camera’s. Meer boa’s, in plaats van meer scanauto’s. Haatalgoritmes aanpakken in plaats van anonimiteit. Databanken terugbrengen tot proporties die beheersbaar en zinvol zijn, en niet eindeloos laten groeien. Het is een keuze tussen een toekomst waarin technologie een regime van angst, wantrouwen en controle oplegt, en een toekomst waarin de democratie is gebouwd is op respect, vertrouwen en vrijheid. (...)

De geschiedenis heeft ons geleerd dat het gemakkelijker is om rechten kwijt te raken dan om ze terug te krijgen. Laten we ervoor zorgen dat toekomstige generaties over de door ons gemaakte keuzes niet hetzelfde hoeven te zeggen.

Hele artikel

Tags: #nederlands #nederland #privacy #surveillance #massasurveillance #data #data_mining #profilering #grondrechten #cctv #gezichtsherkenning #camera #sleepnet #sociale_media #databanken

Slimme deurbellen zijn een gevaar voor onze samenleving

Trouw

Wie kijkt er allemaal mee met de slimme deurbel? Geef meer informatie over dit zorgelijke fenomeen, stelt Thijs Turèl, van het Amsterdam Institute for Advanced Metropolitan Solutions. (...)

(Tekst loopt door onder de foto.)

Beeld Getty Images

Op dit moment heeft al 1 op de 8 Nederlandse huishoudens zo’n bel. Een zorgelijke ontwikkeling. Vanwege de effecten op onze straten en buurten. En omdat we zo bijdragen aan de opbouw van een surveillance-infrastructuur. (...)

Paradoxaal genoeg voelt een deel van de gebruikers van deze bellen zich onveiliger. Ze zien alles wat er rond hun huis gebeurt. En bespreken dit bezorgd in buurt-whatsappgroepen. Hun subjectieve veiligheid vermindert, terwijl die objectief gezien niet verandert.

Daarbij hebben slimme deurbellen ook effect op buurtgenoten: 17 procent van Amsterdammers vindt ze ongemakkelijk. (...)

Ondertussen gluren niet alleen buren naar buren. Vrijwel alle slimme deurbellen zijn verbonden met bedrijven als Amazon (Ring) en Google (Nest). Op massale schaal gaan dus beelden uit Nederlandse straten naar de servers van deze techgiganten. (...)

Gezichtsherkenning in de slimme bellen zorgt daarbij voor een enorme surveillance-infrastructuur, waarmee kan worden vastgesteld wie, waar is, wanneer en met wie. Een infrastructuur die voor veel ongewenste belangen kan worden ingezet.

Is er dan niets geregeld? Jawel, maar dat werkt niet. De slimme deurbellen vallen onder de privacywetgeving. Maar de Autoriteit Persoonsgegevens (AP) moet per geval beoordelen of regels geschonden zijn. (...)

Ook in de aankomende Europese AI-wet worden slimme deurbellen niet verboden. (...)

Allereerst moet het bredere publiek door de overheid geïnformeerd worden over de risico’s van deze deurbellen. Daarnaast moeten lokale overheden onderzoeken hoe burgers zich kunnen verweren tegen de slimme deurbellen van buren. (...)

Tot slot het ontwerp. Blijkbaar voorzien deurbellen in een behoefte. Maar hoe zorgen we dat ze de privacy van anderen niet schenden? Kan er een type slimme deurbel ontworpen worden dat wel acceptabel is? Hoeveel intelligentie mag er in zo’n bel? Moeten die data echt naar Google en Amazon? (...)

[Inbraakrisico:] investeer liever in goed hang- en sluitwerk, in plaats van de onbedoelde neveneffecten op de maatschappij af te wentelen door ondoordacht naar een slimme deurbel te grijpen.

Hele artikel

Tags: #nederlands #nederland #slimme_deurbel #privacy #veiligheid #surveillance-infrastructuur #surveillance #massasurveillance #surveillancekapitalisme #ring #amazon #google #nest #autoriteit_persoonsgegevens #ap #inbraak

Tienduizenden Nederlanders met terrorismecode in politiesystemen: demonstreren kan al genoeg zijn

Follow the Money

Tienduizenden Nederlanders die nergens van verdacht zijn, staan vermeld in een terrorismeregister van de politie dat zijn oorsprong kent in de periode na de aanslagen op 11 september in 2001. Dat kunnen ook activisten en demonstranten zijn. ‘Het gaat om veel mensen die op geen enkele manier een bedreiging vormen voor onze rechtsstaat.’

(Tekst loopt door onder de afbeelding.)

.

Dit stuk in 1 minuut

• Wat is het nieuws?
• Tienduizenden mensen die nergens van verdacht zijn, blijken met hun naam voor te komen in een ‘terrorismeregister’ van de politie. Daaronder bevinden zich mogelijke terroristen, maar ook de mensen om hen heen, activisten en zelfs demonstranten. Met het zogeheten themaregister wordt informatie over potentieel terrorisme en extremisme in een zeer vroeg stadium verzameld, geanalyseerd en gedeeld.
• Waarom is dit belangrijk?
• Het idee voor het register ontstond na de aanslagen van 11 september 2001. De toenmalige privacytoezichthouder College Bescherming Persoonsgegevens was zeer kritisch over het wetsvoorstel en betwijfelde de noodzaak. Ze waarschuwde dat de waarborgen voor burgers onvoldoende waren en zelfs misbruik van antiterrorismemaatregelen in de hand zou kunnen werken.
• Hoogleraar Jon Schilder maakt zich zorgen. Burgers hebben volgens hem ‘geen enkele controle op de registratie, weten ook niet wat er allemaal over hen wordt opgeslagen en gedeeld met anderen. Het blijkt dat het om erg grote getallen gaat en om gegevens van veel mensen die op geen enkele manier een bedreiging vormen voor onze rechtsstaat.’
• Hoe heeft FTM dit onderzocht?
• Follow the Money sprak met activisten die er met behulp van inzageverzoeken achter zijn gekomen dat de politie informatie over hun activiteiten verzamelde en heeft voorzien van een CTER-codering (Contraterrorisme, Extremisme en Radicalisering). Uit een Woo-verzoek komt naar voren dat de lat voor de registraties erg laag ligt en het totale aantal namen in het register in 2018 ‘enkele tienduizenden’ bedroeg. De politie bevestigt dat het huidige aantal nog steeds in dezelfde orde van grootte valt.

Hele artikel

Tags: #nederlands #nederland #surveillance #massasurveillance #terrorist #terrorisme #terrorismelijst #politie #activisten #demonstranten #rechtsstaat

Android zonder Google, kan dat?

In smartphoneland zijn er vooral twee smaken: Android (Google) en iOS (Apple). Het grote nadeel van Android: je bent overgeleverd aan de grenzeloze dataverzameling van Google. Apples iOS heeft als nadeel dat het een erg gesloten ‘ecosysteem’ is en iPhones zijn bovendien duur.

(Tekst loopt door onder het logo.)

Sinds kort experimenteer ik daarom met e/os, een degoogled besturingssysteem voor een aantal Androidtelefoons. Op het eerste gezicht werkt het prima. Installatie van het nieuwe besturingssysteem ging vrijwel zonder hobbels en alle (gratis) apps die ik gebruik waren gewoon beschikbaar, ook van banken, DigiD etc. (Met uitzondering van de NOS Nieuws app.) Voor betaalde apps is wel weer een Googleaccount nodig.

Er zijn meer alternatieve besturingssystemen, maar die lijken meer voor mensen met de nodige digitale vaardigheden te zijn, als ik de instructies lees.

Tags: #nederlands #android #ios #google #apple #surveillance #massasurveillance #privacy #data #dataverzameling #profilering #algoritme #e\/os #degoogled

De reële gevaren van gezichtsherkenning: ‘Ik wil niet in een wereld leven waar iedereen een potentiële verdachte is’

De Volkskrant

Software die gezichten herkent en aan een naam koppelt – dat klinkt als een privacynachtmerrie. Maar de techniek bestaat. (...)

Journalist Kashmir Hill schreef er het onlangs verschenen verontrustende boek Your Face Belongs to Us over (Nederlandse vertaling: Je gezicht is nu van ons). Hierin duikt ze in de wereld van gezichtsherkenning, met het Amerikaanse bedrijf Clearview als de even bizarre als enge protagonist. (...)

(Tekst loopt door onder de illustratie.)

.

[Clearview] schraapt sociale media af en legt een database aan van miljarden foto’s met bijbehorende namen. Niet van criminelen, maar van gewone burgers die hun kiekjes nietsvermoedend op Facebook of Instagram zetten. Toen Hill haar artikel publiceerde, bleken verschillende Amerikaanse politiekorpsen er al gebruik van te maken. Zij konden beelden van beveiligingscamera’s vergelijken met de foto’s van Clearview. (...)

‘Toen ik de tip over Clearview kreeg, dacht ik onmiddellijk: wacht even, dit gebeurt dus al! Niet in China, maar onder mijn neus in New York.’ (...)

Facebook en Google trokken wél een grens... (...)
We hoeven die bedrijven op dit punt niet te vrezen?
‘Nou, nee. Vergeet niet dat het nog altijd de grote droom van Facebook is om gezichtsherkenning in augmented-realitybrillen te stoppen. Je hebt dan zo’n bril op, loopt over straat en ziet op het glas van je bril informatie geprojecteerd over wat je ziet. Ik verwacht dat die bril er echt wel komt. Facebook heeft altijd al de hele wereld met elkaar willen verbinden en wil dat we dat via hun producten doen. Gezichtsherkenning is daar perfect voor.’ (...)

De voorbeelden zijn soms verbijsterend, zoals de camera’s in de stad Suzhou die mensen volgen die in pyjama over straat gaan, iets wat oudere Chinezen niet raar vinden, maar wat de autoriteiten als aanstootgevend zien. Ambtenaren plaatsen daarna de foto’s van de onverlaten op sociale media, inclusief hun naam. Of, in de VS, de zwarte Amerikaan die ten overstaan van vrouw en kinderen ten onrechte wordt opgepakt en vastgezet vanwege een winkeldiefstal die hij nooit pleegde. De gezichtsherkenningssoftware zat ernaast.

Maar Hill tekent óók op hoe de politie een kindermisbruiknetwerk oprolt en de spin in het web achter de tralies krijgt. Dankzij Clearview. (...)

‘Het is prima dat de politie bij zware verdenkingen toegang heeft tot bepaalde informatie, maar ik wil niet in een wereld leven waar letterlijk iedereen een potentiële verdachte is. Het is een glijdende schaal: voordat je het weet, word je door camera’s in de gaten gehouden omdat je te veel wc-papier gebruikt op een openbaar toilet. Dat is het grote gevaar: steeds meer controle, zoals in China al gebeurt.’ (...)

Kashmir Hill: Je gezicht is nu van ons – Een real-life thriller over een ontwrichtende technologie. Uit het Engels vertaald door Koen Boelens. POM; 344 pagina’s; € 23,50.

Hele artikel

Tags: #nederlands #boeken #privacy #gezichtsherkenning #clearview #facebook #google #surveillance #massasurveillance #surveillance_kapitalisme #algoritme

Het beroemde ‘Brave New World’ van Aldous Huxley is nu griezelig dichtbij

NRC

Sciencefiction - Een nieuwe uitgave van Heerlijke nieuwe wereld, met sombere essays van Margaret Atwood en Yuval Noah Harari, leest als een literaire toverbal met een bittere nasmaak. (...)

Dat juist nu Huxleys Brave New World in een opgefriste vertaling van Pauline Moody uit 1999 opnieuw wordt uitgegeven, is geen toeval. Deze uitgave wordt voorafgegaan door twee nogal sombere essays, een van Margaret Atwood uit 2007, en een van Yuval Noah Harari uit 2020. Atwoods essay ademt nog de schrik over 9/11, en de ontmanteling van de privacy die daardoor in gang werd gezet. Harari is alweer een stap verder, en ziet dat overheden en bedrijven inmiddels zoveel over individuele burgers weten dat ze ongemerkt van alles met hen kunnen doen. De mens wordt ‘gehackt’. Wanneer dit middel in handen valt van een ‘eenentwintigste-eeuwse Stalin’ dan zullen de verschrikkingen van de twintigste eeuw kinderspel blijken.

(Tekst loopt door onder de afbeelding.)

Heerlijke nieuwe wereld speelt in het jaar A.F. 632, en dat is gerekend vanaf het jaar waarin Henry Ford zijn eerste T-Ford van de lopende band liet rollen, ofwel het jaar 2540. In A.F. 632 kent de wereld geen conflicten meer, er is nog maar één regering, bestaande uit tien regionale leiders, omgeven door een klasse van slimme alfa’s, die de maatschappelijke radertjes aansturen. (...) Iedereen kan en zal hier gelukkig zijn. En wie ook maar even zijn stemming voelt dalen, kan zijn toevlucht nemen tot tabletjes soma. (...)

Het is een gepolijste samenleving, waarin alles goed georganiseerd is. Het morsige gedoe van de menselijke voortplanting is vervangen door gekloonde kindertjes die uit het lab komen; binnen twee jaar kunnen uit één eicel ruim tienduizend gelijke mensen gekweekt worden. (...)

Intussen is het intrigerend hoe Huxley de ontwikkeling vanaf ca. 1930 tot A.F. 632 voor zich zag. Want hoe kan onze wereld die nieuwe totalitaire staat baren? Veel meer dan Orwell biedt Huxley zicht op hoe de vrije wereld ophield te bestaan. (...)

De tweedracht in de wereld werd opgeruimd in een hevige Negenjarige Oorlog. Musea en standbeelden konden verdwijnen. De godsdienst werd meteen ook weggevaagd. Vanaf dat moment werd gestaag toegewerkt naar sociale stabiliteit. Met jarenlang geëxperimenteer werden het consumeren en gelukkig zijn geperfectioneerd.

Dat blijkt in 2023 een beklemmende boodschap. (...)

Huxley hield nog geen rekening met de opkomst van computers in ieders leven – het is een wonder dat hij het in 1932 al over televisie heeft. Orwell was duidelijk al verder met zijn schermen die tegelijk uitzonden en registreerden, en met uitvindingen als ‘Newspeak’, ‘Thought Police’ en ‘Double Think’. Vooral dat laatste: ‘Oorlog is vrede, vrijheid is slavernij en Onwetendheid is kracht.’ Die tegenstrijdigheden waren in de wereld van 1984 overal te lezen.

Het is de laatste jaren alsnog griezelig dichtbij gekomen, met een Amerikaanse president die de waarheid als ‘nepnieuws’ afdeed, en omgekeerd. Of en in hoeverre bedrijven als Google, Facebook en Microsoft hun eigen variant van de surveillancestaat ontwikkelen, is een vraag die nauwelijks leeft onder gebruikers van mobiele netwerken, die al die heerlijke prikkels die van het scherm komen, schuldeloos ondergaan als hun dagelijkse shotjes soma. Verder slikken we ons ongans aan pijnstilllers, antidepressiva en slaapmiddelen. (...)

We zijn bijna tachtig jaar verder; Huxleys fictie begint alsnog griezelig veel op science te lijken. (...)

Hele artikel

Tags: #nederlands #boeken #huxley #aldous_huxley #brave_new_world #technologie #big_tech #sociale_netwerken #google #facebook #alphabet #meta #microsoft #surveillancestaat #surveillance #massasurveillance #surveillance_kapitalisme #privacy #pijstillers #antidepressiva #slaapmiddelen

Zorgen over surveillancestaat weerhouden regering niet van invoering digitale bewijspas

Follow the Money

Nederlanders kunnen de eerste Nederlandse digitale bewijspas, de zogenaamde NL Wallet, nog dit jaar gaan uitproberen. Met die pas kun je jezelf online legitimeren, je rijbewijs, verzekeringsbewijzen en je diploma’s beheren, en die waar nodig delen met instanties en bedrijven. De Tweede Kamer was tegen, en volgens experts neemt het ministerie te weinig maatregelen om de privacy en de vrije keuze serieus te beschermen. ‘Voordat burgers hun wallet kunnen snappen, moeten ze eerst de waarde van hun data begrijpen.’ (...)

(Tekst loopt door onder de illustratie.)

Burgers worden overigens niet verplicht om een door de overheid uitgegeven wallet te nemen. Ook private partijen zijn bezig ze te ontwikkelen; hun wallets kunnen worden ‘erkend’ en dan worden gebruikt voor overheidsdocumenten, zoals je rijbewijs en je paspoort.

Techbedrijven Google en Apple hebben sowieso een belangrijke rol in deze ontwikkeling, aangezien zij de besturingssystemen van telefoons in handen hebben. (...)

Lidstaten kunnen hun eigen wallet bouwen of met een commerciële wallet in zee gaan; ze krijgen daarvoor tot 2025 de tijd. Die verzameling erkende wallets en het raamwerk met afspraken eromheen heten samen de Europese Digitale Identiteit (EDI). (...)

‘Toch is het een beetje alsof je de schilder je huis laat ontwerpen,’ stelt Jacoba Sieders, die voor private banken en de Europese Investeringsbank processen rond identificatie coördineerde en ‘uit interesse’ naar de bijeenkomsten van het ministerie van BZK komt. Ze wil maar zeggen: er is veel aandacht voor het uiterlijk en het gebruiksgemak van de wallet, maar de fundamentele vragen blijven achterwege. Hoe wordt de app ingezet, waar zijn de voordelen, welke technische protocollen en standaarden worden gebruikt, en waarom is een nieuwe wallet eigenlijk nodig? (...)

‘Er wordt veel nadruk gelegd op de succesverhalen: ik ga met mijn app solliciteren en het werkt! Maar stel dat het proces halverwege stopt door een fout, of je hebt te maken met een fraudegeval: iemand solliciteert online met een wallet, maar is eigenlijk iemand anders of het diploma klopt niet. Ligt dat aan de wallet, aan de gebruiker, of aan de uitgifte-instantie? En kun je tijdens zo’n sollicitatie nog terugvallen op een fysiek alternatief?’ (...)

‘Deze veelomvattende wallet is niet zomaar een neutraal vraagstuk. De risico’s liggen grof gezegd op het domein van persoonlijke autonomie, privacy, gegevensbescherming, inclusie, projectuitvoering en governance,’ schreef coördinator digitale identiteit Wouter Welling van BZK in maart 2022 in een artikel voor iBestuur Magazine. ‘Ook zijn er complexe vragen over de marktinrichting rond de wallet. Is het een taak van de overheid om één goed werkende wallet te leveren omdat het een te belangrijke nutsfunctie is? Of kan de overheid beter toezicht houden op een open stelsel en wallets certificeren die voldoen aan bepaalde eisen?’ (...)

Een paar maanden later, eind juli 2022, publiceerde de staatssecretaris een overzicht waarin ze ‘vier belangrijke uitdagingen’ rond de Europese Digitale Identiteit noemt: overvraging, overidentificatie, gedwongen gebruik, en controlesamenleving en uitsluiting. Follow the Money besprak deze vier punten met experts en met kritische Kamerleden. (...)

Hele artikel

Tags: #nederlands #nederland #digitale_bewijspas #nl_wallet #wallet #tweede_kamer #privacy #data #data_mining #big_data #massasurveillance #surveillance #google #apple #alphabet #europese_digitale_identiteit #edi #eu #europese_unie #overvraging #overidentificatie #gedwongen_gebruik #controlesamenleving #uitsluiting

Bancair sleepnet is geen goed idee

Privacy First

Transactie Monitoring Nederland hoort er niet te komen

Sinds 2020 lopen de Nederlandse banken zich warm voor een gezamenlijke database waarmee alle financiële transacties van alle Nederlanders geanalyseerd zullen gaan worden. Doel van de analyse is om financiële criminaliteit op te sporen. Op 7 oktober jl. heeft het kabinet besloten dat er een wet zal komen die deze gezamenlijke misdaadopsporing van banken mogelijk moet maken. (...)

Nu al gaat er het nodige mis met de uitvoering van deze taken door banken: mensen krijgen indringende vragen over betalingen en begrijpen niet waar de banken mee bezig zijn. In toenemende mate weigeren banken bankrekeningen te openen, met als argument dat het klantenonderzoek inzake de desbetreffende klant te duur zou zijn.

Dit alles was reden voor de banken om te pleiten voor gezamenlijke misdaadbestrijding via een eigen BV. (...)

Aanvankelijk werd er aan gedacht om de activiteiten van TMNL te legaliseren via het wetsvoorstel Gegevensverwerking door Samenwerkingsverbanden (WGS). De burgerrechtencoalitie die eerder met succes heeft gestreden tegen het Systeem Risico Indicatie (SyRI) heeft zich kritisch over WGS uitgelaten, zie het artikel Burgerrechtencoalitie: Eerste Kamer moet datasurveillancewet ‘Super SyRI’ afwijzen. Privacy First is tegen grootschalige financiële surveillance van alle burgers.

Ook officiële overheidsadviseurs hebben zich gekant tegen het voorstel dat banken samen transacties gaan analyseren. De Autoriteit Persoonsgegevens was kritisch over de WGS. In januari 2021 bracht de Raad van State een kritisch advies uit waarin ze zich keren tegen de bancaire samenwerking en schrijven:

De massale schaal waarop banktransacties gezamenlijk zullen worden gemonitord is ongekend en betekent een vergaande inbreuk op de vertrouwelijkheid van gegevens van burgers en bedrijven. Daarbij gaat het niet alleen om het recht op privacy. Deze monitoring kan ook leiden tot uitsluiting en discriminatie. De Afdeling advisering is van oordeel dat het niet is aangetoond dat deze gezamenlijke transactiemonitoring noodzakelijk en proportioneel is. Daarbij komt dat het wetsvoorstel geen passende rechtsbescherming biedt; ook deze wordt als het ware uitbesteed aan de banken. Het advies is dan ook de grondslag voor de gezamenlijke transactiemonitoring uit het wetsvoorstel te schrappen. (...)

Ondanks de kritiek van de Raad van State wil het kabinet toch doorgaan met TMNL. (...)

Hele artikel

Tags: #nederlands #nederland #banken #witwassen #fraudebestrijding #bancair_sleepnet #privacy #surveillance #massasurveillance #Transactie_Monitoring_Nederland #witwasbestrijding #ap #autiriteit_persoonsgegevens #rvs #raad_van_state #SyRI #systeem_risico_indicatie #wgs #wet_gegevensverwerking_door_samenwerkingsverbanden #uitsluiting #discriminatie

Desinteresse in technologie kan zomaar leiden tot staatssurveillance

Laurens Verhagen (De Volkskrant)

‘Het wetsvoorstel zet de deur wagenwijd open voor een onbegrensde surveillance door een onbegrensde hoeveelheid partijen, publiek en privaat.’ Nee, deze woorden gaan niet over China. Noch over Rusland. Het wetsvoorstel in kwestie is afkomstig van onze eigen minister Grapperhaus van Justitie en Veiligheid. (...)

De aangehaalde woorden zijn afkomstig van de Autoriteit Persoonsgegevens. (...)

‘Dit wetsvoorstel maakt het mogelijk dat nog veel meer instanties persoonsgegevens met elkaar delen, zonder dat er duidelijk iets aan de hand is. En niet alleen overheidsinstanties, ook private partijen. Hier ligt het risico van massasurveillance op de loer’, stelt AP-voorzitter Aleid Wolfsen.

Niet voor niets wordt de WGS een Super-SyRI genoemd: de wet gaat nog veel verder dan deze ook al sterk bekritiseerde Systeem Risico Indicatie. (...) De rechter oordeelde over SyRI vorig jaar dat dit systeem verboden moet worden. (...)

Klaar dus, zou je zeggen. Maar nee hoor, ondertussen werkte de minister al aan een super-SyRI. De AP vreest dat exact dezelfde fouten zullen worden gemaakt: burgers die zomaar op het verkeerde lijstje terechtkomen en zo in de verdrukking komen. Ook stelt de toezichthouder dat de wet te vaag is. Al bij ‘een eerste vermoeden van onrechtmatige activiteiten’ kunnen samenwerkingsverbanden gegevens delen met ‘andere partijen’ als dat noodzakelijk is. Wie die ‘andere partijen’ precies zijn? De AP heeft geen flauw idee en wij ook niet. (...)

In een deze week gepubliceerd rapport over kunstmatige intelligentie constateert de Wetenschappelijke Raad voor het Regeringsbeleid een schrijnend gebrek aan interesse voor digitale zaken bij de overheid. (...) ‘We shape our tools, and thereafter our tools shape us’, luidt het terecht beroemde citaat dat aan mediawetenschapper Marshall McLuhan wordt toegeschreven.

Hele artikel

> Zie ook: De zorgen over de nieuwe Big Brother-wet zijn terecht

Demissionair minister Ferdinand Grapperhaus van Justitie en Veiligheid (CDA) stelde een wet voor die het delen van persoonsgegevens van burgers makkelijker maakt. Beeld ANP.

Tags: #nederlands #nederland #surveillance #massasurveillance #autoriteit_persoonsgegevens #ap #wet_wgs #wgs #Wet_gegevensverwerking_samenwerkingsverbanden #gegevens #gegevensverwerking #fraude #fraudebestrijding #Financieel_Expertise_Centrum #FEC) #Infobox_Crimineel_en_Onverklaarbaar_Vermogen #iCOV #Regionale_Informatie--en_Expertise_Centra #RIEC #Zorg-_en_Veiligheidshuizen #ZVH’s #banken #Fraude_Signalering_Voorziening #FSV #belastingdienst