Nederland schendt de wet door burgers stiekem te profileren, blijkt uit uitspraak Europees hof

Follow the Money

Met geheime algoritmen controleren overheidsinstellingen als de Belastingdienst op grote schaal burgers. Door deze profilering kan iemand extra controle krijgen, terwijl aan de aanpak grote risico’s verbonden zijn: denk aan discriminatie of foute aannames. Daarom moeten er wettelijke waarborgen zijn voor het gebruik van zulke systemen. Dat blijkt uit een recente uitspraak van het Europese Hof, die mogelijk verstrekkende gevolgen heeft. ‘Regels worden al 20 jaar aan de laars gelapt.’ (...)

(Tekst loopt door onder de illustratie.)

_© Follow the Money _

Door een baanbrekende uitspraak van het Hof van Justitie van de Europese Unie eind vorig jaar staat profilering juridisch op losse schroeven. Er is zodoende grote kans dat het huidige gebruik van risicomodellen in veel gevallen illegaal is, vanwege het ontbreken van een wettelijke basis met waarborgen voor rechtsbescherming. Dat zeggen meerdere deskundigen op gebied van privacyrecht die Follow the Money heeft geraadpleegd. (...)

Hele artikel

Tags: #nederlands #nederland #digital_services_act #eu #europese_unie #privacy #internet #profilering #algoritme #overheid #belastingdienst #discriminatie

De nieuwe DSA is een feit, en zo maak je er meteen gebruik van!

Public Spaces

Wat betekent de nieuwe Digital Services Act (DSA) voor de Europese burger en hoe maak je er gebruik van? Bits of Freedom legt het uit op jouwplatformrechten.nl; een door PublicSpaces gesteund initiatief. (...)

(Tekst loopt door onder de foto.)

.

Door de nieuwe DSA wordt jouw privacy bijvoorbeeld beter beschermd, worden platformen transparanter en wordt er beter gemodereerd.

Ook je eigen controle over het platform neemt toe. Een mooi voorbeeld is het feit dat je zelf als gebruiker uit verschillende aanbevelingsalgoritmen je eigen voorkeursoptie kunt kiezen. (...)

Dit is goed nieuws, maar het lost nog niet alle problemen van big tech zomaar op. Gelukkig bestaan er tal van platformen die de DSA-punten al helemaal (en grondiger) onder de knie hebben, zoals Mastodon en PeerTube. Deze platformen hebben de nieuwe DSA-wetten in hun wortels. (...)

Hele artikel

Tags: #nederlands #big_tech #dsa #digital_services_act #eu #europese_unie #privacy #internet #profilering #algoritme #sociale_media #mastodon #peertube #tracking #cookies #platforms

Schokkend!

Google heeft de publieke sector in zijn greep

Joran van Apeldoorn (Bits of Freedom)

Je komt niet meer om het internet heen. Een afspraak maken bij de dokter, een wijziging van je woonsituatie doorgeven aan de gemeente, het schoolrapport van je kinderen bekijken: het gebeurt allemaal online. Maar wie kijkt er - naast jijzelf - mee op al deze websites? We onderzochten 32.843 websites van de overheid, de zorg en het onderwijs. Hieruit blijkt dat Google op ontzettend veel websites van de Nederlandse publieke sector persoonsgegevens in handen krijgt. (...)

(Tekst loopt door onder de foto.)

Joran van Apeldoorn

Bij de overheid hebben bijna de helft, 48%, van de onderzochte websites Google diensten in gebruik. De situatie is nog veel slechter in de zorg, waar meer dan 4 op de 5 websites Google gebruikt. In het onderwijs is dit zelfs 9 op de 10 websites.

Als we alleen kijken naar gevallen waarbij sprake is van expliciete tracking (het contact dat met Google wordt gelegd is speciaal gericht op het verzamelen van jouw gegevens), dan zien we dit terug bij 1 op de 3 onderzochte overheidswebsites. In de zorg en het onderwijs is dit op meer dan de helft van de websites het geval. (...)

Hele artikel

> Volledige onderzoeksrapport

Tags: #nederlands #google #alphabet #tracking #profilering #overheid #publieke_diensten #publieke_sector #youtube #digitalisering#google_analytics

.

Tags: #nederlands #smartphone #sociale_media #big_tech #tech #facebook #whatsapp #tiktok #instagram #internet #schermtijd #profilering #algoritme

‘Vergeet de controlestaat, we leven in een controlemaatschappij’

Follow the Money

Volgens bijzonder hoogleraar digitale surveillance Marc Schuilenburg hebben wij geen geheimen meer. Bij alles wat we doen kijkt er wel iets of iemand mee die onze gangen registreert. We weten het, maar doen er gewoon aan mee. Zo diep zit digitale surveillance in de haarvaten van onze samenleving: ‘We herkennen het vaak niet eens meer.’ (...)

(Tekst loopt door onder de foto.)

Marc Schuilenburg

Na zijn aanstelling als hoogleraar digitale surveillance aan de Erasmus Universiteit besloot hij zich op de beantwoording van die vraag te storten. Daarbij gaat zijn bijzondere aandacht uit naar de impact van digitale surveillance-middelen, zoals intelligente camera’s, algoritmes en artificial intelligence (AI) op onze samenleving.

Deze week verscheen zijn boek: Making Surveillance Public. Daarin stelt hij dat door de opkomst van deze technologieën, overheden en opsporingsdiensten onze levens op ongekende schaal kunnen monitoren, terwijl er nauwelijks iets bekend is over de manieren waarop dit gebeurt en welke gevolgen dit heeft voor de rechten en vrijheden van burgers. (...)

Hij beperkt zich daarbij overigens niet tot de publieke sector. Techreuzen als Tesla, Amazon en Apple weten dankzij onze auto's, deurbellen en horloges zo mogelijk namelijk nog meer over ons.

De grenzen tussen publiek en privaat vervagen bovendien, stelt Schuilenburg, doordat dergelijke bedrijven zich met hun producten steeds vaker in het (publieke) veiligheidsdomein begeven. Ook de politie maakt gretig gebruik van de data die zij verzamelen. (...)

Er ontstaat een vernetwerking van data, zegt Schuilenburg. De samenleving verandert in een digitaal ‘superpanopticon’, waarbij we van alle kanten bekeken worden zonder dat we nog weten door wie en hoe: ‘Vergeet de surveillance-staat, we leven in een surveillance-maatschappij’. (...)

‘De gevaren van particuliere surveillance worden schromelijk onderschat. De data die wordt verzameld via intelligente koelkasten, slimme deurbellen en activiteitstrackers en dergelijke maakt je privéleven inzichtelijk voor derden die met die informatie doen wat ze willen. Doorverkopen aan adverteerders, gebruiken om profielen op te bouwen van jou en je omgeving: het gebeurt, zonder enige vorm van controle.

Dat gebruik van die data leidt tot stigmatisering. Dat zie je bij de route-navigatie-app Waze. In sommige landen geeft die aan of hij een bepaalde buurt veilig vindt of niet. (...)

Uiteindelijk zie je bij private surveillance zo dezelfde problemen ontstaan als we kennen van surveillance door de overheid en de politie. Ook in Nederland. Op basis van ondoorzichtige datasets en algoritmes worden bepaalde groepen mensen zonder het te weten benadeeld, uitgesloten of gediscrimineerd.’ (...)

‘Amazon verkoopt sinds 2018 de Ring-videodeurbel, waarmee je op je telefoon kunt zien wie er bij je op de stoep staat. Wereldwijd zijn miljoenen exemplaren verkocht. Tegelijkertijd werkt Amazon in de VS aan een eigen watchlist. Dat is een database met profielen van personen waarvan Amazon zelf denkt dat die mogelijk een bedreiging zijn. Als zo iemand vervolgens bij jou voor de deur staat en door de gezichtsherkenningssoftware in je Ring-deurbel wordt geïdentificeerd, gaat er automatisch een alarm af.

Amazon maakt dus zelfstandig een inschatting of iemand zich mogelijk schuldig zou kunnen maken aan een strafbaar feit, terwijl niet duidelijk is waar dat op is gebaseerd en hoe die technologie werkt. Dan ga je op de stoel van de politie zitten. En Amazon is niet het enige bedrijf dat dit doet. Tesla is inmiddels ook bezig met zo’n lijst.’ (...)

De data die particuliere partijen verzamelen, vindt namelijk ook op allerlei manieren zijn weg naar opsporingsdiensten. In Nederland heeft de politie inmiddels toegang tot tienduizenden videodeurbellen. Dat is een heel nieuw surveillancenetwerk van ongekende schaal dat de politie ineens ter beschikking heeft. (...)

Uw boek toont aan dat de natuurlijke volgorde voor surveillance is omgedraaid. Vroeger was er eerst een verdenking, waarna er werd gesurveilleerd. Nu is er alom surveillance en wordt vervolgens met AI-tools gezocht naar verdachte feiten. (...)

Wat zijn daar de risico’s van?
‘Dat de mens achter de data verloren gaat. Terwijl het behouden van die menselijkheid van ongekend belang is, juist voor overheden en grote bedrijven. Veel unieke eigenschappen die ons mens maken, zoals je ervaringen, emoties en intuïtie, kunnen bijna niet in data worden omgezet. Dat zal altijd een blind spot van AI blijven, terwijl die eigenschappen heel veel kunnen zeggen over wat het betekent om mens te zijn. (...)

Het gevaar is dat er een AI-mateloosheid is ontstaan, waarbij steeds meer surveillancemiddelen worden gebruikt, zonder dat goed wordt gekeken hoe effectief die zijn en wat het effect is op de rechten van burgers, of de rechtsstaat in het algemeen.

Daarbij gaat het gebruik van AI en zelflerende algoritmes vaak ten koste van de transparantie en de mate waarin politie en overheden in staat zijn verantwoording af te leggen over hun handelen. Instanties begrijpen de tools die ze gebruiken vaak zelf ook niet helemaal. Maar als een overheid niet kan uitleggen hoe zij tot beslissingen of een verdenking komt, heb je als samenleving een groot probleem.’ (...)

Als u de balans opmaakt tussen wat het gebruik van AI-gedreven en algoritmische surveillance-middelen door de politie ons opleveren en ons kosten, in de zin van rechten en waarden. Is die uitruil het dan waard?
‘Nee. Dat komt ook omdat Nederland echt al behoorlijk veilig is. Dus de winst die we behalen, als die er al is, weegt voor mij niet op tegen de nadelen.

Maar belangrijker is dat er onvoldoende democratische controle op deze middelen is, terwijl fundamentele rechten en rechtsstatelijke waarden als het recht op privacy en gelijke behandeling niet goed zijn geborgd.’ (...)

We zijn allemaal gevoelig voor de veiligheidsparadox: hoe minder criminaliteit er is, hoe hysterischer we het resterende stukje onveiligheid willen aanpakken. Dat is precies wat hier speelt en wat je ook terugziet in die behoefte aan luxury surveillance.

We hebben er als maatschappij meer aan als we inzetten op de zorgende kant van AI. (...)

Hele artikel

Tags: #nederlands #boeken #surveillance #massasurveilance #surveillancekapitalisme #tesla #amazon #ring #apple #controlemaatschappij #veiligheid #schijnveiligheid #algoritme #profilering #discriminatie #misdaad #criminaliteit

‘Nie wieder’ betekent ook: nooit weer zulke databanken met persoonsgegevens

Danny Mekić (De Volkskrant)

(...) Na de Tweede Wereldoorlog drong het besef door dat het mede dankzij de ‘perfecte Jodenadministratie’ was dat een groot deel van de Joodse gemeenschap in Nederland door de bezetter kon worden opgespoord en gedeporteerd. Een belangrijke les: privacy en persoonlijke gegevens zijn het beschermen waard. ‘Nie wieder’ betekende ook: nooit meer registers met persoonsgegevens die, eenmaal in verkeerde handen, desastreuze gevolgen kunnen hebben. (...)

(Tekst loopt door onder de foto.)

Danny Mekić

In 1953, 1983 en 2009 werd de bescherming van de persoonlijke levenssfeer herbevestigd in respectievelijk het Europees Verdrag voor de Rechten van de Mens, onze Grondwet, en het Europees Handvest. In 2018 trad de Algemene Verordening Gegevensbescherming in werking.

Maar nu we deze grondrechten eenmaal hebben, tekent zich een zorgwekkende trend af. Terwijl het aantal ernstige misdrijven op een historisch dieptepunt is, reageren we volgens criminologen steeds ‘hysterischer’ op de steeds minder overgebleven bedreigingen, ten koste van die zwaarbevochten grondrechten.

Hoewel overtuigend wetenschappelijk bewijs van effectiviteit ontbreekt, blijven we het land volhangen met steeds meer camera’s. (...) Alle vervoersbewegingen worden geregistreerd: ‘openbaar’ vervoer vereist een chipkaart en vliegtuigpassagiers worden vastgelegd in internationale databanken.

En het einde van de grondrechtenuitverkoop is nog niet in zicht. Vanaf 6 oktober moeten mensen die naar de Europese Unie willen reizen een gezichtsscan en vingerafdrukken afstaan. Nederlandse politici willen een identificatieplicht invoeren voor sociale media. Om strafbare feiten op te sporen wil de Europese Commissie preventief de digitale privéberichten van alle Europeanen gaan scannen, inclusief foto’s en video’s. Ook die van u. (...)

‘Je hebt toch niks te verbergen?’

Ja, totdat de bezetter ineens op de stoep staat. Verzetsstrijders? Alle communicatie gekoppeld aan je identiteit wordt afgeluisterd. (...) Nuttig voor de veiligheid? Volgens hoogleraar Geoffrey Stone hebben de Amerikaanse geheime diensten, die jarenlang dit soort gegevens verzamelden, er nooit één aanslag mee kunnen voorkomen. (...)

We kunnen kiezen voor veiligere, menselijkere methoden van beveiliging en controle. Meer agenten, in plaats van meer camera’s. Meer boa’s, in plaats van meer scanauto’s. Haatalgoritmes aanpakken in plaats van anonimiteit. Databanken terugbrengen tot proporties die beheersbaar en zinvol zijn, en niet eindeloos laten groeien. Het is een keuze tussen een toekomst waarin technologie een regime van angst, wantrouwen en controle oplegt, en een toekomst waarin de democratie is gebouwd is op respect, vertrouwen en vrijheid. (...)

De geschiedenis heeft ons geleerd dat het gemakkelijker is om rechten kwijt te raken dan om ze terug te krijgen. Laten we ervoor zorgen dat toekomstige generaties over de door ons gemaakte keuzes niet hetzelfde hoeven te zeggen.

Hele artikel

Tags: #nederlands #nederland #privacy #surveillance #massasurveillance #data #data_mining #profilering #grondrechten #cctv #gezichtsherkenning #camera #sleepnet #sociale_media #databanken

Android zonder Google, kan dat?

In smartphoneland zijn er vooral twee smaken: Android (Google) en iOS (Apple). Het grote nadeel van Android: je bent overgeleverd aan de grenzeloze dataverzameling van Google. Apples iOS heeft als nadeel dat het een erg gesloten ‘ecosysteem’ is en iPhones zijn bovendien duur.

(Tekst loopt door onder het logo.)

Sinds kort experimenteer ik daarom met e/os, een degoogled besturingssysteem voor een aantal Androidtelefoons. Op het eerste gezicht werkt het prima. Installatie van het nieuwe besturingssysteem ging vrijwel zonder hobbels en alle (gratis) apps die ik gebruik waren gewoon beschikbaar, ook van banken, DigiD etc. (Met uitzondering van de NOS Nieuws app.) Voor betaalde apps is wel weer een Googleaccount nodig.

Er zijn meer alternatieve besturingssystemen, maar die lijken meer voor mensen met de nodige digitale vaardigheden te zijn, als ik de instructies lees.

Tags: #nederlands #android #ios #google #apple #surveillance #massasurveillance #privacy #data #dataverzameling #profilering #algoritme #e\/os #degoogled

De man die Europa over Big Tech adviseert waarschuwt: ‘De wereld zag nog nooit zo’n machtsconcentratie’

NRC

Paul Nemitz | Hoofdadviseur Europese Commissie - Top-EU-ambtenaar Paul Nemitz waarschuwt voor de macht van Big Tech. „Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien.” (...)

De macht van deze bedrijven is zó groot, hield hij zijn gehoor in Perugia voor, „dat in Brussel de olifant in de kamer deze vraag is: kan de democratie haar primaat over de grote tech-bedrijven nog wel doen gelden? Of moeten we ons neerleggen bij de heerschappij van de technologie?” (...)

„Als er technologieën zijn die op de lange termijn tot het uitsterven van de mensheid kunnen leiden, of die onze manier van leven ingrijpend kunnen veranderen, zei hij, dan hebben we de verantwoordelijkheid er vandaag al actie op te ondernemen. Ook als we niet zéker weten hoe het zich verder zal ontwikkelen.” (...)

„Het is tegenwoordig heel moeilijk een conferentie of een academische instelling te vinden waar de relatie tussen internet en samenleving wordt onderzocht, en waar Big Tech níet op de een of andere manier financieel aan bijdraagt. Die bedrijven zijn zo rijk, dat ze hun geld kunnen gebruiken om overal vrienden te maken. Ze proberen een amicaal sfeertje te scheppen, waarin het ongemakkelijk of zelfs pijnlijk wordt om directe kritiek op ze te leveren. Dat is zorgelijk. Want als je geen onafhankelijke wetenschappers en journalisten hebt, dan ziet het er somber uit voor onze democratie.” (...)

„De voormalige leider van de Britse Liberale Partij, oud-vice-premier Nick Clegg, is nu toplobbyist van Meta. De speciale ambassadeur die Denemarken had aangesteld voor contacten met de technologiebedrijven, leidt inmiddels het Europese kantoor van Microsoft” (waar hij verantwoordelijk is voor contacten met Europese overheden). (...)

„Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien. Niet alleen horen ze tot de rijkste ondernemingen met de grootste beurswaarde op Wall Street. Ze hebben de controle over communicatienetwerken en de manier waarop we ons informeren. Ze weten meer over ons als individu, over ons gedrag online en offline, dan wie dan ook. Van miljarden mensen kunnen ze een profiel aanleggen. En als zich innovatieve concurrenten aandienen, imiteren ze die of nemen ze die over.” (...)

„Steeds meer systemen die vroeger door mensen draaiend werden gehouden, worden nu door automatische systemen uitgevoerd, al dan niet met kunstmatige intelligentie. Bij het selecteren van sollicitatiebrieven bijvoorbeeld, of het analyseren van röntgenfoto’s en andere medische beelden – twee heel gevoelige terreinen, waar de resultaten ingrijpende gevolgen kunnen hebben.

„Door het inzetten van kunstmatige intelligentie verliezen mensen bepaalde vaardigheden. En belangrijker: ze verliezen het vermogen en de bereidheid om die systemen te vernieuwen en te verbeteren. Kunstmatige intelligentie functioneert op basis van data die gisteren of eergisteren zijn verzameld. Een systeem stelt daar geen kritische vragen bij en is nooit ontevreden met de uitkomst." (...)

„Vooral voor staatsorganen is dat heel belangrijk. Als besluiten op basis van automatische systemen worden genomen, moet je er niet alleen voor zorgen dat de regels worden toegepast, maar ook dat je het systeem zo nodig kan veranderen als het blijft vastzitten in een verkeerd spoor. Zoals jullie in Nederland hebben gezien bij de Toeslagenaffaire.” (...)

„De bedrijven proberen ook allemaal actief te worden in de gezondheidszorg. Google is de grootste verzamelaar van gezondheidsdata ter wereld. Met hun technologie kunnen ze zeker grote verbeteringen in de zorgsector tot stand brengen. Maar door hun omvang maken ze het andere bedrijven moeilijk om op dat terrein ook winstgevend te zijn. En willen we echt dat essentiële publieke diensten, zoals gezondheidszorg, straks alleen nog maar geleverd kunnen worden door de reuzen uit Silicon Valley?” (...)

„De greep van Microsoft op het openbaar bestuur in Europa is enorm. De afhankelijkheid van software van Microsoft bij de Europese Commissie, nationale overheden en lagere bestuursorganen is verbijsterend.” (...)

„Het beleid van de afgelopen twintig jaar heeft ertoe geleid dat de zoekmachine van Google in Europa een marktaandeel heeft van meer dan negentig procent. Amerikaanse bedrijven hebben hier zo dominant kunnen worden door het neoliberale digitale beleid van zelfregulering in die jaren.” (...)

„En op klimaatgebied staan ze zeker voor enorme uitdagingen. Denk aan de energie die gebruikt wordt om een systeem van kunstmatige intelligentie te ontwikkelen, en vervolgens te gebruiken. Of de energie die gewone computercentra nodig hebben voor koeling. En de energie voor streamingdiensten. Je moet niet alleen kijken naar die bedrijven zélf en hoe ze hun eigen invloed op het klimaat aanpakken, maar ook naar de effecten van hun producten. Als de boodschap steeds is: zorg dat je voortdurend online bent, leidt dat ook tot een enorm energiegebruik.” (...)

„En laten we niet naïef zijn over de macht van deze concerns. Ze procederen veel en tot het uiterste, daar hebben ze onbeperkt geld voor.”

Hele artikel

Paul Nemitz

Tags: Enederlands #big_tech #grootbedrijf #machtsconcentratie #Google #Apple #Meta #Facebook) #Amazon #Microsoft #ict #technologie #democratie #media #nieuws #journalist #journalistiek #pers #lobby #eu #europese_unie #privacywet #privacy #AVG #data #data_mining #gegevens #persoonlijke_gegevens #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #kunstmatige_intelligentie #algoritme #ai #gezondheidszorg #medische_gegevens #klimaat #klimaatverandering #klimaatcrisis #energie #energiegebruik #democratie

Big Tech zit op school (en verandert daar de lessen)

Follow the Money

In het onderwijs zit steeds meer technologie. Het klaslokaal is veranderd in een goudmijn voor datahandelaren, maar veel software monitort kinderen nu ook buiten de school. Van de belofte dat de lessen door educatieve software op maat van ieder kind kunnen worden gesneden, komt intussen niet veel terecht. Hoog tijd om onderwijswaarden weer centraal te stellen. (...)

Het succes van educatieve technologie staat of valt immers met het verzamelen van data. En wie ‘data’ zegt, weet dat de datadieven op de loer liggen. Uit een ronduit schrikbarend onderzoek van Human Rights Watch naar 164 edutech-producten blijkt dat het overgrote deel ervan (84 procent!) kinderen tot ver buiten het klaslokaal trackt en monitort – of daartoe op z’n minst de mogelijkheid biedt.

De onderzochte aanbieders delen de persoonlijke gegevens van scholieren met liefst 196 derde partijen (voornamelijk adverteerders), valt uit de analyse van de mensenrechtenorganisatie op te maken. (...)

De opslag en verwerking van privégegevens aan de onzichtbare hand van de markt overlaten, staat al snel op gespannen voet met de bescherming van publieke waarden. Zo hebben scholen de opdracht om de integriteit van hun leerlingen te beschermen. Wie derde partijen laat meegluren met kinderen die worden geacht te leren en te experimenteren – en daarbij hoort misstappen en stommiteiten kunnen begaan of wegen mogen bewandelen zonder uitkomst of duidelijk doel – doet daar afbreuk aan. Het schoolgebouw behoort een veilige ruimte te zijn, afgesloten voor het spiedende oog van anonieme dataverzamelaars. (...)

Een interessante publicatie van Kennisnet, dat scholen adviseert en ondersteunt bij ict-vraagstukken, laat zien dat er veel valt af te dingen op de claims van de makers van oefensoftware.

Dergelijke systemen vergemakkelijken individueel leren, maar dat lijkt vooral de sterke leerlingen ten goede te komen. (...)

Bovendien ligt blikvernauwing op de loer. Door te focussen op meetbare prestaties raakt het sociale aspect van het leerproces – met en van elkaar leren – ondergesneeuwd. (...)

Wie zich laat beheksen door het doelmatigheids- en controlefetisjisme van de tech-industrie vergeet dat onderwijs ook in het teken van algemene vorming staat. Dat wil zeggen: een omgeving die nieuwsgierigheid naar de wereld stimuleert en die kinderen helpt zich voor te bereiden op een leven in de samenleving, inclusief alle ongemakken, grilligheden en onzekerheden die daarbij horen. (...)

De verleiding om eerder een dashboard te raadplegen dan oog te houden voor de subtiliteiten in het klaslokaal – denk aan lichaamstaal, een oogopslag of sociale interactie – is misschien begrijpelijk, maar komt wel met het risico dat de leraar vroeg of laat zélf in een dashboard verandert. Dat wil zeggen: in een onderwijsprofessional die, min of meer op de automatische piloot, zijn zicht op wezens van vlees en bloed laat belemmeren door de uitkomsten van een softwareprogramma. (...)

En zo krijgt de robotisering van het onderwijs, zonder dat er ooit een robot aan te pas komt, langzaam maar zeker gestalte. (...)

Het bijna blinde geloof in datagestuurd onderwijs is het zoveelste voorbeeld van wat criticus Evgeny Morozov ‘technologisch solutionisme’ noemt, de overtuiging dat technologie een kracht is die voor elk probleem een oplossing biedt. En nu komt het: tot op heden is er geen overtuigend bewijs dat digitale innovaties de onderwijskwaliteit verbeteren, zoals ook Kennisnet in de inleiding van het rapport vaststelt. Wat we wel weten, is dat bovenmatig gebruik van digitale media een negatieve invloed heeft op zoiets als begrijpend lezen. (...)

Hele artikel

Leerlingen testen VR-brillen voor afstandsonderwijs, 2022. © ANP / Joris van Gennip

Tags: #nederlands #nederland #onderwijs #big_tech #edutech #data #data_mining #surveillance #mass_surveillance #massasurveilance #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #algoritme #gezichtsherkenningssoftware #gezichtsherkenning

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

NRC

Data - Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.” (...)

Alegre wilde niets weten [van een spraakgestuurde digitale assistent op de kamer van haar zevenjarige dochter], vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.” (...)

Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen. (...)

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.” (...)

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken. (...)

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen.” (...)

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?
„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.”

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag.” (...)

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?”

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.”

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?” (...)

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.” (...)

Hele artikel

> Zie ook: Brussel vindt Nederlandse privacywaakhond te strikt (NRC)

Tags: #nederlands #boeken #big_tech #techbedrijven #data #data_mining #big_data #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #vrijheid #facebook #meta #metagegevens #metadata #sociale_media #google #alphabet #youtube #tiktok #twitter #gokreclames #gokken #Cambridge_Analytica #politieke_beinvloeding #persoonsgerichte_advertenties #gezondheidssites #medische_gegevens #apps #menstruatieapp #menstruatie #seksuele_voorkeur #gegevens #persoonlijke_gegevens #privacy #1984 #ethiek #mensenrechten

Commercieel softwarebedrijf schendt jarenlang de privacy van tienduizenden patiënten en het medisch beroepsgeheim van tientallen huisartsen

Follow the Money

Onder het mom ‘handig voor huisartsen’ bouwde Medworq dashboards op basis van echte patiëntendata. Via de software van dit commerciële bedrijf zetten minstens 35 huisartsen de achterdeur open naar hun patiëntengegevens. Van ten minste 72.000 Nederlanders zwierven zo jarenlang alle medische gegevens rond op de servers van Medworq. De huisartsen waren hiervan niet op de hoogte, en wisten dus niet dat zij jaren op rij hun medisch beroepsgeheim schonden.

Dit stuk in 1 minuut

• Medworq verzamelde jarenlang volledige medische dossiers bij huisartsen, zonder dat zij of hun patiënten daarvan op de hoogte waren. Medische gegevens genieten de hoogste graad van wettelijke bescherming. Maar dit bedrijf bewaarde patiëntengegevens op onveilige plekken, tegen de afspraken in.
• Hiermee is de privacy van minimaal 72.000 patiënten en het medisch beroepsgeheim van zeker 35 huisartsen ernstig geschonden.
• Medworq bouwde de software en medische databases waarvoor de data verzameld werden in opdracht van farmaceutische bedrijven. Hiervan waren artsen niet op de hoogte.

Hoe heeft Follow the Money dit onderzocht?

• Voor dit onderzoek kreeg Follow the Money beschikking over zeer gevoelige data, waaronder medische gegevens van zeker 72.000 mensen en interne documenten van Medworq.
• Voordat we hiermee aan de slag gingen, heeft Follow the Money een jurist geconsulteerd en besproken hoe we privacyschending konden minimaliseren. Dat heeft geresulteerd in afspraken over beveiliging en toegang tot de data; in dit kader zetten we ze op een rij.
• Follow the Money heeft de getroffen huisartsen een factsheet en verdere informatie gegeven waarmee ze melding kunnen doen bij de Autoriteit Persoonsgegevens. Met de huisartsen is afgesproken dat zij zelf hun patiënten informeren.

Hele artikel

Tags: #nederlands #nederland #medworq #farmaceutische_industrie #oatientendata #patientgegevens #data #data_mining #beroepsgeheim #privacy #gegevens #medische_gegevens #persoonlijke_gegevens #profiel #profilering #GlaxoSmithKline #GSK #magistro #inzo #insider #huisarts-informatiesystemen

Bijna alle producten die ik op Instagram voorbij zie komen wil ik onmiddellijk hebben

De Volkskrant

(...) [J]e hebt mensen die denken dat ze niet door reclames worden beïnvloed. Ze zijn autonome wezens die geheel zelfstandig hun beslissingen nemen. Die zijn vaak tegen het verbieden van reclames voor alcohol, gokken en fastfood, omdat dat ‘betutteling’ zou zijn. Waarom? Omdat de mens recht heeft op reclame? Als reclame geen effect had, dan zou een verbod erop de autonomie van de consument ook niet aantasten. De industrie pompt natuurlijk miljarden in reclames omdat ze wél effect hebben. Als producten regelmatig worden aangeprezen, dan willen we ze hebben. (...)

Dankzij vernuftige algoritmes komen precies die artikelen voorbij waar ik gevoelig voor ben. Spullen waarvan ik nog nooit gedroomd had, dacht ik. (...)

Hele artikel

Foto Bert Ernste

Tags: #nederlands #reclame #marketing #pr #misleidende_reclame #greenwashing #sportswashing #reclemacodecommissie #algoritme #advertenties #profiel #profilering #tracking #trackers #tracking_cookies #cookies

‘Big Tech’ vormt gevaar voor open internet, niet Europa

NRC

Europese Unie - Nieuwe wetten voor bedrijven als Facebook zijn hoog nodig. De liberale Eurocommissaris Margrethe Vestager gaat zelfs niet ver genoeg, meent Paul Tang.

In Europa is een grote lobbycampagne op gang gekomen, met als uiteindelijke inzet niet minder dan de toekomst van het internet. De Europese Commissie heeft de campagne afgetrapt met voorstellen om de oneerlijke concurrentie door Big Tech tegen te gaan. Het laatste wat een open internet voor iedereen nodig heeft is afzwakking van die voorstellen: het is juist nodig ze aan te scherpen.

Nick Clegg, dé lobbyist van Facebook, heeft zich gestort in de campagne en waarschuwt in NRC dat Europa moet waken voor „het onnodig hinderen van Europese innovatie en verdere versplintering van het wereldwijde internet” (Samen met de VS kan Europa het internet ‘open’ houden, 31/5).

Dat is wrang te horen uit de mond van een bedrijf dat een ongekende machtspositie heeft opgebouwd door agressieve overnames en het annexeren van onze data. (...)

Afgelopen december presenteerde de Europese Commissie twee belangrijke wetsvoorstellen die ervoor moeten gaan zorgen dat wat nu offline illegaal is ook online illegaal wordt. (...)

Dankzij agressieve acquisities, het te gelde maken van persoonlijke data en het gebruik van die data om concurrenten van de weg te drukken hebben Facebook en Google bijvoorbeeld een verstikkend ‘duopolie’ op de digitale advertentiemarkt. (...)

Dat is waarom de Europese Commissie voorstelt bedrijven zoals Facebook, Google, Amazon, Apple en Microsoft te verbieden datasets te combineren of data te gebruiken die voor concurrenten niet beschikbaar zijn. (...)

De liberale Vestager krijgt de kritiek te liberaal en te vrijblijvend te zijn in de aanpak van onmiskenbare machtsposities. De Nederlandse, Franse en Duitse regering vormden vorige week een unieke coalitie waarmee ze opriepen tot verplichte controles op alle bedrijfsovernames van dominante techbedrijven en veel meer middelen voor toezichthouders. (...)

Naast de terechte kritiek vanuit de Neder-Franco-Germaanse hoek is het ook een groot gemis dat het verzamelen en gebruiken van persoonlijke data voor advertenties mogelijk blijft. (...)

Ook kennen Vestagers wetten een grote omissie als het gaat om de uitwisseling van data tussen verschillende diensten, in het Europese jargon interoperabiliteit genoemd. Bij email en telefoon zijn we zo gewend een ander te kunnen bereiken, dat we ons niet eens afvragen welke provider die ander heeft. Dat geldt vreemd genoeg nog niet voor deze (nieuwe) digitale diensten die ons insluiten in hun gesloten ecosystemen. Terwijl WhatsApp prima met het privacyvriendelijke Signal zou kunnen werken. (...)

Hele artikel

Protest voor regulering van Facebook in Brussel, 15 december 2020. Foto Olivier Hoslet/EPA.

Tags: #nederlands #eu #europese_unie #eruropese_commissie #verstager #internet #open_internet #democratie #censuur #big_tech #facebook #google #alphabet #amazon #apple #microsoft #advertenties #advertentiemarkt #duopolie #data #data_mining #profiel #profilering #algoritme #dataset #gegevens #persoonlijke_gegevens #bedrijfsovernames #techbedrijven #interoperabiliteit #whatsapp #signal

De online-surveillance heeft een nieuw jasje

Kelli van der Waals (Trouw)

(...) Larry Page en Sergey Brin, de rolschaatsende excentriekelingen, besloten voor hun promotie aan Stanford het hele internet te downloaden en indexeren, en het te rangschikken. Voilà, daar was Google, een uitvinding zo goed dat Page en Brin het de wereld niet wilden onthouden. De dissertatie werd een bedrijf, en het bedrijf moest geld verdienen. (...)

Een advertentiemodel dan maar.

Daarvoor werden cookies ingezet, waarmee adverteerders internetgebruikers konden volgen. (...)

Google experimenteert sinds kort met een nieuwe technologie, genaamd FLoC. In de woorden van het bedrijf is dat de ‘privacy-voorop toekomst van webadvertenties’. (...)

Hoe het precies werkt, daar is Google nog een beetje vaag over, maar het idee is dat de gebruiker niet meer persoonlijk wordt gevolgd. In plaats daarvan wordt hij op basis van zijn online-gedrag gelabeld en in een groepje geplaatst (een ‘cohort’, de c in FLoC). De advertenties kunnen dan op het hele groepje worden gemikt. (...)

Het volgen van gebruikers is dood, leve het volgen van gebruikers nieuwe stijl – FLoC is het surveillance businessmodel in een nieuw jasje. (...)

Toch wel jammer dat die briljante rolschaatsende, ruimtereisdromende geesten niet een internettoekomst kunnen verzinnen waar privacy écht vooropstaat.

Hele artikel

Kelli van der Waals

Tags: #nederlands #surveillance #suveillancekapitalisme #cookies #trackers #floc #advertenties #gerichte_advertenties #internet #google #alphabet #privacy #profiel #profilering #webadvertenties #data #data_mining #gegevens #persoonlijke_gegevens