De man die Europa over Big Tech adviseert waarschuwt: ‘De wereld zag nog nooit zo’n machtsconcentratie’

NRC

Paul Nemitz | Hoofdadviseur Europese Commissie - Top-EU-ambtenaar Paul Nemitz waarschuwt voor de macht van Big Tech. „Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien.” (...)

De macht van deze bedrijven is zó groot, hield hij zijn gehoor in Perugia voor, „dat in Brussel de olifant in de kamer deze vraag is: kan de democratie haar primaat over de grote tech-bedrijven nog wel doen gelden? Of moeten we ons neerleggen bij de heerschappij van de technologie?” (...)

„Als er technologieën zijn die op de lange termijn tot het uitsterven van de mensheid kunnen leiden, of die onze manier van leven ingrijpend kunnen veranderen, zei hij, dan hebben we de verantwoordelijkheid er vandaag al actie op te ondernemen. Ook als we niet zéker weten hoe het zich verder zal ontwikkelen.” (...)

„Het is tegenwoordig heel moeilijk een conferentie of een academische instelling te vinden waar de relatie tussen internet en samenleving wordt onderzocht, en waar Big Tech níet op de een of andere manier financieel aan bijdraagt. Die bedrijven zijn zo rijk, dat ze hun geld kunnen gebruiken om overal vrienden te maken. Ze proberen een amicaal sfeertje te scheppen, waarin het ongemakkelijk of zelfs pijnlijk wordt om directe kritiek op ze te leveren. Dat is zorgelijk. Want als je geen onafhankelijke wetenschappers en journalisten hebt, dan ziet het er somber uit voor onze democratie.” (...)

„De voormalige leider van de Britse Liberale Partij, oud-vice-premier Nick Clegg, is nu toplobbyist van Meta. De speciale ambassadeur die Denemarken had aangesteld voor contacten met de technologiebedrijven, leidt inmiddels het Europese kantoor van Microsoft” (waar hij verantwoordelijk is voor contacten met Europese overheden). (...)

„Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien. Niet alleen horen ze tot de rijkste ondernemingen met de grootste beurswaarde op Wall Street. Ze hebben de controle over communicatienetwerken en de manier waarop we ons informeren. Ze weten meer over ons als individu, over ons gedrag online en offline, dan wie dan ook. Van miljarden mensen kunnen ze een profiel aanleggen. En als zich innovatieve concurrenten aandienen, imiteren ze die of nemen ze die over.” (...)

„Steeds meer systemen die vroeger door mensen draaiend werden gehouden, worden nu door automatische systemen uitgevoerd, al dan niet met kunstmatige intelligentie. Bij het selecteren van sollicitatiebrieven bijvoorbeeld, of het analyseren van röntgenfoto’s en andere medische beelden – twee heel gevoelige terreinen, waar de resultaten ingrijpende gevolgen kunnen hebben.

„Door het inzetten van kunstmatige intelligentie verliezen mensen bepaalde vaardigheden. En belangrijker: ze verliezen het vermogen en de bereidheid om die systemen te vernieuwen en te verbeteren. Kunstmatige intelligentie functioneert op basis van data die gisteren of eergisteren zijn verzameld. Een systeem stelt daar geen kritische vragen bij en is nooit ontevreden met de uitkomst." (...)

„Vooral voor staatsorganen is dat heel belangrijk. Als besluiten op basis van automatische systemen worden genomen, moet je er niet alleen voor zorgen dat de regels worden toegepast, maar ook dat je het systeem zo nodig kan veranderen als het blijft vastzitten in een verkeerd spoor. Zoals jullie in Nederland hebben gezien bij de Toeslagenaffaire.” (...)

„De bedrijven proberen ook allemaal actief te worden in de gezondheidszorg. Google is de grootste verzamelaar van gezondheidsdata ter wereld. Met hun technologie kunnen ze zeker grote verbeteringen in de zorgsector tot stand brengen. Maar door hun omvang maken ze het andere bedrijven moeilijk om op dat terrein ook winstgevend te zijn. En willen we echt dat essentiële publieke diensten, zoals gezondheidszorg, straks alleen nog maar geleverd kunnen worden door de reuzen uit Silicon Valley?” (...)

„De greep van Microsoft op het openbaar bestuur in Europa is enorm. De afhankelijkheid van software van Microsoft bij de Europese Commissie, nationale overheden en lagere bestuursorganen is verbijsterend.” (...)

„Het beleid van de afgelopen twintig jaar heeft ertoe geleid dat de zoekmachine van Google in Europa een marktaandeel heeft van meer dan negentig procent. Amerikaanse bedrijven hebben hier zo dominant kunnen worden door het neoliberale digitale beleid van zelfregulering in die jaren.” (...)

„En op klimaatgebied staan ze zeker voor enorme uitdagingen. Denk aan de energie die gebruikt wordt om een systeem van kunstmatige intelligentie te ontwikkelen, en vervolgens te gebruiken. Of de energie die gewone computercentra nodig hebben voor koeling. En de energie voor streamingdiensten. Je moet niet alleen kijken naar die bedrijven zélf en hoe ze hun eigen invloed op het klimaat aanpakken, maar ook naar de effecten van hun producten. Als de boodschap steeds is: zorg dat je voortdurend online bent, leidt dat ook tot een enorm energiegebruik.” (...)

„En laten we niet naïef zijn over de macht van deze concerns. Ze procederen veel en tot het uiterste, daar hebben ze onbeperkt geld voor.”

Hele artikel

Paul Nemitz

Tags: Enederlands #big_tech #grootbedrijf #machtsconcentratie #Google #Apple #Meta #Facebook) #Amazon #Microsoft #ict #technologie #democratie #media #nieuws #journalist #journalistiek #pers #lobby #eu #europese_unie #privacywet #privacy #AVG #data #data_mining #gegevens #persoonlijke_gegevens #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #kunstmatige_intelligentie #algoritme #ai #gezondheidszorg #medische_gegevens #klimaat #klimaatverandering #klimaatcrisis #energie #energiegebruik #democratie

Big Tech zit op school (en verandert daar de lessen)

Follow the Money

In het onderwijs zit steeds meer technologie. Het klaslokaal is veranderd in een goudmijn voor datahandelaren, maar veel software monitort kinderen nu ook buiten de school. Van de belofte dat de lessen door educatieve software op maat van ieder kind kunnen worden gesneden, komt intussen niet veel terecht. Hoog tijd om onderwijswaarden weer centraal te stellen. (...)

Het succes van educatieve technologie staat of valt immers met het verzamelen van data. En wie ‘data’ zegt, weet dat de datadieven op de loer liggen. Uit een ronduit schrikbarend onderzoek van Human Rights Watch naar 164 edutech-producten blijkt dat het overgrote deel ervan (84 procent!) kinderen tot ver buiten het klaslokaal trackt en monitort – of daartoe op z’n minst de mogelijkheid biedt.

De onderzochte aanbieders delen de persoonlijke gegevens van scholieren met liefst 196 derde partijen (voornamelijk adverteerders), valt uit de analyse van de mensenrechtenorganisatie op te maken. (...)

De opslag en verwerking van privégegevens aan de onzichtbare hand van de markt overlaten, staat al snel op gespannen voet met de bescherming van publieke waarden. Zo hebben scholen de opdracht om de integriteit van hun leerlingen te beschermen. Wie derde partijen laat meegluren met kinderen die worden geacht te leren en te experimenteren – en daarbij hoort misstappen en stommiteiten kunnen begaan of wegen mogen bewandelen zonder uitkomst of duidelijk doel – doet daar afbreuk aan. Het schoolgebouw behoort een veilige ruimte te zijn, afgesloten voor het spiedende oog van anonieme dataverzamelaars. (...)

Een interessante publicatie van Kennisnet, dat scholen adviseert en ondersteunt bij ict-vraagstukken, laat zien dat er veel valt af te dingen op de claims van de makers van oefensoftware.

Dergelijke systemen vergemakkelijken individueel leren, maar dat lijkt vooral de sterke leerlingen ten goede te komen. (...)

Bovendien ligt blikvernauwing op de loer. Door te focussen op meetbare prestaties raakt het sociale aspect van het leerproces – met en van elkaar leren – ondergesneeuwd. (...)

Wie zich laat beheksen door het doelmatigheids- en controlefetisjisme van de tech-industrie vergeet dat onderwijs ook in het teken van algemene vorming staat. Dat wil zeggen: een omgeving die nieuwsgierigheid naar de wereld stimuleert en die kinderen helpt zich voor te bereiden op een leven in de samenleving, inclusief alle ongemakken, grilligheden en onzekerheden die daarbij horen. (...)

De verleiding om eerder een dashboard te raadplegen dan oog te houden voor de subtiliteiten in het klaslokaal – denk aan lichaamstaal, een oogopslag of sociale interactie – is misschien begrijpelijk, maar komt wel met het risico dat de leraar vroeg of laat zélf in een dashboard verandert. Dat wil zeggen: in een onderwijsprofessional die, min of meer op de automatische piloot, zijn zicht op wezens van vlees en bloed laat belemmeren door de uitkomsten van een softwareprogramma. (...)

En zo krijgt de robotisering van het onderwijs, zonder dat er ooit een robot aan te pas komt, langzaam maar zeker gestalte. (...)

Het bijna blinde geloof in datagestuurd onderwijs is het zoveelste voorbeeld van wat criticus Evgeny Morozov ‘technologisch solutionisme’ noemt, de overtuiging dat technologie een kracht is die voor elk probleem een oplossing biedt. En nu komt het: tot op heden is er geen overtuigend bewijs dat digitale innovaties de onderwijskwaliteit verbeteren, zoals ook Kennisnet in de inleiding van het rapport vaststelt. Wat we wel weten, is dat bovenmatig gebruik van digitale media een negatieve invloed heeft op zoiets als begrijpend lezen. (...)

Hele artikel

Leerlingen testen VR-brillen voor afstandsonderwijs, 2022. © ANP / Joris van Gennip

Tags: #nederlands #nederland #onderwijs #big_tech #edutech #data #data_mining #surveillance #mass_surveillance #massasurveilance #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #algoritme #gezichtsherkenningssoftware #gezichtsherkenning

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

NRC

Data - Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.” (...)

Alegre wilde niets weten [van een spraakgestuurde digitale assistent op de kamer van haar zevenjarige dochter], vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.” (...)

Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen. (...)

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.” (...)

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken. (...)

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen.” (...)

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?
„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.”

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag.” (...)

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?”

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.”

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?” (...)

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.” (...)

Hele artikel

> Zie ook: Brussel vindt Nederlandse privacywaakhond te strikt (NRC)

Tags: #nederlands #boeken #big_tech #techbedrijven #data #data_mining #big_data #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #vrijheid #facebook #meta #metagegevens #metadata #sociale_media #google #alphabet #youtube #tiktok #twitter #gokreclames #gokken #Cambridge_Analytica #politieke_beinvloeding #persoonsgerichte_advertenties #gezondheidssites #medische_gegevens #apps #menstruatieapp #menstruatie #seksuele_voorkeur #gegevens #persoonlijke_gegevens #privacy #1984 #ethiek #mensenrechten

“How Dare They Peep into My Private Life?”

Human Rights Watch

Children’s Rights Violations by Governments that Endorsed Online Learning During the Covid-19 Pandemic.

On school days, 9-year-old Rodin wakes up every morning at 8 a.m. in Istanbul, Turkey. (...) By 9 a.m., he logs into class and waves hello to his teacher and to his classmates. (...)

Unbeknownst to him, an invisible swarm of tracking technologies surveil Rodin’s online interactions throughout his day. Within milliseconds of Rodin logging into class in the morning, his school’s online learning platform begins tracking Rodin’s physical location—at home in his family’s living room, where he has spent most of his days during the pandemic lockdown. The virtual whiteboard passes along information about his doodling habits to advertising technology (AdTech) and other companies; when Rodin’s math class is over, trackers follow him outside of his virtual classroom and to the different apps and sites he visits across the internet. The social media platform Rodin uses to post his homework silently accesses his phone’s contact list and downloads personal details about his family and friends. Sophisticated algorithms review this trove of data, enough to piece together an intimate portrait of Rodin in order to figure out how he might be easily influenced. (...)

This report is a global investigation of the education technology (EdTech) endorsed by 49 governments for children’s education during the pandemic. Based on technical and policy analysis of 164 EdTech products, Human Rights Watch finds that governments’ endorsements of the majority of these online learning platforms put at risk or directly violated children’s privacy and other children’s rights, for purposes unrelated to their education. (...)

Most online learning platforms installed tracking technologies that trailed children outside of their virtual classrooms and across the internet, over time. (...)

Children are surveilled at dizzying scale in their online classrooms. Human Rights Watch observed 146 EdTech products directly sending or granting access to children’s personal data to 196 third-party companies, overwhelmingly AdTech. (...)

Complete article

Tags: #education #school #online_learning #tracking #trackers #tracking_technology #adtech #edtech #privacy #data #data_mining #profiling #profile #children #personal_data #surveillance_capitalism

#shredding #democracy #globalisation #tax_havens #monopolies #surveillance_capitalism #politics #greece #iceland #uk #global #future

How Facebook tracks you on Android (even if you don't have a Facebook account)

Hackernoon

(...) 1 Facebook is able to track you because Android developers of 3rd party apps (example: Indeed Job Search) implement Facebook’s Software Development Kit (SDK).
2 SDK is a collection of tools that eases the creation of software. By using Facebook SDK, developers can do advanced analytics without the need to code it from scratch. SDK is like a Swiss Army Knife. With it, you can start your job immediately instead of having to build your own scissors, knife, corkscrew etc.
3 This article is written based on the research conducted by Frederike Kaltheuner and Christopher Weatherhead. You can watch the full video here. The official study can be found here. (...)

According to Privacy International, research done by the University of Oxford has suggested that approximately 42.55% of the free apps in the Google Play Store could share data with Facebook. (...)

Out of the 42.55%, this study picked 34 apps, based on the fact that they have either a huge number of installations, or they involve sensitive information such as religion and health, or they are simply utility apps (You know, torchlight, QR code scanner, fart sound etc). (...)

Out of the 34 apps, over 61% of them automatically transfer data to Facebook the moment a user opens the app. (...)

What’s our defense? (...)

1. Reset your advertising identifier (Very simple)
Every device has an advertising identifier (aka ad id). You can’t stop Facebook or Google from tracking you but you can make their tracking difficult by frequently resetting your ad id. If you reset it, in theory, Facebook and Google algorithms will view you as a different person in your next online activity.
Android Phone: Go to settings > Google > Ads > Reset advertising identifier
iPhone: Go to settings > Privacy > Advertising > Reset advertising identifier

2. Limit ad personalization (Very simple)
In theory, this should limit the amount of data collected by the companies. However, this study showed that we can end up sharing more data to companies if we limit ad personalization. But I will not go into the details of that.
Android: Go to Settings > Google > Ads > Opt Out of Personalized Advertising
iPhone: Go to settings > Privacy > Advertising > turn on ‘Limit Ad Tracking’

3. Review permissions (Very annoying)
Did you notice that apps these days have been asking for permissions before you carry out a simple task like importing a photo or opening a map? Yeah, it’s irritating but it’s crucial. This allows you to have greater control of your privacy. Not perfect, but at least it helps to a certain extent.

4. Use Brave browser to surf & use DuckDuckGo to search (Simple)
Brave (as opposed to Google Chrome) is a web browser which focuses a lot more on data privacy.
DuckDuckGo (as opposed to Google Search) is a search engine which distinguishes itself from other search engines by not profiling its users.

5. Educate yourself / your parents / your children on how the Internet works (Not so simple)
Education is the most powerful weapon. There are tons of articles and YouTube videos explaining how computers and network works; go read them up. However, if the content is too complex, especially for the older generations and the newcomers (aka your children), you can check out Potato Pirates -Enter The Spudnet. It’s a board game that’s developed to teach cybersecurity and internet piracy without computers. (...)

Full article

Tags: #privacy #data #data_mining #surveillance_capitalism #facebook #apps #android #ios #tracking #personal_data #kayak #brave #brave_browser #duckduckgo #permissions #Software_Development_Kit #SDK