Gaat de overheid echt overstappen op Google Docs?

NRC

Digitalisering - De overheid krijgt meer ruimte om clouddiensten te gebruiken. Daar kleven grote risico’s aan, schrijven Gijs Boerwinkel en Job Spierings.

(Tekst loopt door onder de foto.)

Foto Jason Szenes/EPA

Stapt de overheid écht over op Google Docs? Staatssecretaris Alexandra van Huffelen (Digitalisering, D66) meldde de Tweede Kamer onlangs opgewekt dat de overheid zichzelf meer ruimte geeft om gebruik te maken van clouddiensten als Google Drive en Dropbox. (...)

In maart presenteerde de staatssecretaris nog haar ambitie: een „robuuste digitale overheid gebaseerd op publieke waarden”. In de brief over het Rijksbrede cloudbeleid blijkt wat daar in de praktijk van overblijft: elke departement mag voor zichzelf handige appjes inkopen en publieke waarden worden nergens meer genoemd. Bovendien schiet het beleid op drie fundamentele punten tekort: risico’s worden beheerst met schijncontrole, publiek geld wordt geïnvesteerd in agressieve monopolisten en de groeiende gemeenschap van ethische en open software-ontwikkelaars, ook binnen de Nederlandse overheid, wordt genegeerd in plaats van gestimuleerd. (...)

En omdat werkproces en gereedschap altijd op elkaar inwerken, wordt de afhankelijkheid van de overheid van big tech alleen maar groter. Erger nog: de mogelijkheid om zélf kennis, ervaring en visie te ontwikkelen op het ontwerpen en beheren van technologie komt op geen enkele manier terug in de Kamerbrief. Terwijl er een groeiende groep is van initiatieven, klein én groot, van overheden tot omroepen, bibliotheken en bedrijven, in Nederland en Europa, die zelf clouddiensten maken en beheren. Van NextCloud tot Jitsi en OpenStreetMap: open-source en volgens publieke waarden. Deze groeiende beweging van gemeenschappen wordt nu door de eigen overheid de pas afgesneden. (...)

Hele artikel

Tags: #nederlands #nederland #overheid #big_tech #google #alphabet #dropbox #amazon #microsoft #cloudopslag #clouddiensen #nextcloud #open_source #technologie #publieke_waarden

De nieuwe DSA is een feit, en zo maak je er meteen gebruik van!

Public Spaces

Wat betekent de nieuwe Digital Services Act (DSA) voor de Europese burger en hoe maak je er gebruik van? Bits of Freedom legt het uit op jouwplatformrechten.nl; een door PublicSpaces gesteund initiatief. (...)

(Tekst loopt door onder de foto.)

.

Door de nieuwe DSA wordt jouw privacy bijvoorbeeld beter beschermd, worden platformen transparanter en wordt er beter gemodereerd.

Ook je eigen controle over het platform neemt toe. Een mooi voorbeeld is het feit dat je zelf als gebruiker uit verschillende aanbevelingsalgoritmen je eigen voorkeursoptie kunt kiezen. (...)

Dit is goed nieuws, maar het lost nog niet alle problemen van big tech zomaar op. Gelukkig bestaan er tal van platformen die de DSA-punten al helemaal (en grondiger) onder de knie hebben, zoals Mastodon en PeerTube. Deze platformen hebben de nieuwe DSA-wetten in hun wortels. (...)

Hele artikel

Tags: #nederlands #big_tech #dsa #digital_services_act #eu #europese_unie #privacy #internet #profilering #algoritme #sociale_media #mastodon #peertube #tracking #cookies #platforms

.

Tags: #nederlands #smartphone #sociale_media #big_tech #tech #facebook #whatsapp #tiktok #instagram #internet #schermtijd #profilering #algoritme

Reuzen bestrijden: Big Pharma, Big Tech en Big Agri

SOMO

Is er een verschuiving gaande als het gaat om monopoliemacht? Een groeiend aantal Amerikaanse en Europese beleidsmakers, academici en ngos kijken kritisch naar de gigantische marktmacht die multinationals sinds het begin van de jaren tachtig hebben opgebouwd. (...)

(Tekst loopt door onder de afbeelding.)

.

We ontdekten dat landbouwgiganten als Cargill en ADM de huidige voedselcrisis verergeren én ervan profiteren.

Mensen over de hele wereld lijden honger en worstelen met inflatie. Tegelijkertijd behaalden de vijf grootste handelaren in agrarische grondstoffen hun hoogste winsten ooit. In 2022 verdrievoudigden hun winsten ten opzichte van de periode 2016-2020. En het is zeer waarschijnlijk dat 2023 opnieuw een extreem winstgevend jaar wordt voor ADM, Bunge, Cargill, COFCO en Louis Dreyfuss Company. (...)

Meer van SOMO Nieuws

Tags: #nederlands #somo #multinationale_ondernemingen #big_pharma #big_tech #big_agri #agribusiness #slavernij #koffie #shell #niger-delta #afrika #bedrijfsleven #democratie #voedselproductie #marktmacht

Deze club bereikt alle Nederlanders – en maakt van het internet een publieke zaak

De Correspondent

De coalitie PublicSpaces wil van het geprivatiseerde internet een publieke ruimte maken waar de gebruiker in plaats van de commercie de dienst uitmaakt. (...)

(Tekst loopt door onder de afbeelding.)

.

Van wie is het internet? En voor wie? Van het idee dat het wereldwijde web een democratische vrijplaats zou zijn is, zo’n dertig jaar na het ontstaan ervan, weinig over. Inmiddels maakt een kleine groep grote techbedrijven online de dienst uit: bedrijven als Google, Meta en Amazon beïnvloeden zo’n beetje elk aspect van ons leven, van ons contact met bedrijven en overheid tot onze deelname aan het publieke debat. (...)

Het internet zou een publieke ruimte moeten zijn die niet wordt bepaald door bedrijven met een winstoogmerk, maar door publieke waarden, vindt hij. Een ruimte die zich écht leent voor een publiek debat, vrij van desinformatie en clickbait. Een ruimte waar je persoonlijke data veilig zijn, met content die vrij is van politieke of commerciële invloeden. (...)

‘Nu maken we gebruik van diensten die haaks staan op de publieke waarden die wij geacht worden te verdedigen, zoals privacy, openheid en transparantie. Dat is absurd.’ (...)

Google, Instagram en Facebook (...) hebben weinig boodschap aan de privacy van hun gebruikers en hun algoritmen geven ruim baan aan polariserende verhalen en desinformatie – als het maar klikt. (...)

Aan zijn keukentafel schreef Bogaerts op Tweede Paasdag in twee uur een manifest vóór een publiek internet. ‘Een internet waarbij de gebruikers niet worden gezien als commercieel object of als bruikbare data, maar als gelijkwaardige partners, die een gezamenlijk publiek belang hebben.’ En waarbij de betrokken organisaties nadrukkelijk samenwerkten aan een oplossing, ‘zodat ze voor hun communicatie, informatie en mediacirculatie minder of niet meer afhankelijk zijn van big tech.’ (...)

‘Pubhubs, ons lopende onderzoek naar hoe een alternatief sociaal platform dat gebaseerd is op publieke waarden eruit kan zien. Niet om Facebook overbodig te maken, maar om er iets naast te zetten.’ (...)

‘Regulering [van techbedrijven] is absoluut belangrijk, maar je loopt als regulator ook altijd achter de feiten aan. Dat kan nadelige gevolgen hebben: kijk naar de ontwikkeling van AI en hoe dat sommigen de schrik om het hart slaat. Dus ik ben naast regulering ook voor het neerzetten van op publieke waarden gebaseerde alternatieven. Zodat mensen de keuze hebben om daarvoor te gaan als ze dat zouden willen.’ (...)

‘Het grootste obstakel is toch het gebrek aan mensen en middelen. Er is gewoon enorm veel geld en inzet nodig om op te boksen tegen de tientallen miljarden die Big Tech elk jaar in deze platforms kan steken.’ (...)

Hele artikel

Tags: #nederlands #wereldwijde_web #internet #big_tech #techbedrijven #google #alphabet #meta #facebook #amazon #twitter #tiktok #instagram #publieke_ruimte #publicspaces #google_analytics #matomo #datakapitalisme #surveillance_kapitalisme #mastodon #pubhubs #fediverse

De zelfrijdende auto heeft al 100 miljard dollar gekost en lost geen enkel probleem op

Ilyaz Nasrullah (Trouw)

Er wordt aan niets zoveel geld verspild als aan de zelfrijdende auto. (...)

Volgens een analyse van de Wereldgezondheidsorganisatie is er in de periode 2016-2030 ongeveer 34 miljard dollar extra nodig om malaria voor 90 procent uit te roeien. Dat is een ziekte waar naar schatting jaarlijks 500.000 kinderen van onder de vijf aan overlijden. Dus voor een derde van het bedrag wat in de technologie voor de zelfrijdende auto is gepompt, kunnen er iedere twee jaar bijna een miljoen kinderlevens gered worden.

In plaats daarvan kreeg de samenleving van Big Tech een nauwelijks werkende technologie die geen enkel mobiliteitsprobleem oplost.

(Tekst loopt door onder de foto.)

Ilyaz Nasrullah

Deze maand nog, de maand waarin de zelfrijdende auto zijn doorbraak zou moeten beleven, flopte deze technologie volkomen. (...)

Niet alleen burgers, maar ook de politiebond en het hoofd van de brandweer in San Francisco (...) hebben namelijk tientallen keren meegemaakt dat robotaxi’s hen in de weg zaten: van het blokkeren van hulpdienstvoertuigen tot het – dwars door politielinten heen – inrijden van afgezet gebied.

Ondanks de weerstand zette de toezichthouder door en gaf die op 10 augustus vrij spel aan de robotaxi’s. Een dag na het besluit vielen 10 zelfrijdende taxi’s van het bedrijf Cruise midden op één van de drukste wegen in San Francisco plotseling en tegelijk uit. Een paar dagen later kwam een robotaxi van Cruise letterlijk vast te zitten omdat het in vers gegoten beton was gereden. En om de imagoschade compleet te maken raakte een klant van Cruise gewond nadat zijn zelfrijdende taxi tegen een brandweerwagen botste. (...)

Natuurlijk zullen mensen met een techfetisj roepen dat zulke blunders erbij horen omdat de techniek van de zelfrijdende auto’s nog in de kinderschoenen staat. En de tech-bedrijven zeggen op hun beurt dat het verkeer op den duur juist veiliger wordt door zelfrijdende auto’s. Maar als dat allemaal zo is, wat doen die auto’s dan nu op de weg?

Nee, wie het verkeer echt veiliger wil hebben moet juist werk maken van minder auto’s op de weg en een uitbreiding van het openbaar vervoer. Laat die zelfrijdende auto’s maar staan, want dat is een doodlopende weg.

Hele artikel

Tags: #nederlands #zelfrijdende_auto #malaria #san_francisco #big_tech #mobiliteit #openbaar_vervoer #verkeer #verkeersveiligheid

Het beroemde ‘Brave New World’ van Aldous Huxley is nu griezelig dichtbij

NRC

Sciencefiction - Een nieuwe uitgave van Heerlijke nieuwe wereld, met sombere essays van Margaret Atwood en Yuval Noah Harari, leest als een literaire toverbal met een bittere nasmaak. (...)

Dat juist nu Huxleys Brave New World in een opgefriste vertaling van Pauline Moody uit 1999 opnieuw wordt uitgegeven, is geen toeval. Deze uitgave wordt voorafgegaan door twee nogal sombere essays, een van Margaret Atwood uit 2007, en een van Yuval Noah Harari uit 2020. Atwoods essay ademt nog de schrik over 9/11, en de ontmanteling van de privacy die daardoor in gang werd gezet. Harari is alweer een stap verder, en ziet dat overheden en bedrijven inmiddels zoveel over individuele burgers weten dat ze ongemerkt van alles met hen kunnen doen. De mens wordt ‘gehackt’. Wanneer dit middel in handen valt van een ‘eenentwintigste-eeuwse Stalin’ dan zullen de verschrikkingen van de twintigste eeuw kinderspel blijken.

(Tekst loopt door onder de afbeelding.)

Heerlijke nieuwe wereld speelt in het jaar A.F. 632, en dat is gerekend vanaf het jaar waarin Henry Ford zijn eerste T-Ford van de lopende band liet rollen, ofwel het jaar 2540. In A.F. 632 kent de wereld geen conflicten meer, er is nog maar één regering, bestaande uit tien regionale leiders, omgeven door een klasse van slimme alfa’s, die de maatschappelijke radertjes aansturen. (...) Iedereen kan en zal hier gelukkig zijn. En wie ook maar even zijn stemming voelt dalen, kan zijn toevlucht nemen tot tabletjes soma. (...)

Het is een gepolijste samenleving, waarin alles goed georganiseerd is. Het morsige gedoe van de menselijke voortplanting is vervangen door gekloonde kindertjes die uit het lab komen; binnen twee jaar kunnen uit één eicel ruim tienduizend gelijke mensen gekweekt worden. (...)

Intussen is het intrigerend hoe Huxley de ontwikkeling vanaf ca. 1930 tot A.F. 632 voor zich zag. Want hoe kan onze wereld die nieuwe totalitaire staat baren? Veel meer dan Orwell biedt Huxley zicht op hoe de vrije wereld ophield te bestaan. (...)

De tweedracht in de wereld werd opgeruimd in een hevige Negenjarige Oorlog. Musea en standbeelden konden verdwijnen. De godsdienst werd meteen ook weggevaagd. Vanaf dat moment werd gestaag toegewerkt naar sociale stabiliteit. Met jarenlang geëxperimenteer werden het consumeren en gelukkig zijn geperfectioneerd.

Dat blijkt in 2023 een beklemmende boodschap. (...)

Huxley hield nog geen rekening met de opkomst van computers in ieders leven – het is een wonder dat hij het in 1932 al over televisie heeft. Orwell was duidelijk al verder met zijn schermen die tegelijk uitzonden en registreerden, en met uitvindingen als ‘Newspeak’, ‘Thought Police’ en ‘Double Think’. Vooral dat laatste: ‘Oorlog is vrede, vrijheid is slavernij en Onwetendheid is kracht.’ Die tegenstrijdigheden waren in de wereld van 1984 overal te lezen.

Het is de laatste jaren alsnog griezelig dichtbij gekomen, met een Amerikaanse president die de waarheid als ‘nepnieuws’ afdeed, en omgekeerd. Of en in hoeverre bedrijven als Google, Facebook en Microsoft hun eigen variant van de surveillancestaat ontwikkelen, is een vraag die nauwelijks leeft onder gebruikers van mobiele netwerken, die al die heerlijke prikkels die van het scherm komen, schuldeloos ondergaan als hun dagelijkse shotjes soma. Verder slikken we ons ongans aan pijnstilllers, antidepressiva en slaapmiddelen. (...)

We zijn bijna tachtig jaar verder; Huxleys fictie begint alsnog griezelig veel op science te lijken. (...)

Hele artikel

Tags: #nederlands #boeken #huxley #aldous_huxley #brave_new_world #technologie #big_tech #sociale_netwerken #google #facebook #alphabet #meta #microsoft #surveillancestaat #surveillance #massasurveillance #surveillance_kapitalisme #privacy #pijstillers #antidepressiva #slaapmiddelen

Artificial intelligence is niet intelligent

NRC

Kunstmatige intelligentie - De chatbot zelf is niet gevaarlijk, schrijft Vincent Icke. De baas ervan des te meer. (...)

De AI zoals die wordt ontwikkeld door Big Tech is een brutale manier om klanten uit te buiten. (...)

(Tekst loopt door onder de foto.)

Schaakkampioen Garry Kasparov verloor in 1997 een wedstrijd schaken tegen een IBM-supercomputer. Foto Peter Morgan / Reuters.

Een besluit berust op overweging, en AI overweegt niets: het speurt in bergen gegevens naar patronen. Je kunt zo’n patroon gebruiken voor verdere studie, en op grond daarvan een besluit nemen of advies geven, maar dat is iets anders dan een zelfstandige beslissing van een algoritme. (...)

De overeenkomst tussen het vallen van een appel en de beweging van de maan zou geen AI-algoritme ooit zijn opgevallen, maar Newton wel. (...)

Dat AI geen intelligentie is, blijkt ook uit het feit dat er met het systeem geen communicatie mogelijk is. Met een echte intelligentie kun je in discussie, zelfs (tot op zekere hoogte) als het een cavia betreft. Met een algoritme kan dat niet: daaraan moet je je onderwerpen of het zijn plaats wijzen. (...)

Als AI iets oplevert, is meestal niet te achterhalen hoe die uitkomst is verkregen. De betrouwbaarheid van dat resultaat is dus nauwelijks te bepalen. (...)

Om echt iets te begrijpen is AI nutteloos en soms zelfs tegenproductief, maar het kan wel bijzonder gevaarlijk zijn, getuige de verwoestende invloed van AI op sociale media (er zijn zeer strikte wetten en regels voor het omgaan met explosieven, maar niet voor AI-algoritmen). Ironisch genoeg is dat een koekje van eigen deeg, want die AI is ‘getraind’ met onze vooroordelen, blinde vlekken en talloze andere tekortkomingen. Omdat er verder geen moreel of analytisch besef in zit, is AI bovendien nog beperkter dan wijzelf. (...)

De chatbot is nauwelijks gevaarlijk, maar de baas ervan des te meer: zoals Big Tech, Poetins huurlingen, of de minions van de Communistische Partij van China.

„Waar het om draait is: wie is de baas – dat is alles.” Dat zei Humpty Dumpty in Alice in Wonderland, een product van zoveel intelligentie dat het nooit door een chatbot zal worden geschreven, al zou het algoritme draaien op ’s werelds snelste supercomputer.

Hele artikel

> Zie ook: Het tomeloze technologische vooruitgangsoptimisme (NRC)

Tags: #nederlands #technologie #vooruitgangsgeloof #ai #artificial_intelligence #kunstmatige_intelligentie #chatgpt #democratie #gemeenschap #big_tech #monopolie #klimaat #klimaatcrisis #zingeving #vooroordelen

Het tomeloze technologische vooruitgangsoptimisme

Beatrice de Graaf (NRC)

Kunstmatige intelligentie wordt met veel te veel optimisme gepresenteerd, vindt Beatrice de Graaf. Er is geen tijd meer voor reflectie. (...)

Onlangs hief de ceo van OpenAI, Sam Altman, weer een loflied aan op de transitie naar een volledig AI-geleide wereld. Iedereen zou ervan profiteren. (...)

AI is onstuitbaar. En AI brengt ons reeds tal van voordelen. (...) Maar dat is niet het punt. Want we leven niet bij statistieken en generalisaties alleen.

Het echte, grote probleem met uitlatingen zoals die van Altman, en het tomeloze vooruitgangsoptimisme dat eruit spreekt, wordt te weinig benoemd. Dat is dat het de geschiedenis van de mensheid ontkent. En wel op drie manieren.

(Tekst loopt door onder de foto.)

Beatrice de Graaf

Ten eerste gaan de ontwikkelingen zo snel, en worden ze door mensen als Altman bewust met die onstuimigheid voortgedreven, dat er geen tijd en ruimte meer is voor reflectie. (...)

Anderen dan ik hebben reeds veel beter en overtuigender uitgelegd dat de grootste fouten van AI al in het design worden gemaakt. Daarop qua tijd of regulering bezuinigen en bochtjes afsnijden, levert later grote ellende op (het ‘Jurassic-park-argument’).

Ten tweede is er noch sprake van een vrije markt waarin eerlijk wordt geconcurreerd om de beste toepassingen, noch is er sprake van een vrije deliberatieve ruimte om hier open en zonder last of ruggenspraak afwegingen over te kunnen maken. Jürgen Habermas legt dat in zijn laatste boek, Ein neuer Strukturwandel der Öffentlichkeit (2022), haarfijn en messcherp uit. (...)

Ten derde kan ChatGPT nog zoveel kennis over de geschiedenis formuleren, de inzichten uit die geschiedenis kan het niet zelf ter harte nemen. Moraal en zingeving zijn zaken die we niet aan markt of machine moeten overlaten. Dat is iets van de gemeenschap als geheel. Die moet erkennen dat monopoliemacht corrumpeert. Dat de publieke zaak is gediend bij meer dan alleen vooruitgang en groei. Dat het klimaat ook een stem heeft. En dat technologische vooruitgang zonder democratische en sociale checks and balances ongelijkheid en vervreemding vergroot. (...)

De VN riep twee jaar geleden al op tot een moratorium op verkoop en gebruik van AI-systemen totdat er voldoende juridische en democratische waarborgen zijn ingevoerd. Wat is daarvan terechtgekomen? (...)

Hele artikel

Tags: #nederlands #technologie #vooruitgangsgeloof #ai #artificial_intelligence #kunstmatige_intelligentie #chatgpt #democratie #gemeenschap #big_tech #monopolie #klimaat #klimaatcrisis #zingeving

De echte dreiging voor democratieën? De invloed van technologie, aldus techcriticus Jamie Susskind.

NRC

Interview | Jamie Susskind - Mensen zijn niet perfect. Dus hoe kan je erop vertrouwen dat softwareontwikkelaars technologie ontwikkelen die mensen en democratieën dient? Hoog tijd om na te denken over betere controle. (...)

Het grootste probleem van dit digitale tijdperk is níét dat de grote technologiebedrijven lak hebben aan onze privacy. De echte dreiging voor ons, en onze democratieën, is breder. Namelijk: dat Google, Meta, Amazon en de andere grote techbedrijven een enorme politieke factor zijn geworden, terwijl ze nauwelijks ter verantwoording te roepen zijn. (...)

(Tekst loopt door onder de illustratie.)

Hij geeft zelf een krachtige voorzet, inclusief praktische suggesties, in zijn vorig jaar verschenen boek The Digital Republic; On Freedom and Democracy in the 21st Century.

Susskind richt zijn pijlen niet in de eerste plaats op de techreuzen of op de topmannen die het daar voor het zeggen hebben. Hij spreekt over „ons gemeenschappelijke falen” om technologie in goede banen te leiden. „Veel te lang hebben we digitale technologieën bekeken vanuit de optiek: wat hebben we er als consument aan, of wat is de commerciële waarde ervan? Ik vind dat we er in politieke termen over moeten denken.” (...)

„Nu gaan we een tijdperk in waarin technologie [bijv. ChatGPT] politieke betogen kan opstellen. Sneller, en soms beter, dan de gemiddelde mens dat kan. Dat vind ik nogal een wezenlijke verandering voor onze democratie.” (...)

„Straks hebben we het niet meer over door technologie geschreven regels op een pagina, maar over door AI gegenereerde gezichten en stemmen die overtuigend zijn. Ze kunnen er zelfs op worden toegesneden om speciaal aantrekkelijk te zijn voor de specifieke persoon die ernaar kijkt.

„Daarom zeg ik: het digitale is politiek.” (...)

„[Software engineers] oefenen macht uit over ons leven. Ze reguleren de informatie die via digitale systemen over de wereld wordt verspreid. De algoritmes die ze schrijven, kunnen invloed hebben op het functioneren van de democratie en op kwesties van sociale rechtvaardigheid: op de toewijzing van woningen, de vaststelling van verzekeringspremies of het functioneren van ons strafrechtelijk systeem. Als je regels schrijft die miljoenen mensen moeten volgen, dan is dat politiek – ook al komt er geen parlement aan te pas.” (...)

„Bij artsen, advocaten, bankiers en exploitanten van kerncentrales vertrouwen we er ook niet zomaar op dat ze de juiste beslissingen nemen. Zij moeten voldoen aan normen en regels, omdat we weten dat mensen, en de instellingen die ze oprichten, niet perfect zijn.” (...)

„Je zou van digitale systemen bovendien kunnen eisen dat ze gecertificeerd zijn, zodat je ervan op aan kan dat ze aan bepaalde normen voldoen en je data er veilig zijn. Als je een gebouw binnenloopt, word je ook niet geacht zélf de kwaliteit van de architectuur te inspecteren. Je mag ervan uitgaan dat het veilig is en dat daarop is toegezien. Als je in een auto stapt, kan je er ook van op aan dat hij is goedgekeurd. Ik zie niet in waarom zo’n certificatie niet ook geregeld kan worden voor kunstmatige intelligentie of andere krachtige digitale technologieën.” (...)

Hele artikel

Tags: #nederlands #boeken #technologie #ai #artificial_intelligence #kunstmatige_intelligentie #politiek #democratie #big_tech #tenologiebedrivn #regulering #algoritme #haatzaaien #google #alphabet #meta #facebook #apple #microsoft #twitter #amazon #social_media #software #softwareontwikkelaar #chatgpt #zoekmachine #data #big_data

De man die Europa over Big Tech adviseert waarschuwt: ‘De wereld zag nog nooit zo’n machtsconcentratie’

NRC

Paul Nemitz | Hoofdadviseur Europese Commissie - Top-EU-ambtenaar Paul Nemitz waarschuwt voor de macht van Big Tech. „Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien.” (...)

De macht van deze bedrijven is zó groot, hield hij zijn gehoor in Perugia voor, „dat in Brussel de olifant in de kamer deze vraag is: kan de democratie haar primaat over de grote tech-bedrijven nog wel doen gelden? Of moeten we ons neerleggen bij de heerschappij van de technologie?” (...)

„Als er technologieën zijn die op de lange termijn tot het uitsterven van de mensheid kunnen leiden, of die onze manier van leven ingrijpend kunnen veranderen, zei hij, dan hebben we de verantwoordelijkheid er vandaag al actie op te ondernemen. Ook als we niet zéker weten hoe het zich verder zal ontwikkelen.” (...)

„Het is tegenwoordig heel moeilijk een conferentie of een academische instelling te vinden waar de relatie tussen internet en samenleving wordt onderzocht, en waar Big Tech níet op de een of andere manier financieel aan bijdraagt. Die bedrijven zijn zo rijk, dat ze hun geld kunnen gebruiken om overal vrienden te maken. Ze proberen een amicaal sfeertje te scheppen, waarin het ongemakkelijk of zelfs pijnlijk wordt om directe kritiek op ze te leveren. Dat is zorgelijk. Want als je geen onafhankelijke wetenschappers en journalisten hebt, dan ziet het er somber uit voor onze democratie.” (...)

„De voormalige leider van de Britse Liberale Partij, oud-vice-premier Nick Clegg, is nu toplobbyist van Meta. De speciale ambassadeur die Denemarken had aangesteld voor contacten met de technologiebedrijven, leidt inmiddels het Europese kantoor van Microsoft” (waar hij verantwoordelijk is voor contacten met Europese overheden). (...)

„Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien. Niet alleen horen ze tot de rijkste ondernemingen met de grootste beurswaarde op Wall Street. Ze hebben de controle over communicatienetwerken en de manier waarop we ons informeren. Ze weten meer over ons als individu, over ons gedrag online en offline, dan wie dan ook. Van miljarden mensen kunnen ze een profiel aanleggen. En als zich innovatieve concurrenten aandienen, imiteren ze die of nemen ze die over.” (...)

„Steeds meer systemen die vroeger door mensen draaiend werden gehouden, worden nu door automatische systemen uitgevoerd, al dan niet met kunstmatige intelligentie. Bij het selecteren van sollicitatiebrieven bijvoorbeeld, of het analyseren van röntgenfoto’s en andere medische beelden – twee heel gevoelige terreinen, waar de resultaten ingrijpende gevolgen kunnen hebben.

„Door het inzetten van kunstmatige intelligentie verliezen mensen bepaalde vaardigheden. En belangrijker: ze verliezen het vermogen en de bereidheid om die systemen te vernieuwen en te verbeteren. Kunstmatige intelligentie functioneert op basis van data die gisteren of eergisteren zijn verzameld. Een systeem stelt daar geen kritische vragen bij en is nooit ontevreden met de uitkomst." (...)

„Vooral voor staatsorganen is dat heel belangrijk. Als besluiten op basis van automatische systemen worden genomen, moet je er niet alleen voor zorgen dat de regels worden toegepast, maar ook dat je het systeem zo nodig kan veranderen als het blijft vastzitten in een verkeerd spoor. Zoals jullie in Nederland hebben gezien bij de Toeslagenaffaire.” (...)

„De bedrijven proberen ook allemaal actief te worden in de gezondheidszorg. Google is de grootste verzamelaar van gezondheidsdata ter wereld. Met hun technologie kunnen ze zeker grote verbeteringen in de zorgsector tot stand brengen. Maar door hun omvang maken ze het andere bedrijven moeilijk om op dat terrein ook winstgevend te zijn. En willen we echt dat essentiële publieke diensten, zoals gezondheidszorg, straks alleen nog maar geleverd kunnen worden door de reuzen uit Silicon Valley?” (...)

„De greep van Microsoft op het openbaar bestuur in Europa is enorm. De afhankelijkheid van software van Microsoft bij de Europese Commissie, nationale overheden en lagere bestuursorganen is verbijsterend.” (...)

„Het beleid van de afgelopen twintig jaar heeft ertoe geleid dat de zoekmachine van Google in Europa een marktaandeel heeft van meer dan negentig procent. Amerikaanse bedrijven hebben hier zo dominant kunnen worden door het neoliberale digitale beleid van zelfregulering in die jaren.” (...)

„En op klimaatgebied staan ze zeker voor enorme uitdagingen. Denk aan de energie die gebruikt wordt om een systeem van kunstmatige intelligentie te ontwikkelen, en vervolgens te gebruiken. Of de energie die gewone computercentra nodig hebben voor koeling. En de energie voor streamingdiensten. Je moet niet alleen kijken naar die bedrijven zélf en hoe ze hun eigen invloed op het klimaat aanpakken, maar ook naar de effecten van hun producten. Als de boodschap steeds is: zorg dat je voortdurend online bent, leidt dat ook tot een enorm energiegebruik.” (...)

„En laten we niet naïef zijn over de macht van deze concerns. Ze procederen veel en tot het uiterste, daar hebben ze onbeperkt geld voor.”

Hele artikel

Paul Nemitz

Tags: Enederlands #big_tech #grootbedrijf #machtsconcentratie #Google #Apple #Meta #Facebook) #Amazon #Microsoft #ict #technologie #democratie #media #nieuws #journalist #journalistiek #pers #lobby #eu #europese_unie #privacywet #privacy #AVG #data #data_mining #gegevens #persoonlijke_gegevens #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #kunstmatige_intelligentie #algoritme #ai #gezondheidszorg #medische_gegevens #klimaat #klimaatverandering #klimaatcrisis #energie #energiegebruik #democratie

Big Tech zit op school (en verandert daar de lessen)

Follow the Money

In het onderwijs zit steeds meer technologie. Het klaslokaal is veranderd in een goudmijn voor datahandelaren, maar veel software monitort kinderen nu ook buiten de school. Van de belofte dat de lessen door educatieve software op maat van ieder kind kunnen worden gesneden, komt intussen niet veel terecht. Hoog tijd om onderwijswaarden weer centraal te stellen. (...)

Het succes van educatieve technologie staat of valt immers met het verzamelen van data. En wie ‘data’ zegt, weet dat de datadieven op de loer liggen. Uit een ronduit schrikbarend onderzoek van Human Rights Watch naar 164 edutech-producten blijkt dat het overgrote deel ervan (84 procent!) kinderen tot ver buiten het klaslokaal trackt en monitort – of daartoe op z’n minst de mogelijkheid biedt.

De onderzochte aanbieders delen de persoonlijke gegevens van scholieren met liefst 196 derde partijen (voornamelijk adverteerders), valt uit de analyse van de mensenrechtenorganisatie op te maken. (...)

De opslag en verwerking van privégegevens aan de onzichtbare hand van de markt overlaten, staat al snel op gespannen voet met de bescherming van publieke waarden. Zo hebben scholen de opdracht om de integriteit van hun leerlingen te beschermen. Wie derde partijen laat meegluren met kinderen die worden geacht te leren en te experimenteren – en daarbij hoort misstappen en stommiteiten kunnen begaan of wegen mogen bewandelen zonder uitkomst of duidelijk doel – doet daar afbreuk aan. Het schoolgebouw behoort een veilige ruimte te zijn, afgesloten voor het spiedende oog van anonieme dataverzamelaars. (...)

Een interessante publicatie van Kennisnet, dat scholen adviseert en ondersteunt bij ict-vraagstukken, laat zien dat er veel valt af te dingen op de claims van de makers van oefensoftware.

Dergelijke systemen vergemakkelijken individueel leren, maar dat lijkt vooral de sterke leerlingen ten goede te komen. (...)

Bovendien ligt blikvernauwing op de loer. Door te focussen op meetbare prestaties raakt het sociale aspect van het leerproces – met en van elkaar leren – ondergesneeuwd. (...)

Wie zich laat beheksen door het doelmatigheids- en controlefetisjisme van de tech-industrie vergeet dat onderwijs ook in het teken van algemene vorming staat. Dat wil zeggen: een omgeving die nieuwsgierigheid naar de wereld stimuleert en die kinderen helpt zich voor te bereiden op een leven in de samenleving, inclusief alle ongemakken, grilligheden en onzekerheden die daarbij horen. (...)

De verleiding om eerder een dashboard te raadplegen dan oog te houden voor de subtiliteiten in het klaslokaal – denk aan lichaamstaal, een oogopslag of sociale interactie – is misschien begrijpelijk, maar komt wel met het risico dat de leraar vroeg of laat zélf in een dashboard verandert. Dat wil zeggen: in een onderwijsprofessional die, min of meer op de automatische piloot, zijn zicht op wezens van vlees en bloed laat belemmeren door de uitkomsten van een softwareprogramma. (...)

En zo krijgt de robotisering van het onderwijs, zonder dat er ooit een robot aan te pas komt, langzaam maar zeker gestalte. (...)

Het bijna blinde geloof in datagestuurd onderwijs is het zoveelste voorbeeld van wat criticus Evgeny Morozov ‘technologisch solutionisme’ noemt, de overtuiging dat technologie een kracht is die voor elk probleem een oplossing biedt. En nu komt het: tot op heden is er geen overtuigend bewijs dat digitale innovaties de onderwijskwaliteit verbeteren, zoals ook Kennisnet in de inleiding van het rapport vaststelt. Wat we wel weten, is dat bovenmatig gebruik van digitale media een negatieve invloed heeft op zoiets als begrijpend lezen. (...)

Hele artikel

Leerlingen testen VR-brillen voor afstandsonderwijs, 2022. © ANP / Joris van Gennip

Tags: #nederlands #nederland #onderwijs #big_tech #edutech #data #data_mining #surveillance #mass_surveillance #massasurveilance #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #algoritme #gezichtsherkenningssoftware #gezichtsherkenning

Big Tech bedreigt de vrijheid te denken wat je wil, betoogt deze mensenrechtenadvocaat

NRC

Data - Voor techbedrijven is het niet meer genoeg om enkel ons gedrag in de gaten te houden. Ze proberen toegang te krijgen tot onze gedachten en gevoelens, waarschuwt advocaat Susie Alegre.

Niet alleen ons gedrag wordt met steeds verfijndere digitale middelen voortdurend in de gaten gehouden en bestudeerd. Ook wat er in ons hoofd gebeurt, waarschuwt Susie Alegre, is niet meer veilig voor de dataverzamelaars van Big Tech. „En daarmee staat een elementaire vrijheid op het spel: de vrijheid om te denken wat je wil.” (...)

Alegre wilde niets weten [van een spraakgestuurde digitale assistent op de kamer van haar zevenjarige dochter], vertelt ze in haar boek Freedom to Think; The Long Struggle to Liberate Our Minds. Ze legde haar dochter uit: „Alexa steelt je dromen en verkoopt ze.” (...)

Haar uitgangspunt, net als dat van andere technologiecritici, is dat we met ons online gedrag meer over onszelf prijsgeven dan we beseffen.

„Dat doen we niet alleen door de inhoud van wat we op internet delen, maar ook door metadata: waar we zijn, hoe snel we ons verplaatsen, wanneer en met welke regelmaat we rondhangen op sociale media, wat we wanneer opvragen bij spraakgestuurde apparaten. Al die gegevens kunnen worden samengevoegd en geanalyseerd om een beeld te krijgen van wie we zijn, wat we denken en waar we naar verlangen. (...)

„Veel advertenties die op internet aan je worden voorgeschoteld zijn speciaal op jou toegesneden, of beter gezegd: op de mens die Facebook en Google willen dat je bent. Je kunt zeggen: wat geeft dat? Maar het kan bijvoorbeeld betekenen dat jij bepaalde vacatures, huurwoningen of potentiële partners niet te zien krijgt, omdat jij daar volgens het algoritme niet het geschikte type voor bent.” (...)

„Politieke campagnes maken ook gebruik van dat soort persoonsgerichte advertenties – ‘microtargeting’. Dat bleek al uit het schandaal rond Cambridge Analytica (het Britse bedrijf dat voor de Amerikaanse presidentsverkiezingen van 2016 gegevens van miljoenen Facebook-gebruikers benutte voor de verspreiding van advertenties voor Donald Trump onder mensen die daarvoor gevoelig leken, red.).

„Je zal daardoor niet opeens van links heel rechts worden. Maar het kan je wel aanmoedigen, of juist ontmoedigen, om te gaan stemmen. En zelfs als het niet werkt is het toch een poging tot manipulatie van ons denken. (...)

„Als individu hebben we mentale privacy nodig. Een innerlijke ruimte waarin je kunt ontdekken wie je bent, wat je wil zijn, wat je vindt van dingen, zonder dat je het met iemand anders hoeft te delen.” (...)

Hebben reclame en propaganda niet altijd al tot doel gehad in ons hoofd te komen, ook lang vóór internet?
„Tot op zekere hoogte wel. Maar de grote vraag is nu: waar ligt de scheidslijn tussen beïnvloeding en manipulatie, tussen preken en hersenspoelen? Bij advertenties ligt die grens bij digitale surveillance en personalisatie. Die vorm van beïnvloeding gaat veel verder dan een reclamebord langs de weg.”

„Wat mij betreft worden alle vormen van gepersonaliseerd adverteren verboden. Online advertenties zijn dan nog steeds mogelijk, maar wat je te zien krijgt hangt niet meer samen met wat een site of een tech-firma weet over je persoonlijke eigenschappen of je gedrag.” (...)

„Neem websites voor geestelijke gezondheid, waarop mensen vragenlijsten invullen over hoe het met ze gaat en of ze depressief zijn. Dus over wat er in hun hoofd omgaat. Uit een onderzoek in het Verenigd Koninkrijk, Frankrijk en Duitsland bleek dat de antwoorden in veel gevallen verkocht werden aan derden. De sleutel naar de geest van mensen bleek geveild te worden! Het is toch evident dat dát niet toegestaan moet zijn?”

„Of neem apps die helpen je menstruatiecyclus te voorspellen. Niet alleen voeren mensen daarop allerlei informatie in, maar die kan ook gecombineerd worden met andere data uit je telefoon. Dat levert een berg gegevens op over de vruchtbaarheidsstatus, seksuele activiteit en emotionele toestand van talloze vrouwen. Sommige van die apps gebruiken de informatie om je aan te sporen: je bent nu 29, de perfecte leeftijd een baby te krijgen. Dat lijkt behulpzaam, maar kan ook een vorm van onaangename sociale controle zijn.”

„Of neem dating apps. Mensen delen daarop vaak veel over zich zelf, van hun seksuele voorkeuren tot hun gezondheid en politieke opvattingen. Gebruikers stemmen ermee in dat anderen dat kunnen zien. Maar beseffen ze hoe die data worden opgeslagen, geanalyseerd, gedeeld, verkocht en gebruikt om algoritmes te ‘trainen’?” (...)

„De echte verandering moet komen van regulering via wetten. In de tech-wereld wordt nu veel gesproken over ethiek, maar lang niet genoeg over mensenrechten en wetgeving. Want ethiek is vrijwillig en daar kun je voor kiezen of niet. Om je ethische gedrag alleen kun je niet voor de rechter worden gedaagd. Daarom moeten we bij wet vastleggen wat er met onze gegevens mag gebeuren, wat alleen met uitdrukkelijke toestemming mag en wat in geen geval mag.” (...)

Hele artikel

> Zie ook: Brussel vindt Nederlandse privacywaakhond te strikt (NRC)

Tags: #nederlands #boeken #big_tech #techbedrijven #data #data_mining #big_data #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #vrijheid #facebook #meta #metagegevens #metadata #sociale_media #google #alphabet #youtube #tiktok #twitter #gokreclames #gokken #Cambridge_Analytica #politieke_beinvloeding #persoonsgerichte_advertenties #gezondheidssites #medische_gegevens #apps #menstruatieapp #menstruatie #seksuele_voorkeur #gegevens #persoonlijke_gegevens #privacy #1984 #ethiek #mensenrechten

‘Big Tech’ vormt gevaar voor open internet, niet Europa

NRC

Europese Unie - Nieuwe wetten voor bedrijven als Facebook zijn hoog nodig. De liberale Eurocommissaris Margrethe Vestager gaat zelfs niet ver genoeg, meent Paul Tang.

In Europa is een grote lobbycampagne op gang gekomen, met als uiteindelijke inzet niet minder dan de toekomst van het internet. De Europese Commissie heeft de campagne afgetrapt met voorstellen om de oneerlijke concurrentie door Big Tech tegen te gaan. Het laatste wat een open internet voor iedereen nodig heeft is afzwakking van die voorstellen: het is juist nodig ze aan te scherpen.

Nick Clegg, dé lobbyist van Facebook, heeft zich gestort in de campagne en waarschuwt in NRC dat Europa moet waken voor „het onnodig hinderen van Europese innovatie en verdere versplintering van het wereldwijde internet” (Samen met de VS kan Europa het internet ‘open’ houden, 31/5).

Dat is wrang te horen uit de mond van een bedrijf dat een ongekende machtspositie heeft opgebouwd door agressieve overnames en het annexeren van onze data. (...)

Afgelopen december presenteerde de Europese Commissie twee belangrijke wetsvoorstellen die ervoor moeten gaan zorgen dat wat nu offline illegaal is ook online illegaal wordt. (...)

Dankzij agressieve acquisities, het te gelde maken van persoonlijke data en het gebruik van die data om concurrenten van de weg te drukken hebben Facebook en Google bijvoorbeeld een verstikkend ‘duopolie’ op de digitale advertentiemarkt. (...)

Dat is waarom de Europese Commissie voorstelt bedrijven zoals Facebook, Google, Amazon, Apple en Microsoft te verbieden datasets te combineren of data te gebruiken die voor concurrenten niet beschikbaar zijn. (...)

De liberale Vestager krijgt de kritiek te liberaal en te vrijblijvend te zijn in de aanpak van onmiskenbare machtsposities. De Nederlandse, Franse en Duitse regering vormden vorige week een unieke coalitie waarmee ze opriepen tot verplichte controles op alle bedrijfsovernames van dominante techbedrijven en veel meer middelen voor toezichthouders. (...)

Naast de terechte kritiek vanuit de Neder-Franco-Germaanse hoek is het ook een groot gemis dat het verzamelen en gebruiken van persoonlijke data voor advertenties mogelijk blijft. (...)

Ook kennen Vestagers wetten een grote omissie als het gaat om de uitwisseling van data tussen verschillende diensten, in het Europese jargon interoperabiliteit genoemd. Bij email en telefoon zijn we zo gewend een ander te kunnen bereiken, dat we ons niet eens afvragen welke provider die ander heeft. Dat geldt vreemd genoeg nog niet voor deze (nieuwe) digitale diensten die ons insluiten in hun gesloten ecosystemen. Terwijl WhatsApp prima met het privacyvriendelijke Signal zou kunnen werken. (...)

Hele artikel

Protest voor regulering van Facebook in Brussel, 15 december 2020. Foto Olivier Hoslet/EPA.

Tags: #nederlands #eu #europese_unie #eruropese_commissie #verstager #internet #open_internet #democratie #censuur #big_tech #facebook #google #alphabet #amazon #apple #microsoft #advertenties #advertentiemarkt #duopolie #data #data_mining #profiel #profilering #algoritme #dataset #gegevens #persoonlijke_gegevens #bedrijfsovernames #techbedrijven #interoperabiliteit #whatsapp #signal