Bluesky lost het fundamentele probleem dat het publieke debat in handen is van big tech niet op

Waag Future Lab

De afgelopen weken groeide het aantal gebruikers op Bluesky snel, als alternatief voor X. Maar ook bij dit socialemediaplatform zijn onze digitale publieke ruimte en het maatschappelijk debat vooral een speelbal van private belangen. (...)

Hele artikel

> Zie ook: Privacy-experts kritisch over te open karakter van Bluesky

Tags: #nederlands #social_media #sociale_media #fediverse #bluesky #privacy #avg #data #data_mining #debat #publiek_debat #democratie #big_tech #algoritme #mastodon

Privacy-experts kritisch over te open karakter van Bluesky

De Volkskrant (€)

Met Bluesky lijkt er een volwaardig alternatief voor X te zijn ontstaan. Het netwerk groeit onstuimig en het enthousiasme onder gebruikers is groot. Maar met de groei komen ook de vragen, bijvoorbeeld over de privacy van de gebruikers. (...)

(Tekst loopt door onder de foto.)

Links het logo van het voormalige Twitter, nu X. Rechts dat van Bluesky. Beeld Karlis Dzjamko / Cover Images.

Het open karakter, waar Bluesky prat op gaat, lijkt op dit moment ook de achilleshiel van het platform te zijn. (...)

Over het open karakter van de app is het bedrijf niet geheimzinnig: ‘De Bluesky-app is een microblogdienst voor openbare gesprekken. Dat betekent dat alle informatie die u aan uw openbare profiel toevoegt en de informatie die u op de Bluesky-app plaatst, openbaar is.’ (...)

Wat de implicaties hiervan van zijn, is niet helder genoeg voor gebruikers, zeggen hoogleraar gegevensbescherming en privacyrecht Anna Berlee (Open Universiteit) en privacy- en datajuristen Menno Weij (BDO) en Hester de Vries (Kennedy Van der Laan). Allen stellen onomwonden dat het Amerikaanse bedrijf zijn huiswerk op dit vlak niet goed heeft gedaan. (...)

‘De privacyvoorwaarden zijn volstrekt onder de maat.’ Weij: ‘Dit kan de toets van de AVG (de Europese privacywetgeving, red.) niet doorstaan.’ Berlee: ‘De voorwaarden zijn extreem oppervlakkig.’

De gesproken experts vallen over het feit dat het bedrijf veel te onduidelijk is over waar de gegevens terecht kunnen komen en hoe lang deze dan worden bewaard. (...)

Snoek is kritischer: ‘Dit bewijst dat het netwerk niet is ontworpen met privacy als uitgangspunt.’ (...)

Hele artikel

Tags: #nederlands #social_media #sociale_media #fediverse #bluesky #privacy #avg #data #data_mining

Bits of Freedom strijdt al 25 jaar voor privacy: ‘Je laat altijd een spoor van data achter’

Trouw (€)

(...) Het beschermen van het recht op privacy is noodzakelijker dan ooit, nu we in een digitale wereld leven waarin vrijwel al onze communicatie in handen is van slechts een handjevol Amerikaanse techbedrijven, zegt Evelyn Austin, directeur van Bits of Freedom. Een kantelpunt in de nog relatief korte geschiedenis van het internet was volgens haar de opkomst van sociale media in combinatie met de smartphone. (...)

(Tekst loopt door onder de foto.)

Beeld Suzan Hijink

Veel van de technologie die we gebruiken om wereldwijd te communiceren is in handen van slechts enkele grote techbedrijven zoals Meta, dat Facebook en WhatsApp maakt, en Alphabet, de eigenaar van onder meer Google en YouTube. Bedrijven met een Amerikaans idee over vrijheid, zegt Austin. “Zeer individualistisch; een kleine overheid die zich vooral niet met de dingen moet bemoeien. Inmiddels weten we dat je soms juist overheidsingrijpen nodig hebt om de vrijheid van de groep te beschermen. En dan kom je uit op heel andere maatregelen, zoals wetten, regels, controle en handhaving.” (...)

BoF heeft net zoveel zorgen over schending van de privacy door het bedrijfsleven als door de overheid. Bovendien werken die vaak samen om burgers te controleren, omdat het overgrote deel van onze communicatie via de grote techbedrijven loopt. (...)

Eigenlijk bepalen de grote techbedrijven al tien jaar voor een grote groep in de samenleving met welk nieuws ze ‘s morgens opstaan en hoe hun kijk op de wereld is. En dat levert bakken met data op die in handen zijn van slechts een handjevol partijen. (...)

Lang werd er door de overheid ingezet op zelfregulering. Grote techbedrijven moesten zelf regels bedenken om hun apps veilig te maken en verantwoord datagebruik te waarborgen. Volgens BoF is het al heel lang een slecht idee om dat aan de commerciële markt over te laten. (...)

De manieren waarop we de vrije markt reguleren werken niet in de digitale wereld omdat er slechts een beperkt aantal spelers op de markt is en consumenten vrijwel geen macht hebben. (...) Dat komt deels omdat die diensten gratis zijn, maar ook omdat er simpelweg geen alternatieven zijn. (...)

Er worden door bedrijven en overheden op basis van data die over ons zijn verzameld steeds vaker voorspellingen gedaan over hoe we ons gaan gedragen, en of we misschien in een risicogroep zitten. (...)

Die fouten in de systemen worden een soort code, en als je niet aan de norm voldoet, kun je in de problemen raken. “AI herhaalt het verleden, historische ongelijkheid wordt als het ware gecodificeerd. En dat gaat de kansenongelijkheid vergroten.” (...)

Kies bijvoorbeeld voor privacyvriendelijkere, open source alternatieven. Gebruik een zoekmachine als DuckDuckGo in plaats van Google, zodat Google minder data over je verzamelt. Of gebruik Jitsi om te videobellen in plaats van bijvoorbeeld Zoom of Skype. (...)

> Meer privacy tips

Hele artikel

> Zie ook: Landsgrenzen zijn in de digitale wereld achterhaald: ‘Silicon Valley zit in je broekzak’ (NRC) (€)

Tags: #nederlands #bof #internet #privacy #data #data_mining #surveillance #surveillancekapitalisme #alphabet #google #youtube #meta #facebook #whatsapp #instagram #vrijheid #democratie #sociale_media #social_media #zelfregulering #dsa #dma #avg #netneutraliteit #duckduckgo #jitsi #zoom #skype #tracking

.
De geruisloze groei van inlichtingenorganen

Privacy of veiligheid?

De Groene Amsterdammer

Terwijl de aandacht uitging naar de bevoegdheden van AIVD en MIVD zijn andere overheidsinstanties in de afgelopen jaren ongecontroleerd en op grote schaal inlichtingen over inwoners gaan verzamelen. Bijvoorbeeld omdat ze die als extremisten beschouwden. En verweer is lastig. (...)

(Tekst loopt door onder de illustratie.)

.

Opeenvolgende, telkens gedetailleerder en dwingender wetten probeerden de bevoegdheden van de AIVD en de MIVD te beteugelen. Het leek een overwinning voor het streven naar een betrouwbare, voorspelbare en controleerbare overheid. (...)

Vrijwel ongemerkt, terwijl alle belangstelling uitging naar de wettelijke regelingen voor de AIVD en de MIVD, is een aantal andere inlichtingenorganen van de overheid als paddenstoelen opgeschoten. Zij ontberen meestal een wettelijke basis, terwijl hun werk leidt tot overheidsinterventies waar tegenover de burger min of meer machteloos staat.

Sommige van de activiteiten haalden kortstondig de pers, waarna ze werden gestaakt. Dit was het geval met het Land Information Manoeuvre Centre (LIMC) van Defensie. (...) Daarbij was sprake van grove privacy-schendingen. (...)

Een soortgelijk debacle deed zich voor bij de Nationaal Coördinator Terrorismebestrijding en Veiligheid (nctv). Deze instantie, in 2004 in het leven geroepen om de terrorismebestrijding in Nederland te coördineren, ging zich steeds meer als een inlichtingendienst gedragen. Jarenlang verzamelde ze heimelijk gegevens van burgers en verstuurde die aan gemeenten, politie, aivd en buitenlandse veiligheidsdiensten. (...)

De bij het LIMC en de NCTV geconstateerde gewoonte van de leiding om zich niets aan te trekken van twijfels over de rechtmatigheid van het eigen handelen valt ook op andere plaatsen bij de overheid waar te nemen. Maar terwijl de politiek bij het limc en de NCTV de inlichtingenactiviteiten stopzette na commotie in de media, gaan dergelijke werkwijzen elders vaak ongestoord verder.

Zo had de NCTV zich ook doen gelden in relatie tot de gemeenten. Met zijn instemming en steun zetten onder meer de gemeenten Rotterdam en Den Haag honderden sleutelpersonen in om informatie te verzamelen over mogelijk radicaliserende jongeren. (...) De kracht van aldus vergaarde informatie is volstrekt onduidelijk; het is niet uitgesloten dat het soms om louter roddels gaat. (...)

Eerder al had de Autoriteit Persoonsgegevens (AP), de waakhond in Nederland als het gaat om gegevensverwerking door de overheid, grote vraagtekens geplaatst bij een soortgelijke aanpak van de gemeente Den Haag. Daar bestond het voornemen ook het online-gedrag van vermoede extremisten te monitoren. (...)

Bij de bestrijding van criminaliteit is sprake van een verschuiving van bestraffing naar preventie en verstoring. Dit impliceert een verschuiving van het strafrecht naar het bestuursrecht. Het bestuursrecht kent echter veel minder waarborgen dan het strafrecht voor de ‘verdachte’. (...)

Ook bij de politie heeft zich een ongekende intelligence-macht ontwikkeld. Na de Tweede Wereldoorlog waren in Nederland inlichtingen- en politieactiviteiten strikt gescheiden. Vooral door de bestrijding van terrorisme en radicalisering, cybercriminaliteit en de georganiseerde misdaad is inlichtingenwerk steeds meer usance geworden bij de politie. (...)

Recent ontstond er in de media deining over het tooi, het Team Openbare Orde Inlichtingen van de politie, dat jarenlang zonder wettelijke grondslag en ongecontroleerd op grote schaal inlichtingen verzamelde en de privacy schond van mensen die het als extremisten beschouwde. Het team maakte onder meer gebruik van infiltratie, heimelijk volgen en internetsurveillance. Strafrechthoogleraar Sven Brinkhoff kwalificeerde het in Trouw als ‘praktijken van een politiestaat’.

De politie opereert ook inlichtingenmatig binnen zogeheten samenwerkingsverbanden. (...) Deze samenwerkingsverbanden bestaan, behalve uit de politie, uit onder meer gemeenten, het Openbaar Ministerie, de Belastingdienst en de Fiod. Ook hier ontbreekt al vijftien jaar een wettelijke basis en ook hier zijn preventie en verstoring geëigende methodes.

Samenwerking tussen de politie en andere overheidsinstanties creëert vanuit privacy-perspectief een extra probleem, omdat de gegevensverwerking bij de politie geschiedt op basis van de Wet politiegegevens, terwijl de rest van de overheid moet handelen volgens de avg. Het maakt het voor de deelnemers mogelijk om te kiezen welk van de twee regimes voor hen het beste uitkomt. (...)

Behalve ondermijning lokt vooral bestrijding van (vermeende) fraude inlichtingenactiviteiten uit, zowel op het niveau van de rijks- als van de gemeentelijke overheid. (...)

Tot slot van dit verre van volledige overzicht : het Inlichtingenbureau. Het is in 2001 door het ministerie van Sociale Zaken ingesteld als een informatieknooppunt voor gemeenten en verwerkt gegevens over burgers die gebruikmaken van uitkeringsregelingen en sociale voorzieningen. Het bureau is wel omschreven als een ‘allesweter’, die zijn kennis vergaart door onder meer de koppeling van data van UWV, SVB, de Belastingdienst, de Dienst Uitvoering Onderwijs (DUO), de Rijksdienst voor het Wegverkeer (RDW) en gemeenten. (...)

Door publiek-private samenwerking van dergelijke samenwerkingsverbanden zijn publieke verantwoording, controle en normering vaag. (...)

Onduidelijk is bijvoorbeeld hoe de gegevensverwerking van het Inlichtingenbureau zich verhoudt tot het Bureau Keteninformatisering Werk en Inkomen (BKWI), een door Sociale Zaken in 2002 ingesteld zelfstandig onderdeel van het UWV, dat zichzelf aanprijst als ‘onmisbare pijler in het Nederlandse sociale-zekerheidsstelsel op het gebied van digitale gegevenslevering en keteninformatisering waar het de gegevensuitwisseling over burgers en bedrijven betreft’. Of zoals de Volkskrant dit bureau aanduidde: Big Brother, ‘de natte droom van de controlerende overheid’.

Juist doordat zo weinig is vastgelegd omtrent dit soort activiteiten is ook onhelder wie ervoor verantwoordelijk is. Er ontbreekt bovendien regie. (...)

Het Inlichtingenbureau was ook medeontwerper en uitvoerder van het omstreden Systeem Risico Indicatie (SyRi), dat aan de hand van een algoritme een lijst leverde met adressen waarvoor een verhoogd risico op fraude en misbruik bestond. Nadat privacy-beschermingsclubs een proces tegen dit stelsel hadden aangespannen, verbood de rechtbank Den Haag dit begin 2020, omdat het in strijd was met het Europees Verdrag voor de Rechten van de Mens. Maar in feite zette het Inlichtingenbureau zijn werkwijze voort, waarbij een combinatie van gegevens kan leiden tot een aanwijzing van fraude, die dadelijk resulteert in stopzetting van de uitkering, zonder dat de betrokken burger weet hoe hij of zij zich kan verweren. (...)

Opdrachtgevers en medewerkers hebben vaak overtrokken verwachtingen van de kwaliteit van ‘signalen’ en data. Het wemelt van de ongefundeerde aannames dat bepaalde data ook tot specifiek gedrag zullen leiden. Daarnaast sneuvelt het opschonen van data alvorens deze te gebruiken geregeld onder tijdsdruk en door gevoelens van urgentie bij opdrachtgevers. Ook bij de veilige opslag van de gegevens kunnen veelal vraagtekens worden geplaatst. (...)

Voorzover er toezicht is gecreëerd, heeft dit veelal een hoog de-slager-keurt-zijn-eigen-vlees-gehalte. Ethische normering ontbreekt meestal en als ambtenaren al eens uit gewetenswroeging aan de bel trekken, is het effect gering, zodat schimmig blijft wat er nu eigenlijk wel en niet mag. (...)

Al geruime tijd is er een Wet gegevens samenwerkingsverbanden in voorbereiding, die zou moeten zorgen voor de nog steeds ontbrekende wettelijke grondslag. (...)

Diverse mensenrechten- en privacy-organisaties hebben evenwel ernstige bezwaren geuit tegen het wetsontwerp. Ze spreken van een ‘Super SyRI’ of van een dreigende herhaling van de toeslagenaffaire. Krachtens het wetsontwerp kunnen samenwerkingsverbanden al bij ‘een eerste vermoeden van onrechtmatige activiteiten’ gegevens delen met ‘andere partijen’, waarbij onduidelijk is om welke ‘andere partijen’ het gaat. Niet alleen burgerservicenummers, woonsituatie, verblijfstatus, financiële gegevens en politiegegevens mogen worden gedeeld, maar ook gegevens over seksueel gedrag en seksuele geaardheid, zowel van het individu zelf als van zijn familie en vrienden.

De beoogde wet laat het aan de partijen van een samenwerkingsverband over of wordt voldaan aan de informatieplicht, die verweer mogelijk maakt. Een klachtenregeling kent zij niet. De in het wetsontwerp voorgestelde rechtmatigheidsadviescommissies zijn niet onafhankelijk en hebben slechts een niet-bindende adviserende rol bij nieuwe verwerkingswijzen. De conclusie moet zijn dat het wetsvoorstel vooralsnog niet de oplossing biedt voor de eerder geschetste problemen.

Hele artikel

Tags: #nederlands #nederland #data #gegevens #persoonlijke_gegevens #surveillance #massa_surveillance #algoritme #AIVD #MIVD #inlichtingen #inlichtingendiensten #inlichtingen_verzamelen #autoriteit_persoonsgegevens #ap #Land_Information_Manoeuvre_Centre #LIMC #NCTV #gemeente #politie #radicalisering #politie #cybercriminaliteit #radicalisering #Team_Openbare_Orde_Inlichtingen #internetsurveillance #infiltratie #Openbaar_Ministerie #OM #Belastingdienst #Fiod #avg #Wet_politiegegevens #Inlichtingenbureau #UWV #SVB #Dienst_Uitvoering_Onderwijs #DUO #Rijksdienst_voor_het_Wegverkeer #RDW #keteninformatisering #Bureau_Keteninformatisering_Werk_en_Inkomen #BKWI #Systeem_Risico_Indicatie #SyRi #Wet_gegevens_samenwerkingsverbanden

De man die Europa over Big Tech adviseert waarschuwt: ‘De wereld zag nog nooit zo’n machtsconcentratie’

NRC

Paul Nemitz | Hoofdadviseur Europese Commissie - Top-EU-ambtenaar Paul Nemitz waarschuwt voor de macht van Big Tech. „Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien.” (...)

De macht van deze bedrijven is zó groot, hield hij zijn gehoor in Perugia voor, „dat in Brussel de olifant in de kamer deze vraag is: kan de democratie haar primaat over de grote tech-bedrijven nog wel doen gelden? Of moeten we ons neerleggen bij de heerschappij van de technologie?” (...)

„Als er technologieën zijn die op de lange termijn tot het uitsterven van de mensheid kunnen leiden, of die onze manier van leven ingrijpend kunnen veranderen, zei hij, dan hebben we de verantwoordelijkheid er vandaag al actie op te ondernemen. Ook als we niet zéker weten hoe het zich verder zal ontwikkelen.” (...)

„Het is tegenwoordig heel moeilijk een conferentie of een academische instelling te vinden waar de relatie tussen internet en samenleving wordt onderzocht, en waar Big Tech níet op de een of andere manier financieel aan bijdraagt. Die bedrijven zijn zo rijk, dat ze hun geld kunnen gebruiken om overal vrienden te maken. Ze proberen een amicaal sfeertje te scheppen, waarin het ongemakkelijk of zelfs pijnlijk wordt om directe kritiek op ze te leveren. Dat is zorgelijk. Want als je geen onafhankelijke wetenschappers en journalisten hebt, dan ziet het er somber uit voor onze democratie.” (...)

„De voormalige leider van de Britse Liberale Partij, oud-vice-premier Nick Clegg, is nu toplobbyist van Meta. De speciale ambassadeur die Denemarken had aangesteld voor contacten met de technologiebedrijven, leidt inmiddels het Europese kantoor van Microsoft” (waar hij verantwoordelijk is voor contacten met Europese overheden). (...)

„Nergens ter wereld hebben we ooit zo’n grote machtsconcentratie gezien. Niet alleen horen ze tot de rijkste ondernemingen met de grootste beurswaarde op Wall Street. Ze hebben de controle over communicatienetwerken en de manier waarop we ons informeren. Ze weten meer over ons als individu, over ons gedrag online en offline, dan wie dan ook. Van miljarden mensen kunnen ze een profiel aanleggen. En als zich innovatieve concurrenten aandienen, imiteren ze die of nemen ze die over.” (...)

„Steeds meer systemen die vroeger door mensen draaiend werden gehouden, worden nu door automatische systemen uitgevoerd, al dan niet met kunstmatige intelligentie. Bij het selecteren van sollicitatiebrieven bijvoorbeeld, of het analyseren van röntgenfoto’s en andere medische beelden – twee heel gevoelige terreinen, waar de resultaten ingrijpende gevolgen kunnen hebben.

„Door het inzetten van kunstmatige intelligentie verliezen mensen bepaalde vaardigheden. En belangrijker: ze verliezen het vermogen en de bereidheid om die systemen te vernieuwen en te verbeteren. Kunstmatige intelligentie functioneert op basis van data die gisteren of eergisteren zijn verzameld. Een systeem stelt daar geen kritische vragen bij en is nooit ontevreden met de uitkomst." (...)

„Vooral voor staatsorganen is dat heel belangrijk. Als besluiten op basis van automatische systemen worden genomen, moet je er niet alleen voor zorgen dat de regels worden toegepast, maar ook dat je het systeem zo nodig kan veranderen als het blijft vastzitten in een verkeerd spoor. Zoals jullie in Nederland hebben gezien bij de Toeslagenaffaire.” (...)

„De bedrijven proberen ook allemaal actief te worden in de gezondheidszorg. Google is de grootste verzamelaar van gezondheidsdata ter wereld. Met hun technologie kunnen ze zeker grote verbeteringen in de zorgsector tot stand brengen. Maar door hun omvang maken ze het andere bedrijven moeilijk om op dat terrein ook winstgevend te zijn. En willen we echt dat essentiële publieke diensten, zoals gezondheidszorg, straks alleen nog maar geleverd kunnen worden door de reuzen uit Silicon Valley?” (...)

„De greep van Microsoft op het openbaar bestuur in Europa is enorm. De afhankelijkheid van software van Microsoft bij de Europese Commissie, nationale overheden en lagere bestuursorganen is verbijsterend.” (...)

„Het beleid van de afgelopen twintig jaar heeft ertoe geleid dat de zoekmachine van Google in Europa een marktaandeel heeft van meer dan negentig procent. Amerikaanse bedrijven hebben hier zo dominant kunnen worden door het neoliberale digitale beleid van zelfregulering in die jaren.” (...)

„En op klimaatgebied staan ze zeker voor enorme uitdagingen. Denk aan de energie die gebruikt wordt om een systeem van kunstmatige intelligentie te ontwikkelen, en vervolgens te gebruiken. Of de energie die gewone computercentra nodig hebben voor koeling. En de energie voor streamingdiensten. Je moet niet alleen kijken naar die bedrijven zélf en hoe ze hun eigen invloed op het klimaat aanpakken, maar ook naar de effecten van hun producten. Als de boodschap steeds is: zorg dat je voortdurend online bent, leidt dat ook tot een enorm energiegebruik.” (...)

„En laten we niet naïef zijn over de macht van deze concerns. Ze procederen veel en tot het uiterste, daar hebben ze onbeperkt geld voor.”

Hele artikel

Paul Nemitz

Tags: Enederlands #big_tech #grootbedrijf #machtsconcentratie #Google #Apple #Meta #Facebook) #Amazon #Microsoft #ict #technologie #democratie #media #nieuws #journalist #journalistiek #pers #lobby #eu #europese_unie #privacywet #privacy #AVG #data #data_mining #gegevens #persoonlijke_gegevens #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #kunstmatige_intelligentie #algoritme #ai #gezondheidszorg #medische_gegevens #klimaat #klimaatverandering #klimaatcrisis #energie #energiegebruik #democratie