#client-side_device_scanning

berternste2@diasp.nl

Europese Commissie misleidt burgers met desinformatiecampagne en illegale advertenties

De Volkskrant

In haar jacht op criminelen heeft de Europese Commissie onlangs een controversieel voorstel gedaan waardoor de privacyrechten van EU-burgers ernstig worden aangetast. Landen die niet willen instemmen met het voorstel, worden nu met een discutabele campagne op X onder druk gezet om alsnog aan boord te komen. (...)

(Tekst loopt door onder de illustratie.)

Illustratie
De EU-vlag, weergegeven in bits en bytes. Beeld Getty Images.

De Europese Commissie wil digitale communicatie-apps, zoals WhatsApp, iMessage, Instagram, TikTok en X, veranderen in massasurveillance-instrumenten, zodat digitale communicatie van alle EU-burgers, inclusief hun livegesprekken, foto's en video's, automatisch kan worden gescand op strafbare feiten.

Dit voorstel voor de zogeheten ‘CSAM-verordening’ is door honderden wetenschappers, privacytoezichthouders, en zelfs door interne juristen van de Raad van de Europese Unie zelf veroordeeld vanwege de grove schending van de privacyrechten, maar ook omdat de technologie die gebruikt moet worden om het voorstel uit te voeren gebrekkig is. (...)

Om voor de hand liggende redenen is dat onverenigbaar met het recht op privacy en communicatievrijheid en de onschuldpresumptie. Op donderdag 14 september bleek dat er onvoldoende steun is in de Raad van de Europese Unie voor haar voorstel, de stemming is uitgesteld naar donderdag 19 oktober.

Zorgwekkend is dat de Eurocommissaris een dag later, op 15 september, een betaalde advertentiecampagne op X (voorheen Twitter) liet plaatsen gericht op Nederland, Zweden, België, Finland, Slovenië, Portugal en Tsjechië – landen die volgens een uitgelekt verslag van de vergadering op 14 september niet voor het huidige voorstel wilden stemmen.

De campagne, die meer dan vier miljoen keer is bekeken, gebruikt shockerende beelden van jonge meisjes naast sinister uitziende mannen, onheilspellende muziek, en pleegt een vorm van emotionele chantage door te suggereren dat tegenstanders van het wetsvoorstel kinderen niet zouden willen beschermen tegen misbruik.

Net zo misleidend is de stelling van de Commissie dat het wetsvoorstel door de meerderheid van de Europeanen gesteund zou worden op basis van een enquête die alleen de voordelen maar niet de nadelen van de voorgestelde wetgeving benadrukte. Onderzoeken van onderzoeksbureaus YouGov en Novus, die de nadelen benadrukten, lieten juist vrijwel geen steun voor het voorstel zien onder de Europese bevolking.

Om de Europese publieke opinie naar haar hand te zetten ging de Europese Commissie nog een stap verder. Uit het Transparantierapport van X, dat tweemaal per jaar verschijnt en onder meer informatie biedt over verzoeken van overheden, blijkt dat de Europese Commissie ook ‘microtargeting’ heeft ingezet zodat de advertenties niet verschijnen bij mensen die privacy belangrijk vinden (mensen met interesse in Julian Assange) en eurosceptici (mensen met interesse in ‘nexit’, ‘brexit’ en ‘spanexit’ of in Viktor Orbán, Nigel Farage, of de Duitse politieke partij AfD). Om onduidelijke redenen zijn ook mensen met interesse in het christendom (mensen met interesse in ‘Christian’) uitgesloten. (...)

Als er onvoldoende steun is voor een wetsvoorstel, is de enige juiste democratische reactie om het in te trekken of, zoals Duitsland voorstelde, het voorstel aan te passen zodat het wel op voldoende steun kan rekenen. Dat betekent in dit geval: het ongrondwettelijke en orwelliaanse ‘telescherm’ niet invoeren. (...)

Daarom moet de Europese Commissie de advertentiecampagnes offline halen en houden en zich onthouden van toekomstige pogingen om de Europese publieke opinie naar haar hand te zetten met dergelijke desinformatiecampagnes via gerichte advertenties op sociale media.

Hele artikel

> Zie ook: Privacy-experts: EU-wetsvoorstel tegen digitaal seksueel kindermisbruik is ‘waanzin en grensoverschrijdend’

Tags: #nederlands #eu #europese_unie #kinderporno #kindermisbruik #privacy #whatsapp #gmail #outlook #facebook_messenger #telegram #signal #client-side_device_scanning #client_side_scanning #encryptie #achterdeur #hackers #desinformatie #desinformatiecampagne

berternste2@diasp.nl

Privacy-experts: EU-wetsvoorstel tegen digitaal seksueel kindermisbruik is ‘waanzin en grensoverschrijdend’

NRC

Europese Unie - De digitale verspreiding van kinderpornografisch materiaal is een groot probleem. Maar een wetsvoorstel waarmee de Europese Unie dat wil bestrijden, kleven fundamentele bezwaren, zegt een expertpanel tegen Kamerleden: „Een absurd idee.”

(Tekst loopt door onder de foto.)

Foto van handen met smartphone
Volgens Europese overheden wordt steeds meer kinderporno gedeeld via chatdiensten als WhatsApp, Signal en Telegram. Foto Stephane Mahe / Reuters.

Terwijl het verspreiden van CSAM – Child Sexual Abuse Material, oftwel foto’s of video’s waarin minderjarigen seksueel worden geëxploiteerd – en grooming grote problemen zijn, slaat de Europese Unie met dit voorstel een verkeerde weg in, vinden alle vier de experts. Ze bevinden zich daarmee in een groeiend gezelschap van honderden vooraanstaande wetenschappers, Europese privacywaakhonden, de Nationaal Rapporteur Mensenhandel en Seksueel Geweld tegen Kinderen én kindermisbruikbestrijders zelf, zoals Offlimits, de organisatie achter het Nederlandse kinderpornomeldpunt. Vorig jaar ondernam het meldpunt actie tegen negenduizend afbeeldingen van minderjarigen. (...)

Voor Offlimits, de organisatie achter het Nederlandse Meldpunt Kinderporno, gaat het huidige voorstel te ver, zegt directeur Robbert Hoving in een schriftelijke verklaring. Het wetsvoorstel is niet in het belang van de kinderen die het zegt te beschermen. (...) „Meekijken in privécommunicatie draagt daarmee juist bij aan onveiligheid en zorgt voor een enorme inbreuk op privacy van gebruikers.” (...)

De enige manier om mee te kunnen lezen met de berichten zonder de versleuteling te verzwakken door een speciale achterdeur voor opsporingsdiensten te creëren, is client side scanning. (...)

„Technisch gezien tast client side scanning de encryptie niet aan”, zegt Hoepman. „Maar dat is wel een heel nauwe interpretatie: versleuteling is een middel en geen doel op zich. Het doel is de vertrouwelijkheid van communicatie beschermen. Met client side scanning lees je gewoon mee over de schouders.” (...)

Het andere voorname kritiekpunt is de grote rol die de Europese Commissie weggelegd ziet voor kunstmatige intelligentie. (...) Kunstmatige intelligentie moet in de bergen foto’s en video’s het onderscheid maken tussen enerzijds onschuldige foto’s van peuters in bad of flirterige berichten tussen pubers en anderzijds grooming en kinderpornografisch materiaal.

Zo ver is de techniek nog lang niet, waarschuwde hoogleraar en internetveiligheidsexpert Michel Van Eeten (TU Delft) Kamerleden. „Voor het detecteren van onbekend kinderpornografisch materiaal en grooming is dit voorstel eigenlijk waanzin.” (...)

„Dit is geen wet die een klein beetje aangepast moet worden: we nemen voor vijfhonderd miljoen Europeanen in één keer de beslissing om die scanners toe te passen. Als wij hiermee instemmen, gaan we een grens over die we nog nooit over gegaan zijn. Namelijk dat iedere Europeaan gemonitord moet worden.”

Hele artikel

Tags: #nederlands #eu #europese_unie #kinderporno #kindermisbruik #privacy #whatsapp #gmail #outlook #facebook_messenger #telegram #signal #client-side_device_scanning #client_side_scanning #encryptie #achterdeur #hackers

berternste2@diasp.nl

Europees plan tegen online kindermisbruik plaatst burgers onder permanente surveillance, waarschuwen experts

De Volkskrant

De Europese Commissie wil dat vanaf volgend jaar elke tekst of afbeelding in een chatbericht voor verzending wordt gescand op kinderporno. Experts waarschuwen voor de verstrekkende gevolgen van deze ‘cliënt scanning’, waarmee er ‘een politieagent in ieders broekzak’ komt.

(Tekst loopt door onder de foto.)

Foto van man voor gebouw
Een passant buiten het Europees Parlement in Brussel. Beeld Kenzo Tribouillard / AFP.

Het lijkt een even simpele als doeltreffende maatregel om de verspreiding van kinderpornografisch materiaal tegen te gaan: scan iedere afbeelding die met een smartphone wordt verstuurd op mogelijke kinderporno. Het is de kern van een voorstel van de Europese Commissie tegen online kindermisbruik. Maar de gevolgen zijn zó verstrekkend dat wetenschappers, privacy-activisten en andere critici steeds fermer waarschuwen: begin er niet aan. (...)

De gevolgen van deze methode zijn gigantisch, schreven 400 wetenschappers en onderzoekers op het gebied van informatiebeveiliging en privacy begin deze maand in een open brief. Zij wezen de Europese Commissie erop dat het nog tien tot twintig jaar kan duren voordat er acceptabele technologie is ontwikkeld die zonder al te veel foutmarges afbeeldingen kan scannen.

De huidige techniek is kwetsbaar voor manipulatie: een kleine aanpassing in een bestaande kinderpornografische foto zorgt er al voor dat deze niet meer dezelfde vingerafdruk heeft en dus buiten de database zal vallen. (...)

Bovendien is het uitermate complex om een computermodel het onderscheid te laten maken tussen een privéfoto van een 2-jarig kind in een badje in de tuin en een kwaadwillende kinderpornografisch beeld, zo leert de ervaring in het Verenigd Koninkrijk waar kunstmatige intelligentie reeds wordt ingezet. Computers letten niet op de intentie van de maker. (...)

Deskundigen verwachten dat de methode die de Europese Commissie voor ogen heeft zoveel fouten zal opleveren, dat het aantal valse meldingen in de tientallen miljoenen per dag zal lopen.

Maar de belangrijkste kritiek op de EU-voorstellen, raakt een fundamenteler punt. Zoals Jaap-Henk Hoepman, universitair hoofddocent privacy en technologie aan de Radboud Universiteit, het verwoordt: ‘Dit voorstel plaatst een koevoet in het privéleven van alle burgers. We slaan hiermee een pad in waar je eigenlijk niet wilt gaan.’ (...)

Hoepman vergelijkt het met het installeren van een beveiligingscamera in álle huizen in Nederland. ‘Een camera van de overheid die geactiveerd wordt en een livestream opzet als deze een verdacht geluid oppikt.’ (...)

Experts vrezen twee scenario’s. Eén: het scannen blijft niet beperkt tot kinderpornografisch materiaal maar wordt sluipenderwijs uitgebreid naar teksten en afbeeldingen die bijvoorbeeld terrorisme, geweld of desinformatie bevatten. Hoepman: ‘Dat is een bekende dynamiek: als de mogelijkheid er eenmaal is, is het verleidelijk om hem breder in te zetten.’

Een andere vrees is dat autoritaire regimes de optie zullen gebruiken voor andere doeleinden, zoals eerder gebeurde met Israëlische spionagesoftware. Die was bedoeld voor het opsporen van terroristen maar werd door landen als Hongarije, Polen en ook Spanje ingezet tegen journalisten, mensenrechtenactivisten en oppositieleden. Hoepman: ‘De drempel om die functionaliteit toe te voegen, gaat omlaag.’ (...)

Ook het, inmiddels demissionaire, Nederlandse kabinet is voorstander van het scannen. Een door de Tweede Kamer aangenomen motie uit april om niet akkoord te gaan met ‘encryptiebedreigende chatcontrole’, legde het kabinet naast zich neer. (...)

Hele artikel

> Meer over dit onderwerp

Tags: #nederlands #eu #europese_unie #kinderporno #kindermisbruik #privacy #whatsapp #gmail #outlook #facebook_messenger #telegram #signal #client-side_device_scanning #client_scanning #encryptie #achterdeur #hackers

berternste2@diasp.nl

Vóór digitale privacy? Wat ben je, een terrorist of pedofiel?

Rosanne Hertzberger (NRC)

Weet je wie jij hiermee in de kaart speelt? Het is een van de meest voorkomende retorische trucs. (...)

Dat niemand je privéberichten kan zien is uiteraard behoorlijk belangrijk, gezien de digitale dataverzamelwoede, de lekkage en ongelukjes en de IT-bedrijven die graag met sleepnetten door onze digitale huiskamer trekken.

Deze vorm van privacy wordt nu bedreigd door nieuwe EU-wetgeving. De Europese Commissie bereidt een wet voor die techplatforms ertoe verplicht alle berichten voordat ze versleuteld worden te surveilleren op verdachte content. (...)

(Tekst loopt door onder de foto.)

Foto van Rosanne Hertzberger
Rosanne Hertzberger

Dit stukje beleid heeft zoveel aspecten die exemplarisch zijn voor wat er mis gaat met hedendaags beleid. Gaan we echt de sleepnetsurveillance uitbesteden aan een algoritme? Is dat een zelflerend algoritme? Hebben we zicht op wat zo’n robot allemaal uit zichzelf als verdacht gaat bestempelen naarmate hij/zij/hen meer ervaring opdoet met speurwerk? We hebben algoritmes gezien die racistisch zijn, zich op nationaliteit, taal of postcode gaan concentreren en tegen wier verdachtmakingen je je als simpele burger nauwelijks kunt verweren. Wat zou daar nou mis mee kunnen gaan?

Ondertussen doet minister Dilan Yesilgöz-Zegerius (Justitie en Veiligheid, VVD) al het geklets over de bedreiging van de privacy af als nepnieuws. (...) Men houdt inderdaad vast aan de versleuteling van de berichten maar verlegt het sleepnet gewoon naar het moment dat u de brief in de envelop stopt. (...)

Een motie van D66-Kamerlid Lisa van Ginneken waarin de minister werd opgeroepen om tegen een Europese verordening te stemmen waardoor zomaar ieders berichten zouden worden gemonitord, kreeg een ruime meerderheid. Afgelopen week kondigde de minister aan de motie naast zich neer te leggen. (...)

De wet wordt in Brussel in de relatieve luwte voorbereid zonder al te veel gemekker van burgerrechtenbewegingen en aandacht van journalisten. Alleen wat niche-websites schrijven erover. En vervolgens wordt het de status quo in Nederland, ondanks dat er geen meerderheid voor is of de Tweede Kamer er nog invloed op kan uitoefenen. (...)

Er zijn exact nul mensen bij de politie, het OM of de rechterlijke macht die tijd hebben om dit soort berichten te gaan scannen. Er liggen nu al panklare uitgerechercheerde zaken die op de plank blijven liggen bij gebrek aan rechterlijke capaciteit om een zitting in te plannen. Dit is geen probleem dat ethisch twijfelachtige kunstmatige intelligentie nodig heeft, dit probleem heeft echte mensen nodig van vlees en bloed.

Hele artikel

> Zie ook: Diensten als WhatsApp en Gmail moeten van de EU actief jagen op kinderporno, privacy-experts vrezen gevolgen

Tags: #nederlands #eu #europese_unie #kinderporno #kindermisbruik #terorisme #privacy #whatsapp #gmail #outlook #facebook_messenger #telegram #signal #client-side_device_scanning #encryptie #achterdeur #hackers #drogredenering

berternste@pod.orkz.net

Diensten als WhatsApp en Gmail moeten van de EU actief jagen op kinderporno, privacy-experts vrezen gevolgen

De Volkskrant

Om de verspreiding van kinderporno te beteugelen moeten wetshandhavers toegang krijgen tot de inhoud van gesprekken op bijvoorbeeld WhatsApp, vindt de Europese Unie. Privacy-experts vrezen de gevolgen.

De Europese Commissie komt woensdag met een nieuw wetsvoorstel (waarover het Europees Parlement en de lidstaten nog moeten stemmen) dat de verspreiding van materiaal met kindermisbruik erin moet tegengaan. Het Parlement stemde vorig jaar al in met een verordening waarin staat dat providers van e-mail- of chatdiensten vrijwillig de inhoud van berichten mogen scannen op kwalijke inhoud. De Commissie wil nu een stap verder gaan met een verplichting. (...)

Met technologie genaamd client-side device scanning is het mogelijk de potentieel kwalijke inhoud op het toestel (van de ontvanger) te scannen. (...)

Burgerrechtenorganisaties en cryptografie-experts maken zich grote zorgen over deze ontwikkeling. Niemand betwist het belang van het opsporen van kindermisbruik, maar wel van de noodzaak om op grote schaal de communicatie van alle burgers te scannen. Het voorstel van de Europese Commissie betekent dat platformen als WhatsApp op het mobieltje van de gebruiker gedwongen worden mee te kijken met alle chats, en alles wat verdacht lijkt moeten melden bij de politie, vrezen Bits of Freedom en andere Europese burgerrechtenorganisaties. (...)

Niemand betwist het probleem van kindermisbruik, zegt Ronald Cramer. (...) ‘Maar het gaat niet alleen om de vraag of de voorgestelde technologisch aanpak aanzienlijk bijdraagt aan de oplossing, maar ook om de schade van die aanpak.’ (...) Een waslijst aan argumenten tégen het gebruik van technieken als client-side device scanning staat wat hem betreft nog altijd fier overeind: de geautomatiseerde systemen die afbeeldingen op een mobieltje vergelijken met een database zijn bijvoorbeeld niet feilloos. Verder worden mobieltjes kwetsbaar voor spionagediensten of kwaadwillende hackers: ‘Is er eenmaal een achterdeur geopend, dan kan iedereen in principe toegang verkrijgen.’ Maar misschien wel het belangrijkst: ‘We moeten met zijn allen vrezen dat we ons hiermee op een glijdende schaal begeven richting acceptatie van steeds verder opgerekte continue scanning van de glazen mens. Door een veelheid aan partijen, en, vanwege de achterdeur, misschien ook wel door ons onwelgevallige partijen. Met als gevolg, naast de veiligheidsrisico’s, een inperking van fundamentele vrijheden.’

Hele artikel

Foto van persoon achter beeldscherm

Tags: #nederlands #eu #europese_unie #kinderporno #kindermisbruik #privacy #whatsapp #gmail #outlook #facebook_messenger #telegram #signal #client-side_device_scanning #encryptie #bits_of_freedom #achterdeur #hackers