De deurbelcamera maakt van de burger ook toezichthouder

NRC

(...) In Nederland hangen inmiddels 1,2 miljoen digitale deurbellen die altijd aanstaan. En die de bewoner alarmeren als er iemand in het vizier komt. Of die beelden worden bewaard is een keuze, maar veel bewoners vinden dat wel een veilig idee. En handig is het natuurlijk ook. (...)

(Tekst loopt door onder het logo.)

Zo’n deurbel is ook een bewakingscamera, die data opslaat. Die worden verzameld en geanalyseerd, bijvoorbeeld door het bedrijf waarop de burger zich heeft geabonneerd. (...) In de VS adviseren inmiddels navigatiesystemen routes die meer of minder veilig zouden zijn, op basis van deze data. De deurbelpolitie profileert er lustig op los.

Hoogleraar Marc Schuilenburg zet in zijn nieuwe boek Making Surveillance Public deze vorm van ‘luxe surveillance’ centraal. (...) Daarin is permanent toezicht mogelijk, alleen is onduidelijk door wié precies. Buiten deurbellen en smartphones worden camera’s ook in body- en dashcams en auto’s toegepast. (...)

Wie met een vaste camera de openbare weg constant in het oog houdt is immers in overtreding. Deurbelcamera’s mogen alleen de openbare weg filmen ‘als het echt niet anders kan’. (...)

Eigenaren die zich als privévideobewaker bij de politie aanmelden, wacht nog een onaangename verrassing. Bij gefilmde incidenten in de straat dwingt de politie hen met een vordering tot afgifte. Die beelden kunnen vervolgens mét naam en adres van de deurbelhouder in een strafdossier belanden. (...)

Niet handhaven, oogluikend toestaan en dan profiteren van de overtreding is een houding die de overheid niet past. (...)

Wie zit er écht op een superpanopticon te wachten? Burgers moeten ook beseffen dat ze dat zélf aanrichten met hun eigen koop- en datagedrag. Ook dat vraagt om (zelf)begrenzing.

Hele artikel

> Zie ook: an slimme deurbel tot moderne auto, gefilmd wordt er haast altijd en overal

Tags: #nederlands #surveillance #privacy #openbare_ruimte #slimme_deurbel #ring #deurbelcamera #cameratoezicht #auto #slimme_auto #gezichtsherkenning #bewakingscamera

Van slimme deurbel tot moderne auto, gefilmd wordt er haast altijd en overal

Privacy First

Zie tegenwoordig nog maar eens ongezien van A naar B te komen. Het collectieve blikveld van het gigantische aantal beveiligingscamera’s van overheden en particulieren valt nauwelijks te ontlopen. Om functionaliteitsredenen filmen ook moderne auto’s dat het een lieve lust is. Hoe zit het met de privacy?

(Tekst loopt door onder de foto.)

Dit artikel in vijf punten:

• Het aantal manieren waarop in de openbare ruimte wordt gefilmd is de afgelopen jaren sterk toegenomen. Zo is er veel te doen om slimme deurbellen en de inzet van drones, terwijl ook moderne auto’s aan alle kanten hun omgeving filmen. Waar de een zich veiliger voelt door de wildgroei van camera’s, voelt de ander zich vooral in gaten gehouden.
• Mensen hebben het recht zich vrij te bewegen in de openbare ruimte. Dat recht kan door onrechtmatig cameratoezicht worden beperkt. Zomaar de openbare weg filmen mag dan ook niet, je hebt daar een rechtvaardigingsgrond voor nodig. In veel gevallen schort het daaraan.
• Camera’s in auto’s worden gebruikt voor het goede functioneren van allerlei rijhulpsystemen aan boord. Voor die camera’s gelden dezelfde regels als voor camera’s die mensen bijvoorbeeld rond hun huis installeren. Zo bepaalt de eigenaar of berijder van het voertuig zelf of de camera’s aan- of uitgaan. Diegene is ook wettelijk verantwoordelijk voor de beelden die de auto maakt. De beelden blijven lokaal, dus in het voertuig (of, als extensie daarvan, de smartphone van de gebruiker), en worden – in principe en in de EU althans – niet gedeeld met de autofabrikant of derden.
• Opdat automobilisten niet dronken achter het stuur kruipen of tijdens een rit in slaap vallen, is het vanaf halverwege dit jaar op basis van nieuwe Europese wetgeving in de nieuwste modellen verplicht dat ook de bestuurder van de auto wordt gefilmd. Detecteert de camera dat je niet zit op te letten, krijg je een signaal dat je bij de les moet blijven.
• Ondertussen zetten sommige partijen binnen de auto-industrie in op gezichtsherkenningstechniek op basis waarvan voorkeursinstellingen in een voertuig automatisch kunnen worden aangepast.

Hele artikel

Tags: #nederlands #surveillance #privacy #openbare_ruimte #slimme_deurbel #ring #deurbelcamera #cameratoezicht #auto #slimme_auto #gezichtsherkenning #bewakingscamera

‘Surveillance is een vast onderdeel van ons leven geworden, en dat zal alleen maar toenemen’

Vrij Nederland (Alleen vandaag gratis)

‘Vroeger was er eerst een verdenking en dan volgde de surveillance, nu is er eerst surveillance en volgen pas daarna de verdenkingen,’ zegt bijzonder hoogleraar Digital Surveillance Mark Schuilenburg. (...)

(Tekst loopt door onder de foto.)

Mark Schuilenburg

Waze is volgens Schuilenburg een voorbeeld van een technologie die met behulp van Artificiële Intelligentie (AI) en algoritmes ons gedrag subtiel een bepaalde richting op stuurt. (...)

‘Mentale sturing en beïnvloeding worden voor techbedrijven steeds belangrijker, vooral op het gebied van veiligheid en gezondheid. Niet alleen het lichaam, maar ook de psyche, de geest, moet worden gestuurd. Dat is inderdaad anders dan de vlieg in het urinoir, omdat het gebeurt met enorme hoeveelheden data, en het voortdurend te personaliseren is. Bij een verkeersdrempel moet iedereen langzamer rijden, terwijl psychomacht op maat kan worden gesneden, via microtargeting, of doordat het de ene Facebookgebruiker bepaalde berichten laat zien die bij anderen niet of in andere vorm op hun tijdlijn verschijnen. Of dus bij een app als Waze.’

U plaatst Waze in hetzelfde rijtje als de Apple Watch en de digitale deurbel van Amazon.
‘Ik noem dat soort producten luxe-surveillance. Mensen willen zichzelf tegenwoordig monitoren en zijn bereid daarvoor te betalen. Dat is interessant. Surveillance werd altijd gezien als iets dat vanuit de staat kwam. Daar komen ook alle dystopische verhalen – China, Orwell – vandaan. Met luxe-surveillance zie je dat mensen zelf een flinke som geld neerleggen om zichzelf vrijwillig te bekijken. Dat illustreert de overgang van disciplinaire naar psychomacht.’ (...)

In de jaren negentig vernetwerkte surveillance. De camera’s op straat werden met elkaar verbonden en daardoor is de controle overal. Nu, in fase drie, zijn bewakingscamera’s uitgerust met AI en algoritmes, denk aan automatische gezichtsherkenningstechnologie. (...)

‘Surveillance is een vast onderdeel van ons leven geworden, en dat zal alleen maar toenemen. Je ziet dan ook dat surveillance met AI en algoritmes niet meer alleen wordt ingezet door de politie, maar ook daarboven, door organisaties als Europol, daarbeneden, wanneer burgers patrouilleren in de wijk en apps als Veiligebuurt of Citizen gebruiken, en ernaast, doordat techbedrijven als Amazon en Google de zorg voor veiligheid steeds vaker faciliteren door slimme apparaten met ingebouwde camera’s, microfoons en trackingsapparatuur te ontwikkelen.’ (...)

En dat is nou precies waar het nieuwe boek van Schuilenburg, Making Surveillance Public. Why You Should Be More Woke about AI and Algorithms, over gaat.

Want technologie wordt nog te vaak ontworpen en ingezet vanuit een ‘technologisch-economisch’ perspectief, vindt hij, waarin publieke waarden als privacy, non-discriminatie, transparantie en het nemen van verantwoordelijkheid (accountability) het afleggen tegen waarden als veiligheid en efficiëntie. (...)

‘Veel mensen herkennen de Apple Watch, Fitbit en Amazon-deurbel niet als surveillance.’ (...)

Hele artikel

Tags: #nederlands #boeken #privacy #gezichtsherkenning #clearview #facebook #google #surveillance #massasurveillance #surveillance_kapitalisme #algoritme #ai #artificial_intelligence #kunstmatige_intelligentie #waze #algoritme #nudging #amazon #apple #slimme_deurbel #gezichtsherkenning #veiigebuurt #citizen #tracking #fitbit

‘Nie wieder’ betekent ook: nooit weer zulke databanken met persoonsgegevens

Danny Mekić (De Volkskrant)

(...) Na de Tweede Wereldoorlog drong het besef door dat het mede dankzij de ‘perfecte Jodenadministratie’ was dat een groot deel van de Joodse gemeenschap in Nederland door de bezetter kon worden opgespoord en gedeporteerd. Een belangrijke les: privacy en persoonlijke gegevens zijn het beschermen waard. ‘Nie wieder’ betekende ook: nooit meer registers met persoonsgegevens die, eenmaal in verkeerde handen, desastreuze gevolgen kunnen hebben. (...)

(Tekst loopt door onder de foto.)

Danny Mekić

In 1953, 1983 en 2009 werd de bescherming van de persoonlijke levenssfeer herbevestigd in respectievelijk het Europees Verdrag voor de Rechten van de Mens, onze Grondwet, en het Europees Handvest. In 2018 trad de Algemene Verordening Gegevensbescherming in werking.

Maar nu we deze grondrechten eenmaal hebben, tekent zich een zorgwekkende trend af. Terwijl het aantal ernstige misdrijven op een historisch dieptepunt is, reageren we volgens criminologen steeds ‘hysterischer’ op de steeds minder overgebleven bedreigingen, ten koste van die zwaarbevochten grondrechten.

Hoewel overtuigend wetenschappelijk bewijs van effectiviteit ontbreekt, blijven we het land volhangen met steeds meer camera’s. (...) Alle vervoersbewegingen worden geregistreerd: ‘openbaar’ vervoer vereist een chipkaart en vliegtuigpassagiers worden vastgelegd in internationale databanken.

En het einde van de grondrechtenuitverkoop is nog niet in zicht. Vanaf 6 oktober moeten mensen die naar de Europese Unie willen reizen een gezichtsscan en vingerafdrukken afstaan. Nederlandse politici willen een identificatieplicht invoeren voor sociale media. Om strafbare feiten op te sporen wil de Europese Commissie preventief de digitale privéberichten van alle Europeanen gaan scannen, inclusief foto’s en video’s. Ook die van u. (...)

‘Je hebt toch niks te verbergen?’

Ja, totdat de bezetter ineens op de stoep staat. Verzetsstrijders? Alle communicatie gekoppeld aan je identiteit wordt afgeluisterd. (...) Nuttig voor de veiligheid? Volgens hoogleraar Geoffrey Stone hebben de Amerikaanse geheime diensten, die jarenlang dit soort gegevens verzamelden, er nooit één aanslag mee kunnen voorkomen. (...)

We kunnen kiezen voor veiligere, menselijkere methoden van beveiliging en controle. Meer agenten, in plaats van meer camera’s. Meer boa’s, in plaats van meer scanauto’s. Haatalgoritmes aanpakken in plaats van anonimiteit. Databanken terugbrengen tot proporties die beheersbaar en zinvol zijn, en niet eindeloos laten groeien. Het is een keuze tussen een toekomst waarin technologie een regime van angst, wantrouwen en controle oplegt, en een toekomst waarin de democratie is gebouwd is op respect, vertrouwen en vrijheid. (...)

De geschiedenis heeft ons geleerd dat het gemakkelijker is om rechten kwijt te raken dan om ze terug te krijgen. Laten we ervoor zorgen dat toekomstige generaties over de door ons gemaakte keuzes niet hetzelfde hoeven te zeggen.

Hele artikel

Tags: #nederlands #nederland #privacy #surveillance #massasurveillance #data #data_mining #profilering #grondrechten #cctv #gezichtsherkenning #camera #sleepnet #sociale_media #databanken

Risico’s van algoritmes? Kijk naar Nederland

NRC

Privacy- Er zijn te veel slechte ervaringen met algoritmen bij overheidsinstanties, schrijft Nadia Benaissa. Veranker mensenrechten in de AI-verordening.

(Tekst loopt door onder de foto.)

Mark Rutte tijdens de parlementaire enquête Toeslagenaffaire in 2020. Foto Werry Crone.

Als er in Europa wordt gezocht naar voorbeelden waarmee de risico’s van AI zichtbaar worden, wordt er steevast naar Nederland gekeken. Zo mag DUO, de uitvoerder van de studielening, een fraudeopsporingsalgoritme niet meer gebruiken, omdat het er ernstig op lijkt dat dat discrimineert. Daarnaast hebben verschillende gemeenten fraudeopsporingsalgoritmen ingezet die discrimineren. Bovendien zette het ministerie van Buitenlandse Zaken een algoritme racistisch in bij visumaanvragen, ondanks waarschuwingen van de functionaris gegevensbescherming. En als klap op de vuurpijl: het Toeslagenschandaal. (...)

Maar in de onderhandelingen over de AI-verordening dringt Nederland erop aan dat er geen strikt verbod moet komen op biometrische identificatie. Die technologie kunnen opsporingsdiensten namelijk goed gebruiken. Alleen blijkt de politie nu al geen grip te hebben op een gezichtsherkenningsdatabase waarin tienduizenden mensen onterecht staan opgenomen. (...)

Uit onderzoek van Follow The Money bleek onlangs dat Nederlanders onterecht op ‘terreurlijsten’ terechtkomen, zonder dat ze daadwerkelijk verdacht worden van een strafbaar feit. (...)

Mensenrechten zijn er om mensen te beschermen, ook – of misschien vooral – tegen de overheid. En Nederland laat uitstekend zien waarom het geen overbodige luxe is om ervoor te zorgen dat die rechten beschermd worden in de AI-verordening. (...)

Hele artikel

> Zie ook: De Europese AI-wet dreigt te worden afgezwakt, onder druk van de techlobby (NRC)

Tags: #nederlands #eu #europese_unie #ai #kunstmatige_intelligentie #algoritme #toeslagenaffaire #duo #belastingdienst #overheid #democratie #rechtsstaat #fraude #fraudebestrijding #uitkeringen #kinderopvangtoeslag #discriminatie #racisme #fsv #Fraudesignaleringsvoorziening #gezichtsherkenning

De reële gevaren van gezichtsherkenning: ‘Ik wil niet in een wereld leven waar iedereen een potentiële verdachte is’

De Volkskrant

Software die gezichten herkent en aan een naam koppelt – dat klinkt als een privacynachtmerrie. Maar de techniek bestaat. (...)

Journalist Kashmir Hill schreef er het onlangs verschenen verontrustende boek Your Face Belongs to Us over (Nederlandse vertaling: Je gezicht is nu van ons). Hierin duikt ze in de wereld van gezichtsherkenning, met het Amerikaanse bedrijf Clearview als de even bizarre als enge protagonist. (...)

(Tekst loopt door onder de illustratie.)

.

[Clearview] schraapt sociale media af en legt een database aan van miljarden foto’s met bijbehorende namen. Niet van criminelen, maar van gewone burgers die hun kiekjes nietsvermoedend op Facebook of Instagram zetten. Toen Hill haar artikel publiceerde, bleken verschillende Amerikaanse politiekorpsen er al gebruik van te maken. Zij konden beelden van beveiligingscamera’s vergelijken met de foto’s van Clearview. (...)

‘Toen ik de tip over Clearview kreeg, dacht ik onmiddellijk: wacht even, dit gebeurt dus al! Niet in China, maar onder mijn neus in New York.’ (...)

Facebook en Google trokken wél een grens... (...)
We hoeven die bedrijven op dit punt niet te vrezen?
‘Nou, nee. Vergeet niet dat het nog altijd de grote droom van Facebook is om gezichtsherkenning in augmented-realitybrillen te stoppen. Je hebt dan zo’n bril op, loopt over straat en ziet op het glas van je bril informatie geprojecteerd over wat je ziet. Ik verwacht dat die bril er echt wel komt. Facebook heeft altijd al de hele wereld met elkaar willen verbinden en wil dat we dat via hun producten doen. Gezichtsherkenning is daar perfect voor.’ (...)

De voorbeelden zijn soms verbijsterend, zoals de camera’s in de stad Suzhou die mensen volgen die in pyjama over straat gaan, iets wat oudere Chinezen niet raar vinden, maar wat de autoriteiten als aanstootgevend zien. Ambtenaren plaatsen daarna de foto’s van de onverlaten op sociale media, inclusief hun naam. Of, in de VS, de zwarte Amerikaan die ten overstaan van vrouw en kinderen ten onrechte wordt opgepakt en vastgezet vanwege een winkeldiefstal die hij nooit pleegde. De gezichtsherkenningssoftware zat ernaast.

Maar Hill tekent óók op hoe de politie een kindermisbruiknetwerk oprolt en de spin in het web achter de tralies krijgt. Dankzij Clearview. (...)

‘Het is prima dat de politie bij zware verdenkingen toegang heeft tot bepaalde informatie, maar ik wil niet in een wereld leven waar letterlijk iedereen een potentiële verdachte is. Het is een glijdende schaal: voordat je het weet, word je door camera’s in de gaten gehouden omdat je te veel wc-papier gebruikt op een openbaar toilet. Dat is het grote gevaar: steeds meer controle, zoals in China al gebeurt.’ (...)

Kashmir Hill: Je gezicht is nu van ons – Een real-life thriller over een ontwrichtende technologie. Uit het Engels vertaald door Koen Boelens. POM; 344 pagina’s; € 23,50.

Hele artikel

Tags: #nederlands #boeken #privacy #gezichtsherkenning #clearview #facebook #google #surveillance #massasurveillance #surveillance_kapitalisme #algoritme

Big Tech zit op school (en verandert daar de lessen)

Follow the Money

In het onderwijs zit steeds meer technologie. Het klaslokaal is veranderd in een goudmijn voor datahandelaren, maar veel software monitort kinderen nu ook buiten de school. Van de belofte dat de lessen door educatieve software op maat van ieder kind kunnen worden gesneden, komt intussen niet veel terecht. Hoog tijd om onderwijswaarden weer centraal te stellen. (...)

Het succes van educatieve technologie staat of valt immers met het verzamelen van data. En wie ‘data’ zegt, weet dat de datadieven op de loer liggen. Uit een ronduit schrikbarend onderzoek van Human Rights Watch naar 164 edutech-producten blijkt dat het overgrote deel ervan (84 procent!) kinderen tot ver buiten het klaslokaal trackt en monitort – of daartoe op z’n minst de mogelijkheid biedt.

De onderzochte aanbieders delen de persoonlijke gegevens van scholieren met liefst 196 derde partijen (voornamelijk adverteerders), valt uit de analyse van de mensenrechtenorganisatie op te maken. (...)

De opslag en verwerking van privégegevens aan de onzichtbare hand van de markt overlaten, staat al snel op gespannen voet met de bescherming van publieke waarden. Zo hebben scholen de opdracht om de integriteit van hun leerlingen te beschermen. Wie derde partijen laat meegluren met kinderen die worden geacht te leren en te experimenteren – en daarbij hoort misstappen en stommiteiten kunnen begaan of wegen mogen bewandelen zonder uitkomst of duidelijk doel – doet daar afbreuk aan. Het schoolgebouw behoort een veilige ruimte te zijn, afgesloten voor het spiedende oog van anonieme dataverzamelaars. (...)

Een interessante publicatie van Kennisnet, dat scholen adviseert en ondersteunt bij ict-vraagstukken, laat zien dat er veel valt af te dingen op de claims van de makers van oefensoftware.

Dergelijke systemen vergemakkelijken individueel leren, maar dat lijkt vooral de sterke leerlingen ten goede te komen. (...)

Bovendien ligt blikvernauwing op de loer. Door te focussen op meetbare prestaties raakt het sociale aspect van het leerproces – met en van elkaar leren – ondergesneeuwd. (...)

Wie zich laat beheksen door het doelmatigheids- en controlefetisjisme van de tech-industrie vergeet dat onderwijs ook in het teken van algemene vorming staat. Dat wil zeggen: een omgeving die nieuwsgierigheid naar de wereld stimuleert en die kinderen helpt zich voor te bereiden op een leven in de samenleving, inclusief alle ongemakken, grilligheden en onzekerheden die daarbij horen. (...)

De verleiding om eerder een dashboard te raadplegen dan oog te houden voor de subtiliteiten in het klaslokaal – denk aan lichaamstaal, een oogopslag of sociale interactie – is misschien begrijpelijk, maar komt wel met het risico dat de leraar vroeg of laat zélf in een dashboard verandert. Dat wil zeggen: in een onderwijsprofessional die, min of meer op de automatische piloot, zijn zicht op wezens van vlees en bloed laat belemmeren door de uitkomsten van een softwareprogramma. (...)

En zo krijgt de robotisering van het onderwijs, zonder dat er ooit een robot aan te pas komt, langzaam maar zeker gestalte. (...)

Het bijna blinde geloof in datagestuurd onderwijs is het zoveelste voorbeeld van wat criticus Evgeny Morozov ‘technologisch solutionisme’ noemt, de overtuiging dat technologie een kracht is die voor elk probleem een oplossing biedt. En nu komt het: tot op heden is er geen overtuigend bewijs dat digitale innovaties de onderwijskwaliteit verbeteren, zoals ook Kennisnet in de inleiding van het rapport vaststelt. Wat we wel weten, is dat bovenmatig gebruik van digitale media een negatieve invloed heeft op zoiets als begrijpend lezen. (...)

Hele artikel

Leerlingen testen VR-brillen voor afstandsonderwijs, 2022. © ANP / Joris van Gennip

Tags: #nederlands #nederland #onderwijs #big_tech #edutech #data #data_mining #surveillance #mass_surveillance #massasurveilance #surveillance_capitalism #surveillancekapitalisme #profiel #profilering #algoritme #gezichtsherkenningssoftware #gezichtsherkenning

Gezichtsherkenning is het einde van de argeloosheid

Maxim Februari (NRC)

(...) Binnenkort worden foto’s van alle Europeanen toegankelijk voor de Europese autoriteiten om door te spitten met behulp van gezichtsherkenningssoftware. Tot nu toe regelde het Prüm-Besluit, een raadsbesluit van de EU, dat vingerafdrukken, DNA-gegevens en kentekens automatisch mogen worden gedeeld tussen EU-landen. Nu komen daar foto’s van alle burgers bij.

Dat natuurlijk vanwege de strijd tegen terreur. Europese burgers denken nogal eens dat die befaamde ‘war on terror’ van president Bush wordt gevoerd door vreemde mogendheden in verre woestijnen. Het wil nog niet goed doordringen dat we er middenin zitten. De oorlog tegen terreur wordt gevoerd op Europese pleinen en stranden, in Europese straten en velden, op basis van camerabeelden, met alle Europese burgers als verdachten.

Er is geen enkele aandacht voor. Er is geen democratisch debat over gevoerd. (...)

Biometrische identificatie op afstand bedreigt onze fundamentele rechten en vrijheden; en wel zodanig dat ze het bestaan ervan in gevaar kunnen brengen, zeggen de European Data Protection Board en de European Data Protection Supervisor. De voordelen wegen niet op tegen de gevaren, zegt de directeur van Amnesty in Oostenrijk, waar het ministerie van Binnenlandse Zaken heeft toegegeven dat gezichtsherkenning is ingezet bij demonstraties. „We betalen een enorme prijs.”

Welke prijs? Het einde van de anonimiteit. Het einde van de argeloosheid. (...) Zo gauw het Prüm-Besluit eenmaal is aangepast, ben je nooit meer onbespied. Nooit meer. Nooit meer.

Hele artikel

Maxim Februari

Tags: #nederlands #gezichtsherkenning #privacy #prum-besluit #europa #europese_unie #European_Data_Protection_Board #European_Data_Protection_Supervisor #vrijheden #demonstraties #gezichtsherkenningssoftware #terreur #terreurbestrijding