Follow the Money
Volgens bijzonder hoogleraar digitale surveillance Marc Schuilenburg hebben wij geen geheimen meer. Bij alles wat we doen kijkt er wel iets of iemand mee die onze gangen registreert. We weten het, maar doen er gewoon aan mee. Zo diep zit digitale surveillance in de haarvaten van onze samenleving: ‘We herkennen het vaak niet eens meer.’ (...)
(Tekst loopt door onder de foto.)
Marc Schuilenburg
Na zijn aanstelling als hoogleraar digitale surveillance aan de Erasmus Universiteit besloot hij zich op de beantwoording van die vraag te storten. Daarbij gaat zijn bijzondere aandacht uit naar de impact van digitale surveillance-middelen, zoals intelligente camera’s, algoritmes en artificial intelligence (AI) op onze samenleving.
Deze week verscheen zijn boek: Making Surveillance Public. Daarin stelt hij dat door de opkomst van deze technologieën, overheden en opsporingsdiensten onze levens op ongekende schaal kunnen monitoren, terwijl er nauwelijks iets bekend is over de manieren waarop dit gebeurt en welke gevolgen dit heeft voor de rechten en vrijheden van burgers. (...)
Hij beperkt zich daarbij overigens niet tot de publieke sector. Techreuzen als Tesla, Amazon en Apple weten dankzij onze auto's, deurbellen en horloges zo mogelijk namelijk nog meer over ons.
De grenzen tussen publiek en privaat vervagen bovendien, stelt Schuilenburg, doordat dergelijke bedrijven zich met hun producten steeds vaker in het (publieke) veiligheidsdomein begeven. Ook de politie maakt gretig gebruik van de data die zij verzamelen. (...)
Er ontstaat een vernetwerking van data, zegt Schuilenburg. De samenleving verandert in een digitaal ‘superpanopticon’, waarbij we van alle kanten bekeken worden zonder dat we nog weten door wie en hoe: ‘Vergeet de surveillance-staat, we leven in een surveillance-maatschappij’. (...)
‘De gevaren van particuliere surveillance worden schromelijk onderschat. De data die wordt verzameld via intelligente koelkasten, slimme deurbellen en activiteitstrackers en dergelijke maakt je privéleven inzichtelijk voor derden die met die informatie doen wat ze willen. Doorverkopen aan adverteerders, gebruiken om profielen op te bouwen van jou en je omgeving: het gebeurt, zonder enige vorm van controle.
Dat gebruik van die data leidt tot stigmatisering. Dat zie je bij de route-navigatie-app Waze. In sommige landen geeft die aan of hij een bepaalde buurt veilig vindt of niet. (...)
Uiteindelijk zie je bij private surveillance zo dezelfde problemen ontstaan als we kennen van surveillance door de overheid en de politie. Ook in Nederland. Op basis van ondoorzichtige datasets en algoritmes worden bepaalde groepen mensen zonder het te weten benadeeld, uitgesloten of gediscrimineerd.’ (...)
‘Amazon verkoopt sinds 2018 de Ring-videodeurbel, waarmee je op je telefoon kunt zien wie er bij je op de stoep staat. Wereldwijd zijn miljoenen exemplaren verkocht. Tegelijkertijd werkt Amazon in de VS aan een eigen watchlist. Dat is een database met profielen van personen waarvan Amazon zelf denkt dat die mogelijk een bedreiging zijn. Als zo iemand vervolgens bij jou voor de deur staat en door de gezichtsherkenningssoftware in je Ring-deurbel wordt geïdentificeerd, gaat er automatisch een alarm af.
Amazon maakt dus zelfstandig een inschatting of iemand zich mogelijk schuldig zou kunnen maken aan een strafbaar feit, terwijl niet duidelijk is waar dat op is gebaseerd en hoe die technologie werkt. Dan ga je op de stoel van de politie zitten. En Amazon is niet het enige bedrijf dat dit doet. Tesla is inmiddels ook bezig met zo’n lijst.’ (...)
De data die particuliere partijen verzamelen, vindt namelijk ook op allerlei manieren zijn weg naar opsporingsdiensten. In Nederland heeft de politie inmiddels toegang tot tienduizenden videodeurbellen. Dat is een heel nieuw surveillancenetwerk van ongekende schaal dat de politie ineens ter beschikking heeft. (...)
Uw boek toont aan dat de natuurlijke volgorde voor surveillance is omgedraaid. Vroeger was er eerst een verdenking, waarna er werd gesurveilleerd. Nu is er alom surveillance en wordt vervolgens met AI-tools gezocht naar verdachte feiten. (...)
Wat zijn daar de risico’s van?
‘Dat de mens achter de data verloren gaat. Terwijl het behouden van die menselijkheid van ongekend belang is, juist voor overheden en grote bedrijven. Veel unieke eigenschappen die ons mens maken, zoals je ervaringen, emoties en intuïtie, kunnen bijna niet in data worden omgezet. Dat zal altijd een blind spot van AI blijven, terwijl die eigenschappen heel veel kunnen zeggen over wat het betekent om mens te zijn. (...)
Het gevaar is dat er een AI-mateloosheid is ontstaan, waarbij steeds meer surveillancemiddelen worden gebruikt, zonder dat goed wordt gekeken hoe effectief die zijn en wat het effect is op de rechten van burgers, of de rechtsstaat in het algemeen.
Daarbij gaat het gebruik van AI en zelflerende algoritmes vaak ten koste van de transparantie en de mate waarin politie en overheden in staat zijn verantwoording af te leggen over hun handelen. Instanties begrijpen de tools die ze gebruiken vaak zelf ook niet helemaal. Maar als een overheid niet kan uitleggen hoe zij tot beslissingen of een verdenking komt, heb je als samenleving een groot probleem.’ (...)
Als u de balans opmaakt tussen wat het gebruik van AI-gedreven en algoritmische surveillance-middelen door de politie ons opleveren en ons kosten, in de zin van rechten en waarden. Is die uitruil het dan waard?
‘Nee. Dat komt ook omdat Nederland echt al behoorlijk veilig is. Dus de winst die we behalen, als die er al is, weegt voor mij niet op tegen de nadelen.
Maar belangrijker is dat er onvoldoende democratische controle op deze middelen is, terwijl fundamentele rechten en rechtsstatelijke waarden als het recht op privacy en gelijke behandeling niet goed zijn geborgd.’ (...)
We zijn allemaal gevoelig voor de veiligheidsparadox: hoe minder criminaliteit er is, hoe hysterischer we het resterende stukje onveiligheid willen aanpakken. Dat is precies wat hier speelt en wat je ook terugziet in die behoefte aan luxury surveillance.
We hebben er als maatschappij meer aan als we inzetten op de zorgende kant van AI. (...)
Hele artikel
Tags: #nederlands #boeken #surveillance #massasurveilance #surveillancekapitalisme #tesla #amazon #ring #apple #controlemaatschappij #veiligheid #schijnveiligheid #algoritme #profilering #discriminatie #misdaad #criminaliteit
