Hoe Big Tech en AI het politieke bedrijf én gewone levens binnendringen

NRC (€)

Terwijl overheden technologiebedrijven de vrije hand gaven en vertrouwden op enige mate van zelfregulering, is kunstmatige intelligentie een steeds groter gevaar voor gewone mensen geworden. Twee nieuwe boeken laten zien dat het einde van die ontwikkeling nog niet in zicht is. (...)

(Tekst loopt door onder de foto.)

Een scherm toont de werking van een Quantum AI-beveiligingscamera. Foto Joan Cros/NurPhoto via Getty Images.

Maar nog altijd is de macht van de technologiebedrijven zó groot, stelt [Marietje] Schaake [in haar boek De tech coup] niet als eerste, dat zij een bedreiging vormen voor het democratische gehalte van onze samenlevingen.

Toen vorig jaar voor iedereen duidelijk was dat de snelle ontwikkelingen op het gebied van kunstmatige intelligentie (AI) allerlei risico’s met zich meebrengen, bleken Amerikaanse senatoren opnieuw geen partij voor Silicon Valley. (...)

Veel te lang is algemeen geaccepteerd dat informatietechnologie de wereld alleen maar beter kan maken, betoogt Schaake. Regeringen gaven technologiebedrijven alle ruimte en vertrouwden op vormen van zelfregulering. Maar raden van toezicht, ethische beginselverklaringen en tandeloze visiedocumenten: het leidt allemaal maar af van ‘de overheidstaak om wetten aan te nemen en de handhaving ervan te organiseren’.

De centrale vraag van Schaake’s boek is of democratieën daartoe eigenlijk nog wel in staat zijn, nu zij op zo veel terreinen van de grote technologiebedrijven afhankelijk zijn – van cyberveiligheid en defensie tot de opslag van alle mogelijke data, van communicatie tot onderwijs en gezondheidszorg. (...)

Overtuigend laat Schaake zien hoe de grote technologiebedrijven in feite grootmachten zijn geworden, die rollen op zich hebben genomen die vroeger tot het domein van nationale staten behoorden. (...)

De brede, politieke blik van Schaake op hoe ingrijpend de wereld door internet verandert, vindt een perfecte aanvulling in een ander boek, dat ook onlangs verscheen: In de schaduw van AI, door Madhumita Murgia. Murgia, AI-redacteur van de Financial Times, richt haar blik niet op Silicon Valley en de politiek. Als verslaggever reist ze de wereld over om te onderzoeken hoe de levens van individuele mensen door digitale technologie, en in het bijzonder kunstmatige intelligentie, zijn veranderd – vaak niet, of niet alleen, ten goede.

Dat levert mooie portretten op. (...)

De Iraakse Hiba Hatem Daoud (...) moet om AI te trainen afbeeldingen van een label voorzien: op satellietbeelden aanklikken wat velden, oceanen en steden zijn, bij straattaferelen wat voetgangers, zebrapaden en stoplichten zijn. (...)

Dit soort werk verdoezelt een publiek geheim, schrijft Murgia: dat AI-technologie niet autonoom ‘leert’, zoals gemakshalve vaak wordt gezegd, maar ‘afhankelijk is van de input van miljoenen mensen’. Vaak worden die geworven uit kwetsbare groepen: gemarginaliseerde jongeren, vluchtelingen, alleenstaande moeders, en veelal in delen van de wereld waar ze bereid zijn te werken voor weinig geld. Ze zijn de ‘ondergewaardeerde steunpilaren van de AI-industrie’.

En soms gaat het om extreem zwaar werk, bijvoorbeeld voor de mensen in Kenia die de hele dag voor de grote bedrijven in de VS gruwelijke beelden moeten bekijken, om ze te markeren als ongeschikt voor het trainen van AI. Murgia, geboren en getogen in India, schrijft hier nuchter maar met compassie over. Ze herkent een patroon: datakolonialisme, de exploitatie van kwetsbare gemeenschappen door machtige technologiebedrijven in een rijker deel van de wereld. (...)

Ze vertelt dat er inmiddels honderden gebruiksvriendelijke ‘naakt-apps’ bestaan, waarmee gebruikers foto’s van geklede vrouwen kunnen uploaden, waarna de AI ze ‘uitkleedt’, ofwel hun lichamen vervangt door naakte versies die het algoritme voortbrengt , inclusief borsten en vulva’s. (...)

Bij de verhalen uit In de schaduw van AI is het moeilijk om optimistisch te blijven over de belofte van kunstmatige intelligentie. (...)

Hele artikel

Tags: #nederlands #boeken #big_tech #facebook #meta #google #alphabet #microsoft #amazon #ai #kunstmatige_intelligentie #zelfregulering #overheid #democratie #datakolonialisme