#zingeving

berternste2@diasp.nl

Artificial intelligence is niet intelligent

NRC

Kunstmatige intelligentie - De chatbot zelf is niet gevaarlijk, schrijft Vincent Icke. De baas ervan des te meer. (...)

De AI zoals die wordt ontwikkeld door Big Tech is een brutale manier om klanten uit te buiten. (...)

(Tekst loopt door onder de foto.)

Foto van schaakpartij tegen computer
Schaakkampioen Garry Kasparov verloor in 1997 een wedstrijd schaken tegen een IBM-supercomputer. Foto Peter Morgan / Reuters.

Een besluit berust op overweging, en AI overweegt niets: het speurt in bergen gegevens naar patronen. Je kunt zo’n patroon gebruiken voor verdere studie, en op grond daarvan een besluit nemen of advies geven, maar dat is iets anders dan een zelfstandige beslissing van een algoritme. (...)

De overeenkomst tussen het vallen van een appel en de beweging van de maan zou geen AI-algoritme ooit zijn opgevallen, maar Newton wel. (...)

Dat AI geen intelligentie is, blijkt ook uit het feit dat er met het systeem geen communicatie mogelijk is. Met een echte intelligentie kun je in discussie, zelfs (tot op zekere hoogte) als het een cavia betreft. Met een algoritme kan dat niet: daaraan moet je je onderwerpen of het zijn plaats wijzen. (...)

Als AI iets oplevert, is meestal niet te achterhalen hoe die uitkomst is verkregen. De betrouwbaarheid van dat resultaat is dus nauwelijks te bepalen. (...)

Om echt iets te begrijpen is AI nutteloos en soms zelfs tegenproductief, maar het kan wel bijzonder gevaarlijk zijn, getuige de verwoestende invloed van AI op sociale media (er zijn zeer strikte wetten en regels voor het omgaan met explosieven, maar niet voor AI-algoritmen). Ironisch genoeg is dat een koekje van eigen deeg, want die AI is ‘getraind’ met onze vooroordelen, blinde vlekken en talloze andere tekortkomingen. Omdat er verder geen moreel of analytisch besef in zit, is AI bovendien nog beperkter dan wijzelf. (...)

De chatbot is nauwelijks gevaarlijk, maar de baas ervan des te meer: zoals Big Tech, Poetins huurlingen, of de minions van de Communistische Partij van China.

„Waar het om draait is: wie is de baas – dat is alles.” Dat zei Humpty Dumpty in Alice in Wonderland, een product van zoveel intelligentie dat het nooit door een chatbot zal worden geschreven, al zou het algoritme draaien op ’s werelds snelste supercomputer.

Hele artikel

> Zie ook: Het tomeloze technologische vooruitgangsoptimisme (NRC)

Tags: #nederlands #technologie #vooruitgangsgeloof #ai #artificial_intelligence #kunstmatige_intelligentie #chatgpt #democratie #gemeenschap #big_tech #monopolie #klimaat #klimaatcrisis #zingeving #vooroordelen

berternste2@diasp.nl

Het tomeloze technologische vooruitgangsoptimisme

Beatrice de Graaf (NRC)

Kunstmatige intelligentie wordt met veel te veel optimisme gepresenteerd, vindt Beatrice de Graaf. Er is geen tijd meer voor reflectie. (...)

Onlangs hief de ceo van OpenAI, Sam Altman, weer een loflied aan op de transitie naar een volledig AI-geleide wereld. Iedereen zou ervan profiteren. (...)

AI is onstuitbaar. En AI brengt ons reeds tal van voordelen. (...) Maar dat is niet het punt. Want we leven niet bij statistieken en generalisaties alleen.

Het echte, grote probleem met uitlatingen zoals die van Altman, en het tomeloze vooruitgangsoptimisme dat eruit spreekt, wordt te weinig benoemd. Dat is dat het de geschiedenis van de mensheid ontkent. En wel op drie manieren.

(Tekst loopt door onder de foto.)

foto van Beatrice de Graaf
Beatrice de Graaf

Ten eerste gaan de ontwikkelingen zo snel, en worden ze door mensen als Altman bewust met die onstuimigheid voortgedreven, dat er geen tijd en ruimte meer is voor reflectie. (...)

Anderen dan ik hebben reeds veel beter en overtuigender uitgelegd dat de grootste fouten van AI al in het design worden gemaakt. Daarop qua tijd of regulering bezuinigen en bochtjes afsnijden, levert later grote ellende op (het ‘Jurassic-park-argument’).

Ten tweede is er noch sprake van een vrije markt waarin eerlijk wordt geconcurreerd om de beste toepassingen, noch is er sprake van een vrije deliberatieve ruimte om hier open en zonder last of ruggenspraak afwegingen over te kunnen maken. Jürgen Habermas legt dat in zijn laatste boek, Ein neuer Strukturwandel der Öffentlichkeit (2022), haarfijn en messcherp uit. (...)

Ten derde kan ChatGPT nog zoveel kennis over de geschiedenis formuleren, de inzichten uit die geschiedenis kan het niet zelf ter harte nemen. Moraal en zingeving zijn zaken die we niet aan markt of machine moeten overlaten. Dat is iets van de gemeenschap als geheel. Die moet erkennen dat monopoliemacht corrumpeert. Dat de publieke zaak is gediend bij meer dan alleen vooruitgang en groei. Dat het klimaat ook een stem heeft. En dat technologische vooruitgang zonder democratische en sociale checks and balances ongelijkheid en vervreemding vergroot. (...)

De VN riep twee jaar geleden al op tot een moratorium op verkoop en gebruik van AI-systemen totdat er voldoende juridische en democratische waarborgen zijn ingevoerd. Wat is daarvan terechtgekomen? (...)

Hele artikel

Tags: #nederlands #technologie #vooruitgangsgeloof #ai #artificial_intelligence #kunstmatige_intelligentie #chatgpt #democratie #gemeenschap #big_tech #monopolie #klimaat #klimaatcrisis #zingeving