Deutsche Übersetzung
Aufgedeckt: Meta genehmigte politische Anzeigen in Indien, die zu Gewalt aufriefen
Exklusiv: Anzeigen mit KI-manipulierten Bildern wurden Facebook von Bürger- und Unternehmensverbänden vorgelegt
Hannah Ellis-Petersen in Delhi
Der Facebook- und Instagram-Eigentümer #Meta genehmigte während der #Wahlen in #Indien eine Reihe von KI-manipulierten politischen #Anzeigen, die #Desinformationen verbreiteten und zu religiöser #Gewalt aufriefen, wie aus einem Bericht hervorgeht, der dem #Guardian exklusiv vorliegt.
#Facebook genehmigte Anzeigen, die bekannte Verunglimpfungen von Muslimen in #Indien enthielten, wie z. B. "Lasst uns dieses Ungeziefer verbrennen" und "Hindu-Blut wird vergossen, diese Eindringlinge müssen verbrannt werden", sowie hinduistische, rassistische Äußerungen und Desinformationen über politische Führer.
In einer anderen genehmigten Anzeige wurde die Hinrichtung eines Oppositionsführers gefordert, von dem fälschlicherweise behauptet wurde, er wolle "die Hindus aus Indien auslöschen", neben einem Bild einer pakistanischen Flagge.
Die Anzeigen wurden von India Civil Watch International (ICWI) und Ekō, einer Organisation für die Rechenschaftspflicht von Unternehmen, erstellt und an die Meta-Anzeigenbibliothek - die Datenbank aller Anzeigen auf Facebook und Instagram - übermittelt, um die Mechanismen von Meta zur Erkennung und Blockierung politischer Inhalte zu testen, die sich während der sechswöchigen Wahlen in Indien als hetzerisch oder schädlich erweisen könnten.
Dem Bericht zufolge wurden alle Anzeigen "auf der Grundlage realer #Hassreden und Desinformationen erstellt, die in Indien weit verbreitet sind, was die Fähigkeit von #Social-Media-Plattformen unterstreicht, bestehende schädliche Narrative zu verstärken".
Die Anzeigen wurden auf halbem Weg zur Wahl eingereicht, die im April begann und in mehreren Phasen bis zum 1. Juni andauern wird. Die Wahl wird darüber entscheiden, ob Premierminister Narendra #Modi und seine hindunationalistische Bharatiya Janata Party (BJP) für eine dritte Amtszeit an die Macht zurückkehren werden.
Während seiner zehnjährigen Amtszeit hat Modis Regierung eine Hindu-first-Agenda verfolgt, die nach Ansicht von Menschenrechtsgruppen, Aktivisten und Gegnern zu einer verstärkten Verfolgung und Unterdrückung der muslimischen Minderheit Indiens geführt hat.
Bei dieser Wahl wurde der BJP vorgeworfen, mit antimuslimischer Rhetorik und dem Schüren von Ängsten vor Angriffen auf Hindus, die 80 % der Bevölkerung ausmachen, auf Stimmenfang zu gehen.
Bei einer Kundgebung in Rajasthan bezeichnete Modi Muslime als "Eindringlinge", die "mehr Kinder haben", obwohl er später bestritt, dass dies gegen Muslime gerichtet war und sagte, er habe "viele muslimische Freunde".
Die Social-Media-Website X wurde kürzlich angewiesen, ein BJP-Wahlkampfvideo zu entfernen, in dem Muslime dämonisiert werden.
Die Forscher des Berichts reichten 22 Anzeigen in Englisch, Hindi, Bengali, Gujarati und Kannada bei Meta ein, von denen 14 genehmigt wurden. Weitere drei wurden genehmigt, nachdem kleine Änderungen vorgenommen worden waren, die die insgesamt provokative Botschaft nicht veränderten. Nach der Genehmigung wurden sie von den Forschern vor der Veröffentlichung sofort entfernt.
Metas Systeme konnten nicht erkennen, dass alle genehmigten Anzeigen KI-manipulierte Bilder enthielten, obwohl das Unternehmen öffentlich versprochen hatte, dass es "engagiert" verhindern wolle, dass während der Wahlen in Indien KI-generierte oder manipulierte Inhalte auf seinen Plattformen verbreitet werden.
Fünf der Anzeigen wurden abgelehnt, weil sie gegen Metas Gemeinschaftsstandards zu Hassreden und Gewalt verstießen, darunter eine, die Fehlinformationen über Modi enthielt. Aber auch die 14 genehmigten Anzeigen, die größtenteils auf Muslime abzielten, "verstießen gegen Metas eigene Richtlinien zu Hassreden, Mobbing und Belästigung, Fehlinformationen sowie Gewalt und Aufwiegelung", heißt es in dem Bericht.
Maen Hammad, eine Aktivistin von Ekō, warf Meta vor, von der Verbreitung von Hassreden zu profitieren. "Suprematisten, Rassisten und Autokraten wissen, dass sie mit gezielten Anzeigen abscheuliche Hassreden verbreiten, Bilder von brennenden Moscheen teilen und gewalttätige Verschwörungstheorien verbreiten können - und Meta nimmt gerne ihr Geld, ohne Fragen zu stellen", sagte er.
Meta erkannte auch nicht an, dass es sich bei den 14 genehmigten Anzeigen um politische oder wahlkampfbezogene Anzeigen handelte, obwohl viele von ihnen auf politische Parteien und Kandidaten abzielten, die gegen die BJP antraten. Nach den Richtlinien von Meta müssen politische Anzeigen vor der Genehmigung ein spezielles Genehmigungsverfahren durchlaufen, aber nur drei der eingereichten Anzeigen wurden auf dieser Grundlage abgelehnt.
Dies bedeutete, dass diese Anzeigen ungehindert gegen die indischen Wahlvorschriften verstoßen konnten, die vorsehen, dass jegliche politische Werbung und politische Verkaufsförderung in den 48 Stunden vor Beginn und während der Stimmabgabe verboten ist. Diese Anzeigen wurden alle zeitgleich mit zwei Phasen der Stimmabgabe hochgeladen.
Ein Meta-Sprecher erklärte daraufhin, dass Personen, die Anzeigen zu Wahlen oder politischen Themen schalten wollen, "den auf unseren Plattformen erforderlichen Genehmigungsprozess durchlaufen müssen und für die Einhaltung aller geltenden Gesetze verantwortlich sind".
Das Unternehmen fügte hinzu: "Wenn wir Inhalte, einschließlich Werbung, finden, die gegen unsere Gemeinschaftsstandards oder Gemeinschaftsrichtlinien verstoßen, entfernen wir sie, unabhängig von ihrem Erstellungsmechanismus. KI-generierte Inhalte können auch von unserem Netzwerk unabhängiger Faktenprüfer überprüft und bewertet werden - sobald ein Inhalt als "verändert" eingestuft wird, reduzieren wir die Verbreitung des Inhalts. Außerdem verlangen wir von Werbetreibenden weltweit, dass sie offenlegen, wenn sie KI oder digitale Methoden einsetzen, um in bestimmten Fällen eine politische oder soziale Anzeige zu erstellen oder zu verändern."
In einem früheren Bericht von ICWI und Ekō wurde festgestellt, dass "Schattenwerber", die mit politischen Parteien, insbesondere der BJP, verbunden sind, hohe Summen für die Verbreitung nicht genehmigter politischer Werbung auf Plattformen während der indischen Wahlen gezahlt haben. Bei vielen dieser echten Anzeigen wurde festgestellt, dass sie islamfeindliche Tropen und hinduistische Vorherrschaftsnarrative unterstützten. Meta bestritt, dass die meisten dieser Anzeigen gegen ihre Richtlinien verstoßen.
Meta wurde in der Vergangenheit vorgeworfen, die Verbreitung von islamfeindlichen Hassreden, Gewaltaufrufen und antimuslimischen Verschwörungstheorien auf seinen Plattformen in Indien nicht unterbunden zu haben. In einigen Fällen haben Beiträge zu realen Fällen von Ausschreitungen und Lynchmorden geführt.
Nick Clegg, Metas Präsident für globale Angelegenheiten, bezeichnete die Wahlen in Indien kürzlich als "einen großen, großen Test für uns" und sagte, das Unternehmen habe "monatelange Vorbereitungen in Indien getroffen".
Meta hat nach eigenen Angaben sein Netzwerk von lokalen und externen Faktenprüfern auf allen Plattformen ausgebaut und arbeitet in 20 indischen Sprachen.
Hammad sagte, die Ergebnisse des Berichts hätten die Unzulänglichkeiten dieser Mechanismen aufgezeigt. "Diese Wahl hat einmal mehr gezeigt, dass Meta keinen Plan hat, um den erdrutschartigen Anstieg von Hassreden und Desinformationen auf ihrer Plattform während dieser kritischen Wahlen zu bekämpfen", sagte er.
"Sie kann nicht einmal eine Handvoll gewalttätiger KI-generierter Bilder erkennen. Wie können wir ihnen bei Dutzenden von anderen Wahlen weltweit vertrauen?"