Ob wir eine Wohnung suchen oder einen Job, wenn wir auf den sozialen Plattformen unterwegs sind: Immer spielt KI eine wichtige Rolle. Doch Algorithmen von Menschen programmiert, spiegeln auch deren Vorurteile wider und sind deshalb oft diskriminierend.
"Sehr oft wird Technik entwickelt, die dann diejenigen, die ohnehin schon sozial schwach sind, noch stärker belastet", erklärt Sandra Wachter, die sich an der Universität Oxford mit den rechtlichen und ethischen Folgen der künstlichen Intelligenz auseinandersetzt. Die Betroffenen wissen jedoch häufig nicht, dass sie Opfer von Diskriminierung werden und können sich daher nicht zur Wehr setzen. Frauen bemerken zum Beispiel nicht, dass sie bei der Kreditvergabe benachteiligt werden, dass sogenannte Symptom-Checker-Apps ihre Krankheitssymptome falsch deuten und deshalb im Ernstfall lebensgefährdend sein können. Schwarze Menschen werden von Gesichtserkennungssoftware schlechter wahrgenommen, übergewichtige Frauen wundern sich, dass ihr Content auf sozialen Plattformen weniger ausgespielt oder sogar gesperrt wird.
"ZDFzoom" spricht in der ersten Folge von "Digital Empire" mit Experten und Betroffenen über das Thema "Diskriminierung durch künstliche Intelligenz". Es geht dabei nicht nur um Verzerrungen in Datensätzen, unethische Technik und fehlende Diversität in der IT-Branche. Es geht auch um die Verantwortung von Wirtschaft und Politik, für Fairness und Gerechtigkeit in der digitalen Welt zu sorgen.