25.10.2023 EU KI-Verordnung noch mangelhaft

Was sollte noch in die KI Verordnung?

Welche Gefahren durch einen leichtsinigen Einsatz von künstlicher Intelligenz (KI) geschehen können, haben wir bereits mehrfach beschrieben. Fatale Folgen fehlerhafter Algorithmen finden sich z.B.in diesem Artikel. Mit einem davon beginnt auch der verlinkte Artikel von netzpolitik.org:

Weil die niederländische Steuerbehörde einen fehlerbehafteten Algorithmus eingesetzt hatte, verlangte sie von mehr als 20.000 Familien zu Unrecht hohe Summen an Kindergeld zurück. Der Fehler stürzte unzählige Familien in Armut, mehr als 1.000 Kinder landeten in Pflegestellen.

Damit so etwas o.ä. nicht passiert wird seit einiger Zeit bei der EU über eine KI Verordnung diskutiert. Nun ist diese Verordnung fast fertig, aber wichtige Stellschrauben fehlen noch immer. Die Forderung von Datenschützern und Netzgemeinde sind u.a.:

• Gesichtserkennung und andere inakzeptable Technologien verbieten,
• Predictive Policing, Emotionserkennungs-KI und Systeme zur biometrischen Kategorisierung dürfen nicht gegen Menschen eingesetzt werden,
• Transparenz: ein KI-Einsatz durch Behörden darf kein Geheimnis sein,
• kein Blankoschein für Missbrauch unter dem Deckmantel „Nationale Sicherheit”,
• keine Schlupflöcher in der Definition von „Hochrisiko“-KI,
• regelmäßige Überprüfung im Betrieb: Systeme zeigen mitunter ihre Risiken erst, wenn sie sich in der konkreten Anwendung befinden.

Mit Stand heute will der Rat der EU ausgerechnet Sicherheits- und Migrationsbehörden von einer Transparenzpflicht befreien und für die „Nationale Sicherheit” wird ein Dechmantel über die geplanten Anwendungen gelegt. Das darf nicht passieren. Deshalb muss das EU Parlament noch einige Arbeit in den bis jetzt vorliegenden Entwurf der KI Verordnung investieren und den Ratsentwurf nicht einfach durchwinken.

Mehr dazu bei https://netzpolitik.org/2023/ki-verordnung-auf-der-zielgeraden-welche-schlupfloecher-die-eu-jetzt-noch-schliessen-muss/
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3wW
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8565-20231025-eu-ki-verordnung-noch-mangelhaft.htm
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8565-20231025-eu-ki-verordnung-noch-mangelhaft.html
Tags: #KIVerordnung #EURat #Algorithmen #künstlicheIntelligenz #KI #AI #Transparenz #Informationsfreiheit #Anonymisierung #Verbraucherdatenschutz #Datenschutz #Datensicherheit #FalsePositives #Seiteneffekte #Nebenwirkungen #Smartphone #Handy #Überwachung #DataMining #Rasterfahndung #Sozialbetrug

14.07.2023 Fatale Folgen fehlerhafter Algorithmen

Krasses Scheitern von "künstlicher Intelligenz"

Kurz vor dem Abschluss der EU-Verordnung zum Umgang mit Künstlicher Intelligenz vor 3 Wochen im Plenum des EU-Parlaments wurden auch eine Reihe von Beispielen bekant, in denen der Einsatz von Algorithmen zur "Steuerung des Gemeinwesens" fatale Folgen für die Betroffenen entwickelt hat.

Bei Heise.de gibt es die ausführlichen Geschichten dazu. In der Kurzfassung:

• Eine holländische Gemeinde möchte zur Argumentation für eine Umgehungsstraße analysieren, welchen reinen Durchgangsverkehr es dort gibt. Das (ungewollte) Ergebnis sind die Smartphones - und damit Menschen - die im Ort das Zentrum einer religösen Minderheit in den Niederlanden besuchen.
• Ein anderer Algorithmus soll die Datensätze aller Bezieher von Sozialzuschüssen systematisch überprüfen. Mehr als 10.000 junge Elternpaare werden des Sozialbetrugs bezichtigt, die Zuschüsse gestrichen und Rückzahlungen gefordert. Die Betroffenen standen vor großen finanziellen Problemen. Trotzdem wurde das Programm fortgeführt bis sich herausstellte, dass der Algorithmus den Faktor der "Doppelstaatsbürgerschaft" viel zu hoch bewertet hatte. Die weitaus meisten Fälle stellten sich als falsche Treffer (False Positives) heraus.
• In Italien wollte man den notorischen Lehrermangel bekämpfen, in dem man dem bisherigen persönlichen Stellenbesetzungsverfahren einen Algorithmus vorschaltete. Die Nebenwirkungen waren verheerend, denn vielen erfahrenen Pädagogen wurden nur Aushilfslehrerstellen angeboten, oder sie wurden sogar plötzlich arbeitslos, weil der Algrithmus abgelehnte Bewerber automatsich als schlecht(er) qualifiziert einstufte.

Verteidiger der Digitalisierung werden argumentieren, dass in allen 3 Fällen die Algorithmen schlecht programmiert waren oder in einem "unpassenden" Kontext angewendet wurden. Also waren in allen Fällen auch Menschen die Schuldigen für die aufgetretenen Fehler.

Das mag stimmen, aber solange uns die "alleinseeligmachende Super-KI" nicht regiert, werden (glücklicherweise) Menschen die Planung und den Einsatz vornehmen. Wie heise.de feststellt, müssen diese mindestens besser ausgebildet werden: "Um fehlerhafte Algorithmen zu identifizieren, braucht es aber spezielle Skills und die sind zurzeit nicht einmal bei Datenschutzbehörden vorhanden."

Es reicht nicht, ein kleines Problem zu analysieren und dafür eine Lösung zu programmieren. In unserer Gesellschaft hängt alles von vielem ab. Schauen wir mal, welche Probleme die KI-Verordnung löst und welche sie vergrößert ...

Mehr dazu bei https://www.heise.de/news/Kuenstliche-Intelligenz-Drei-Beispiele-fuer-das-Scheitern-von-Algorithmen-9205911.html
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3v7
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8459-20230714-fatale-folgen-fehlerhafter-algorithmen.htm
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8459-20230714-fatale-folgen-fehlerhafter-algorithmen.html
Tags: #Algorithmen #künstlicheIntelligenz #KI #AI #Transparenz #Informationsfreiheit #Anonymisierung #Verbraucherdatenschutz #Datenschutz #Datensicherheit #FalsePositives #Seiteneffekte #Nebenwirkungen #Smartphone #Handy #Überwachung #DataMining #Rasterfahndung #Lehrerauswahl #Bewerber #Sozialbetrug
Erstellt: 2023-07-14 07:28:31

heise online

07.09.2021 Süddeutsche Zeitung: Die meisten Hartz-IV-Empfänger sind ehrlich

Eben erst entdeckt. Offenbar war es mal wieder nötig, klarzustellen, daß das Narrativ vom betrügenden Sozialschmarotzer gelogen ist. #HartzIV #Sozialbetrug

Sozialbetrug: Die meisten Hartz-IV-Empfänger sind ehrlich

Hartz IV: Wie oft zahlen Jobcenter zu viel Geld aus? Die Bundesregierung hat Zahlen vorgelegt.

28.07.2021 Drohne soll Sozialleistungsbetrug aufdecken

Auch Versammlungen können überwacht werden

Nein, es ist leider nicht der 1. April. Das Bundeskriminalamt (BKA) hat wirklich eine Drohne beschafft, um "bandenmäßig strukturierte Tätergruppierungen" beim Erschleichen von Sozialleistungen zu überführen. Bezahlt wurde die Anschaffung vom den EU-Fonds für Innere Sicherheit und der Zweck des Gerätes ist demnach die Verfolgung von "Sozialleistungsbetrug durch Unionsbürger" in Nordrhein-Westfalen.

Welches Gerät angeschafft wurde, will das Bundesministerium allerdings schon nicht mehr verraten. Warum gerade beim "Sozialbetrug" diese Geheimhaltung existiert ist seltsam, denn über die 106 Quadrokopter der Polizei zur Beweissicherung nach schweren Straftaten oder Verkehrsunfällen wurde ausführlich berichtet.

Eventuell soll die Drohne die "Kommission Organisierte Kriminalität" (KOK) von BKA, der Bundespolizei, dem Zoll und verschiedenen Landeskriminalämtern angehören. Auf parlamentarische Anfragen von Bundestagsabgeordneten gab es dazu keine hilfreichen Anworten. Der Einsatz von Überwachungsdrohnen ist jedoch nur beim Ausspähnen von offen zugänglichen Arbeitsstätten (Baustellen, Biergärten, Gartenlokale) vortellbar. Ob dabei Menschen ohne Sozialversicherungsabgaben identifizierbar wären, ist unklar.

Nach Abschluss des EU-Förderprojekts gehen die Geräte in den Bestand der jeweiligen Polizeibehörden über und können künftig nach den (teilweise noch geplanten) neuen Versammlungsgesetzen auch im Rahmen von Demonstrationen und Kundgebungen eingesetzt werden.

Mehr dazu bei https://www.heise.de/tp/features/NRW-Polizei-setzt-Drohne-gegen-Sozialleistungsbetrug-ein-6147742.html
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/7718-20210728-drohne-soll-sozialleistungsbetrug-aufdecken.htm
Link im Tor-Netzwerk: nnksciarbrfsg3ud.onion/de/articles/7718-20210728-drohne-soll-sozialleistungsbetrug-aufdecken.htm
Tags: #BKA #Drohne #EU #NRW #Lauschangriff #Überwachung #Videoüberwachung #Rasterfahndung #Unschuldsvermutung #Verhaltensänderung #Grundrechte #Sozialbetrug #OrganisierteKriminalität #Transparenz #Informationsfreiheit

NRW-Polizei setzt Drohne gegen Sozialleistungsbetrug ein

Neben Bayern gehört Nordrhein-Westfalen zu den Vorreitern beim Einsatz von Polizeidrohnen. Nun werden damit beim Jobcenter erschlichene Leistungen verfolgt