15.03.2024 Erste KI Verordnung der Welt

Regelungen zur Einschränkung von Überwachung völlig unzureichend

Die EU hat es nun doch noch geschafft, die KI Verordnung zu beschließen. Bis zuletzt stand ein beschlussfähiges Ergebnis auf der Kippe, denn wie wir berichtet hatten, hatten Deutschland und Frankreich plötzlich Bedenken, die "europäische KI Entwicklung einzuschränken". (KI-Act droht zu scheitern)

Wie bei der EU üblich, sollen wir nun mit einem Kompromiss leben, der vieles anspricht, aber nur wenig regelt. Schauen wir uns die Ergebnisse genauer an.

• Verboten wird der Einsatz von KI
• bei der Gefühlserkennung,
• für Social Credit Systeme.
• Eine Kennzeichnung wird vorgeschrieben für KI Anwendungen
• die Texte oder
• Bilder generieren.
• Für sogenannte "Hochrisikotechnologien" werden "Auflagen" gemacht, das sind
• die Gesichtserkennung,
• das autonome Fahren,
• medizinische Diagnosen und
• das Personal-Recruiting.

Der Fehler im System

... springt uns direkt ins Gesicht. Warum werden ausgerechnet für "Hochrisikotechnologien" Ausnahmen gemacht. Diese sollte am besten ganz verboten oder zumindest so stark reguliert werden, dass niemand durch sie Schaden erleiden kann - beim autonomen Fahren ist das Lebensgefahr, wie schon einige Vorfälle gezeigt haben. Gerade die Gesichtserkennung war ein grundsätzlicher Diskussionspunkt zwischen Parlament und Kommission und die Vertreter des Staates haben sich wieder einmal durchgesetzt. Biometrische Gesichtserkennung soll in "Gefahrenlagen" unter richterlicher Aufsicht möglich sein.

Welche regulatorische "Steuerung" dann künftig verhindern soll, dass KI-Algorithmen unsere Zwangs-ePA (elektronische Patientenakte) aufhübscht steht völlig in den Sternen. Wie man regulieren will, dass nicht eine KI, sondern ein Mensch künftig die Bewerbungsunterlagen von nicht-weißen Männern und Frauen gleich aussortiert, wird auch noch interessant. Fazit bleibt, dass dieser erste Aufschlag der EU eigentlich kein Problem löst, das wir uns mit dem Einsatz von KI geschaffen haben.

Wie wenig praxistauglich die Verordnung ist, zeigt ja schon der "Skandal" um das Foto der britischen Prinzessin Kate, die ihr Foto wohl mit den (wenigen und harmlosen) KI-Tools von Adobe Photoshop bearbeiten ließ - und es nicht so gekennzeichnet hat. Dazu müsste ja jedes Programm sagen, dass es KI-Software enthält und das würde wieder erfordern, dass der Begriff KI erst einmal eindeutig definiert wird.

Statt die Fehler der Verordnung im Kleinen zu suchen, sind die grundrechtlichen Kritiken ernst zu nehmen. Dazu zitieren wir Marius Tudor, ehemaliger Berater des Europäischen Parlaments, der feststellt: "Dieses Gesetz schränkt den Zugang zum Arbeitsplatz und/oder zu privaten/öffentlichen Räumen durch die Verwendung der Fernidentifizierung von Bürgern ein. Ein Gesetz, das nicht in die europäische Gesetzgebung gehört, zumindest nicht in dieser Form, und das dennoch umgesetzt wird und mehr Schaden als Nutzen anrichtet."

Seine Kritik an der Verordnung über künstliche Intelligenz sieht einen Verstoß gegen Artikel 16 des Vertrags über die Arbeitsweise der Europäischen Union,

• in dem das Recht auf Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten verankert ist,
• sowie gegen das Grundrecht auf Schutz personenbezogener Daten, das insbesondere durch die Verordnungen (EU) 2016/679 und (EU) 2018/1725
• sowie die Richtlinien 2016/680 und 2002/58/EG geschützt wird.
• Dieses Gesetz verstößt gegen die Richtlinie 2000/43/EG des Rates zur Anwendung des Gleichbehandlungsgrundsatzes ohne Unterschied der Rasse oder der ethnischen Herkunft und
• gegen die Richtlinie 2000/78/EG des Rates zur Festlegung eines allgemeinen Rahmens für die Verwirklichung der Gleichbehandlung in Beschäftigung und Beruf.
• Ferner verstößt das Gesetz gegen den Vertrag über die Arbeitsweise der Europäischen Union, der Diskriminierungen aus Gründen der Staatsangehörigkeit, der ethnischen Herkunft, des Geschlechts, des Alters, der sozialen Stellung oder der körperlichen Merkmale verbietet,
  • sowie gegen die Grundprinzipien der Freiheit und Gleichheit, auf denen die EU beruht.

Nun muss die jetzt beschlossene Verordnung erst einmal in den Mitgliedsstaaten ankommen und dabei ist noch mit weiteren Verwässerungen zu rechnen. Wir werden das Thema weiter verfolgen ...

Mehr dazu bei https://www.ardmediathek.de/video/wirtschaft-vor-acht/wirtschaft-vor-acht/das-erste/Y3JpZDovL2Rhc2Vyc3RlLmRlL3dpcnRzY2hhZnQgdm9yIGFjaHQvMjAyNC0wMy0xNF8xOS01NS1NRVo
und https://uncutnews.ch/das-europaeische-parlament-fuehrt-die-totale-kontrolle-der-buerger-durch-die-hintertuer-ein-biometrische-diktatur-nach-chinesischem-vorbild/
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3zw
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8714-20240315-erste-ki-verordnung-der-welt.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8714-20240315-erste-ki-verordnung-der-welt.html
Tags: #KIAct #EURat #Trilog #Algorithmen #künstlicheIntelligenz #KI #AI #Transparenz #Gesichtserkennung #Fernerkennung #autonomeKfz #Anonymisierung #Verbraucherdatenschutz #Datenschutz #Datensicherheit #FalsePositives #Bewerbungen #Nebenwirkungen #Diskiminierung #Überwachung #DataMining #Diagnosen

###09.12.2023 Rahmen für KI-Act steht
Grundzüge können noch aufgeweicht werden

Nach 38 Stunden haben sich die Unterhändler von Europaparlament und EU-Staaten nun auf Grundzüge des "AI Act" geeinigt. Würde es in diesem Tempo weitergehen, dann hätte die EU als erste auf der Welt eine Regelung zur künstlichen Intelligenz vorgelegt. Die ebenfalls laufende Diskussion in den USA steckt noch in den Anfängen und ist - wie üblich - viel offener gegenüber den Wünschen der entsprechenden Lobby.

Positiv und negativ

Den vorliegenden Rahmen zu bewerten ist noch nicht endgültig möglich, weil in den weiteren Verhandlungen noch viele erreichte Punkte durch Formulierungen aufgeweicht werden können. Relativ fest stehen bislang folgende Punkte

• Die Entwickler müssen die Qualität der für die Entwicklung der Algorithmen verwendeten Daten gewährleisten und sicherstellen.
• Die KI-Entwicklung darf keine Urheberrechte verletzen.
• Durch Künstliche Intelligenz geschaffene Texte, Bilder und Töne müssen entsprechend markiert werden.
• Die Regeln für biometrische Gesichtserkennung durch KI, die eigentlich völlig verboten werden sollte, kann zu Zwecken der nationalen Sicherheit eingesetzt werden. Auch wenn sich dies auf "konkrete Bedrohungen" beschränkt wissen, wir, dass solche Regelungen künftig verallgemeintert werden können.
• Für "risikoreiche" Anwendungen, etwa bei kritischer Infrastruktur, Sicherheitsbehörden und öffentlicher Personalverwaltung sollen "verschärfte Regelungen" gelten.

Vor 3 Wochen berichteten wir über die Vorbehalte von Deutschland und Frankreich gegen die Vorschläge zum KI-Act. Beide Länder hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. In den sogenannten Basismodelle, wie z.B. Chat-GPT, steckt die Wissensbasis und diese möchten die beiden Länder nicht aus Europa vertreiben. Auch Digital- und Verkehrsminister Volker Wissing appelliert, wie tagesschau.de schreibt, an die EU, international abgestimmt vorzugehen und "keinen Alleingang" zu wagen. So gibt es Befürchtungen, Start-Up-Unternehmen wie Aleph Alpha aus Deutschland und Mistral AI in Frankreich könnten in ihrer Entwicklung behindert werden.

Bei diesen Randgefechten verschwinden oft die für die Privatsphäre des Einzelnen wichtigen Punkte, wie die nun doch erlaubte Nutzung biometrischer Gesichtserkennung oder die Verwendung von KI bei Ermittlungen in Sicherheitsbehörden. Wir werden die Diskussion weiter beobachten ...

Mehr dazu bei https://www.spiegel.de/netzwelt/netzpolitik/ai-act-eu-erzielt-einigung-auf-regeln-fuer-kuenstliche-intelligenz-a-54d0ff03-d275-4c3a-b1b9-c491a0a258cd
und https://www.tagesschau.de/ausland/europa/eu-kuenstliche-intelligenz-regulierung-100.html
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3xL
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8613-20231209-rahmen-fuer-ki-act-steht.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8613-20231209-rahmen-fuer-ki-act-steht.html
Tags: #KIAct #EURat #Trilog #Algorithmen #künstlicheIntelligenz #KI #AI #Transparenz #Informationsfreiheit #Anonymisierung #Verbraucherdatenschutz #Datenschutz #Datensicherheit #FalsePositives #Seiteneffekte #Nebenwirkungen #Diskiminierung #Überwachung #DataMining #Rasterfahndung

18.11.2023 KI-Act droht zu scheitern

Frankreich und Deutschland gegen strikte Regulierung

Eigentlich war man sich einig, dass die Regulierung künstlicher Intelligenz (KI) durch eine EU Verordnung (KI-Act) noch vor den Europawahlen im nächsten Jahr verabschiedet werden sollte. Nun stecken die Vorgespräche, die sogeannten Trilog Verhandlungen zwischen Rat, Parlament und Komission in einer Sackgasse.

Heise.de schreibt: Hauptstreitpunkt ist die Regulierung von "General Purpose AI Models" – also großen Sprachmodellen wie Llama 2 oder GPT-4, weil sich Frankreich und Deutschland dagegen ausprechen. Das ursprüngliche Ziel war

• hochgefährliche Anwendungen, wie zum Beispiel Echtzeit-Biometrie, werden komplett verboten,
• Hochrisiko-Anwendungen, wo die KI in medizinische Bereiche, in die Justiz oder Strafverfolgung eingreifen, werden streng reguliert,
• andere nur ab und an kontrolliert.

Nun sprechen sich Frankreich und Deutschland dagegen aus die besonders "mächtigen" Sprachmodelle mit Audits durch eine noch zu schaffende EU-Behörde zu überwachen und zu regulieren. Die Befürchtung ist, dass solche Regulierungen innovative Start-ups abwürgen könnten. Dabei ging es bisher eher um die "Großen" - und bei den Großen ist eher zu befürchten, dass die "zu schaffende neue Behörde" von der Macht dieser Großen einfach eingewickelt und die Kontrolle zu einem bloßen Schaulaufen wird.

Wenn es nun bis zur Europawahl nichts wird, sollte man die Zeit nutzen, um die Risiken genauer zu spezifizieren. Dazu gehören neben Datenschutz, rechtlichen, Haftungs- und Copyright Fragen auch die unerträglichen Arbeitsbedingungen der Menschen die die KI trainieren, der immense Stromverbrauch der KI. Fragen der Diskriminierung von Frauen und Menschen, die nicht weiß sind, sind bekannt aber noch längst ist nicht klar, wie sie gelöst werden können.

Mehr dazu bei https://www.heise.de/hintergrund/AI-Act-KI-Gesetz-der-EU-droht-zu-kippen-9531914.html
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3xn
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8590-20231118-ki-act-droht-zu-scheitern.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8590-20231118-ki-act-droht-zu-scheitern.html
Tags: #KIAct #EURat #Trilog #Algorithmen #künstlicheIntelligenz #KI #AI #Transparenz #Informationsfreiheit #Anonymisierung #Verbraucherdatenschutz #Datenschutz #Datensicherheit #FalsePositives #Seiteneffekte #Nebenwirkungen #Diskiminierung #Überwachung #DataMining #Rasterfahndung

18.09.2022 EU-Gesetz zum Schutz der Medienfreiheit

The Media Freedom Act

Daniel Freund, Mitglied des Europäischen Parlaments für die Grünen (be-)schreibt uns, was mit dem Media Freedom Act der EU auf uns zu kommen soll.

Letzten Dienstag, 13. September hat die EU-Kommission ihren Vorschlag für ein neues Gesetz zum Schutz der Medienfreiheit in der EU vorgelegt. Im Innenausschuss (LIBE) werde ich diesen Bericht im Namen der Grünen Fraktion verhandeln. Was ist von dem "European Media Freedom Act" zu erwarten?

Das Wichtigste auf einen Blick: Was wird enthalten sein?

• Überwachung der Medienkonzentration: Die Konzentration von Medienbesitz ist eine der größten Bedrohungen für die Medienvielfalt. Die Kommission will deshalb einen Medienpluralismus-Test einführen, der bei Fusionen von Medienunternehmen angewendet werden soll. Dieser Test soll jedoch von der zuständigen nationalen Behörde des betreffenden Mitgliedstaates durchgeführt werden. Ein neu geschaffener "Europäischer Rat für Mediendienste" soll lediglich eine nicht bindende Stellungnahme abgeben können.
• Transparenz der Medieneigentümerschaft: Medienunternehmen haben einen erheblichen Einfluss auf die öffentliche Meinung. Aus diesem Grund möchte die Kommission die Medienunternehmen verpflichten, Informationen darüber zu veröffentlichen, wem sie direkt oder indirekt gehören.
• Transparenz der staatlichen Werbung: Öffentlich finanzierte Medienwerbung darf nicht zu einer staatlichen Beihilfe für regierungsnahe Medien werden. Die Kommission will für mehr Transparenz bei der Verteilung öffentlicher (EU-)Mittel an die Medien sorgen. Die nationalen Behörden müssen jährlich veröffentlichen, wie viel Geld sie für Werbung in welchen Mediendiensten ausgegeben haben.
• Rechenschaftspflicht der großen Online-Plattformanbieter: Sehr große Online-Plattformen (Facebook usw.) sind für viele Nutzer das Tor zu Mediendiensten. Sie sollen ausführlich begründen, wenn sie bestimmte Inhalte von Mediendiensteanbietern auf ihrer Plattform einschränken oder löschen wollen.
• Schutz vor Überwachung: Nach dem jüngsten Pegasus-Spionageskandal in mehreren Mitgliedstaaten würde das neue Gesetz den nationalen Behörden ausdrücklich verbieten, Journalisten auszuspionieren, was Anwälten in vielen Mitgliedstaaten zum ersten Mal eine gute Grundlage für rechtliche Schritte bietet.

Sind Orbans und Babis' Medienimperien jetzt in Schwierigkeiten?

Bislang hat die Kommission immer behauptet, sie habe keine Handhabe gegen das ungarische Medienkonglomerat KESMA, das von Orbans Kumpanen kontrolliert wird. Mit dem Vorschlag eines Medienpluralismus-Tests will die Kommission sicherstellen, dass ein Konglomerat wie KESMA in Zukunft nicht mehr entstehen kann. Es ist fraglich, ob dies gelingen kann, wenn dieser Test von den nationalen Behörden durchgeführt wird, die möglicherweise bereits unter der Kontrolle der Regierungspartei stehen. Noch wichtiger ist, dass der Test nicht dazu beitragen wird, die bestehenden Probleme der Medienkonzentration zu verringern.

Bislang war es auch für Staatschefs wie Andrej Babis in der Tschechischen Republik oder Silvio Berlusconi in Italien problemlos möglich, gleichzeitig Regierungschef und Anteilseigner zahlreicher Medienunternehmen im Land zu sein. Die Kommission möchte nun, dass Medienunternehmen in Zukunft Informationen über etwaige Interessenkonflikte möglicher Anteilseigner veröffentlichen. Dies wäre zwar eine positive Entwicklung, aber es ist unklar, wie sichergestellt werden soll, dass diese Interessenkonflikte anschließend gelöst werden.

Wie geht es weiter?

Sobald der Kommissionsvorschlag vorliegt, wird das Dossier an die zuständigen EP-Ausschüsse weitergeleitet. Je nach Schwerpunkt des Kommissionsvorschlags werden wahrscheinlich die Ausschüsse für Binnenmarkt (IMCO), Inneres (LIBE) und/oder Kultur (CULT) federführend sein. Auf der Grundlage der Arbeit der zuständigen Ausschüsse wird dann ein parlamentarischer Standpunkt festgelegt. Sobald auch der Rat seinen Standpunkt festgelegt hat, werden die Trilogverhandlungen zwischen Rat und Parlament beginnen.

Es kann also bis zu einer möglichen wirklichen Freiheit der Medien noch dauern ...

Mehr dazu bei https://www.europarl.europa.eu/meps/de/106936/DANIEL_FREUND/home
und https://www.greens-efa.eu/de/person/freund-daniel
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3pK
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8148-20220918-eu-gesetz-zum-schutz-der-medienfreiheit.htm
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8148-20220918-eu-gesetz-zum-schutz-der-medienfreiheit.htm
Tags: #MediaFreedomAct #EU #Kommission #Trilog #Überwachung #Lobbyismus #Medienmacht #Big5 #Internetkonzerne #Werbung #Zensur #Transparenz #Informationsfreiheit #Meinungsmonopol #Meinungsfreiheit #Pressefreiheit #Internetsperren #Netzneutralität #OpenSource #Babis #Orban #Berlusconi
Erstellt: 2022-09-18 07:57:22