27.10.2024 KI-generiertes mit Wasserzeichen kennzeichnen

SynthID soll Open Source werden

Das ist eine Forderung, die das KI-Gesetz der Europäischen Union nach dem Ende der Übergangsfrist am 2. August 2026 von Anbietern verlangt. Diese Kennzeichnung darf auch nicht irgendwo versteckt angebracht werden, sondern soll dann maschinenlesbar sein. Über den dafür notwendigen Standard muss allerdings noch entschieden werden.

Dass dies unbedingt notwendig ist, hatte eine länderübergreifende Studie des CISPA, des Helmholtz-Zentrum für Informationssicherheit in Zusammenarbeit, mit mehreren deutschen Universitäten im Mai 2024 festgestellt.

Zeit.de zitiert aus der Studie: "KI-generierte Bilder, Texte und Audiodateien sind so überzeugend, dass Menschen diese nicht mehr von menschengemachten Inhalten unterscheiden können." Mehr als 3000 Menschen waren nicht in der Lage Inhalte der KI-Programme ChatGPT oder Midjourney von "echten" Webinhalten zu unterscheiden.

Die Google-Tochter DeepMind ermöglicht bereits seit August 2023 die Verwendung eines Wasserzeichens in KI-generierten Bildern mit einem Verfahren namens SynthID. Auch für die Texterstellung mit dem Sprachmodell Gemini ist SynthID inzwischen verfügbar. Google hat nun angekündigt SynthID ab sofort kostenlos und als Open-Source-Anwendung für Entwickler und Unternehmen anzubieten.

Damit ist wieder einer der großen Internetkonzerne schneller mit der "Standardsetzung" als die Politik ...

Mehr dazu bei https://www.zeit.de/digital/internet/2024-10/ki-generierte-medien-fotos-texte-identifikation-wasserzeichen
Kategorie[21]: Unsere Themen in der Presse Short-Link dieser Seite: a-fsa.de/d/3Dv
Link zu dieser Seite: https://www.aktion-freiheitstattangst.org/de/articles/8946-20241027-ki-generiertes-mit-wasserzeichen-kennzeichnen.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/8946-20241027-ki-generiertes-mit-wasserzeichen-kennzeichnen.html
Tags: #KI-Act #AI #künstlicheIntelligenz #Wasserzeichen #Kennzeichnung #EU #Studie #Abhängigkeit #Google #SynthID #Ununterscheidbarkeit #FakeNews