- gestern
KI klaut Stimme für Werbung: Vera erzählt, wie sie zum Deepfake-Opfer wurde - und was ihr daraus lernen könnt
Kategorie
🎮️
VideospieleTranskript
00:00Also meine Stimme macht jetzt quasi Werbung für ein Produkt, was ich so niemals unterstützen würde.
00:05Videos erstellen ist ihr Job.
00:07Vera Bauer ist Content-Creatorin.
00:09Sie spricht über Themen aus der Netzwelt und digitale Trends.
00:13Ein Werbeclip auf Instagram.
00:15Komplett gefälscht.
00:16Ihre Stimme geklaut.
00:18Meine Stimme ist dann plötzlich KI generiert.
00:20Sie klingt aber noch wie ich und sagt dann halt einen Werbetext auf.
00:23Ich habe mich ziemlich hilflos gefühlt, weil ich nicht wusste, wo wird das überall gezeigt.
00:30Wer hat das alles schon gesehen?
00:32Wer glaubt jetzt, dass das wirklich ich bin?
00:35Sie geht der Sache nach.
00:37Ja, meine Stimme wurde geklaut.
00:39Und zwar von einer KI-Firma für einen Werbespot.
00:42Mittlerweile dürften das einige Leute mitbekommen haben,
00:45denn ich habe darüber schon in etlichen Medien, Interviews, Podcasts und auch TV-Berichten berichtet.
00:50In diesem Video reden wir darüber, was danach passiert ist,
00:54wie es mit dem dänischen Modell sich verhält und was ein Rechtsanwalt Betroffene rät.
01:01Was ist überhaupt passiert?
01:03Ich bin Ende April diesen Jahres von einem sehr, sehr lieben Follower darauf aufmerksam gemacht worden,
01:09dass es eine Werbeanzeige mit mir gibt, wo ich Werbung für ein Produkt mache.
01:14Bei dem Produkt handelte es sich um eine App, mit der man KI-Bildchen erstellen kann.
01:19Damals gingen zum Beispiel gerade diese Starter-Pack-Bilder oder auch Action-Figuren-Bilder rum.
01:25Also dieser Trend, wo man sich selber als Action-Figur generiert hat,
01:31mit so ein paar Accessoires, die einen beschreiben.
01:33Ich hatte dazu genau zu der Zeit ein Reel, TikTok und auch Short gepostet,
01:39wo ich gesagt habe, ich finde das nicht so cool, wenn man sich daran beteiligt und das veröffentlicht.
01:43An diesem komischen Starter-Pack-Trend kommt man ja in den letzten Tagen gefühlt gar nicht mehr vorbei.
01:48Ich persönlich finde es, um ehrlich zu sein, ziemlich nervig.
01:51Klar sieht es irgendwie süß aus, aber ich frage mich dabei immer,
01:55ob wir KI wirklich dafür nutzen?
01:58Denn diese Bildchen sind ja nicht einfach nur just for fun, sie kosten etwas und zwar Ressourcen.
02:04Jede KI-Anfrage läuft über riesige Rechenzentren,
02:07die natürlich unfassbare Rechenleistung aufbringen müssen.
02:10Und das kostet nicht nur Strom, sondern auch Wasser,
02:13weil diese Rechenzentren gekühlt werden müssen.
02:16In den USA verbraucht ChatGPT angeblich pro Anfrage einen halben Liter Wasser.
02:22Ein halber Liter für einen Witz mit einem MacBook, Kopfhörern und Oatly.
02:26Und über die KünstlerInnen haben wir an der Stelle noch gar nicht gesprochen.
02:29Die haben jahrelang gelernt, wie man Charaktere und Welten erschafft
02:32und ihre Stile, Werke und Visionen fließen jetzt einfach ungefragt in Trainingsdaten von KI ein.
02:39Du gibst einen Prompt mit Studio Ghibli-Stil ein,
02:42aber die Leute hinter Studio Ghibli, die wurden nie gefragt und auch nie bezahlt.
02:47Wir dürfen an der Stelle nicht vergessen, dass KI keine Magie ist,
02:50sondern an dem Punkt systematische Ausbeutung von Kreativität.
02:54Und das alles für was?
02:55Für ein Meme mit ein paar Gegenständen, die dich repräsentieren?
02:58Sorry, aber wir nutzen eine der mächtigsten Technologien unserer Zeit
03:01nicht etwa, um Systeme zu verstehen oder Probleme zu lösen,
03:06sondern um zu gucken, ob die KI weiß, dass wir gerne Club Mate trinken.
03:09Ich sag ja nicht, dass wir keinen Spaß mit KI haben dürfen,
03:11aber KI zu nutzen ohne Bewusstsein ist absolut naiv.
03:16Und Trends ohne Reflexion sind einfach nur gefährlich.
03:20Also hier mein Gegenvorschlag für einen achtsameren Umgang mit KI.
03:23Wofür willst du KI und alles, was damit zusammenhängt, wirklich nutzen?
03:27Ein paar Tage später wurde ich, wie gesagt, von einem Follower darauf aufmerksam gemacht,
03:32dass er eine Werbeanzeige mit mir gesehen hat, wo eben genau dafür,
03:37für die Erstellung dieser Starterpack-Bilder, eine KI-App beworben wurde.
03:42Er hat mir das Ganze weitergeleitet und in den darauffolgenden Tagen
03:45habe ich immer mehr solche Nachrichten bekommen,
03:48weil Leute irgendwelche Versionen dieser Werbeanzeige bei sich im Feed hatten.
03:53Dabei handelt es sich um eine Werbeanzeige, die zwischen Instagram-Stories gepostet wird,
03:57also die man dann einfach angezeigt bekommt,
03:59während man so durch die Stories der Leute wischt, dem man halt folgt.
04:04Heißt also, diese Werbeanzeige musste man zufällig ausgespielt bekommen.
04:08Wie das Ganze aussah und wie es sich angehört hat, das sehen wir jetzt.
04:11Von diesem komischen Starterpack-Trend kommt man ja in den letzten Tagen gefühlt gar nicht mehr vorbei.
04:15Ich habe ein Tutorial vorbereitet, das Ihnen zeigt, wie es geht.
04:19Öffnen Sie Creati AI, wählen Sie den gewünschten Effekt aus,
04:22klicken Sie nach der Auswahl des Effekts auf Bild hochladen,
04:25warten Sie einen Moment und Sie können Ihr Bild in ein beliebtes Video verwandeln.
04:30Es stehen viele Effekte zur Auswahl, also beeilen Sie sich und probieren Sie es aus.
04:34Wenn man hinhört, dann merkt man auf jeden Fall den Unterschied.
04:37Allein weil die Tonalität eine ganz andere ist,
04:39weil auch ich plötzlich anfange, die Leute zu siezen,
04:42was ich normalerweise nie mache in meinen Videos.
04:44Aber trotzdem klingt das Ganze halt sehr stark nach mir.
04:47Es basiert auf meiner Stimme und am Anfang wurde ja auch die Hook von mir genommen,
04:52von meinem Original-Video, also die ersten fünf bis sechs Sekunden.
04:56Das heißt, hier handelt es sich auf jeden Fall um ein Stimmen-Deepfake.
05:01Deepfakes, das dürfte euch wahrscheinlich ein Begriff sein.
05:04Wikipedia definiert das Ganze so.
05:06Deepfakes sind realistisch wirkende Medieninhalte,
05:09die durch Techniken der künstlichen Intelligenz abgeändert,
05:12erzeugt bzw. verfälscht worden sind.
05:14Ich denke, viele Leute kennen vor allen Dingen Deepfakes mit Bildern oder Videos.
05:19Vor ein paar Jahren, kann ich mich erinnern, war das ganz schlimm mit so Porno-Deepfakes.
05:24Heißt also, irgendwelche Gesichter oder Körper von Celebrities
05:27wurden auf PornodarstellerInnen gedepfaked.
05:31Bei einem Deepfake der Stimme geht es, wie der Name schon sagt, um die Stimme.
05:36Um das technisch umzusetzen, dafür gibt es mittlerweile verschiedene KI-Systeme.
05:40Ich werde jetzt hier keine nennen, weil ich das nicht propagieren möchte,
05:44womit man das umsetzen kann.
05:46Aber diese KI-Systeme brauchen meist nur wenige Sekunden oder auch Minuten
05:50als Grundlage dafür, um eben die Stimme zu faken.
05:55Wir zeigen das gefälschte Werbevideo der Informatikerin Anne Kunstmann.
06:00Sie forscht zum Thema digitale Identität.
06:03Gemeinsam wollen wir ausprobieren, wie leicht solche Deepfakes gemacht werden können.
06:08Nur mit wenigen Klicks erstellen wir eine Fälschung von mir.
06:11Damit spreche ich sogar perfekt Indie.
06:13Und Chinesisch.
06:18Heißt also, die KI analysiert die Tonhöhe, die Stimmlagen, die Sprechpausen, die Tonalität und so weiter
06:25und erstellt daraus ein Stimmmodell.
06:27Und dann kann man natürlich einfach vorgeben, was die Stimme sagen soll.
06:31Und das macht das Modell dann.
06:33Das ist mittlerweile leider kein großer Aufwand mehr.
06:36Also tatsächlich könnte da jetzt jeder mit so einem Tool von irgendwelchen Podcasts zum Beispiel,
06:43von Reels von mir, von Videos, von Sprachaufnahmen, auf WhatsApp oder sonstiges,
06:48könnte man von jeder Person so ein Stimmmodell erstellen.
06:51Wenn man das Ganze jetzt wirklich weiterspinnt, dann wird das schnell ganz schön gruselig,
06:56weil wir dann nicht nur über Scam-Anrufe zum Beispiel reden,
06:59sondern auch über Werbung, über Propaganda, über politische Inhalte, Pornografie.
07:04Ich habe mich mit dem Rechtsanwalt Prof. Dr. Christian Rauder über das Thema unterhalten.
07:08Er ist Fachanwalt für IT-Recht, für Urheber- und Medienrecht,
07:12sowie Autor von 20 juristischen Fachbüchern und über 50 juristischen Fachartikeln.
07:17Er kennt sich also wirklich aus.
07:19Und ich wollte von ihm wissen, wenn jetzt so Deepfakes durch neuartige Technologien wie KI
07:24super einfach erstellbar sind, was macht man dann als Betroffene?
07:29Was kann man machen? Gibt es da Handlungsspielraum?
07:31Ja, also da gibt es eigentlich sehr gute Nachrichten,
07:35denn die Stimme ist Teil der Persönlichkeit und Teil des Persönlichkeitsrechts.
07:41Also einerseits, wie man aussieht, hat man das Recht am eigenen Bild,
07:44aber ich habe auch das Recht an der eigenen Stimme.
07:47Und wenn jemand meine Stimme in irgendeiner Weise imitiert und ich bin erkennbar,
07:53habe ich Unterlassungsansprüche und möglicherweise auch Schadensersatzansprüche,
08:00wenn zum Beispiel meine Stimme werblich verwendet wird.
08:02Insofern ist es jetzt schon so, ohne dass wir eine neue Regelung brauchen,
08:07dass es verboten ist, fremde Stimmen zu nehmen,
08:10möglicherweise noch zu synthetisieren, also über die KI irgendwie Sachen einsprechen zu lassen,
08:15solange diese Stimme dann erkennbar ist und mir zugeordnet wird.
08:20Und da reicht es auch schon, dass meine Nachbarn mich erkennen.
08:23Also es muss jetzt nicht so, dass jeder sagt, Mensch, das ist fairer Bauer,
08:26sondern da reicht es aus deinem persönlichen Umfeld, dass man dich dann erkennt.
08:31Und insofern hat man Ansprüche gegen die Leute, die das tun.
08:34Wir haben natürlich die Möglichkeit, gegen die Plattformen vorzugehen.
08:37Die Plattformen wissen aber natürlich im ersten Moment nicht, dass es sich hier um ein Fake handelt,
08:43weil es ja auch sein könnte, dass du das persönlich eingesprochen hast.
08:46Aber in dem Moment, in dem die Plattformen darauf aufmerksam gemacht werden,
08:51müssen sie diese Inhalte entfernen, ansonsten haften sie selbst.
08:56Und das wurde jetzt nochmal ausdifferenziert durch den sogenannten Digital Services Act.
09:00Zur Erinnerung, der Digital Services Act ist seit 2024 in Kraft.
09:05Es ist eine EU-Verordnung, die eben einheitliche Regeln für digitale Inhalte schaffen soll.
09:12Der DSA zieht darauf ab, die Rechte von NutzerInnen zu schützen,
09:16illegale Inhalte zu bekämpfen und Transparenz auf Online-Plattformen zu gewährleisten.
09:21Heißt also, solche Meldeformulare, womit man auf etlichen Plattformen mittlerweile melden kann,
09:26dass da etwas nicht mit rechten Dingen zugeht,
09:28da liegt überall der DSA zugrunde.
09:31Die Plattformen müssen das aufgrund des DSA mittlerweile eingeführt haben und anbieten.
09:36Ich habe diese Werbeanzeige von mir natürlich auch gemeldet bei Meta.
09:40Das Meldeformular darf man allerdings nur als betroffene Person ausfüllen.
09:45Also am Anfang muss man dann eben angeben, ob man Betroffene ist
09:48oder ob man das einfach nur mitbekommen hat, diesen Identitätsdiebstahl.
09:52Und als betroffene Person kann man eben dieses Meldeformular dann ausfüllen.
09:56Es ist tatsächlich sehr lang, damit hatte ich nicht gerechnet.
09:59Und man muss da auch so ein paar Sachen angeben, wo man halt merkt,
10:02okay, deshalb können das auch nur Betroffene ausfüllen.
10:05Also zum Beispiel wird da auch so etwas wie die Adresse abgefragt oder der vollständige Name.
10:09Man muss schildern, was passiert ist.
10:11Und man muss zum Beispiel auch das Originalvideo verlinken und die gefakte Version davon.
10:15Ich wurde dann auch darauf aufmerksam gemacht, dass es eine Meta-Ads-Library gibt.
10:21Die Meta-Ads-Library ist eine Bibliothek von Meta, wo eben alle Werbeanzeigen von allen Firmen,
10:29die irgendwie Anzeigen auf die Meta-Plattform schaltet.
10:33Also dazu gehört dann Instagram, Facebook, aber auch WhatsApp, wenn da irgendwann dann mal Werbung kommt.
10:38Die sind da alle aufgeführt und man kann das einsehen und man kann das dann eben nach Land filtern,
10:43nach Sprache filtern, nach dem Zeitraum filtern, nach Firmen filtern und so weiter.
10:48Darauf wurde ich aufmerksam gemacht, dass es das gibt.
10:50Denn ich bin ja noch davon ausgegangen, dass man das einfach zufällig ausgespielt bekommen muss
10:54und dass ich das gar nicht nachprüfen kann, ob die Werbeanzeige, die ich dann gemeldet habe,
10:59wirklich auch offline genommen wurde.
11:00In der Meta-Ads-Library habe ich dann gesehen, es gibt mehrere Versionen von dieser Werbeanzeige mit mir.
11:06Die waren dann teilweise ein bisschen anders geschnitten.
11:08Manchmal habe ich, glaube ich, was anderes gesagt.
11:10Es war ein anderes Bild drüber.
11:12Also so haben die sich so leicht unterschieden, aber es waren auf jeden Fall mehrere Versionen im Umlauf.
11:16Ich habe die natürlich alle gemeldet bei Meta über dieses Meldeformular,
11:21aber ich habe auch meinem Management-Bescheid gesagt, dass die eine Abmahnung an das Unternehmen schreiben,
11:27die eben diese Werbeanzeigen gescheitert hat.
11:29Jetzt ist aber natürlich nicht jeder Content-Creator in und hat ein Management im Rücken,
11:32die sich im Zweifel mit solchen Sachen beschäftigen und rechtliche Schritte einleiten können,
11:37sondern im Zweifel betrifft das auch Privatpersonen.
11:40Und auch dazu habe ich Herr Dr. Rauder befragt.
11:42Da hat eben jetzt der DSA auch die Möglichkeit geschaffen,
11:45dass man sich entsprechend an offizielle Stellen wenden kann
11:51und nicht nur selber das im Klagewege durchsetzen kann.
11:54Wenn jetzt zum Beispiel mein Gesicht eingesetzt wird in eine pornografische Szene,
12:02dann ist das auch in jedem Fall strafbar.
12:05Aber ich würde vor allen Dingen auch wirksamerweise gegen die Plattform direkt vorgehen.
12:11Also man kann natürlich den Weg über die Polizeibehörde und so weiter wählen,
12:14aber ich würde sagen direkt versuchen, den Urheber anzugreifen,
12:21soweit der erreichbar ist.
12:23Je krimineller das ist, umso mehr wird das verschleiert.
12:27Umso schlimmer es ist, umso schwieriger kriege ich die Leute tendenziell.
12:30Das muss man ja auch so sehen.
12:32Aber der aus unserer Sicht wirksamste Weg ist, gegen die Plattform vorzugehen.
12:37Bei stärkeren Verletzungen kann es sich auch lohnen, das mit einem Anwalt zu machen.
12:45Man muss gegen denjenigen vorgehen, der es hochgeladen hat
12:47und die Plattform informieren, wenn die nichts machen, gegen die Plattform vorgehen.
12:51Was passiert aber, wenn das Unternehmen, das diese Werbeanzeigen gescheitert hat,
12:55im Ausland sitzt?
12:57Also gilt dann da auch der DSA oder wie ist das?
13:00Also die Unternehmen, die europäische Nutzer haben, müssen sich an europäische Regeln halten.
13:10Das heißt, auch Facebook, was in den USA sitzt, muss sich an die DSGVO halten.
13:15Oder auch ein ByteDance muss sich auch an die DSGVO halten
13:19und muss sich auch an den DSA halten, also den Digital Services Act.
13:24Das bedeutet, auch europäische Behörden können, und das machen sie auch,
13:30Bußgelder ausgeben gegen ausländische Unternehmen.
13:35Mittlerweile sagen verschiedene Länder Deepfakes den Kampf an.
13:39Allen voran Dänemark.
13:41Die dänische Regierung ist damit vor ein paar Wochen ziemlich durch die Medien gegangen,
13:45dass sie ein Copyright auf die Stimme, das Gesicht und generell den Körper haben will,
13:51damit das eben nicht für Deepfakes benutzt werden kann.
13:53Sollte also dann von einem ein Deepfake erstellt werden,
13:57hätte man hier eine bessere Rechtsgrundlage, um da in dem Fall klagen zu können.
14:02Herr Dr. Rauder sieht das Ganze eher skeptisch.
14:05Also ich, genau, ich kann jetzt kein Dänisch, aber was ich gelesen habe,
14:08ist, dass die Regelung in das dänische Urheberrechtsgesetz integriert werden soll.
14:13Wenn das so wäre, wäre das ein bisschen verblüffend,
14:16weil, wie ich ja eben erklärt habe, das Persönlichkeitsrecht und das Datenrecht
14:19was anderes ist als das kreative Recht an Schöpfungen.
14:23Also es passt irgendwie nicht so richtig in die Systematik mit rein,
14:27weil Urheberrecht ist ja was, was ich dann kreiere.
14:29Ich mache ein Video, ich komponiere einen Song, ich mache eine Zeichnung
14:34und meine eigene Stimme ist ja da und mein Gesicht ist auch da.
14:38Das ist ja nichts, was ich jetzt erschaffen habe.
14:41Ich glaube, dass das eher hauptsächlich eine politische Ansage ist.
14:46Inhaltlich sehe ich jetzt nicht, wie diese dänische Regelung die Dänen jetzt so viel besser stellt
14:54als das, was man jetzt unter dem normalen Persönlichkeitsrecht oder dem DSA auch hat.
15:01Also was man möglicherweise sagen kann, vielleicht sind da nochmal stärkere Schadensersatzzahlungen drin.
15:07Also die Frage von der Sanktionierung, dass es sozusagen das Risiko höher wird für die Leute,
15:12dass sie das machen und unattraktiver, aber dass es verboten ist, das ist es auch jetzt schon.
15:18Mein Fall hat sich ein paar Tage später dann erledigt.
15:21Nach der Abmahnung, die mein Management geschrieben hat,
15:23hat die Firma still und heimlich die ganzen Anzeigen mit mir offline genommen.
15:26Ich habe das natürlich dann nur durch die Meta-Ads-Library erfahren,
15:30dass die alle auf inaktiv gescheidet waren.
15:32Aber man hat sich bei uns nicht auf die Abmahnung gemeldet, auch keine E-Mail geschrieben.
15:36Ich habe nie was von dem Unternehmen gehört.
15:38Hätte die Firma nicht so schnell auf die Abmahnung reagiert,
15:41hätten wir natürlich im zweiten Schritt dann einen Anwalt dazu geholt,
15:44der dann da die Firma verklagt.
15:47Mir war aber schon fast klar, dass die Firma da in keinster Weise darauf reagieren wird.
15:52Damit hatte ich auch nicht gerechnet.
15:53Womit ich allerdings gerechnet habe, ist, dass irgendeine Reaktion von Meta kommt.
15:57Ich habe zum Beispiel auch keine Bestätigungs-Mail für irgendeines dieser Meldeformulare bekommen,
16:02dass das irgendwie eingegangen ist oder bearbeitet wird oder sonstiges.
16:07Das ist einfach nicht passiert.
16:09Weswegen ich mir auch ganz, ganz lange Zeit unsicher war, ob die wirklich angekommen sind.
16:13Das finde ich schon mal recht fragwürdig, weil das einen natürlich einfach so in der Luft schweben lässt.
16:19Ich persönlich denke, dass wir da in der Zukunft noch weitaus mehr mit zu kämpfen haben werden.
16:25Ich denke auch, dass es absolut viel, viel mehr Medientraining braucht.
16:29Gerade auch für die ältere Generation, so doof das jetzt klingt.
16:33Aber als ich das damals meinen Eltern vorgespielt habe, die gefakte Version meiner Stimme,
16:37haben die das nicht unterscheiden können.
16:38Und zwar nicht, weil sie meine Stimme nicht erkennen, sondern einfach nur, weil sie nicht geschult sind.
16:44Meine Eltern bewegen sich nicht tagtäglich in den sozialen Medien,
16:47kriegen also nicht mit, wie da die Entwicklung voranschreitet,
16:52sind nicht geübt da drin, KI-Videos von echtem zu unterscheiden,
16:56KI-Stimmen von echtem zu unterscheiden.
16:58Deshalb kommt jetzt hier mein Tipp, legt am besten eine Art Passwort fest.
17:04Gerade wenn ich an sowas denke wie Scam-Anrufe,
17:07dann wäre es glaube ich schon hilfreich, wenn man da kurz mal nach dem Passwort oder Code-Word fragt,
17:14damit die Eltern dann zum Beispiel wissen, okay, da redet wirklich die echte Person
17:17und die braucht wirklich gerade 2000 Euro, weil irgendein Notfall eingetreten ist.
17:22Ich hoffe, ihr habt was mitgenommen, lasst gerne ein Like und ein Abo da
17:25und dann sehen wir uns hoffentlich im nächsten Video wieder.
Empfohlen
0:42
|
Als nächstes auf Sendung
1:18:48