Ein kostenlos veröffentlichtes Tool zum Klonen von KI-Stimmen wurde von 4chan bereits stark missbraucht. Benutzer des umstrittenen Online-Forums haben den KI-Sprachgenerator ElevenLabs übernommen, um Clips berühmter Prominenter zu erstellen, die abscheuliche Hassreden von sich geben.
Der KI-Sprachgenerator von ElevenLabs wurde nicht nur wegen seiner Qualität, sondern auch wegen seiner Geschwindigkeit übernommen. Darüber hinaus hat die Software keine Grenzen dafür, was ein Benutzer seine gestohlenen Stimmen sagen lassen kann, was dazu führt, dass mit dem Tool eine Flut von Hassreden erzeugt wird.
Über Vice, 4Chan-Benutzer haben die Technologie übernommen, um falsche Aufnahmen von Prominenten zu erstellen, die schädliche und beleidigende Aussagen machen. Prominente wie Joe Rogan, Emma Watson und andere ließen ihre Stimmen manipulieren, um Dinge zu sagen, die sie im wirklichen Leben nie gesagt hatten. Zumindest nicht bei Aufnahmen.
Der Bericht erklärt, dass ein Benutzer die Harry-Potter-Schauspielerin und Frauenrechtsaktivistin Emma Watson dazu brachte, Passagen aus Adolf Hitlers Main Kamf zu rezitieren. Ein weiteres Beispiel war, dass der rechtsextreme politische Influencer Ben Shapiro wiederholt rassistische Äußerungen über die demokratische Politikerin Alexandria Ocasio-Cortez machte.
Die Sprachsoftware von ElevenLabs ist schnell und leistungsstark. Im Gegensatz zu anderen KI-Sprachklonen klingt diese schnelle und einfache Generation bemerkenswert lebensecht und dauert nur Sekunden, um zu funktionieren. Das bedeutet jedoch auch, dass die Technologie zweifellos gefährlich ist.
Wir haben bereits gesehen, dass Video-Deepfake-Technologie für schändliche Zwecke verwendet wird. Nicht nur Prominente werden oft in explizite Materialien eingetaucht, sondern auch Versuche der politischen Spionage. Zum Beispiel haben russische Hacker ein gefälschtes Video erstellt, in dem sich der ukrainische Präsident Wolodymyr Selenskyj ergibt, um die ukrainischen Bürger zu täuschen.
Deepfakes haben sich als so umstritten erwiesen, dass Online-Server-Unternehmen die Verwendung verbieten der Technik, die ihre Dienste nutzt. Google hat kürzlich alle Deepfake-Forschungsprojekte aus Google Colab geworfen und die Technologie wegen ihrer gefährlichen Verwendung verboten. Die Technologie scheint jedoch in absehbarer Zeit nirgendwohin zu gehen.
Aufgrund ihrer Popularität in der Unterhaltungsindustrie werden Deepfakes sowohl für Video als auch für Audio weiter verbessert. Bekanntlich nutzten Disney und Lucasfilm die Deepfake-Technologie, um einen jungen Luke Skywalker in „The Mandalorian“ und „The Book of Boba Fett“ zurückzubringen. Darüber hinaus hat Batman-und Top-Gun-Schauspieler Val Kilmer in unbeschwerteren Nachrichten einen Audio-Deepfake verwendet, um seine Stimme nach einem langen Kampf gegen Kehlkopfkrebs wiederzuerlangen.
Obwohl Deepfakes für diese Zwecke fantastisch sind, wird es gute Technologie immer tun von denen mit schändlichen Zielen missbraucht werden. Also, was passiert als nächstes?