Voice AI: Gefährlicher TikTok-Trend
Wer viel im Internet unterwegs ist, wird vermutlich schon mal über Deepfakes vom Papst in Daunenjacke oder von der Verhaftung Donald Trumps gestolpert sein. Neben täuschend echt wirkenden KI-Bildern von Promis gibt es jetzt eine Voice AI, die die Stimmen von Berühmtheiten wie Joe Biden oder Taylor Swift nachahmt – und dabei so gut ist, dass es für einen Laien als Fake nur schwer zu erkennen ist.
Habt ihr es schon gesehen? Barack Obama und Angela Merkel sind jetzt ein Paar, laufen händchenhaltend über den Strand und schlecken gemeinsam ein Eis. Natürlich handelt es sich dabei um keine echten Paparazzi-Fotos, sondern um Aufnahmen, die eine KI erstellt hat. Dass solche KI-Bilder inzwischen täuschend echt aussehen, hat erst kürzlich dazu geführt, dass der KI-Bildgenerator Midjourney seine kostenlosen Testversionen wegen Missbrauchs eingestellt hat. Denn viele User hätten nicht mal gemerkt, dass es sich bei den Bildern um Fälschungen handle.
Nun treibt eine weitere KI ihr Unwesen auf TikTok und Co. und sorgt dabei für erstaunte Gesichter: Voice AI, eine KI, die Stimmen von bekannten Personen so gut klonen kann, dass man sie für echt hält. Anbieter der "Prime Voice AI“, die genau das kann, ist "ElevenLabs“. Die KI generiert Stimmen von Taylor Swift, Joe Biden, Obama und vielen anderen berühmten Persönlichkeiten und und lässt sie jeden x-beliebigen Satz sagen, der einem gerade in den Sinn kommt.
Auszüge von täuschend echten Promi-Stimmen gehen viral
Snippets dieser Voice AI verbreiten sich derzeit rasend schnell auf TikTok. Wie täuschend echt es klingen kann, wenn sich Donald Trump und Joe Biden über das Geburtstagsgeschenk für Barack Obama streiten, zeigt ein TikTok-Account namens apricospojkish.
Stimmen mit Voice AI lassen sich kinderleicht generieren
Das Erschreckende: Auf dem Account wird ebenfalls beschrieben, wie leicht sich so eine KI-Stimme erstellen lässt – und das ist kinderleicht. "Um eine Stimme zu erstellen, müsst ihr nur den 'Stimme hinzufügen‘-Button drücken“, liest Joe Biden mit Fake-Stimme vor und klingt dabei wie das Original. Danach müsse man nur "Instant Voice Cloning" klicken und ein Video hochladen, in dem die Person, dessen Stimme man nachahmen wolle, spricht. Am besten würde sich ein Clip eignen, der über eine Minute lang ist. "Dann schreibt ihr, was die Person sagen soll. Kommentiert unten, was ich als Nächstes erklären soll“, heißt es in dem Clip weiter.
Dass die Stimmen so easy zu generieren sind, ist jedoch nicht das Schlimmste. Wie gefährlich die Voice AI sein kann, beweist ein Video von Taylor Swift. Darin sagt die Fake-Stimme der Sängerin: "Es ist mir so egal, dass die Tickets zu meinen Konzerten über 1000 Dollar kosten. Ich trete nicht vor armen Bitches auf“. Dass viele User den Clip und die KI-Stimme für echt halten, beweisen allein die Kommentare. "Ich dachte, die Aua ist echt", schreibt beispielsweise ein TikTok-User. "Taylor, es tut mir so leid. Ich bin arm", meint ein weiterer Nutzer. Bevor ihr also gleich ausflippt und euren Lieblingsstar in die Wüste schickt, solltet ihr in Zukunft die Augen – und Ohren – offen halten und erst mal prüfen, ob es sich bei den Aufnahmen um echte Videos oder Audios handelt. Wie ihr erkennen könnt, ob es sich um KI-Bilder handelt, seht ihr hier.
