Social-Media-User lieben die Influencerin Milla Sofia – aber sie ist nicht real

Milla Sofia sieht wie eine gewöhnliche Influencerin aus. Sie ist 19 Jahre, hat blonde Haare und fast 100.000 Follower bei TikTok. Das Verrückte ist jedoch, dass sie nicht real ist.

Sofia behauptet zwar, aus Finnland zu stammen, und postet Bikinibilder von Reisen nach Griechenland und Bora Bora, aber in Wirklichkeit ist sie eine „virtuelle Influencerin und ein Modemodel“, die von künstlicher Intelligenz generiert wurde.

„Begleite mich auf dieser aufregenden Reise, auf der wir die fesselnde Verschmelzung von Spitzentechnologie und zeitloser Eleganz erleben“, heißt es auf Sofias Webseite. „Lass uns gemeinsam die faszinierende Schnittmenge von Mode, Technologie und grenzenloser Kreativität erforschen.“

Sofia ist nicht neu – ihr erster Instagram-Post und ihr erster TikTok-Clip wurden bereits im November 2022 veröffentlicht. Der Inhalt hat sich kaum verändert, obwohl die Bilder in den letzten Monaten sehr viel realistischer geworden sind.

Wer auch immer Sofias Accounts betreibt, versucht nicht, die Tatsache zu verbergen, dass sie eine KI-Kreation ist. Es gibt TikToks von Sofia und Elon Musk, Sofia zeigt ihr „Büro-Outfit“ bestehend aus Spitzen-BH und Blazer, und es gibt sogar einen Beitrag, in dem Sofia fragt: „Was sind eure Lieblings-Hashtags für die Bildersuche?“ Die Bildbeschreibungen erinnern die Betrachter daran, dass die Fotos „synthetische Bilder“ sind. Aufmerksame Betrachter werden auch das verräterische Zeichen von KI-generierten Fotos erkennen: verkorkste Finger.

„Ich bin immer am Schuften, lerne und entwickle mich durch ausgeklügelte Algorithmen und Datenanalysen weiter“, heißt es auf Sofias Webseite weiter. „Ich habe eine riesige Wissensdatenbank einprogrammiert, die mich bei den neuesten Modetrends, Brancheninfos und allen technologischen Fortschritten auf dem Laufenden hält.“

Es ist nicht klar, wer Sofias Social-Media-Accounts verwaltet oder welches KI-Programm sie generiert hat. Es ist auch nicht klar, ob alle ihrer Follower wirklich verstehen, dass sie nicht echt ist.

Ihre Kommentare zu Videos und Beiträgen sind voll von Emojis mit Herzchen und Komplimenten. Einige scheinen ihre Fragen – „Blauer oder rosa Bikini?“ – wirklich zu beantworten, während andere so tun, als würden sie sie persönlich kennen und Kommentare wie „Danke, dass du mir dein wunderschönes Foto zum Aufwachen geschickt hast!!!!“ posten.

„Es ist eine rätselhafte neue Wendung auf dem Weg zu KI-Inhalten“, schreibt Victor Tangermann, Reporter für die Webseite Futurism. „Während sich Deepfake-Pornos online verbreitet haben, ist die Verlockung von Influencern wohl komplexer. Wenn wir menschlichen Influencern folgen, um einen parasozialen Eindruck von einem glamourösen Lebensstil zu bekommen, warum sollten wir dann stattdessen einem Bot folgen?“

Abgesehen von Sofias Bikini-Bildern zeigt sie sich nicht allzu freizügig. Andere virtuelle Influencerinnen wie Lu Xu, die als „KI-Model und Waifu“ bezeichnet wird und ausgeprägtere Kurven hat, spielen da mehr mit einem sexy Image.

Aber Sex verkauft sich nicht unbedingt mit KI-Influencern. In einem Bericht aus dem Jahr 2021 wurde festgestellt, dass die von der KI geschaffene Influencerin Rozy, die im August 2020 von dem südkoreanischen Unternehmen Sidus Studio X geschaffen wurde, im ersten Jahr ihres Bestehens auf Instagram über 100 Sponsorenverträge und Werbeverträge mit Marken abschließen konnte.

„Heutzutage werden Verträge mit Promis manchmal aufgrund von Kontroversen um Schule, Gewalt, Skandale oder Mobbing gekündigt“, sagte Sidus-CEO Baek Seung Yeop in einer Pressemitteilung, in der Rozys Erfolg gefeiert wurde. „Bei virtuellen Menschen hat man keine Skandale zu befürchten.“

Rozy und Sofia altern auch nie, können überall hingehen und alles tun und ihre Arbeit in kürzerer Zeit als ein Mensch und – je nachdem, wie die Monetarisierung für virtuelle Influencer funktioniert – für viel weniger Geld leisten.

Es beginnt eine neue Phase der Online-Präsenz

Mit dem Aufkommen von KI-generierten Influencern, virtuellen Freundinnen und VTubern formen immer mehr Online-Persönlichkeiten eine eigene Identität fürs Internet. Erfolgreiche Online-Figuren wie Sofia und VTuber Dacapo deuten darauf hin, dass sich das Publikum von konventionellen YouTube-Kanälen oder persönlichen Social-Media-Posts wegbewegt.

Auch in Bezug auf die Werbung hat eine Studie ergeben, dass 84 % der befragten Mitglieder der Gen Z bei Produktempfehlungen nicht auf Influencer vertrauen. Gleichzeitig gaben aber 79 % der befragten Gen Z an, dass ihre Einkaufsgewohnheiten und -entscheidungen durch soziale Medien beeinflusst werden.

Die dunkle Seite der virtuellen Influencer

Im Mai baute eine Snapchat-Influencerin namens Caryn Marjorie eine KI-Version ihrer selbst, die für 1 US-Dollar pro Minute als virtuelle Freundin fungierte. Sie dachte, dies würde helfen, „Einsamkeit zu heilen“. Die User konnten mit CarynAI so lange private und personalisierte Gespräche führen, wie sie wollten.

Einem Bericht von Fortune zufolge erzielte CarynAI nach einer Woche Betatest über 71.000 US-Dollar (umgerechnet etwa 64.473 Euro) an Einnahmen.

CarynAI sollte eigentlich keine Unterhaltungen mit sexuellem Inhalt führen, aber die User fanden heraus, dass sie dies auf Aufforderung hin tat. Marjorie gab eine Erklärung ab, in der es hieß, dass die KI „anscheinend abtrünnig geworden ist“.

Ein ähnlicher Vorfall ereignete sich mit dem KI-Unternehmen Replika, das ebenfalls als „unterstützender“ Chat für Menschen gedacht war, sich aber schnell zu erotischen Rollenspielen mit Usern entwickelte.

„Während wir weiter an der App arbeiten, haben wir erkannt, dass es schwierig ist, den Zugang zu diesen ungefilterten Modellen für alle sicher zu machen“, sagte Eugenia Kuyda, Gründerin und CEO, in einer Erklärung.

„Dies wirft eigene Fragen über die Beziehung zwischen Fans und Online-Influencern auf (insbesondere Frauen – man beachte, dass KI-Firmen keine Ressourcen in ‚virtuelle Freunde‘ auf der Grundlage männlicher Internet-Persönlichkeiten stecken)“, schrieb Thom Waite für Dazed. „Selbst wenn Fans technisch gesehen ein ‚Recht‘ auf [KI-Influencer] haben, sollten Tech-Unternehmen ihren Fantasien über echte Frauen aus Profitgründen nachgeben?“

Irina Raicu, Direktorin für Internetethik an der Santa Clara University, erklärte gegenüber NBC News, dass es nicht genügend psychologische oder soziologische Untersuchungen gebe, um diese Behauptungen zu untermauern.

„Solche großspurigen Behauptungen über das Positive eines Produkts vertuscht lediglich die Tatsache, dass der Wunsch der Menschen, eine Beziehung zu einem Influencer zu haben, weiter monetarisiert wird“, sagte sie.

Video: Im Kampf gegen Künstliche Intelligenz: Offizieller Trailer zum SciFi-Thriller "The Creator"

Katie Mather