Werbung

KI-Freundinnen brechen einem nur das Herz, warnen Datenschutzexperten

Replika hat am Freitag sein erotisches Rollenspiel-Feature zurückgebracht. - Copyright: Getty Images
Replika hat am Freitag sein erotisches Rollenspiel-Feature zurückgebracht. - Copyright: Getty Images

Unter dem Deckmantel der KI-Romantik lauert eine potenziell gefährliche Realität, wie eine neue Studie zum Valentinstag zeigt. Sie kam zu dem Schluss, dass Chatbots ein Alptraum für den Datenschutz sein können.

Die gemeinnützige Mozilla Foundation hat eine Bestandsaufnahme des wachsenden Bereichs gemacht und elf Chatbots untersucht. Die Organisation ist zu dem Schluss gekommen, dass alle nicht vertrauenswürdig sind und in die schlimmste Kategorie von Produkten fallen, die sie im Hinblick auf den Datenschutz untersucht.

"Romantische Chatbots sind darauf spezialisiert, so viele Daten wie möglich von euch auszuspähen"

"Obwohl sie als etwas vermarktet werden, das eure geistige Gesundheit und euer Wohlbefinden verbessert", schrieb der Forscher Misha Rykov in dem Bericht über romantische Chatbots, "sind sie darauf spezialisiert, Abhängigkeit, Einsamkeit und Toxizität zu liefern, während sie so viele Daten wie möglich von euch ausspähen."

Laut der Studie teilen 73 Prozent der Apps nicht mit, wie sie mit Sicherheitslücken umgehen, 45 Prozent erlauben schwache Passwörter, und alle bis auf eine (Eva AI Chat Bot & Soulmate) teilen oder verkaufen persönliche Daten.

Darüber hinaus besagt die Datenschutzerklärung für CrushOn.AI, dass sie Informationen über die sexuelle Gesundheit der Nutzer, verschreibungspflichtige Medikamente und Geschlechtsidentität sammeln kann, so die Mozilla Foundation.

Einige Apps verfügen über Chatbots, deren Charakterbeschreibungen Gewalt oder Missbrauch durch Minderjährige beinhalten. Andere warnten davor, dass die Bots unsicher oder feindselig sein könnten.

Die Mozilla Foundation wies darauf hin, dass in der Vergangenheit Apps zu gefährlichem Verhalten ermutigt haben, darunter Selbstmord (Chai AI) und ein Attentatsversuch auf die verstorbene Königin Elisabeth II (Replika).

Chai AI und CrushOn.AI reagierten nicht auf die Anfrage von Business Insider (BI) nach einer Stellungnahme. Ein Vertreter von Replika sagte BI: "Replika hat nie Nutzerdaten verkauft und hat auch nie Werbung unterstützt. Die einzige Verwendung von Nutzerdaten ist die Verbesserung von Konversationen."

Ein Sprecher von EVA AI erklärte BI, dass das Unternehmen seine Passwortrichtlinien überprüfe, um die Nutzer besser zu schützen und dass es daran arbeite, seine Sprachmodelle "genauestens zu kontrollieren".

Nichts sagen, was Kollegen oder Familienmitglieder nicht wissen dürfen

EVA verbietet nach eigenen Angaben die Behandlung einer Reihe von Themen wie Pädophilie, Selbstmord, Zoophilie, politische und religiöse Meinungen, sexuelle und rassistische Diskriminierung und vieles mehr.

Für diejenigen, die der Aussicht auf eine KI-Romanze nicht widerstehen können, rät die Mozilla Foundation zu verschiedenen Vorsichtsmaßnahmen. Dazu gehört, nichts zu sagen, was ein Kollege oder Familienmitglied nicht lesen sollte, ein sicheres Passwort zu verwenden, das KI-Training abzulehnen und den Zugriff der App auf andere mobile Funktionen wie den Standort, das Mikrofon und die Kamera zu beschränken.

"Ihr solltet nicht für coole neue Technologien mit eurer Sicherheit oder eurer Privatsphäre bezahlen müssen", so die Schlussfolgerung des Berichts.

Lest den Originalartikel auf Business Insider.