KI-Wissenschaftler von Meta warnt, dass das wahre Weltuntergangsszenario sei, dass eine kleine KI-Elite die Macht übernimmt

Der KI-Pate Yann LeCun hat auf namhafte KI-Chefs geschossen. - Copyright: Kevin Dietsch/Getty Images
Der KI-Pate Yann LeCun hat auf namhafte KI-Chefs geschossen. - Copyright: Kevin Dietsch/Getty Images

KI-Pate Yann LeCun möchte, dass wir einige der weit hergeholten Weltuntergangsszenarien vergessen.

Er sieht eine andere, reale Bedrohung am Horizont: den Aufstieg einer Elite, die alle anderen um den Reichtum der KI bringen.

Am Wochenende beschuldigte der leitende KI-Wissenschaftler von Meta einige der prominentesten KI-Gründer der "Panikmache" und des "massiven Unternehmenslobbyismus", um ihre eigenen Interessen durchzusetzen.

Er nannte Sam Altman von OpenAI, Demis Hassabis von Google DeepMind und Dario Amodei von Anthropic in einem ausführlichen Post auf X, ehemals Twitter.

"Altman, Hassabis und Amodei sind diejenigen, die im Moment massives Lobbying für Unternehmen betreiben", schrieb LeCun und bezog sich dabei auf die Rolle dieser Gründer bei der Gestaltung der regulatorischen Gespräche über KI-Sicherheit. "Sie sind diejenigen, die versuchen, die KI-Industrie regulatorisch zu vereinnahmen."

Er fügte hinzu, dass das Ergebnis dieser Bemühungen eine "Katastrophe" wäre, weil "eine kleine Anzahl von Unternehmen die KI kontrollieren wird"

Das ist bezeichnend, denn fast jeder, der in der Tech-Branche etwas auf sich hält, stimmt zu, dass KI die größte technologische Entwicklung seit dem Mikrochip oder dem Internet ist.

LeCun reagierte mit seinen Kommentaren auf einen Beitrag des Physikers Max Tegmark auf X, der meinte, LeCun nehme die KI-Untergangsargumente nicht ernst genug.

"Danke an @RishiSunak & @vonderleyen dafür, dass sie erkannt haben, dass die KI-Risikoargumente von Turing, Hinton, Bengio, Russell, Altman, Hassabis & Amodei nicht allein mit Sarkasmus und Unternehmenslobbyismus widerlegt werden können", schrieb Tegmark und bezog sich dabei auf den bevorstehenden globalen KI-Sicherheitsgipfel in Großbritannien.

LeCun sagt, dass die Angst der Gründer nur Lobbyarbeit ist

Seit dem Start von ChatGPT sind die KI-Machthaber zu wichtigen öffentlichen Persönlichkeiten geworden.

Aber, so LeCun, Gründer wie Altman und Hassabis haben viel Zeit damit verbracht, Ängste vor genau der Technologie zu schüren, die sie verkaufen.

Im März unterzeichneten mehr als 1000 führende Techniker, darunter Elon Musk, Altman, Hassabis und Amodei, einen Brief, in dem sie eine mindestens sechsmonatige Pause bei der Entwicklung von KI forderten.

In dem Brief wurden "tiefgreifende Risiken für die Gesellschaft und die Menschheit" genannt, die von hypothetischen KI-Systemen ausgehen. Tegmark, einer der Unterzeichner des Briefes, hat die KI-Entwicklung als "Selbstmordrennen" bezeichnet

LeCun und andere sagen, dass es bei dieser Art von schlagzeilenträchtigen Warnungen nur darum geht, die Macht zu zementieren und die realen, unmittelbar bevorstehenden Risiken der Technologie zu übergehen.

Zu diesen Risiken gehören die Ausbeutung von Arbeitnehmern und der Datendiebstahl, der einer Handvoll von Unternehmen Profit einbringt", so das Distributed AI Research Institute (DAIR).

Die Konzentration auf hypothetische Gefahren lenkt auch von der langweiligen, aber wichtigen Frage ab, wie die KI-Entwicklung tatsächlich Gestalt annimmt.

Die Weltuntergangsszenarien sind unrealistisch

LeCun hat beschrieben, wie die Menschen "über das KI-Risiko hyperventilieren", weil sie dem Mythos des "harten Starts" verfallen sind, wie er es nennt. Das ist die Vorstellung, dass "in dem Moment, in dem man ein superintelligentes System einschaltet, die Menschheit dem Untergang geweiht ist".

Der drohende Untergang sei jedoch unwahrscheinlich, weil jede neue Technologie vor ihrer breiten Einführung einen sehr geordneten Entwicklungsprozess durchläuft.

Der Bereich, auf den man sich konzentrieren sollte, ist also die Art und Weise, wie KI derzeit entwickelt wird. Für LeCun besteht die wirkliche Gefahr darin, dass die Entwicklung von KI in private, gewinnorientierte Unternehmen verlagert wird, die ihre Ergebnisse nie veröffentlichen, während die Open-Source-Gemeinschaft der KI ausgelöscht wird.

Seine große Sorge ist, dass die Regulierungsbehörden dies zulassen, weil sie von den Argumenten der Killerroboter abgelenkt sind.

Führende Köpfe wie LeCun haben sich für Open-Source-Entwickler eingesetzt, da ihre Arbeit an Tools, die zum Beispiel mit ChatpGPT von OpenAI konkurrieren, ein neues Maß an Transparenz in die KI-Entwicklung bringt.

LeCuns Arbeitgeber, Meta, hat sein eigenes großes Sprachmodell, das mit GPT konkurriert, LLaMa 2, (einigermaßen) quelloffen gemacht. Die Idee dahinter ist, dass die breitere Tech-Community einen Blick unter die Haube des Modells werfen kann. Kein anderes großes Technologieunternehmen hat eine ähnliche Open-Source-Veröffentlichung vorgenommen, obwohl man munkelt, dass OpenAI darüber nachdenkt.

Für LeCun ist die Abschottung der KI-Entwicklung ein echter Grund zur Sorge.

Lest den Originalartikel auf Englisch hier