Die Liste der Filme über Künstliche Intelligenz als Bedrohung für den Mensch oder die gesamte Menschheit ist lang: Von „Matrix“ über „I, Robot“ bis hin zu „Blade Runner“ – die Gefahren, die von KI ausgehen können, beschäftigen die Menschen, seit es KI gibt.

Nun fordern KI-Experten und Branchenschwergewichte wie Twitter-Chef Elon Musk, Apple-Mitgründer Steve Wozniak oder Pinterest-Gründer Evan Sharp einen sechsmonatigen Entwicklungsstopp für leistungsstarke KI-Systeme. Wenn die KI-Hersteller die Entwicklung ihrer Systeme nicht pausieren, sollte das von Regierungen mit Moratorien erzwungen werden, heißt es weiter.

Entwicklungstopp für KI-Systeme? Elon Musk und Steve Wozniak warnen vor „tiefgreifende Risiken“

Die Experten bemängeln in einem offenen Brief einen „außer Kontrolle geratenen Wettlauf“ der Entwickler. „KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen“, warnen die Kritiker in ihrem Brief, der vom gemeinnützigen „Future of Life Institute“ veröffentlicht wurde.

Mehr als 1000 Personen haben den offenen Brief unterzeichnet, darunter neben Branchenschwergewichten wie Musk auch renommierte IT-Wissenschaftler. KI solle erst dann weiterentwickelt werden, wenn gemeinsame Sicherheitsprotokolle für die Technik entwickelt, umgesetzt und von unabhängigen Experten geprüft worden sei, lautet die zentrale Forderung der Unterzeichner.

Warnungen vor Gefahren durch KI: „Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

Musk, Woziniak und Co. wählen in ihrem Brief eindringliche Worte: „Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sind und uns ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“

Die Entscheidung über derartige Fragen dürfe nicht der Tech-Branche überlassen werden, fordern die Verfasser des Briefs. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.“

Der Brief richtet sich konkret an den KI-Dienst OpenAI, Anbieter der zuletzt populär gewordenen KI „ChatGPT“. Der Entwicklungsstopp solle für alle KI-Systeme gelten, die „leistungsfähiger sind als GPT-4“, fordern die Verfasser. KI-Hersteller OpenAI gab bisher keine Stellungnahme zu den Forderungen ab. Auf ihrer Webseite betont die Firma jedoch grundsätzlich, sie sehe es als ihre Aufgabe, „sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt“.

ChatGPT, Midjourney und Co: Leistungsstarke KI-Systeme feiern Erfolge

Zuletzt hatten die Entwicklungsfortschritte auf dem Gebiet der KI immer wieder für Aufsehen gesorgt. Mit ChatGPT und der Bildgenerierungs-KI Midjourney konnte die KI-Branche Erfolge feiern. Der Chatbot generiert mittlerweile in vielen Fällen auf Anfrage brauchbare Texte, die von Midjourney generierten Bilder sorgten unterdessen zuletzt sogar in der politischen Arena für Wirbel.

So kursierten KI-generierte Bilder der vermeintlichen Verhaftung von Ex-US-Präsident Donald Trump und von einem Kniefall Wladimir Putins vor Chinas Präsident Xi-Jinping. Am Wochenende sorgte schließlich ein vermeintliches Foto von Papst Franziskus in einer modischen Daunenjacke für Wirbel, auch dieses Motiv war mithilfe von KI erstellt worden.