Kann KI die Menschheit auslöschen? Ein Forscher nennt fünf mögliche Wege ins Desaster – und ist sich mit einem Kölner Politiker einig.
Büroklammern könnten ausreichenFünf Szenarien, wie KI die Menschheit auslöschen könnte
Von David Schmitz
5 min
Der humanoide Roboter Ameca wird bereits seit 2023 in der Pflege eingesetzt. Forscher beschäftigt die Frage, ob Roboter in Kombination mit KI zur Gefahr für die Menschheit werden könnten. (Archivbild)
Copyright: IMAGO/Belga
Könnte Künstliche Intelligenz eines Tages die gesamte Menschheit auslöschen? Spätestens seit der KI-Forscher Jacob Coxon Anfang September seinen Job bei Anthropic kündigte, ist diese Frage in aller Munde. „Diejenigen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts auslöschen könnte“, schrieb Coxon auf der Plattform X als Begründung für seine Abkehr von der KI‑Firma – und die gab ihrem Ex-Mitarbeiter sogar recht.
„Wir glauben wirklich fest daran, dass KI alle Menschen auslöschen könnte“, schrieb Anthropic-Mitarbeiter Evan Hubinger bei X. „Ich persönlich schätze die Wahrscheinlichkeit dafür innerhalb des nächsten Jahrzehnts auf über zehn Prozent.“ Anthropic gebe „sein Bestes“, um ein solches Szenario zu verhindern, versicherte Hubinger, fügte jedoch hinzu: „Aber wir haben noch keinen Plan, um das Problem der Ausrichtung von Superintelligenz zu lösen.“
KI als Menschheitskiller: „Über zehn Prozent Wahrscheinlichkeit“
Seitdem läuft die Debatte über die möglicherweise existenziellen Risiken, die mit der Entwicklung von Künstlicher Intelligenz einhergehen können. Auch der australische KI-Forscher Toby Walsh hält ein solches Szenario nicht für undenkbar. In einem Gastbeitrag für den britischen „Guardian“ hat der Professor der University of New South Wales nun fünf mögliche Wege aufgezeigt, mit denen KI zu einer echten Bedrohung für die Menschheit werden könnte.
Walsh betont dabei, dass es sich nicht um eine konkrete Prognose handelt. Vielmehr ordnet er verschiedene Szenarien ein – von spekulativen Vorstellungen über eine künftige Superintelligenz bis zu bereits heute sichtbaren gesellschaftlichen Folgen der Technologie.
1. Die KI wird unberechenbar
Eine sogenannte Superintelligenz wäre dem Menschen in nahezu allen geistigen Bereichen überlegen. Was eine solche KI tun könnte, lässt sich nach Einschätzung von Walsh nicht zuverlässig vorhersagen.
Befürworter der These eines möglichen KI-Untergangs argumentieren deshalb, Menschen könnten gar nicht abschätzen, wie eine überlegene Intelligenz vorgehen würde. Walsh vergleicht das mit der Frage, ob ein Hund einen Atomkrieg verstehen könne.
Gleichzeitig sei die Entwicklung einer solchen Superintelligenz noch nicht erreicht. Die heutigen Modelle seien zwar in einzelnen Aufgaben sehr leistungsfähig, aber nicht in allen Bereichen umfassend intelligenter als Menschen.
2. Das Büroklammer-Problem
Ein klassisches Gedankenexperiment des Philosophen Nick Bostrom beschreibt eine KI, deren einziges Ziel die Herstellung möglichst vieler Büroklammern ist. Eine extrem leistungsfähige Maschine könnte demnach alle verfügbaren Rohstoffe – theoretisch auch Menschen, Planeten und Sterne – für dieses Ziel verwenden. Die KI müsste die Menschheit dabei nicht hassen. Es würde genügen, dass sie menschliches Leben als Hindernis oder als nutzbaren Rohstoff betrachtet.
Walsh hält dieses Szenario allerdings für weniger wahrscheinlich als oft behauptet. Intelligenz bedeute nicht automatisch Macht, so der KI‑Forscher. Auch eine sehr kluge KI müsste sich mit Gesetzen, politischen Interessen, Gerichten und gesellschaftlichem Widerstand auseinandersetzen.
3. KI hilft bei der Entwicklung von Biowaffen
Eine weitere Gefahr sieht Walsh unterdessen im Einsatz von KI zur Entwicklung eines neuartigen Krankheitserregers. Fortschritte bei sogenannten genetischen Sprachmodellen könnten es künftig erleichtern, biologische Strukturen zu analysieren oder zu verändern. Das Risiko ist nach Einschätzung des Forschers nicht bloß theoretisch.
Zugleich sei es äußerst schwierig, mit einem neuen Virus tatsächlich die gesamte Menschheit zu töten. Krankheitserreger stehen vor einem biologischen Zielkonflikt: Je leichter sie sich verbreiten, desto weniger tödlich sind sie häufig. Sehr tödliche Erreger wiederum erreichen oft weniger Menschen, weil Infizierte zu schnell schwer erkranken oder sterben. Eine Pandemie könnte dennoch weltweit enorme Schäden verursachen – insbesondere, wenn KI die Entwicklung gefährlicher Erreger erleichtert, erklärt Walsh.
Der australische Forscher thematisiert damit ein Szenario, vor dem zuletzt auch der Kölner SPD-Politiker Karl Lauterbach gewarnt hat. „KI wird sehr bald in der Lage sein, terroristisch nutzbare Substanzen zu entwickeln“, sagte Lauterbach im Interview mit dem „Kölner Stadt Anzeiger“ und nannte als ein Beispiel „besonders aggressive Viren“.
4. KI löst einen Atomkrieg aus
KI könnte militärische Systeme mit falschen Informationen versorgen, Warnmeldungen fehlinterpretieren oder Entscheidungen in der nuklearen Befehlskette beeinflussen, warnt Walsh. Schon in der Vergangenheit sei die Welt mehrfach nur knapp an einem Atomkrieg vorbeigeschrammt.
Auch wenn nukleare Kommandoeinrichtungen angeblich nicht offen mit dem Internet verbunden sind, könnten digitale Angriffe oder eingeschleuste Schadprogramme Schwachstellen ausnutzen, erklärt der KI‑Forscher. Hinzu komme, dass KI-generierte Fehlinformationen militärische Befehlshaber zu falschen Entscheidungen verleiten könnten.
Das Foto zeigt die Explosion einer Atombombe vor dem Bikini-Atoll im Jahr 1946.
Copyright: imago images / UIG
Die unmittelbaren Atomexplosionen wären dabei nur ein Teil der Katastrophe. Ein großangelegter Atomkrieg könnte einen sogenannten nuklearen Winter auslösen. Die daraus folgenden Ernteausfälle und Hungersnöte könnten laut Walsh schließlich einen erheblichen Teil der Weltbevölkerung gefährden.
5. Menschen zerstören ihre Gesellschaft selbst
Laut KI-Forscher Walsh handelt es sich hierbei um das wahrscheinlichste Szenario: Hierbei wird die Menschheit nicht direkt durch eine KI ausgelöscht, sondern der Prozess lediglich durch den Einsatz der Technologie rapide beschleunigt.
So könnten massive Arbeitsplatzverluste, eine von KI-Desinformation überflutete Öffentlichkeit, eine weitere politische Polarisierung, der Verlust des Vertrauens in Medien und Institutionen, sowie KI-Beziehungen, die reale soziale Kontakte verdrängen, die Triebfedern sein, die dazu führen, dass „Gesellschaften zusammenbrechen“, warnt der Forscher. „Langsam, aber sicher würden wir nicht mehr in der Lage sein, menschliches Leben in irgendeinem Umfang zu erhalten.“
Auch wenn andere Szenarien nicht ausgeschlossen werden könnten, sieht der australische Forscher schlussendlich weniger einen plötzlichen Angriff der Maschinen, wie er in Science-Fiction regelmäßig beschrieben wird, als größte Gefahr – sondern vor allem die schleichende Erosion menschlicher Zusammenarbeit, angetrieben durch KI‑Technologie. „Es gibt sicherlich einige Dinge, über die man sich Gedanken machen muss“, lautet Walshs Fazit. „Aber ich hoffe, dass man sich nicht allzu große Sorgen machen muss.“