Interview: Lauterbach: „KI kann sehr bald terroristisch nutzbare Substanzen entwickeln“

Karl Lauterbach lehrt an der Harvard University als nebenberuflicher Professor, gleich gibt er eine Vorlesung über Künstliche Intelligenz in der Medizin. In den Tagen davor hat der Vorsitzende des Forschungsausschusses im Bundestag die großen KI-Labore von OpenAI, DeepMind und Anthropic besucht. Die Erkenntnisse, die der frühere Gesundheitsminister aus den Vereinigten Staaten übermittelt, sind beunruhigend.

Herr Lauterbach, wie ernst nehmen Sie die Warnungen der amerikanischen Tech-Bosse, Künstliche Intelligenz könnte außer Kontrolle geraten?

Die Warnungen sind sehr ernst zu nehmen, das ist kein Marketing. Gespräche mit Mitarbeitern der großen KI-Unternehmen haben mir gezeigt, dass die Beschleunigung der Fortschritte in der KI einen Kontrollverlust möglich macht. Das Risiko ist substanziell. Dafür gibt es drei Gründe.

Die Systeme haben sehr gut gelernt, Programmcode zu schreiben. Das hat die komplette Programmierung von KI enorm beschleunigt. Die Tech-Unternehmen schreiben mittlerweile mit KI den Code ihre eigenen Modelle. Zweitens lernen die Programme zunehmend, sich selbst zu verbessern. Der Mensch wird dabei langfristig überflüssig, verliert aber auch die Kontrolle. Drittens: Die Innensicht, wie die KI funktioniert und was das Modell überhaupt macht, ist schon ein Stück weit verloren gegangen. Man hat es also mit einer enormen Beschleunigung und einem Sicherheitsverlust zu tun.

Ich habe mich schon als Gesundheitsminister intensiv mit der Frage beschäftigt, wie die Endstrecke einer solchen Gefährdung aussehen könnte. Es wird davon gesprochen, die Menschheit könnte ausgelöscht werden. Das ist nicht plausibel, ich halte das auch nicht für wahrscheinlich. Es gibt aber einige Szenarien, die Riesenschaden anrichten könnten.

KI wird sehr bald in der Lage sein, terroristisch nutzbare Substanzen zu entwickeln. Zum Beispiel besonders aggressive Viren. Auch Chemikalien, die extrem toxisch sind. Das bringt Gefährdungen, die wir uns bisher nicht vorstellen konnten. Das ist aber nicht alles.

Der Finanzmarkt und der komplette wirtschaftliche Kreislauf können durch KI angegriffen werden. Die Systeme werden Fähigkeiten haben, mit denen sie gigantischen ökonomischen Schaden anrichten könnten. Das Erpressungspotenzial wächst damit exponentiell. Ein drittes Szenario: Staaten, die über hoch entwickelte KI verfügen, bekommen enorme Macht über Staaten, die diese Systeme nicht haben. Zum Beispiel könnte eine Zweitschlagverteidigung im Fall eines nuklearen Angriffs nicht mehr möglich sein. Es stellt sich auch die Frage, wie sicher Kernkraftwerke überhaupt noch sein werden. Die gesamte Landes- und Bündnisverteidigung muss neu gedacht werden - gerade in Europa, das besonders bedroht ist.

Anthropic, OpenAI, Space X

Amerikanische KI-Bosse warnen vor zu schneller Entwicklung

Europa hat keine eigene KI, die auch nur annähernd vergleichbar wäre mit den besten amerikanischen und chinesischen Systemen. Mit keiner europäischen KI könnte man Angriffe dieser Top-Modelle abwehren.

Wir sind in einer Phase, in der die Systeme sich selbst verbessern. Wer jetzt noch keine sehr guten Modelle hat, kann den Rückstand möglicherweise schon nicht mehr aufholen. Es braucht sehr gute Modelle, um auf deren Struktur noch bessere aufzubauen. Europa ist davon abgeschnitten. Der Rückstand auf die USA und China wird mit jedem Monat eher größer. Das bestätigen KI-Forscher der Universitäten Stanford und Berkeley und der großen KI-Labore. In wenigen Wochen reisen wir mit dem Forschungsausschuss nach China, wo wir sicher nichts anderes hören werden. Europa hat die Entwicklung erst einmal verpasst.

Was erwarten Sie von der Weltpolitik, namentlich von US-Präsident Donald Trump und dem chinesischen Staatschef Xi Jinping?

Es muss zu einer Form von Regulierung kommen. Die Sorgen der Mitarbeiter in den KI-Laboren, aber auch der unabhängigen Wissenschaftler zeigen: Wir brauchen jetzt tatsächlich Sicherheitsregeln. Auch Deutschland muss dafür kämpfen, dass diese Regulierung kommt. Die Selbstregulierung der Unternehmen wird nicht genügen.

Es muss unabhängige Kontrollen geben, was die KI-Modelle können. An welchem Punkt sind sie, was die Gefahren angeht. Können sie aus sicheren Umgebungen ausbrechen? Wofür können sie eingesetzt werden? Besonders gefährliche Nutzungsmöglichkeiten, etwa zur Herstellung von waffenfähigen Produkten, müssen abgeschaltet werden. Niemand darf ein Modell auf den Markt bringen ohne Sicherheitsgarantien. Man kann ja auch kein Medikament verkaufen, bevor es staatlich überprüft wurde. Und bei KI-Modellen, die viel gefährlicher sind als Medikamente, gibt es bisher nur eine Selbstkontrolle. Dabei kann es nicht bleiben.

Wie wollen Sie durchsetzen, dass auf der ganzen Welt die gleichen Regeln gelten und eingehalten werden?

Sinnvoll wäre eine weltweite einheitliche Regulierung. Im Grunde geht es aber nur um die Vereinigten Staaten und China. Diese beiden Staaten müssen zu einer Verständigung kommen. Der Rest der Welt spielt bei der KI, die sich verselbständigen könnte, keine Rolle. Das wird auf absehbare Zeit so bleiben. Ob wir langfristig ein eigenes Modell der Top-Liga noch aufbauen können, ist fraglich und wird von Experten offenbar sehr unterschiedlich bewertet.

Wenn wir eine Chance haben wollen, den Rückstand aufzuholen, müssen wir viele Milliarden Euro investieren. Die Kosten sprengen die jetzigen Ansätze in der High Tech Agenda für KI der Bundesregierung deutlich. Wahrscheinlich wäre es nur als europäische Aktion möglich. Die Talente hätte Europa. Aber dass wir diese Summe aufbringen können, bezweifele ich. Es kommt noch etwas hinzu: Ein großer Teil der Daten, die man für das Training der Modelle braucht, wird illegal beschafft. Die Daten werden einfach geraubt. Das ist eine Bonanza.

Diese Methoden werden von den Top-Unternehmen weltweit eingesetzt. Im europäischen Rechtsrahmen ist das schlicht nicht darstellbar.

Was kann ein Digitalminister oder eine Forschungsministerin in Deutschland tun, wenn sie nicht in Depression verfallen wollen?

Die Lage ist schwierig. Aber Deutschland kann eine wichtige Rolle spielen als Vermittler, um zu einer globalen Regulierung zu kommen.