Die Verheißungen und Risiken von Künstlicher Intelligenz waren Thema beim europäischen Digitalgipfel mit Friedrich Merz und Emmanuel Macron am Dienstagabend in Berlin. Viele treibt die Sorge um, Sprachmodelle der US-Tech-Giganten wie Gemini, Perplexity oder ChatGPT könnten sich verselbständigen und der Kontrolle durch Menschen entziehen. In Deutschland ist die Bundesnetzagentur für die Umsetzung des AI Act der Europäischen Union zuständig.

Deren Präsident Klaus Müller hat im Gespräch mit unserer Redaktion vor einem unkritischen Umgang mit „Lügen“ der Künstlichen Intelligenz gewarnt. Es gebe „Gefahren und Herausforderungen“, die vor allem mit der Qualität der Sprachmodelle wie ChatGPT oder Gemini zu tun hätten. Bei mathematischen oder naturwissenschaftlichen Aufgaben sei das „relativ unproblematisch“, da es um richtig oder falsch gehe.

Halluzinationen der KI als Gefahr

„Geht es aber um Aussagen in einem gesellschaftspolitischen oder historischen Kontext, und die KI halluziniert, dann ist das nur ein netteres Wort für Lügen. Da liegt die Gefahr“, sagte Müller und erläuterte: „Denn wenn Personen, Institutionen, Medien unkritisch mit dieser Technologie umgehen, kann das Vertrauen beschädigt werden, und es können gravierende Fehler gemacht werden. Ja, das treibt mich um!“ Aber immerhin: Sorgen, eine Super-KI könne sich verselbstständigen und der menschlichen Kontrolle entziehen, trat Müller entgegen: „Dass demnächst ein „Terminator“ aus den Laboren von ChatGPT oder Gemini entsteigt und uns zu seinen Knechten macht? Nein, diese Fantasie teile ich nicht.“

Zum EU-Digitalgipfel in Berlin mahnte Müller zu Tempo bei der Regulierung. „Wir brauchen Klarheit über die Regeln, die in Europa gelten, damit wir unsere strategische Position als Vorreiterin in Sachen KI weltweit sichern können – und Unsicherheiten im Markt sind da nicht hilfreich.“ Die Bundesregierung will die Anwendung der beiden höchsten Sicherheitsstufen aus dem AI Act der Europäischen Union um ein Jahr verschieben. Ein verlängerter Zeitraum könne aber genutzt werden, um „wesentliche Fortschritte bei der Standardisierung zu erreichen und so die Umsetzung für alle Beteiligten zu erleichtern“, sagte Müller.

Unbegründete Sorge vor übermäßiger Bürokratie

Zugleich trat der Behörden-Präsident Befürchtungen entgegen, die EU lege mit dem AI Act „kreative Köpfe in Fesseln“, weil fast alle ihrer Geschäftsmodelle als besonders riskant eingestuft würden. Eine Ersteinschätzung etlicher Unternehmen habe ergeben: „High-Risk-KI-Systeme sind die Ausnahme. Die Sorge vor übermäßiger Bürokratie durch den AI Act ist in den allermeisten Fällen unbegründet.“

Zurückhaltend äußerte sich Müller zu Rufen nach einem europäischen Konkurrenten für die Sprachmodelle der US-Tech-Giganten. Die Bundesnetzagentur ermutige Unternehmen, etwas auszuprobieren. „Ob das industrielle Anwendungen auf Basis von KI-Modellen sind, mit denen man Geld verdienen kann, oder ob es auf ein europäisches ChatGPT hinausläuft, sei dahingestellt.“