Der Leiter eines führenden KI-Konzerns warnt vor Risiken. Eine Regierungsbehörde soll die Befugnis erhalten, bedrohliche KI-Anwendungen abzuschalten.

Dario Amodei, der Geschäftsführer von Anthropic, einem Unternehmen für künstliche Intelligenz, befürwortet die Schaffung einer staatlichen Befugnis, um bedrohliche KI unterbinden zu können. In einem Online-Artikel verlangte er, dass hoch entwickelte KI-Modelle einer Risikoprüfung unterzogen werden müssten. Im Fokus sollten dabei die Felder Cybersicherheit, biologische Waffen sowie ein potenzieller Kontrollverlust über die Technologien stehen. Dies beinhalte auch eine automatisierte Fortentwicklung der Software, welche die genannten Gefahren zusätzlich verschärfen könnte.

Amodei brachte für die Realisierung dieser Analysen eine staatliche Behörde ins Spiel, die mit einer Luftfahrtaufsicht vergleichbar wäre. Als Alternative nannte er private Auditoren, die von staatlicher Seite mandatiert werden. Schon früher hatte sich Anthropic für strengere Vorschriften im KI-Sektor starkgemacht und erntete dafür Tadel von Teilen der Industrie und aus dem Weißen Haus.

Wachsende Befürchtung vor Cyber-Attacken

Mit seiner KI-Anwendung Claude wird Anthropic als Hauptwettbewerber von OpenAI, dem Entwickler von ChatGPT, angesehen. Jüngst erregte die Firma mit ihrem KI-Modell namens Mythos Aufmerksamkeit. Dieses kann Sicherheitslücken in häufig genutzter Software identifizieren, die teilweise seit Jahrzehnten verborgen waren.

Dieser Fortschritt nährte die Befürchtung, dass künstliche Intelligenz in Zukunft für katastrophale Cyber-Attacken eingesetzt werden könnte. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.