Die EU-Kommission greift die Debatte um Elon Musks KI-Dienst Grok und die sexualisierten Deepfakes auf.
Elon Musks PlattformEU-Kommission ermittelt wegen Deepfakes gegen Grok und X
Elon Musk steht unter anderem wegen der KI-Instanz Grok in der Kritik.
Copyright: afp
Die EU-Kommission hat unter anderem wegen sexualisierter Deepfakes ein Prüfverfahren gegen die Online-Plattform X und deren KI-Angebot Grok eingeleitet. Das gab die Kommission am Montag in einer Pressemitteilung bekannt. Im Zuge der Ermittlungen will sie prüfen, ob die Betreiber die Risiken, die mit der Technik verbunden sind, ausreichend bewertet und gemindert haben.
Der Digital Services Act, das zentrale EU-Gesetz zur Plattformregulierung, schreibt großen Online-Plattformen vor, Risiken, die mit ihren Angeboten einhergehen, zu prüfen und von sich aus so gut wie möglich zu begrenzen. Der auf der Online-Plattform X eingebundene KI-Dienst Grok hatte in den vergangenen Wochen Schlagzeilen gemacht, weil Nutzer mit der Technik sexualisierte Nacktbilder von anderen Nutzern oder Prominenten erstellen konnten - darunter auch von Kindern.
„Sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung“, sagte Henna Virkkunen, die für die Digitalbranche zuständige EU-Kommissarin. Mit der Untersuchung wolle man feststellen, ob X die Rechte europäischer Bürger als Kollateralschaden seines Dienstes behandelt habe.
Deepfakes weiter möglich
Einige Staaten hatten Grok daraufhin verboten. Eigenen Angaben zufolge hat das Unternehmen die Erstellung sexualisierter Deepfakes mittlerweile unterbunden. Nutzern ist es nach der Anpassung aber weiterhin gelungen, künstliche Nacktbilder zu erstellen. Die EU- Kommission steht auf dem Standpunkt, dass diese Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte, darunter manipulierter, sexuell eindeutiger Bilder, den Bürgern der EU ernsthaften Schaden zufügen. Deshalb habe man das Prüfverfahren eingeleitet, so die Kommission.
Das Verfahren gegen Grok erweitert das schon seit Ende 2023 laufende Verfahren gegen X. Dabei untersucht die EU-Kommission, ob X die Risiken, die mit dem Empfehlungsalgorithmus der Plattform verbunden sind, ordnungsgemäß bewertet und gemindert hat. Ende 2025 hatte die Kommission in diesem Zusammenhang schon eine Geldbuße von 120 Millionen Euro gegen die Plattform verhängt, weil der Konzern keinen ausreichenden Datenzugang für Forscher bereitgestellt hatte. (kna)