Meine RegionMeine Artikel
AboAbonnieren

„Fake News“ bei Tiktok und CoSo gefährlich sind gefälschte Videos

Von
Lesezeit 5 Minuten
Frau hat ein Handy in der Hand und schaut drauf.

Fake-Videos werden immer häufiger mithilfe von künstlicher Intelligenz generiert.

Copyright: dpa-tmn

Mit künstlicher Intelligenz veränderte Internet-Videos beschäftigen auch die Kölner Polizei.

Es sind verstörende Bilder, die auf dem Smartphone-Bildschirm auftauchen: Eine eingestürzte Brücke, ein gelber Schulbus, der mithilfe eines Krans aus dem Rhein geborgen wird, trauernde Familien neben Blumengestecken am Ufer. Darüber steht: „Köln Schock. Schulbus in Rhein. Keiner überlebt.“ In den mehr als 1300 Kommentaren, die Internetnutzer unter dem Video auf der Plattform Tiktok hinterlassen haben, gibt es etliche Beileidsbekundungen, aber auch Schuldzuweisungen. „Weil unsere Steuergelder in andere Länder verschenkt werden, ist eine regelmäßige Wartung in vielen Bereichen einfach nicht möglich“, schreibt zum Beispiel ein Nutzer, der sich „Andy“ nennt. Die allermeisten schreiben allerdings: „Ist das wahr?“

Passiert ist die Tragödie nicht. Die Bilder wurden von einer Künstlichen Intelligenz (KI) generiert. Ein Einzelfall sind sie jedoch nicht: Auf der Internet-Plattform Tiktok reiht sich der Schulbus-Clip in eine ganze Reihe ähnlicher Videos über angebliche Kölner Katastrophen ein. Ende April sind auf Tiktok außerdem eine Meldung eines S-Bahn-Unglücks in Deutz mit neun Toten zu finden, ein Flugzeugabsturz in Köln mit 937 Opfern, eine Blutspur vor dem Dom oder ein Lastwagen, der am 11. April in eine Menschenmenge am Neumarkt gerast sein soll. „Tragödie in Köln. War es ein Angriff von Extremisten?“ steht unter dem Bild, auf dem Polizeibeamte und ein demolierter Lkw zu sehen sind. 

Immer wieder Fake-Videos in den sozialen Medien

Die Polizei Köln bestätigt auf Nachfrage der Rundschau, dass sie immer wieder Fälle von Fake-Videos in den sozialen Medien registriert, teils sind diese Videos KI-generiert. „Hat die Polizei Kenntnis darüber, werden die Videosequenzen gesichert, inhaltlich geprüft und bei der Kriminalpolizei sowie der Staatsanwaltschaft strafrechtlich eingeordnet und gewürdigt“, teilt die Behörde mit. Ernst genommen werden sie in jedem Fall: „Desinformationen dieser Art können fatale Auswirkungen haben. Sie zielen darauf ab, Menschen zu verunsichern, zu beeinflussen oder zu verängstigen“, so eine Sprecherin der Polizei.

Fake-Videos dieser Art können auch Straftaten darstellen, wenn sie zum Beispiel Persönlichkeitsrechte verletzen oder eine Straftat vortäuschen, teilt die Polizei mit. Das Verbreiten von bestimmten Inhalten, wie zum Beispiel von pädokriminellen Inhalten, ist per se strafbar.„ Eine generelle Strafbarkeit für die Verbreitung von Fake News existiert im deutschen Recht bislang nicht, ist aber Gegenstand der aktuellen rechtspolitischen Diskussion“, teilt die Zentral- und Ansprechstelle Cybercrime in Nordrhein-Westfalen (ZAC NRW) mit Sitz in Köln mit. Auch auf europäischer Ebene versuche man mit dem Digital Services Act (DSA) auf das Phänomen zu reagieren: Nutzer großer Onlineplattformen und Suchmaschinen sollen illegale Inhalte melden können. Zudem soll dies die Betreiber der Plattformen verpflichten, illegale Inhalte zu sperren.

Desinformation ist nichts Neues, sie waren schon immer Teil einer Informations-Politik, gerade in Krisen wie etwa zwischen Russland und der Ukraine.
Prof. Dr. Lars Rinsdorf, Institut für Informationswissenschaft an der TH Köln

Aber was sind die Gründe, solche Videos, die auch „Deepfakes“ genannt werden, zu erstellen und sie zu verbreiten? Sachlich falsche Informationen zu verbreiten, sogenannte Desinformationen, neudeutsch „Fake News“, habe oft strategische Gründe, sagt Prof. Dr. Lars Rinsdorf, der am Institut für Informationswissenschaft der TH Köln zum Thema forscht. „Desinformation ist nichts Neues, sie waren schon immer Teil einer Informations-Politik, gerade in Krisen wie etwa zwischen Russland und der Ukraine“, so Rinsdorf. Es gebe aber auch viele Menschen, denen es einfach Spaß mache, im Internet Unruhe zu stiften, sogenannte Trolle. 

„Ernsthafte Bedrohung für den gesellschaftlichen Frieden“

Immer weniger Menschen nutzen journalistische Quellen, vielmehr werden andere Kanäle, wie soziale Medien oder Messenger-Dienste genutzt, um Nachrichten aufzunehmen. „Die Bilder sind flüchtiger, bei Videos kann in der Kürze der Zeit, in der sie angezeigt werden, kaum der Wahrheitsgehalt überprüft werden“, so Professor Lars Rinsdorf. Bei Tiktok erstellte Videos dauern maximal 60 Sekunden. Dennoch vermitteln Bewegtbilder eine andere Authentizität, so der Experte. 

Im schlimmsten Fall könnten Desinformationen die Haltung einer ganzen Gesellschaft verändern. „Bei Menschen, die der Demokratie ohnehin skeptisch gegenüberstehen, können sich demokratiefeindliche Weltbilder festsetzen.“ Sie könnten Wahlentscheidungen beeinflussen oder sogar zu Übergriffen im realen Leben führen. „Die Verbreitung von Desinformation in digitalen Medien stellt eine wachsende Herausforderung und ernsthafte Bedrohung für den gesellschaftlichen Frieden dar“, warnt Rinsdorf.

Plattformen müssen in die Pflicht genommen werden

Zusammen mit Juristen und Kommunikationswissenschaftlern forscht der Kölner seit sechs Jahren zu dem Thema, insbesondere auf der Plattform „Telegram“. Entwickelt wurden dabei auch Strategien und Handlungsempfehlungen, wie man mit solchen Desinformationen umgeht. Wichtig sei es, so der Experte, die Resilienz und die Medienkompetenz der Gesellschaft zu stärken. Damit sollte bereits in der Schule begonnen werden. „Aber auch die Plattformen selbst und die Politik muss hier in die Pflicht genommen werden“, so Rinsdorf.

Bei der Kölner Polizei ist vor allem die Kommunikation über die eigenen Social-Media-Kanäle ein zentraler Bestandteil, um auf falsche Informationen zu reagieren. Dort informiert sie auch selbst über besondere Einsatzlagen oder echte Straftaten, die das „Sicherheitsgefühl der Bevölkerung beeinträchtigen können“. „Es ist wichtig, durch transparente Informationen Vertrauen zu schaffen“, so eine Sprecherin. Alle Informationen werden vor Veröffentlichung aber immer noch mal auf sachliche Richtigkeit geprüft.

Wie erkenne ich Fake-Videos?

Hände haben oft zu wenige oder zu viele Finger, Arme fehlen oder sind abgeschnitten, Ohren haben eine schlecht ausdifferenzierte Form, ein „leerer“ Blick. Auch verzerrte Gesichter oder ein zu rhythmisches Blinzeln, sowie allzu statische Bewegungsabläufe ein Hinweis sein. Passen Lichteinstrahlung und Schattenwurf zusammen? Gibt es Verzerrungen?

Ist der Inhalt des Bildes oder Videos plausibel? Hilfreich bei der Prüfung anderer Quellen können dabei seriöse News-Seiten, Faktencheck-Portale und die Bilder-Rückwärtssuche von Suchmaschinen sein.

Die Polizei appelliert, keine falschen und ungeprüften Informationen zu verbreiten, Inhalte zu hinterfragen und nicht weiterzuleiten. Fake News oder Verschwörungsmythen können beim jeweiligen Onlinedienst als solche gemeldet werden, damit sie gelöscht werden. Bei strafbaren Inhalten sollte die Polizei informiert werden.