Deepfakes ᐅ Kein harmloses Vergnügen? (2024)

Definition: Was sind Deepfakes?

Der Begriff Deepfakes setzt sich aus der Lernmethode Deep Learning und Fake (für Fälschung) zusammen. Deepfakes sind gefälschte, aber realistisch wirkende Inhalte wie beispielsweise Fotos, Videos oder Audios.

Die Inhalte werden mit Hilfe künstlicher Intelligenz (KI) erstellt und lassen sich bei normalem Hinsehen oder Hören kaum als Fälschungen erkennen.

Wie funktionieren Deepfakes?

Deepfakes werden mittels neuronaler Netze erstellt. Wie funktioniert das? Bereits vorhandene, öffentliche (oder geleakte) Inhalte – Videos, Posts, Audios, Bilder – werden gesammelt, analysiert und darauf basierend neue, nicht echte Inhalte erschaffen bzw. die vorhandenen angepasst.

Insbesondere Videos werden gerne für Deepfakes genutzt. Hier ist die Glaubwürdigkeit noch höher: Wenn man es sehen kann, “muss” es doch echt sein.

Was ist Deep Learning?

Deep Learning ist eine Methode des maschinellen Lernens. Hier lernt der Computer mittels großer Datenmengen komplexe Muster und Zusammenhänge zu erkennen. Die Basis bilden künstliche neuronale Netze – ähnlich strukturiert wie das menschliche Gehirn.

Welche Techniken oder Arten von Deepfakes gibt es?

Es gibt verschiedene Techniken, die für verschiedene Zwecke eingesetzt werden können.

Zu den bekanntesten und aktuell am häufig verbreiteten Deepfake-Techniken zählen die folgenden vier:

• Face Swapping: Beim Face Swapping wird das Gesicht einer Person digital auf das Gesicht einer anderen Person übertragen. Die Mimik der ursprünglichen Person wird beibehalten.
• Face Reenactment: Beim „Face Reenactment“ werden Kopfbewegung und Mimik einer Person manipuliert. Die betroffene Person trifft demnach Aussagen, die sie so nie getan hätte. Das Video dieser Person existiert also tatsächlich, aber mit einem anderen (echten) auditivem Inhalt.
• Text-to-Speech: Bei dieser Technik wird der Text durch die KI in Audio umgewandelt.
• Voice-Conversion: Voice-Conversion Deepfakes sind eine spezielle Art von Deepfakes und Weiterentwicklung der Text to Speech. Hierbei wird die Stimme so manipuliert, bis sie der gewünschten Person entsprechen.

3 bekannte Beispiele für Deepfakes

Tom Cruises Deepfake

Das folgende Video zeigt Tom Cruise, der scheinbar eine Botschaft an seine Fanbase richtet.

Barack Obamas Fake-Ansprache

In Kooperation mit Jordan Peele hat Buzzfeed ein Deepfake Video veröffentlicht, in welchemoffenkundig der ehemalige US-Präsident Barack Obama zum Zuschauer spricht.

Zuckerberg: Deepfake vs Original

Vermeintlich zeigt das Video den Facebook-Gründer Mark Zuckerberg, wie er über die Weltherrschaft sinniert.

Hier ist das Original – Zuckerberg äußert sich zu einer möglichen US-Wahlmanipulation bei Facebook durch Russland:

Beachten Sie: Dies ist nur eine kleine Auswahl bekannter Deepfakes. Es gibt unzählige weitere Videos, die mit “Deepfake-Technologie” erstellt wurden und auf Plattformen wie YouTube im Umlauf sind.

Wie erkenne ich Deepfakes?

Deepfakes sind oft nur sehr schwer zu erkennen.

Aspekte, die eine Fälschung wahrscheinlich machen

• Unstimmigkeiten in der Mimik (hölzern) oder der Hautfarbe (wächsern)
• Körperhaltung und Proportionen der Objekte im Video
• Verpixelungen oder Artefakte im Bild
• Unnatürliche Bewegungen der Lippen (nicht synchron zum Gesagten)
• Übergänge am Gesicht
• Muttermale, Tattoos etc., die fehlen oder nicht passen
• Verbreitung der Inhalte über seriöse Nachrichtenseiten oder nur über Social Media
• Nicht zur Umgebung passende Lichtverhältnisse auf dem Gesicht
• Absurdität der Inhalte
• Metallischer oder abgehackter Klang der Stimme

Tipp: Sehen Sie sich “verdächtige” Videos auf einem großen Bildschirm an. Je kleiner der Inhalt, desto schwerer sind Deepfakes zu erkennen.

Welche “Detection Tools” erkennen Deepfakes?

Spezielle Software, wie beispielsweise die FakeCatcher-Technik von Intel, hilft in Echtzeit bei der Erkennung von Deepfakes.

Als “normaler” User können Sie den DeepFake-o-meter von Chip verwenden, oder, wenn Sie sich unsicher sind, auch den Faktenchecker der DPA (Deutsche Presse Agentur) kontaktieren.

Gefahren & Nachteile von Deepfakes

Die obige Infografik von Statista zu Deepfakes zeigt, dass Deepfakes in Deutschland kritisch gesehen werden. 60 % der Befragten wünschen sich, dass Deepfakes ganz verboten werden.

Was für den einen nur ein harmloser Gag ist, bedeutet für den nächsten Rufmord. Die Gefahren von Deepfakes sind vielfältig und können sowohl Personen, Gruppen und auch Unternehmen betreffen.

Mögliche negative Folgen von Deepfakes

• Negative Beeinflussung der öffentlichen Meinung (Panikmache)
• Desinformation
• Propaganda
• Betrug
• Identitätsdiebstahl
• Schwierigkeiten bei Beweismittelführung
• Erhebliche Verleumdung, Diskreditierung und Rufschädigung
• Vertrauensverlust in mediale Inhalte
• …

Beispiele für Vorfälle, die sich bereits ereignet haben

Wie sehr Deepfakes für kriminelle und politische Zwecke missbraucht werden können, zeigen unter anderem folgende Beispiele:

• Sexuell explizite Deepfakes der Sängerin Taylor Swift
• Deepfakes im Vorfeld der Wahlen in Taiwan, Bangladesch, Slowakei und England
• Anruf vom Fake CEO beim Passwortmanager Unternehmen Lastpass

Über den Verfasser

Frank Bollen
Leitung Marketing bei EXTRA Computer GmbH

Frank Bollen, Leiter der Marketingabteilung, verfügt über langjährige Erfahrung im Bereich Business IT und Industrie IT. Mit einem einzigartigen Mix aus kreativem Marketinggeschick und technischem Verständnis prägt er die strategische Ausrichtung seines Teams. Bollens Leidenschaft an innovativen Lösungen zeigt sich nicht nur in seiner beruflichen Laufbahn, sondern auch in seinen Beiträgen und Veröffentlichungen wider.

LinkedInXingAlle Beiträge