1. Was sind Deepfakes?

Deepfakes sind digitale Inhalte wie Bilder, Tonaufnahmen oder Videos, die mithilfe Künstlicher Intelligenz erzeugt oder verändert wurden. Sie ähneln realen Personen, Objekten, Orten, Institutionen oder Ereignissen so stark, dass sie beim Betrachter den falschen Eindruck von Echtheit oder Authentizität erwecken können.

2. Formen der Manipulation

Mithilfe sogenannter „Face-Swapping“-Technologie wird das Gesicht der betroffenen Person auf das Bild- oder Videomaterial einer anderen Person übertragen. Neben dem Face-Swapping, gibt es weitere Formen der Manipulation durch Künstliche Intelligenz. Dazu zählt unter anderem das „Voice Swapping“, bei dem die Stimme einer Person nachgeahmt oder ersetzt wird. Eine weitere Technik ist das sogenannte „Body Puppetry“, bei dem die Körperbewegungen einer Person aufgezeichnet und auf eine andere Person in einem Video übertragen werden.

3. Betroffene Personen – nicht nur Prominente

Die betroffenen Personen sind hauptsächlich Mädchen und Frauen. Die Gefahr, in Deepfake-Pornografie zu erscheinen, betrifft nicht nur prominente Persönlichkeiten. Auch Privatpersonen und nicht-öffentliche Personen können Opfer solcher Manipulationen werden. Wir müssen mit der Gefahr leben, dass uns das jederzeit passieren kann.

4. Technologische Entwicklung und Anwendungen

Als die ersten Deepfake-Tools entwickelt wurden, waren sie technisch anspruchsvoll und nur schwer zugänglich. In der Anfangsphase wurden vor allem Face-Swap-Videos mit prominenten Frauen erstellt und verbreitet. Mit der fortschreitenden Entwicklung wurden die Anwendungen jedoch zunehmend benutzerfreundlicher und damit für eine breitere Öffentlichkeit nutzbar. Infolgedessen gerieten immer häufiger auch Privatpersonen ins Visier von Deepfake-Manipulationen.
Inzwischen gibt es zahlreiche Apps, Websites und Programme, die Künstliche Intelligenz nutzen. Darunter auch solche, mit denen sich Deepfake-Pornografie erstellen lässt. Selbst scheinbar harmlose Bilder, die auf Instagram oder anderen Sozialen Medien gepostet werden, können als Grundlage für derartige Inhalte dienen. Die Bandbreite reicht dabei von manipulierten Bildern in Unterwäsche oder Nacktheit bis hin zu vollständig gefälschten pornografischen Videos. Für die Erstellung solcher Deepfakes genügt oft bereits ein einzelnes Foto.

5. Erste Fälle und steigendes Vorkommen

Bereits im Herbst 2017 tauchten erste Deepfake-Pornovideos mit bekannten Schauspielerinnen im Internet auf. Während diese frühen Fälschungen noch relativ leicht als unecht zu erkennen waren, ist die Qualität heutiger Deepfakes so hoch, dass sie kaum noch von echten Aufnahmen zu unterscheiden sind.
Im Sommer 2024 wurde durch einen Bericht der Journalistin Ko Narin öffentlich, dass sich in Südkorea zahlreiche Gruppen organisiert haben, die Deepfake-Pornografie von Studentinnen und Schülerinnen verbreiten. Betroffen sind mehr als 500 Bildungseinrichtungen, darunter Universitäten und Schulen. Die Verbreitung der Inhalte erfolgte hauptsächlich über die Messenger-Plattform Telegram.

6. Verbreitung und Plattformökonomie

Das System funktioniert folgendermaßen: Einzelne Deepfake-Ersteller verdienen Geld mit ihren Videos und verbreiten Ausschnitte davon auf großen Deepfake-Plattformen, um neue Kundschaft zu gewinnen. Diese Plattformen generieren Einnahmen hauptsächlich durch Werbung, beispielsweise von Anbietern spezieller Deepfake-Apps. Die Anbieter dieser Apps erzielen ihre Gewinne durch Abonnements und nutzen teilweise Soziale Medien für ihre Werbung. Darüber hinaus profitieren auch Webhosting-Dienste, Serverbetreiber und Suchmaschinenbetreiber von den Aktivitäten auf diesen Plattformen.
Mit der Weiterentwicklung Künstlicher Intelligenz werden Deepfakes künftig noch schneller, einfacher und kostengünstiger herzustellen sein. Von diesem Geschäft profitieren zahlreiche Akteure: die Urheber der Videos, Betreiber der Plattformen, Hersteller der Apps sowie Webhosting- und Serverdienste. Sie alle erzielen Einnahmen durch die Nutzung manipulierten oder gestohlenen Bild- und Identitätsmaterials.

7. Auswirkungen auf die Betroffenen

Das Leben der Opfer wird durch Deepfake-Pornografie oft vollständig erschüttert. Viele verlieren dadurch entweder ihren Arbeitsplatz oder zumindest einen großen Teil ihrer Würde. Die Folgen können schwerwiegende und langfristige psychische sowie physische Schäden umfassen, insbesondere aufgrund der herabwürdigenden und sexualisierenden Objektivierung. Zudem kann es zu Rufschädigungen kommen, etwa durch Rachepornos. Cybermobbing wird durch solche Inhalte verstärkt und wirkungsvoller. Dabei werden nicht nur die Rechte der Opfer verletzt, sondern auch die der im Ausgangsmaterial dargestellten Pornodarstellerinnen.

8. Beispiele für gesetzliche Regelungen weltweit

Im Jahr 2020 haben China, Südkorea sowie mehrere US-Bundesstaaten Gesetze verabschiedet, die die Verbreitung von Deepfake-Pornografie unter Strafe stellen. Anfang 2024 haben Großbritannien und Italien die Verbreitung pornografischer Deepfakes unter Strafe gestellt. Nach einer EU-Richtlinie sind die Mitgliedstaaten verpflichtet, die Verbreitung von Deepfakes bis spätestens 2027 strafrechtlich zu ahnden.

9. Herausforderungen beim rechtlichen Vorgehen

In vielen Ländern existieren Gesetze, die sich auf bestimmte Aspekte der Erstellung und Verbreitung von Deepfake-Pornografie anwenden lassen. So können etwa Urheberrechtsverletzungen oder rufschädigende Inhalte rechtlich verfolgt werden. In der Praxis jedoch gestaltet sich der rechtliche Weg schwierig: Wer gegen solche Inhalte vorgehen möchte, braucht finanzielle Mittel, um juristische Schritte einzuleiten. Hinzu kommt, dass es oft nahezu unmöglich ist, die verantwortlichen Personen hinter der Erstellung und Verbreitung dieser Deepfakes zu identifizieren. Für die meisten Betroffenen bleiben die Handlungsmöglichkeiten daher stark eingeschränkt. Der rechtliche Schutz besteht theoretisch, ist aber für viele in der Realität kaum durchsetzbar.

10. Zivilgesellschaftliches Engagement

Die „NotYourPorn“-Kampagne wurde im Jahr 2019 gegründet und ist eine gemeinnützige Organisation. Sie bietet Aufklärungsprogramme an Schulen sowie Schulungen für die Polizei an, um Einsatzkräfte im Umgang mit Opfern bildbasierter sexueller Gewalt zu unterstützen. Darüber hinaus fördert die Organisation das gesellschaftliche Bewusstsein für dieses Thema und berät die Regierung bei der Ausarbeitung entsprechender Gesetzestexte. „NotYourPorn“ ist eine von zahlreichen Organisationen, die in den letzten Jahren ins Leben gerufen wurden, um den Herausforderungen im Umgang mit solchen Fällen entgegenzuwirken.

Fazit

Mittlerweile sind die Technologien für die Herstellung von Deepfakes nicht nur leicht zugänglich, sondern auch hochgradig effizient. Sie erfordern immer weniger Ausgangsdaten und erzeugen täuschend realistische Ergebnisse. Die Gefahr, in Deepfake-Pornografie dargestellt zu werden, betrifft nicht nur prominente Persönlichkeiten. Auch Privatpersonen und nicht-öffentliche Personen können Opfer solcher Manipulationen werden. Deshalb ist es wichtig, sich bewusst zu machen, dass diese Gefahr jederzeit jeden treffen kann.

Text: Jana G.