Die Schülerzeitung veröffentlicht hier ein (verkürztes) Handout von Anna Betz zum Thema Deepfakes. Das dazugehörige Fachreferat hielt die Schülerin im Politik-Kurs von Frau Holzmann.

A Zentrale Termini und (Funktionszusammenhänge) von Deepfakes

1. Definition von Deepfakes

Deepfakes sind mit generativer KI generierte oder manipulierte Medieninhalte. Dabei kann es sich um gefälschte Bilder, Videos, Texte oder Audioinhalte handeln. Diese wirken oft sehr realistisch und lassen sich kaum von echten Medieninhalten unterscheiden.

2. Funktionsweise von Deepfakes

2.1. Künstliche Intelligenz und maschinelles Lernen

Deepfakes werden von Künstlicher Intelligenz (KI), genauer gesagt von generativer KI, erstellt. Ein Teil davon ist maschinelles Lernen, dabei handelt es sich um Algorithmen (festgelegte Abfolge von Anweisungen, um eine Aufgabe auszuführen), welche von Trainingsdaten „lernen“ können.

2.2. Deep Learning

Deep Learning ist ein Teilbereich des maschinellen Lernens. Es imitiert das menschliche Gehirn durch künstliche neuronale Netzwerke (KNN). Diese bestehen aus verschiedenen Schichten von „Neuronen“. Der Begriff Deep Learning bezeichnet KNN mit mindestens vier Schichten, je mehr Schichten, desto lernfähiger ist das KNN.

2.3. Generative Adversarial Network (GAN)

Ein wesentliches Deep Learning-Modell ist das Generative Adversarial Network (GAN). Dabei handelt es sich um ein KNN, das z. B. darauf trainiert wird realistische Daten wie Deepfakes zu erstellen. GANs bestehen aus zwei Deep Learning Netzwerken. Einem Generator, welcher neue Datenpunkte erstellt, und einem Diskriminator, der bewertet, ob ein Datenpunkt echt oder gefälscht ist. Die beiden Netzwerke arbeiten gegeneinander und verbessern sich dadurch ständig gegenseitig. Durch den großen Fortschritt der generativen KI in den letzten Jahren ist es inzwischen sogar Laien möglich, realistische Deepfakes zu erstellen.

3. Erkennung von Deepfakes

Generell sind zur Erkennung von Deepfakes eine kritische Haltung und das Überprüfen von Quellen notwendig. Des Weiteren liefern verschiedene Merkmale wie sichtbare Übergänge, begrenzte Mimik und unstimmige Beleuchtung sowie scharfe Konturen, die verwaschen sind, Hinweise darauf, dass es sich bei einem Bild oder Video um ein Deepfake handelt. Bei Audios kann ein metallischer Sound, falsche Aussprache oder eine falsche Sprechweise darauf hindeuten, dass es von einer generativen KI erstellt wurde.

B Inwiefern werden Deepfakes eingesetzt, um politische extremistische Inhalte zu verbreiten?

1. Definition von politischem Extremismus

Bei politischem Extremismus handelt es sich um Bestrebungen, welche den demokratischen Verfassungsstaat sowie dessen fundamentalen Werte, Regeln und Normen ablehnen. Besonders richtet sich dies gegen die Idee der Menschenrechte. Das grundlegende Ziel ist es, die freiheitliche demokratische Grundordnung abzuschaffen und durch eine eigene Ordnung zu ersetzen.

3. Verbreitung von politischen extremistischen Inhalten in den USA

Deepfakes werden dort hauptsächlich im Wahlkampf verwendet. Unter anderem, um Wähler zu manipulieren oder vom Wählen abzuhalten und um Politiker zu diskreditieren.

4. Verbreitung von politischen extremistischen Inhalten durch extremistische Gruppen

Ein Beispiel dafür ist der „Islamische Staat“ (IS). Dieser nutzt Deepfakes, um neue Mitglieder zu rekrutieren, ein Gemeinschaftsgefühl unter den Mitgliedern zu schaffen und um extremistische Inhalte zu verbreiten.

5. Fazit

Deepfakes werden in verschiedenen Ländern, ähnlich wie in den USA, eingesetzt, um politische Gegner zu diskreditieren und um Wahlkampf zu betreiben. Aber auch extremistische Gruppen haben ihr Potential erkannt und nutzen Deepfakes zunehmend.

6. Rechtliche Regelungen

National gibt es in Deutschland keine speziellen rechtlichen Regelungen für Deepfakes. Allerdings regelt der Digital Services Act (DSA), wie große Plattformen hinsichtlich KI reguliert werden. Außerdem gilt für Deepfakes ab Mitte 2026, wenn der AI Act in Kraft tritt, eine Kennzeichnungspflicht.

Diskussionsfrage: Inwiefern stellen Deepfakes eine Gefahr für die Demokratie (in Deutschland) dar?

1. Deepfakes könnten in Deutschland, ähnlich wie in den USA zur Wahlmanipulation missbraucht werden. Bisher werden Deepfakes im deutschen Wahlkampf eher zögerlich eingesetzt, allerdings spielen sie weltweit eine immer wichtigere Rolle.

2. Deepfakes führen dazu, dass das Interesse an der Wahrheit sinkt. Kritiker befürchten, dass Deepfakes zu einem sinkenden Vertrauen in die Medien führen könnten.

Text: Anna B.