How deep is your fake?

Ein harmloses Urlaubsfoto, ein YouTube-Clip oder ein öffentliches Profilbild – mehr braucht es nicht, damit täuschend echte pornografische Bilder und Videos, sogenannte Deepfakes, im Netz auftauchen. Die Betroffenen, fast ausschließlich Frauen*, haben nie zugestimmt. Deepfake-Pornografie gehört zu den drastischsten Formen digitaler Gewalt. Mit wenigen Klicks lassen sich mithilfe von KI-Anwendungen Gesichter in pornografisches Material montieren. Wer einmal betroffen ist, hat kaum eine Chance, die Bilder wieder von Plattformen entfernen zu lassen. Denn die auf realem Bildmaterial basierenden Montagen sind sowohl von Systemen, als auch von Content Moderator*innen nur schwer als solche erkennbar. Der persönliche Schaden ist enorm, die rechtlichen Möglichkeiten für Betroffene bislang begrenzt. In der November-Ausgabe des Digitalen Salon sprechen wir über die Auswirkungen von Deepfake-Pornos auf Individuen und Gesellschaft, über Frauen*hass, fehlende Gesetze, politische Verantwortung und das Recht auf Selbstbestimmung. Denn die Frage ist längst nicht mehr nur: Was ist technisch möglich? Sondern: Was wollen wir als Gesellschaft zulassen und was nicht? *Unter dem Begriff Frau, verstehen wir alle Personen, die sich als weiblich identifizieren.