Wie kann man besser gegen digitale Gewalt vorgehen? Eine Thematik, die zuletzt vor allem wegen des Falls der Moderatorin Collien Fernandes groß diskutiert wurde. In der ARD-Doku „Collien Fernandes: FCK Deepfakes!“ hat sie über ihre Erlebnisse gesprochen – und darüber, was ihr geholfen hat.
ARD-Doku „F*CK Deepfakes!“Collien Fernandes: „Dann zeigt er mir Fotos“
Copyright: 2025 Getty Images/Joshua Sammer
Moderatorin Collien Fernandes hat in einer ARD-Doku über Identitätsmissbrauch und digitale Gewalt gesprochen.
Aktualisiert:
Collien Fernandes (44) engagiert sich seit Jahren gemeinsam mit der NGO „HateAid“ für wirksamere Gesetze gegen digitale Gewalt – auch, weil sie selbst betroffen ist. Über zehn Jahre gab sich eine Person im Internet als Fernandes aus, schrieb und telefonierte in ihrem Namen mit Männern und verschickte Fotos und Videomaterial.
Mittlerweile hat die Moderatorin ihren Fall öffentlich gemacht, Vorwürfe gegen ihren Ex-Mann Christian Ulmen (50) erhoben und Anzeige erstattet. Für den Schauspieler gilt die Unschuldsvermutung. Die genauen Hintergründe des Identitätsmissbrauchs ermittelt gegenwärtig die Staatsanwaltschaft Potsdam.
Collien Fernandes über Identitätsmissbrauch: „Ich habe mich so wahnsinnig alleingelassen gefühlt“
Noch bevor die 44-Jährige ihren Fall an die Öffentlichkeit brachte, sprach sie in der ARD-Doku „Collien Fernandes: F*CK Deepfakes!“ mit Eckart von Hirschhausen (58) über ihre eigenen Erfahrungen – und darüber, was ihr persönlich am Ende am meisten geholfen hat.
Der Wissenschaftsjournalist wird selbst immer wieder Opfer von Deepfakes im Netz. Mit seinem Gesicht und seiner Stimme wird online Werbung für verschiedenste Präparate und vermeintliche medizinische Wundermittel gemacht – ohne dass Hirschhausen selbst etwas damit zu tun hätte.
Gegenüber dem 58-Jährigen erklärt Fernandes sichtlich betroffen: „Ich weiß nicht, wie es dir damit geht. Ich habe mich so wahnsinnig alleingelassen gefühlt.“ Belastend seien neben dem Missbrauch selbst auch die Auswirkungen auf ihr berufliches Umfeld gewesen. Sie sei schließlich von Männern aus der Branche auf die Gespräche angesprochen worden, ohne zu wissen, „worum es geht“.
Sie erinnert sich: „Dann zeigt er mir Fotos, und ich denke: Krass. Das ist wirklich krass!“ Der Absender habe in ihrem Namen auch eine „Geschichte verschickt“, in der ein sexueller Übergriff auf Fernandes beschrieben wird. Die Schilderungen seien „sehr ausführlich“ gewesen. „Das fühlt sich so hart übergriffig an – und dann eben auch noch zu wissen, das findet in meinem beruflichen Umfeld statt.“
Collien Fernandes lässt in ARD-Doku Deepfake-Video erstellen
Hirschhausen zeigt sich betroffen. Er will wissen, wie sich das Erlebte auf Fernandes’ Umgang mit Menschen in ihrem Umfeld ausgewirkt hat. Er befürchtet, „dass man so gar nicht mehr weiß: Wer ist Freund, wer ist Feind?“ Fernandes stimmt zu, „weil man eben nicht weiß, mit wem das alles gemacht wurde“. „Dadurch geht man einfach so super misstrauisch durch die Gegend“, gesteht die Moderatorin, bei der sich in der Folge sogar ein „kleiner Verfolgungswahn“ entwickelt habe.
Auf die Frage, was ihr geholfen habe, antwortet sie: „Menschen.“ – „Ohne diese echten Menschen, im echten Leben, die es geschafft haben, mich zu stabilisieren, wäre ich wahrscheinlich immer noch am Boden.“
Die Doku zeigt auch, wie leicht sich Deepfakes inzwischen erstellen lassen. Gemeinsam mit der AI-Artist Paula Eßwein lässt Fernandes ein gefälschtes Werbevideo produzieren. Als Input für die Software nutzen sie ein Bild und ein kurzes Audiofile. „Im Endeffekt reicht den KI-Modellen, da die schon so viele Input-Daten haben, worauf die trainiert sind, mittlerweile einfach nur ein Bild von dir“, erklärt Eßwein. Für eine täuschend echte Stimme benötige es zudem meist nur „zehn Sekunden an Audio-Material“.
KI-Modelle benötigen mittlerweile oft „einfach nur ein Bild“
Als Fernandes und Eßwein die Tonspur mit der Stimme der Moderatorin erstellen wollen, wird die Expertin plötzlich stutzig: „Und jetzt haben wir einen Fall, den ich selber nicht erwartet hätte.“ So würde das System eigentlich über eine zusätzliche Sicherheitsmaßnahme verfügen, die bei Stimmen von Personen aus dem öffentlichen Leben eine Verifikation verlangt. Als zusätzliche Schutzmaßnahme. Bei Collien Fernandes war dies nicht der Fall. „Das zeigt ja aber auch, dass das einfach nicht funktioniert“, stellt sie fest.
Das Ergebnis ist ein täuschend echter Werbeclip, in dem Fernandes über ein Präparat spricht. Beim Anblick ihres KI-Doubles staunt die Moderatorin: „Das Augenbrauen-Hochziehen, das finde ich wahnsinnig glaubwürdig. Das mache ich wirklich so.“ Gleichzeitig zeigt sie sich verstört darüber, wie einfach sich mit minimalem Aufwand derartige Videos erstellen lassen: „Es ist wirklich erschreckend, wie schnell man mit nur einem Foto und ein bisschen Sprache ganz passable Werbevideos erstellen und mir dabei wirklich alles in den Mund legen kann.“ (tsch)
