Ein KI-generiertes Fake-Foto eines Fans, der wie Hitler aussieht, sorgt online für einen gewaltigen Aufruhr. Die Aufnahme vom WM-Spiel gegen Curaçao hat bei dem abgebildeten Jan Weitzel Fassungslosigkeit ausgelöst.

„Ich kann es überhaupt nicht glauben“, sagte der Mann aus dem hessischen Alsfeld dem Radiosender hr3. Durch die digitale Bearbeitung sei er zwar unkenntlich, sein Sohn aber wahrscheinlich noch zu sehen.

Fieses Fake mit Seitenscheitel und Hitler-Bart

Nach dem Eröffnungsspiel der DFB-Elf in Houston ging ein Bild in sozialen Netzwerken viral. Es zeigt einen Fan auf der Tribüne, dessen Frisur und Bart stark an Adolf Hitler erinnern. Ein englischsprachiger Post auf der Social-Media-Seite X, der über eine Million Aufrufe generierte, war betitelt mit: „Deutsche Fans feiern den Elfmeter von Kai Havertz“.

Wie ein Faktencheck der Deutschen Presse-Agentur aufdeckte, wurde die originale Jubelszene manipuliert. Sie war nur für wenige Sekunden während der TV-Übertragung sichtbar und wurde danach mit Künstlicher Intelligenz (KI) verfälscht. „Ich habe erst gar nicht mitbekommen, dass das Reichweite hat“, so Weitzel gegenüber hr3. Er habe es zunächst ignoriert. „Für mich ist es ja auch so, dass es völlig klar ist, dass das Bild nicht echt sein kann.“

Als sich das Bild aber auf vielen Plattformen ausbreitete, ergriff er Maßnahmen. Eigenen Angaben zufolge erstattete er Anzeige in den USA und Deutschland. Weitzel berichtete, dass er deshalb auch mit dem FBI zu tun hatte. Auch seine Familie und Freunde hätten den Vorfall zur Anzeige gebracht. Laut Weitzel wird angenommen, dass der Urheber aus den USA stammt. Er beabsichtigt, die Sache mit einem fähigen Anwalt für Medien- und Persönlichkeitsrechte juristisch aufarbeiten zu lassen.

Seine WM-Freude will sich Weitzel dadurch aber nicht nehmen lassen. Am Samstag wird er mit seinem Sohn in Toronto das zweite deutsche Gruppenspiel gegen die Elfenbeinküste besuchen (22.00 Uhr MESZ, ZDF/MagentaTV). „Das gute Gefühl lassen wir uns nicht nehmen“, erklärte er. „Gute Laune und Spaß haben“ sei trotz des Zwischenfalls die Devise für die restlichen Tage in Nordamerika.

KI-Bild enthält digitales Wasserzeichen von OpenAI

Die Bildfälschung wurde durch eine Analyse mittels SynthID, einem nicht sichtbaren digitalen Wasserzeichen, belegt. Solche Wasserzeichen werden von Anbietern wie Google und OpenAI genutzt, um KI-generierte Inhalte zu markieren. Lädt man das Bild in das Verifizierungstool von OpenAI, erscheint der Hinweis: „Dieser Inhalt wurde mithilfe von OpenAI-Tools generiert“. Und weiter: „Wir haben ein SynthID-Wasserzeichen entdeckt, das von OpenAI stammt.“

Zusätzlich wurde auf Basis der gefälschten Aufnahme ein Video mithilfe von KI produziert. Es stellt eine animierte Szene dar, in der manche Fans den rechten Arm zum Hitlergruß erheben. Dass auch dieser Clip durch KI erzeugt wurde, beweisen typische KI-Fehler, etwa eine willkürlich springende Sekundenzahl bei der Spielzeitanzeige. (dpa/red)