Elon Musk sorgt erneut für Diskussionen: Dieses Mal steht ein Video im Mittelpunkt, das auf X kursiert. Zu sehen ist eine täuschend echte, aber komplett künstliche Version von Schauspielerin Sydney Sweeney („The Housemaid - Wenn sie wüsste“). Der Clip soll die Leistungsfähigkeit der KI von Musks Firma xAI verdeutlichen: „Grok Imagine“, die Text-zu-Video-Funktion auf der Plattform, könne nun helfen, längere und bessere Videos zu produzieren: „Grok-Videos sind jetzt 10 Sekunden lang und die Audioqualität wurde erheblich verbessert“, schrieb Musk am Mittwochmorgen.

In dem Video tritt eine KI-Version von Sweeney auf. Sie erklärt: „Lass mich das klarstellen. Grok-Videos sind jetzt 10 Sekunden lang und der Ton wurde erheblich verbessert?“ Ein männlicher Charakter antwortet: „Ja, so ziemlich... Gefällt es dir?“ Der Auftritt wirkt wie eine Filmszene und ist bewusst cineastisch inszeniert.

Was hat Elon Musk mit Sydney Sweeney?

Ursprünglich stammt der Clip vom Nutzer Alex Patrascu. Er hatte das Video mit einer detaillierten Eingabe erzeugt. Sein „Prompt“ lautete: „Über-die-Schulter-Aufnahme. Live-Action-Film. Sie stehen in einem Raumschiff. Sie zuckt mit den Schultern und sagt (ruhiger, verwirrter Tonfall), während sie ihm direkt in die Augen schaut: „Lass mich das mal klarstellen. Grok-Videos sind jetzt 10 Sekunden lang und der Ton ist deutlich besser geworden?“ Er sagt: „Ja, so ziemlich ... Gefällt es dir?“ Hollywood-Blockbuster, Live-Action-Look mit satten Schwarztönen. Handgeführte, wackelige Kamera. Soundeffekte: Leises Brummen im Innenraum, LED-Pieptöne. Keine Musik.“

Der Name Sydney Sweeney tauchte in Patrascus Eingabe nicht auf. Warum dennoch ihr Abbild verwendet wurde, bleibt unklar. Weder ein Vertreter der Schauspielerin noch ein Sprecher von X äußerten sich zunächst auf Anfrage von „Entertainment Weekly“ zu dem Clip.

Vor einigen Wochen war Musk bereits wegen eines Posts über Sweeneys Körper in die Kritik geraten. Anlass war ein Auftritt der Schauspielerin bei der Premiere von „The Housemaid“. Sie trug ein tief ausgeschnittenes Kleid. Musk reagierte darauf mit einem KI-Video in vier Feldern. Oben links stand „Wie es aussieht“, dazu das Bild einer Frau mit großen Brüsten. Unten links hieß es „Wie es sich anfühlt“, ergänzt durch eine Illustration einer Person mit Rückenschmerzen. Musk schrieb darüber: „Das kann nicht einfach sein“. Der Ton wurde von vielen als unangebracht empfunden.

Ermittlungen gegen Grok laufen

Parallel wächst der politische Druck; Anfang des Monats teilte der kalifornische Generalstaatsanwalt Rob Bonta mit, seine Behörde ermittle wegen „der Verbreitung von nicht einvernehmlich erstelltem sexuell explizitem Material“, das mit Grok erzeugt worden sei. „Die Flut von Berichten über nicht einvernehmliches, sexuell explizites Material, das xAI in den letzten Wochen produziert und online gestellt hat, ist schockierend“, erklärte Bonta. „Dieses Material, das Frauen und Kinder in nackten und sexuell expliziten Situationen zeigt, wurde verwendet, um Menschen im Internet zu belästigen. Ich fordere xAI dringend auf, unverzüglich Maßnahmen zu ergreifen, um sicherzustellen, dass dies nicht weitergeht.“

Kurz darauf reagierte X. Das offizielle Sicherheitskonto kündigte Einschränkungen an. „Wir werden in Ländern, in denen solche Inhalte illegal sind, die Möglichkeit aller Nutzer an diesen Standorten, Bilder von realen Personen in Bikinis, Unterwäsche und ähnlicher Kleidung in Grok auf X zu erstellen, geografisch sperren, und xAI führt ähnliche geografische Sperrmaßnahmen für die Grok-App ein“, teilte das Unternehmen mit. Wie wirksam diese Maßnahmen sind, ist offen. Eine Untersuchung von CBS News sei Anfang der Woche noch zu dem Ergebnis gekommen, dass Nutzer reale Personen mit Grok weiterhin „entkleiden“ konnten, wie „Entertainment Weekly“ berichtet.

Auch Europa schaut inzwischen genau hin. Die EU leitete Anfang der Woche ein eigenes Verfahren ein. Der Verdacht lautet, X könne gegen den Digital Services Act verstoßen haben. „Im Rahmen der neuen Untersuchung wird geprüft, ob das Unternehmen die mit der Einführung der Grok-Funktionen in X in der EU verbundenen Risiken ordnungsgemäß bewertet und gemindert hat“, erklärte die EU-Kommission. Im Fokus stehen dabei auch manipulierte, sexuell explizite Inhalte. (tsch)