Juna ist ziemlich umtriebig in den letzten Wochen: Sie ist Azubine bei einem Dachdecker in Hamburg, in einer Autowerkstatt, in einer Altenpflege – und sie gibt sogar vor, bei Unternehmen zu arbeiten, die es wirklich gibt: Sie sagt, sie sei Azubine bei der Deutschen Bahn oder arbeite bei Lidl, Edeka oder Rewe.

Das Problem: Juna ist nicht echt. Sie ist das Produkt einer Künstlichen Intelligenz. Und: Ihre Postings sind alles andere als jugendfrei. Sowohl im Edeka- als auch im Bahn-Dress schrieb sie beispielsweise ihrer Community, dass es ein Vorteil sei, ihr Freund zu sein, weil sie es liebe zu kuscheln, gerade 18 Jahre – und noch „Jungfrau“ sei.

Zahlreiche Profile seit Anfang des Jahres

Ein Desaster für die Unternehmen, die von KI-Juna instrumentalisiert werden. Denn sie sieht täuschend echt aus, ihre Bewegungen wirken realistisch – doch ihre Postings und zweifelhaften Aussagen sind markenschädigend. 

Ein und dieselbe „Juna“ hat schon zahlreiche Profile eröffnet, sowohl auf Instagram als auch auf TikTok. Die Inhalte ähneln sich stark, spielen auf das Alter an oder sind sexuelle Anspielungen. Die Videos wurden millionenfach angeklickt. Einige Profile verlinken auf andere Internetseiten, darunter auch die Erotikplattform OnlyFans, die delikate Inhalte für Geld anbietet. Offenbar zielen sie auf Betrug ab.

Seit Anfang des Jahres sprießen diese Fake-Profile mit verschiedenen KI-Junas wie Pilze aus dem Boden. Lidl hat laut „Lebensmittelzeitung“ bereits reagiert und eines der Profile von einer „Juna“ im Lidl-Outfit löschen lassen. Der Händler warnt davor, dass diese Art der KI-generierten Inhalte kein Einzelfall sei, sondern ein wachsendes Risiko. Kein Wunder: Mittlerweile hat jeder Zugang zu Anbietern von Künstlicher Intelligenz, derlei Videos zu erstellen ist kostengünstig und vergleichsweise einfach. Und die Ergebnisse werden immer besser. Man setze daher auf dauerhaftes Monitoring, erklärt Lidl weiter, und arbeite zudem mit Fachleuten zusammen.

Mittlerweile ist nicht nur Lidl betroffen, sondern eben auch die Deutsche Bahn, DHL, Rewe oder Edeka. „Ich bin nur eine normale Edeka-Azubine, kein Topmodel. Ich weiß, niemand will mich, aber du könntest wenigstens Hallo sagen“, schreibt die falsche Azubine dort. Oder: „Lass ein Hi da, wenn du mich trotz des Altersunterschieds daten würdest“.

Einige Videos wurden viele Tausende Male aufgerufen, nicht wenige User reagieren auf die Videos und fragen etwa, wo der Edeka steht, in dem Fake-Juna arbeitet.

Die Drogeriekette dm erklärte der „Lebensmittelzeitung“, dass einige KI-Videos noch an Fehlern erkennbar sein, doch die Künstliche Intelligenz werde mit der Zeit immer besser – und Fehler damit seltener. Geplant seien deshalb mehr Aufklärung und Hinweise für die Community, heißt es dazu. Ab August 2026 soll zudem eine EU-weite Kennzeichnungspflicht für KI-Inhalte kommen. Ob das wirklich reicht und solche Betrugsversuche stoppt, ist fraglich.

Erst Ende des vergangenen Jahres war auch die Hamburger Polizei von den falschen KI-Profilen betroffen, mehrere falsche „Polizistinnen“ posteten ebenfalls anzügliche Inhalte. Auch die Polizei erklärte, dass man entschieden gegen diese Profile vorgehen wolle, weil sie dem Ansehen schade.