Ein Chatbot sollte eigentlich nur helfen, doch stattdessen tischt er dreiste Unwahrheiten über zwei Mediziner auf. Ein Gericht in NRW hat nun ein klares Stoppschild gesetzt – und damit eine wichtige Regel für den Einsatz von Künstlicher Intelligenz aufgestellt.

Im Fokus eines richtungsweisenden Urteils steht die Aesthetify GmbH mit Sitz in Recklinghausen. Sie wird von den als Dr. Rick und Dr. Nick bekannten Ärzten geführt. Die Verbraucherzentrale aus Nordrhein-Westfalen hatte das Unternehmen verklagt und vor dem Oberlandesgericht Hamm (OLG) einen Sieg errungen.

Der Auslöser für den ganzen Zoff: ein allzu kreativer KI-Chatbot. Wollte man online einen Termin bei der Praxis vereinbaren oder hatte Fragen, versorgte der digitale Helfer die Interessenten mit falschen Angaben. Und diese Behauptungen waren nicht ohne.

Chatbot erfindet falsche Facharzt-Titel

Der Bot posaunte beispielsweise heraus, die beiden seien „Fachärzte für plastische und ästhetische Chirurgie“ oder „Fachärzte für ästhetische Medizin“. Das Problem daran: Solche Facharztbezeichnungen existieren in Deutschland überhaupt nicht. Laut ihrer Webseite offerieren die beiden Ärzte, die deutschlandweit sechs Praxen unterhalten, ästhetische Eingriffe im Gesicht.

Für das Gericht war die Sache eindeutig: Diese Falschinformationen stellen unzulässige geschäftliche Praktiken dar. Die Richter folgten der Argumentation der Verbraucherschützer und untersagten der Firma, die erfundenen Titel weiterhin zu nutzen.

Gericht: Betreiber haften für die KI

Die zentrale Frage lautete: Wer trägt die Verantwortung für die Lügen des Chatbots? Die beiden Ärzte und Geschäftsführer, so das OLG. Sie können sich nicht darauf zurückziehen, dass die KI ein „Dritter“ im Sinne der gesetzlichen Regelung ist. Wer einen solchen Bot betreibt, muss demnach auch für dessen Äußerungen geradestehen.

Das Urteil besitzt allerdings noch keine Rechtskraft. Da der Fall neuartige juristische Fragen zum Umgang mit KI-Chatbots aufwirft, hat der Senat die Revision zum Bundesgerichtshof erlaubt (Az.: 4 UKl 3/25). Der Rechtsstreit um die Haftung für KI geht somit in die nächste, entscheidende Instanz. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.