Ein unfassbares Geständnis erschüttert Kanada: Zweieinhalb Monate nach einer Bluttat an einer Schule wusste die Firma hinter ChatGPT von den Gewalt-Fantasien der Täterin – und schwieg. Nun bittet OpenAI-Chef Sam Altman für dieses schreckliche Versäumnis um Verzeihung.

„Das tut mir zutiefst leid“, heißt es in einem Schreiben Altmans an die Einwohner von Tumbler Ridge, wie die dpa meldet. In der Ortschaft im Westen Kanadas hatte am 10. Februar eine 18-Jährige ein Blutbad angerichtet. Acht Personen kamen ums Leben, sechs davon in einer Bildungseinrichtung. Unter den Getöteten waren neben Schülern und einer Lehrperson auch die Mutter sowie der Stiefbruder der Angreiferin, die sich im Anschluss selbst richtete.

Gewalt-Fantasien in Chats: OpenAI griff nicht ein

Dieser Vorfall rückt die Rolle von Tech-Giganten in ein grelles Licht. Bereits im Juni des Vorjahres hatte OpenAI ein Konto der späteren Todesschützin blockiert. Automatische Kontrollsysteme hatten angeschlagen, da die junge Frau in ihren Unterhaltungen gewalttätige Szenarien mit Waffen durchgespielt hatte.

Doch obwohl die KI-Firma die Gefahr sah, hielt sie eine Meldung an die Polizei offenbar nicht für notwendig. Ein Fehler mit tödlichen Folgen. Nach der Tat kam heraus: OpenAI fand sogar noch ein zweites ChatGPT-Konto, das der Schützin gehörte.

Nach der Tragödie: OpenAI-Boss verspricht Konsequenzen

In seinem Brief, der von der lokalen News-Webseite „Tumbler RidgeLines“ publiziert wurde, gelobte Altman, dass OpenAI nach Lösungen suchen werde, um „solche Tragödien“ künftig abzuwenden. Die Authentizität des Dokuments wurde von dem Unternehmen bestätigt.

Die Polizei teilte mit, dass die Angreiferin unter psychischen Schwierigkeiten litt. Informationen der Ermittlungsbehörden zufolge wurde sie bei ihrer Geburt dem männlichen Geschlecht zugeordnet. Ihre Transition zur Frau hatte demnach schon Jahre vor dem furchtbaren Ereignis begonnen.

Weltweit sorgt dieser Vorfall jetzt für alarmierende Fragen: Wie viel Verantwortung haben KI-Firmen, wenn ihre Programme mögliches gefährliches Handeln aufspüren? Und wann müssen sie die Behörden informieren? Eine Diskussion, die nach diesem Drama mit neuer Schärfe geführt werden muss. (dpa/bearbeitet durch Gemini 2.5 Pro)

Dieser Inhalt wurde mit Hilfe von KI erstellt.