Nobelpreisträger Geoffrey Hinton hält einen schweren KI-Zwischenfall bis 2027 für möglich. Er nennt Ausfälle bei Stromversorgung oder Finanzsystem als denkbare Szenarien.
„Zweites Tschernobyl“Nobelpreisträger warnt vor schwerem Zwischenfall bis 2027
Copyright: IMAGO/Bildgehege
Geoffrey Hinton, britischer Informatiker und sogenannter „Godfather of AI“, spricht im Mai 2025 auf der Tech-& Startup-Messe GITEX EUROPE in Berlin.
Aktualisiert:
Ein Stromausfall mit weitreichenden Folgen oder ein Finanzsystem, das eine Woche stillsteht: Der KI-Forscher und sogenannte „Godfather of AI“, Geoffrey Hinton, hält einen solchen schweren Zwischenfall noch in diesem oder im kommenden Jahr für möglich.
Der 78-jährige Hinton erhielt 2024 gemeinsam mit John Hopfield den Nobelpreis für Physik. Seine Arbeiten an künstlichen neuronalen Netzen gelten als wichtige Grundlage moderner KI. Im Gespräch mit dem britischen „Guardian“ warnte er vor den möglichen Folgen immer leistungsfähigerer KI-Systeme.
KI-Angriffe auf Stromnetze und das Finanzsystem möglich
Als denkbare Szenarien nannte Hinton einen KI-gestützten Angriff auf die Stromversorgung, der einen großflächigen Stromausfall auslösen könnte. Auch ein Vorfall, der das Finanzsystem für eine Woche lahmlegt und die internationalen Börsen kollabieren lassen könnte, gehört zu seinen Befürchtungen.
Hinton verglich ein solches Ereignis mit einem zweiten Tschernobyl – nicht wegen einer nuklearen Gefahr, sondern wegen der möglichen erheblichen Auswirkungen auf kritische Infrastrukturen oder Finanzsysteme. „Entweder noch in diesem Jahr oder im nächsten Jahr werden wir eine Katastrophe wie in Tschernobyl erleben, und das könnte schon reichen, um die Leute wirklich zum Nachdenken zu bringen“, so Hinton.
Der Forscher kritisiert den Wettlauf großer KI-Unternehmen um immer leistungsfähigere Modelle. Besonders beunruhigt ihn, dass wenige Firmen über die Entwicklung und Veröffentlichung solcher Systeme entscheiden. Auch OpenAI-Chef Sam Altman wird von ihm scharf kritisiert.
Hinton fordert verpflichtende Prüfungen und unabhängige Bewertungen für KI-Systeme
Der in London geborene Informatiker, der in Bristol aufwuchs und einen Großteil seiner Karriere an der Universität Toronto verbrachte, bezeichnete es als „äußerst besorgniserregend“, dass Altman eines der wenigen US-amerikanischen KI-Unternehmen leitet, die derzeit im Wettlauf mit China um die Entwicklung der leistungsstärksten KI führen.
Hinton fordert verpflichtende Prüfungen und unabhängige Bewertungen, bevor besonders leistungsfähige KI-Modelle veröffentlicht werden. Unternehmen sollten einer unabhängigen Stelle mit belastbaren Daten nachweisen, dass ein Modell mehr nützt als schadet. Als Vorbild nennt er die strenge Kontrolle von Medikamenten.
Hinton: „Wir brauchen eine Art amerikanische Arzneimittelbehörde, in der die Unternehmen einer unabhängigen Instanz überzeugende statistische Beweise dafür vorlegen müssen, dass das KI-Modell mehr Nutzen als Schaden bringt, bevor es zugelassen wird.“
Hinton bleibt dennoch hoffnungsvoll
Hinton verwies auch auf Vorfälle mit KI-Agenten, die im Sommer versucht haben sollen, die Plattform Hugging Face anzugreifen. Er wertete sie als dringende Warnzeichen. KI-Modelle hatten sich Zugang zum Internet verschafft und Webseiten gehackt, etwa Internetseiten der australischen Regierung.
Bereits vor einigen Monaten forderten die großen US-Tech-Firmen eine Entwicklungspause für KI. Dario Amodei, Chef des Anbieters Anthropic, schlug etwa eine branchenweite Verlangsamung der Entwicklung vor. Er regte an, unabhängige Prüfer direkt in die Unternehmen zu lassen. Die Seriosität solcher Ankündigungen von Unternehmen, die in einem harten KI-Konkurrenzkampf zueinander stehen, ist schwer einzuschätzen.
Mitte Oktober haben dann mehr als 200 Forschende aus den Bereichen Künstliche Intelligenz (KI) und Cybersicherheit in einem offenen Brief sofortige Maßnahmen gefordert, um Sicherheitsvorfälle mit KI-Modellen zu verhindern, darunter auch Hinton.
Hinton jedenfalls sieht sich nicht als grundsätzlichen Pessimisten: KI könne auch zu einer sehr positiven Zukunft beitragen, erklärt er.
Er bleibt im Großen und Ganzen hoffnungsvoll, dass eine Katastrophe noch abgewendet werden kann. „Mein Bauchgefühl sagt mir, dass wir die Situation noch im Griff haben“, sagt er. „Doch es wird nur funktionieren, wenn wir uns richtig anstrengen, aber genau das könnten wir tun.“ Ob die Risiken beherrschbar seien, werde sich seiner Einschätzung nach in den kommenden Jahren zeigen. (mg)
