Ein Donnerschlag in der Tech-Branche: Der große OpenAI-Widersacher Anthropic plädiert für eine Auszeit bei der Erschaffung von Super-KIs. In einem Blog-Post formulierte das Unternehmen: „Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren“. Während dieser Unterbrechung solle die Gesellschaft auf den Umbruch eingestimmt und die Sicherheitsforschung gestärkt werden.

Die ganze Sache hat aber einen riesigen Haken: Ein solcher Entwicklungsstopp klappt nur, wenn sämtliche großen KI-Schmieden mitmachen. Davon ist aktuell aber nichts zu sehen. Ganz im Gegenteil: Die Konzerne liefern sich ein Wettrennen mit Ankündigungen, für Hunderte Milliarden Dollar neue KI-Infrastruktur wie gigantische Rechenzentren zu errichten.

China-Rennen als riesige Hürde

Auch Anthropic-Boss Dario Amodei kennt das Dilemma. Im Januar auf dem Weltwirtschaftsforum in Davos machte er klar, dass der KI-Wettstreit mit China eine Verlangsamung extrem erschwert, weil eine durchsetzbare Abmachung kaum möglich sei. Eine einseitige Unterbrechung kommt für Anthropic deshalb nicht in Betracht. Das würde lediglich dazu führen, dass ein anderer die Spitzenposition einnimmt.

Stattdessen plant das Unternehmen nun, gemeinsam mit anderen ein Überwachungssystem zu entwerfen. Dieses soll garantieren, dass sich im Falle einer Pause auch wirklich jeder daran hält – und sich niemand insgeheim einen Vorsprung sichert.

Scheinheilig? Schon Musk wollte eine Pause – und baute seine eigene KI-Firma

Der Gedanke an eine KI-Auszeit ist nicht neu. Bereits vor Jahren sprach sich Tech-Milliardär Elon Musk für einen sechsmonatigen Entwicklungsstopp aus, um Gefahren abzuwenden. Der Haken, der erst später ans Licht kam: Gleichzeitig forcierte er die Gründung seiner eigenen KI-Firma.

Selbstlernende KI: „Gefahr, die Kontrolle zu verlieren“

Der Grund für den jetzigen Vorstoß von Anthropic ist der atemberaubende Fortschritt der KI. Die Systeme stehen kurz davor, sich eigenständig zu verbessern und fortzuentwickeln. Sobald sie das können, so die Warnung, wächst die Gefahr, dass die Menschheit die Herrschaft über die Künstliche Intelligenz einbüßt. Dieser kritische Punkt könnte laut Anthropic schneller kommen, als viele Organisationen gewappnet sind.

Die Firma, welche die KI-Software Claude hervorbringt, ist bekannt dafür, immer wieder vor den Risiken zu warnen und schärfere Branchenregeln zu verlangen. Das brachte ihr bereits Tadel ein: Aus dem Weißen Haus von Präsident Donald Trump hieß es, solche Appelle würden die US-Wirtschaft im weltweiten Wettbewerb schwächen. Für Furore sorgte Anthropic unlängst mit seiner Software „Claude Mythos Preview“: Sie deckte in diversen Programmen Sicherheitslücken auf, die teils seit Jahrzehnten unbemerkt existierten. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.