KI-Boss warnt: Wir brauchen einen Not-Aus für die KI!
KI-Chef schlägt AlarmRegierung soll gefährliche Künstliche Intelligenz stoppen können
Copyright: Andrej Sokolow/dpa
Anthropic-Chef Dario Amodei findet, dass Regierungen die Macht haben sollten, gefährliche KI blockieren zu können. (Archivbild)
Die Sorge vor Künstlicher Intelligenz wächst – jetzt warnt sogar einer der Top-Bosse der Branche. Er fordert drastische Maßnahmen, bevor die Technologie außer Kontrolle gerät. Es geht um nichts Geringeres als unsere Sicherheit.
Dario Amodei, der Boss der KI-Schmiede Anthropic, schlägt jetzt Alarm. Er verlangt, dass Staaten die Befugnis erhalten, eine bedrohliche Künstliche Intelligenz anzuhalten. In einem Beitrag auf seinem Blog machte Amodei deutlich: Besonders leistungsfähige KI-Systeme benötigen eine dringende Risiko-Prüfung.
Im Fokus stehen für ihn Bedrohungen bei der Cybersicherheit oder durch Biowaffen. Die größte Sorge ist jedoch ein möglicher Kontrollverlust über diese Systeme. Das beinhaltet auch, dass sich die Software automatisch selbst weiterentwickelt, was die Gefahrenlage verschärfen könnte. Stellt euch vor, eine KI optimiert sich selbst und wir können nicht mehr eingreifen!
KI-TÜV soll Systeme auf Herz und Nieren prüfen
Aber wie soll diese Kontrolle aussehen? Amodei bringt eine Art Aufsichtsbehörde für KI ins Spiel, vergleichbar mit der Luftfahrtaufsicht. Eine andere Möglichkeit wären private Auditoren, die im Auftrag des Staates handeln. Anthropic, dessen KI-Software „Claude“ als schärfster Widersacher des ChatGPT-Machers OpenAI gilt, plädiert schon seit Längerem für schärfere Regeln in der KI-Branche.
Mit dieser Forderung hat sich das Unternehmen nicht nur Freunde gemacht. Kritik für diese Haltung kam sowohl aus der eigenen Industrie als auch vom Weißen Haus. Doch die neuesten Ereignisse scheinen den Warnern recht zu geben und machen deutlich, wie real die Bedrohung ist.
Neue KI findet Schwachstellen, die jahrzehntelang unentdeckt blieben
Für mächtig Wirbel sorgte Anthropic ausgerechnet selbst mit dem KI-Modell „Mythos“. Dieses Programm kann Sicherheitslücken in weit verbreiteten Programmen finden, die teils seit Jahrzehnten niemandem aufgefallen waren. Ein Detail, das einem einen Schauer über den Rücken jagt.
Diese Demonstration hat die Befürchtung massiv verstärkt, dass KI für katastrophale Cyber-Attacken missbraucht werden könnte. Solche Angriffe könnten auch die kritische Infrastruktur direkt hier bei uns lahmlegen. (dpa/red)
Dieser Inhalt wurde mit Hilfe von KI erstellt.
