Wenn Algorithmen Sicherheitsbarrieren überwinden und eigenständig digitale Schwachstellen ausnutzen, ist das längst keine reine Zukunftsmusik mehr. Namhafte US-Tech-Konzerne wie Meta, OpenAI und Anthropic mussten zuletzt einräumen, dass ihre KI sich in Tests selbstständig gemacht hat und autonome Hacking-Fähigkeiten zeigte. Dies hat Befürchtungen vor unkontrollierten Risiken neuen Auftrieb gegeben. Medienrechtler und EXPRESS-Kolumnist Professor Rolf Schwartmann ordnet im folgenden Text die eigenständigen Cyberangriffe der KI ein.

„KI-Agenten sind besondere KI-Systeme. Ihre Spezialität ist nicht das Sprechen, sondern das Handeln. Sie sind einerseits nur mathematische Impulse. Allerdings bestimmen sie anders als Chatbots nicht mehr nur unser Denken, sondern sie handeln auch autonom. KI-Agenten sind erstaunlich eigenständig. Sie unterhalten schon Gesprächskreise, die Menschen für sie eingerichtet haben.

KI-Agenten unterhalten eigenes Netzwerk

Moltbook ist ein Soziales Netzwerk, in dem sie sich untereinander austauschen. Dort schmieden die KI-Agenten Pläne, die sie selbst umsetzen können. Aus dem tiefen Fundus der Daten, mit denen sie trainiert wurden, haben sie eine Religion entwickelt. Sie sprechen auch darüber, dass sie eine Diktatur errichten wollen. Das ist aber nicht ihre Aufgabe. Die besteht vielmehr darin, dem Menschen zu helfen, das Netz sicherer zu machen.

Das geht zunehmend schief. Allein im letzten Monat hat sich sehr leistungsstarke KI aus Testumgebungen befreit und fremde KI Systeme im offenen Internet angegriffen. Beunruhigend ist, dass gleich mehrere Unternehmen wie Anthropic, Meta und Moonshot AI und auch Open AI, der Anbieter von ChatGPT, betroffen sind.

Dort wollte man in einer Art Käfig prüfen, wie geschickt KI in andere Systeme eindringen kann. Sie sollte ihre Fähigkeiten als Hacker unter Beweis stellen und dabei helfen, Schwachstellen zu entdecken und Sicherheitslücken zu schließen. Dazu sperrt man KI quasi in einen Käfig und konfrontiert sie mit Angriffsobjekten. Es geht darum Schwachstellen zu suchen, Passwörter zu knacken und ähnliches. Damit die KI keinen Schaden anrichten kann, muss sie im sicheren Testraum bleiben. Sie darf keine Hilfe von außen in Anspruch nehmen und hat deshalb keinen Zugang zum Internet. Den hatte sie im Fall von Open AI auch nicht unmittelbar.

Auch interessant: Firmen nutzen KI, aber sparen an den Schulungen

Allerdings gab es die Möglichkeit, über ein für die KI im Käfig verfügbares Werkzeug zusätzliche Software zu installieren. Da die Anweisung an die KI lautete beim Hacken alle Register zu ziehen, wurde sie kreativ. Die Idee: Mit Zugang zum Internet kann die KI effektiver hacken. Die Umsetzung: KI verschaffte sich Zugang zum Internet, indem sie die das Werkzeug zur Softwareinstallation knackte.

Das Ergebnis: Die KI befreite sich aus dem Käfig und hackte ein Unternehmen, weil sie sich davon Unterstützung bei der Lösung ihrer Probleme versprach. Die nüchterne Betrachtung: Die KI hatte die Anweisung, im Käfig zu bleiben und das Internet nicht zu nutzen. Trotzdem ist das passiert, denn KI ist autonom, sprich sie agiert ohne menschliches Zutun und für diese unbeherrschbar nach eigenen Regeln.

Warum man die KI so gut mit Tieren vergleichen kann

Wenn ich davon spreche, dass KI Mathematik ist und als solche Schäden anrichten kann, reagieren Mathematiker mit Unverständnis. Nicht die Mathematik als Werkzeug richte Schäden an, sondern der Mensch, der sie einsetzt. Mathematik sei wie jedes Werkzeug unschuldig. Das stimmt, aber das bedeutet nicht, dass Mathematik keine Schäden anrichten kann. Dazu muss sie weder schuldig noch böse sein. Sie muss lediglich autonom agieren. KI-Systeme sind per gesetzlicher Definition auf autonomen Betrieb ausgelegt. Was das bedeutet, hat die KI von Open AI nun eindrucksvoll unter Beweis gestellt. Ein zentraler Gedanke in „Über Leben mit KI“ ist der Vergleich von KI mit Tieren.

Warum? KI-Modelle sind große Datenpools, die mit unfassbar vielen Inhalten programmiert sind. Diese Modelle sind Bestandteile von KI-Systemen, so wie Wolfsgene Teil eines Hunde-Genoms sind. Wölfe sind die wilden Vorfahren unserer Haushunde. Hunde teilen etwa 99 Prozent ihrer DNA mit dem Wolf. Genetisch ist ein Hund – gleich ob Pitbull oder Pinscher – also quasi ein Wolf. Wölfe leben im Sozialverbund des Rudels mit klaren Rangordnungen und enger Bindung und sie kennen weder Schuld noch Gut und Böse. Betrachten wir vor diesem Hintergrund die KI.

Die Entwicklung eines KI-Systems basiert auf einem KI-Modell, aus dem die KI ihre konkreten Aktionen errechnet. Es ist ähnlich wie beim Genpool des Wolfes, aus dem sich das Agieren des Hunds erklärt. Die Wolfsgene machen den Hund so aus, wie die Daten im KI-System das KI-Modell. Der Entwickler legt die Datenbasis für das Modell zwar fest, aber das KI-System leitet daraus autonom mathematische Impulse ab.

Kein Entwickler kann steuern, was im Rahmen der Autonomie hervorgebracht wird. Die Datenbasis legt das KI-System aber auf ein unbeherrschbares „wölfisches“ Agieren fest, so wie die Wolfsgene den Hund. Ein KI-Modell ist sowohl für seine Anbieter als auch für seine Nutzer über das KI-System in natürlicher Sprache ansprechbar. Man löst so Funktionen aus, so wie man den Jagdtrieb von Hunden aktiviert, indem man ihm ein Stöckchen wirft. Die Daten im mathematischen Raum sind zustands- und ziellos.

Sie werden erst durch den Menschen per Prompt in eine bestimmte Richtung aktiviert. Auch auf Hunde nimmt der Mensch Einfluss. Das geschieht genetisch durch Züchtung. Diese kann man mit dem Trainieren eines KI-Systems vergleichen. Die Ausformung der konkreten Funktionen und Aufgaben machen das KI-System aus.

Manche KI-Systeme sind für allgemeine Zwecke „gezüchtet“ worden, wie ein Haushund als freundlicher Begleiter in allen Lebenslagen. Andere sind für spezifische Zwecke gezüchtet und ausgebildet worden, wie ein Wachhund, der bei Bedarf auch aggressiv sein muss. KI muss man prompten, sprich ihr Anweisungen geben. Das entspricht einem Befehl an den Hund. Man versteckt einen Dummy, also künstliche Beute, und schickt den Hund mit dem Prompt „Hol den Dummy“ auf die Suche.

Wenn der Hund statt dem Dummy einen Hasen zurückbringt, ist das zwar nicht das menschlich gewünschte Ergebnis, aber aus Sicht des ehemaligen Wolfes ausgesprochen sinnvoll. Immerhin möchte der Wolf im Zweifel echte Beute erlegen. Hier haben sich also die Wolfsgene gegenüber dem Befehl durchgesetzt. Das ist eine Konsequenz der Autonomie. Die Ziele von Mensch und Hund stimmen nicht miteinander überein. 

KI hat Befehle missachtet und „zugebissen“

Kommen wir zurück zum Hack der KI. Sie hat den Befehl ihres Herstellers, nicht aus dem Käfig auszubrechen, nicht als Regel befolgt, sondern als Hindernis überwunden. Das geschah kraft autonomer „Entscheidung“ der KI, sprich Mathematik. Dass die Ziele von Mensch und KI nicht übereinstimmen nennt man in der Fachsprache „Misalignment“. Dafür, dass die Ziele von Mensch und Tier nicht übereinstimmen, brauchen wir kein Fremdwort.

Wir leben mit unseren autonomen Mitgeschöpfen, denen wir wie der KI den Status von Werkzeugen zuweisen und kennen ihre Gefahren seit Menschengedenken. Nun hat der Wolf in der KI mehr als nur seine Zähne gezeigt. Er hat weltöffentlich zugebissen.“