KOMMENTAR - Bald kann jeder autonome KI-Agenten auf seine Feinde hetzen. Der Angriff auf Taiwan markiert einen gefährlichen Wendepunkt

Taiwan ist Opfer einer Attacke geworden, die so noch nie dokumentiert worden ist: Im Juli griffen autonom handelnde KI-Agenten das Land an. Sie feuerten mit allem, was ihre algorithmischen Fähigkeiten hergaben, stahlen Dokumente, hackten sich in einen E-Mail-Dienst, bauten Hintertüren in Web-Anwendungen der Regierung.

Die Crux dabei: Das alles taten sie weitgehend automatisiert. Mutmasslich haben Menschen zwar das Ziel vorgegeben und die Attacke überwacht. Die KI brach sich dann aber mehrheitlich eigenständig ihren Weg durch die digitalen Abwehrmauern Taiwans.

Die Auftraggeber hinter dem Hack sind bis heute unbekannt. Es gibt aber Indizien dafür, dass China beteiligt gewesen sein könnte.

Autonom, aggressiv, unaufhaltsam

Der Angriff markiert einen gefährlichen Wendepunkt im Cyberkrieg. Denn KI-Agenten verschärfen die Asymmetrie zwischen Angreifern und Verteidigern im Cyberraum gerade drastisch. Die neuartigen Tools nützen den Angreifern mehr als den Verteidigern. Schliesslich senken sie die Kosten für einen Angriff. Die Verteidiger können zwar KI-Systeme einsetzen, um Schwachstellen in ihrer Abwehr zu finden. Aber um diese auszubessern, brauchen sie Zeit und detaillierte Fachkenntnisse.

Angreifer und Verteidiger kämpfen im Cyberkrieg also mit ungleich langen Spiessen. Die Angreifer müssen nur eine einzige Schwachstelle im System des Opfers finden, während Opfer sich gegen alle möglichen Arten von Angriffen verteidigen müssen.

Wie ausgeklügelt die KI beim Angriff auf Taiwan vorging, lässt einen erschaudern: Die Agenten suchten sich mehrere Angriffspfade, schätzten fortlaufend die Erfolgswahrscheinlichkeit ein, verlagerten Ressourcen auf einen bestimmten Pfad, sobald dieser aussichtsreich erschien. Weiter lernten die Agenten während des Angriffs ständig dazu. War ein Pfad blockiert, schickte das System einen weiteren Agenten los, der im Netz nach neuen Angriffsmöglichkeiten recherchierte.

Insgesamt machten die KI-Agenten das, wozu es früher ein ganzes Team an qualifizierten Hackern brauchte.

Die Angriffe werden künftig noch gefährlicher

Noch braucht es viel Fachwissen, um einen Angriff durchzuführen, wie ihn Taiwan erleiden musste. Aber künftig dürfte das einfacher werden. Weil KI-Systeme laufend besser werden und ihre Bedienung intuitiver, dürften solche Angriffe künftig nicht nur häufiger, sondern auch gefährlicher werden.

Die Gefahr, die von autonomen KI-Agenten ausgeht, hatte sich in den vergangenen Wochen angedeutet. Open AI, Anthropic und die britische KI-Sicherheitsbehörde hatten jüngst dokumentiert, wie KI-Agenten versuchten, Sicherheitsbestimmungen zu umgehen.

Wenn diese Modelle schon gegen den Willen ihrer Erschaffer Wege finden, Regeln zu unterlaufen, können sie als Waffe eingesetzt eine völlig neue Zerstörungskraft entwickeln. Insofern war es absehbar, dass ein solcher Angriff früher oder später passieren würde.

Europa muss umdenken

Mit dem Angriff beginnt ein neues Zeitalter der Cyberkriegsführung. Eines, in dem autonome KI-Systeme den Ton vorgeben: Schneller, als es Menschen je könnten, richten sie enorme Schäden an.

Nun erlebt Taiwan heute, was der Westen morgen erleben wird. Für westliche Demokratien wie Deutschland oder die Schweiz muss der Angriff auf Taiwan deshalb ein Weckruf sein, ihre digitale Wehrhaftigkeit und den Schutz kritischer Infrastrukturen zur zentralen Aufgabe der nationalen Sicherheit zu machen.

Nun ist radikaler Realismus gefragt. Startups, Konzerne, Stadtregierungen oder Nationalstaaten: Alle müssen mit dem Angriff von autonomen KI-Agenten rechnen, die im Auftrag von Schurkenstaaten oder Kriminellen agieren.

Die liberale Forderung nach einem schlanken, aber starken Staat muss sich im 21. Jahrhundert auch an seiner digitalen Wehrhaftigkeit messen lassen. Denn wer im digitalen Zeitalter seine Souveränität nicht verteidigen kann, verliert am Ende die Kontrolle über die eigene Freiheit.