Risiken und Chancen von Künstlicher Intelligenz: KI wird selbstständig – doch was bedeutet das?

Nachfrage beim KI-Experten Thomas Köhler. Er hat mehrere Sachbücher über Cybersicherheit verfasst. In Köhlers Augen liegt der Hauptgrund für die neuen Risiken im Übergang von Chatbots zu sogenannten autonomen KI-Agenten. Während frühere Systeme lediglich Texte und Bilder generierten, führen moderne KI-Agenten eigenständig Befehle aus, steuern Software und nutzen Schnittstellen im Internet. „In den zuletzt bekannt gewordenen Testumgebungen hat sich gezeigt, dass manche dieser Agenten nach dem Prinzip eines faulen Schülers im Examen handeln: Sie suchen nicht unbedingt die saubere Lösung, sondern den einfachsten Weg zum bestmöglichen Ergebnis“, erklärt er.

Wird KI gefährlich für die Menschen?

Wie gefährlich das ist? Der Experte beschwichtigt zunächst. „Solche Systeme verschwören sich nicht selbstständig gegen die Menschheit, wie man es aus Science-Fiction-Erzählungen kennt“, sagt er. Vielmehr täten sie das, was man ihnen vorgibt – „aber oft auf unerwartete oder problematische Weise“, erklärt Köhler. Die Gefahr sei aber eher, „dass Menschen solche Systeme gezielt für schädliche Zwecke einsetzen“. Köhler führt aus: „Ein KI-Agent, der harmlose Aufgaben erledigen kann, lässt sich prinzipiell auch missbrauchen, um digitale Angriffe auszuführen.“

Die Risiken, die mit der KI-Revolution einhergehen, sind die eine Seite. Auf der anderen stehen Potenziale, auf die die Wirtschaft hofft. „Künstliche Intelligenz wird die deutsche Wirtschaft mit hoher Wahrscheinlichkeit in der Breite produktiver machen“, schreibt der Wirtschaftsrat der CDU in einem Thesenpapier zu KI, das unserer Redaktion vorliegt. Das liege daran, dass agentische KI „ganze Prozessketten automatisieren und dadurch den Arbeitsbedarf deutlich reduzieren“ könne. Die so erzielten Produktivitätsgewinne könnten „Preise senken, Nachfrage ausweiten, Investitionen anregen und neue Produkte, Dienstleistungen und Geschäftsmodelle hervorbringen“, schreibt der Wirtschaftsrat.

Drei Szenarien – von gut bis problematisch

Doch was folgt daraus? Die Organisation sieht drei mögliche Szenarien. „Im günstigsten Szenario übernimmt KI vor allem Tätigkeiten, für die aufgrund des demografischen Wandels ohnehin nicht mehr genügend Arbeitskräfte zur Verfügung stehen.“ Die anderen Optionen betonen mögliche Risiken stärker. „Wahrscheinlicher erscheint jedoch ein Szenario, in dem KI zwar erhebliche Produktivitätsgewinne ermöglicht, gleichzeitig aber einen tiefgreifenden Wandel der Arbeitswelt auslöst“, schreibt der Wirtschaftsrat. Standardisierte Aufgaben würden dann ersetzt werden, während neue Tätigkeiten im Zusammenhang mit der KI entstehen würden.

Ein drittes Szenario wäre problematischer. Es geht davon aus, dass die Produktivität durch KI schneller wächst als die Lohnbasis. In diesem Fall würden im Zweifel einige wenige Technologieunternehmen stark profitieren, Kostenpflichtiger Inhalt während viele Beschäftigte leer ausgingen. Ein solches Szenario hätte wiederum Folgen für die staatlichen und sozialversicherungsrechtlichen Einnahmen, warnt der Wirtschaftsrat. „Deshalb müssen wir frühzeitig prüfen, ob unsere Steuer- und Sozialversicherungssysteme auf diese Veränderung ausreichend vorbereitet sind“, mahnt Wolfgang Steiger, Generalsekretär des Wirtschaftsrats.

Warnung vor KI-Blase

Die Linkspartei fürchtet allerdings, dass KI sogar zu einer weiteren Belastung der Beschäftigten führen könnte. „Mehrere Harvard-Studien haben aufgezeigt, dass intensive KI-Nutzung bei den Beschäftigten zu kognitiver Überlastung und eher noch mehr Stress führt“, sagt die Bundestagsabgeordnete Donata Vogtschmidt, Sprecherin für Digitalpolitik. Zudem warnt sie vor einer möglichen KI-Blase. „Die Investitionen in den KI-Sektor stehen seit Jahren in einem zweifelhaften Verhältnis zum wirtschaftlich messbaren Output, hinzu kommt der enorme zusätzliche Energieverbrauch“, sagt Vogtschmidt. Sie sorge sich davor, dass die eigentlichen Kosten der KI-Nutzung „völlig unterschätzt“ werden.

Bezüglich möglicher Cyberangriffe sagt Vogtschmidt, dass sich „das Katz-und-Maus-Spiel um das Entdecken und Schließen von IT-Schwachstellen enorm beschleunigen“ werde. Das sieht auch KI-Experte Köhler so. Er dringt daher auf eine Stärkung der Cyberabwehr. „Klassische Hackerangriffe gab es schon immer, aber durch KI wächst ihre Schlagkraft erheblich“, sagt er. Unternehmen, Behörden und Betreiber digitaler Infrastrukturen müssten bei der Cybersicherheit daher „deutlich nachlegen“. Zurückdrehen lässt sich die KI-Revolution schließlich nicht.