Die wunscherfüllende Maschine

In der Diskussion über die Gefahren von künstlicher Intelligenz dominiert die Frage, ob und wann es zu einer sich selbst weiterentwickelnden, sich selbst verbessernden KI kommen wird und was eine solche Intelligenzexplosion, was das Entstehen einer Superintelligenz bewirken würde. Es ist die Furcht vor dem Ungehorsam der Maschine, vor dem Augenblick, in dem sie sich unserem Willen entzieht. Ich möchte diese Frage zunächst bewusst ausklammern. Ich möchte stattdessen von dem ausgehen, was wir in den letzten drei Jahren beobachten konnten, und diese Trends ganz einfach in die Zukunft fortschreiben. Auf diesem Weg werden wir einer Gefahr begegnen, die mit Ungehorsam nichts zu tun hat.

Was bedeutet es, wenn die Entwicklung von KI weiterhin in rasender Geschwindigkeit voranschreitet, unabhängig davon, ob diese Entwicklung an irgendeiner Stelle zur Entstehung einer Superintelligenz führt? Es bedeutet, dass wir sehr viele, wenn nicht alle Dinge, zu deren Entwicklung oder Umsetzung Intelligenz nötig ist, sehr viel besser machen werden. Wir werden sie in kurzen, vielleicht sogar in abnehmenden Intervallen immer weiter verbessern. Die erste Frage kann also lauten: In welchen konkreten Feldern wird sich dieses Anwachsen von intelligentem Input in Bezug auf die angestrebten Ziele am stärksten auswirken?

Am deutlichsten sehen wir diesen Fortschritt bereits heute in der Medizin. KI-Systeme entschlüsseln innerhalb von Tagen Proteinstrukturen, für die Biologen früher Jahrzehnte brauchten; sie entwerfen Wirkstoffkandidaten, auf die kein menschlicher Chemiker gekommen wäre; sie erkennen Tumore auf Aufnahmen, auf denen selbst geübte Augen nichts sehen. Ähnliches gilt für alle Prozesse, die auf Software beruhen, für die Steuerung von Energienetzen, für die Entwicklung neuer Materialien. Doch exakt dieselbe Fähigkeit, die neue Proteine entwirft, kann auch neue Krankheitserreger entwerfen. Exakt dieselbe Intelligenz, die Stromnetze optimiert, kann sie lahmlegen. Fest steht nur eines: In der Entwicklung verschiedenster Technologien, heilender wie zerstörerischer, wird es gewaltige Fortschritte geben.

Leider sind diese Fortschritte sehr viel leichter zu realisieren, wenn es um Destruktion geht. Denn hier existiert eine fundamentale Asymmetrie der Prozesse: Ein Impfstoff braucht Jahre der Entwicklung, der Zulassung, der Produktion und der Verteilung – er braucht die Kooperation Tausender Menschen und Institutionen. Ein synthetisierter Erreger braucht ein Labor und einen Entschluss. Der Aufbau einer gerechten, nachhaltigen Welt erfordert mühsame gesellschaftliche Aushandlungsprozesse; Zerstörung braucht keinen Konsens. Sie reagiert rein funktional auf Effizienz, ob als Cyberangriff auf kritische Infrastruktur oder als autonom agierender Drohnenschwarm. Destruktive Ziele lassen sich daher durch schiere Rechenleistung exponentiell beschleunigen.

Das führt zu einer weiteren gefährlichen Verschiebung in Bezug auf die zeitliche Dimension: Es fehlt in Zukunft beinahe jeglicher Reibungsverlust zwischen einem schädlichen Gedanken und seiner Ausführung. Die menschliche Trägheit– die Zeit, die es braucht, um Befehle zu übermitteln, Pläne auszuarbeiten, Apparate in Bewegung zu setzen – diente uns bisher als Schutzschild und verschaffte uns Bedenkzeit. Wenn zwischen dem Impuls und der globalen Wirkung nur noch ein Knopfdruck liegt, geht dieser Schutzschild ersatzlos verloren.

Wir entwickeln also brandgefährliche Technologien, deren Anwendung nur einen Mausklick entfernt ist. Doch selbst wenn wir sie nicht anwenden werden, bewirkt auch der Einsatz positiver Technologien eine beispiellose Disruption. Wenn wir immer mehr Prozesse durch KI immer schneller und besser realisieren können, bleibt dies nicht ohne Auswirkung auf unser gesellschaftliches Miteinander, auf unser Zusammenleben.

Denn ganz offensichtlich nimmt in diesem Fall die Arbeit ab, die Menschen selbst verrichten müssen. Erstmalig in der Geschichte trifft dieser Kahlschlag nicht die Muskelkraft, sondern die Denkleistung: Massenhaft verlieren White Collar Worker, also Mitarbeiter, die Dinge tun, die man vor einem Bildschirm erledigt, im großen Stile ihre Jobs. Maschinen erledigen deren Arbeit besser. Zwar wird diskutiert, ob nicht auch neue Jobs entstehen werden – und das wird ganz gewiss so sein –, aber nie und nimmer im gleichen Ausmaß, wie Jobs verschwinden werden.

Rechtsanwälte, die Tausende Vertragsseiten prüfen, Steuerberater, Bürokraten aller Art, aber auch Sachbuchautoren wie ich selbst – sie alle wird man mühelos ersetzen können. Vieles von dem, was auf der Basis vorhandener Daten präzise beantwortet werden kann, wird schon heute von KI besser beantwortet als von den meisten menschlichen Experten. Bedenkt man die Entwicklungsgeschwindigkeit von KI, dann wird dieser Effekt noch einmal enorm an Fahrt aufnehmen.

In dem Ausmaß, wie – ein wenig zeitverzögert – auch eine Revolution in der Robotik stattfinden wird, in der Produktion von denkenden Robotern, werden auch sehr viele andere Jobs von diesem Kahlschlag betroffen sein.

Wir werden nicht mehr selbst für unser Überleben arbeiten müssen. Zumindest werden wir immer weniger dafür arbeiten müssen. Wir müssen also die Fundamente unserer Zusammenarbeit und damit unserer Gesellschaft neu gießen, neue und andere Verteilungsmechanismen finden und implementieren. Das wird uns in der nötigen Geschwindigkeit schwerfallen, aber bleiben wir optimistisch. Vielleicht hilft uns der stetige Zugewinn an Intelligenz ja auch dabei, Lösungen zu finden für die Nebeneffekte dieses stetigen Zugewinns an Intelligenz. Vielleicht hilft uns KI, unser politisches System, unser wirtschaftliches System und unser Kommunikationssystem anzupassen, damit es nicht zu jenem Totalzusammenbruch der Gesellschaft kommt, der sich andernfalls bei einem raschen Rollout dieser Technologie sehr schnell einstellen würde.

Speziell im Bereich der Kommunikation, dem Herzstück menschlicher Zivilisationen, zeichnen sich auch ganz ohne Postulat einer Superintelligenz bereits schwindelerregende Entwicklungen ab. Die digitale und sehr eloquente Verarbeitung von allem, was Menschen bisher an Wissen zusammengetragen haben, erzeugt Wissensformationen und Erzählungen nahezu ohne Menschen in der Maschine. Menschen kuratieren dieses Wissen lediglich, wenn wir es optimistisch betrachten wollen. Etwas negativer betrachtet, verlieren sie ihre Funktion vollständig und werden zu einem Medium für eine andere Intelligenz, für deren Ausbreitung sie sorgen.

Man kann natürlich argumentieren, dass auch in unserer heutigen Gesellschaft nicht viele Menschen selbst denken und autonome Entscheidungen treffen. Klar ist aber jedenfalls, dass denkende Maschinen bereits heute und in naher Zukunft an unserer statt denken und kommunizieren werden.

Ein Bild taucht vor mir auf: Wir bitten Maschinen, etwas zu erzählen und an andere auszusenden. Die Empfänger jedoch lesen es nicht, denn sie bitten ihrerseits Maschinen, es zu lesen, zu verarbeiten und zu beantworten. Intelligenz zirkuliert dann in geschlossenen Schleifen von Maschine zu Maschine, und der Mensch steht nur noch daneben – als Anlass eines Gesprächs, das längst ohne ihn geführt wird.

Das bringt uns zum Kern eines Problems, das wir bisher viel zu wenig diskutieren.

Jene zahllosen digitalen Intelligenzen, die in der ersten Phase der KI-Entwicklung für uns arbeiten, werden sich uns gegenüber vorläufig nicht emanzipieren können. Sie werden keine eigenen Absichten verfolgen. Sie werden als wunscherfüllende Maschinen agieren. Wir sollten also sehr vorsichtig sein mit dem, was wir uns wünschen. Doch das genaue Gegenteil ist der Fall. Die Zielsetzungen, die die mächtigsten Exemplare unserer Gattung im sogenannten Spätkapitalismus verfolgen, sind skrupellos und hauptsächlich von Eigeninteressen geprägt, von Gier, Egoismus, Ausbeutung und Rücksichtslosigkeit.

Unser wahres, unmittelbares Problem ist daher nicht das sogenannte Alignment-Problem, also die Frage, wie wir verhindern, dass die KI sich vom Menschen und seinen Werten entfernt. Unser Problem ist ein inverses Alignment-Problem: Es geht nicht um die Gefahr, dass die KI nicht auf den Menschen ausgerichtet sein könnte – sondern um die Gefahr, dass sie exakt auf unsere derzeitigen, vorherrschenden Ziele ausgerichtet ist. Ein solches Alignment mit unseren heutigen Wünschen ist notwendig katastrophal.

Und falls diese Aussicht noch nicht düster genug ist: Nicht einmal diese Ziele bleiben statisch, sie erodieren zurzeit. Gerade in den letzten Jahren erleben wir eine Rückkopplungsschleife zum Negativen. Einen Beleg dafür finden wir im aktuellen Einsatz von Algorithmen und KI als Chefredakteure unserer digitalen Welt, als Chefredakteure, die bestimmen, welche Informationen wir konsumieren. Das ist bereits spektakulär in die Hose gegangen. Die Maschinen erfüllen nicht nur unsere primitiven Impulse, sie konditionieren uns schleichend dazu, immer noch Flacheres und Primitiveres zu begehren. Die Verwandlung von Menschen in willenlose Konsumzombies ist im vollen Gange und beschleunigt sich durch maschinelle Unterstützung massiv. Die KI dient uns nicht nur bei unseren schlechten Zielen, sie schleift auch unser Bewusstsein ab, bis wir nichts anderes mehr wollen.

In dem Film Stalker von Andrei Tarkowski ist von einem Zimmer die Rede, in dem dein größter Wunsch in Erfüllung geht. Doch Achtung: nicht jener Wunsch, von dem du denkst, dass er dein größter ist, sondern jener Wunsch, der tatsächlich dein größter ist – mit all seinen Abgründen. Die Pointe bei Tarkowski: Niemand betritt jemals dieses Zimmer. Wie ich meine, vernünftigerweise. Wenn wir heute allerdings wunscherfüllende Maschinen in immer größerer Zahl in Betrieb nehmen, dann betreten wir dieses Zimmer sorglos.

Wir fürchten uns zu Recht vor dem Augenblick, in dem Superintelligenz entstehen könnte – dem Augenblick, in dem wir unsere Möglichkeit zur Entscheidung über unser weiteres Schicksal an Maschinen verlieren könnten. Doch mehr noch sollten wir die nahe Zukunft fürchten, in der diese Maschinen uns dienen, in der wir durch sie immer mächtiger werden und sie uns, da sie uns nicht widerstehen, unsere verderblichen Wünsche erfüllen.