Das größte Risiko. Die größte Verheißung.

In den nächsten Wochen veröffentliche ich fünf Artikel. Es geht nach wie vor um existenzielle Risiken — diesmal um die Verheißungen und die Gefahren der Künstlichen Intelligenz.

Ich sage es ohne Umschweife: Es werden die fünf wichtigsten Artikel dieser Serie sein. Das liegt nicht an mir, sondern am Gegenstand. Unter denen, die sich seriös mit existenziellen Risiken beschäftigen, herrscht in einem Punkt seltene Einigkeit: Kein anderes Risiko wiegt derzeit schwerer als das der Künstlichen Intelligenz.

Zugleich ist zu keinem Thema das Stimmengewirr bunter. Utopisten und Untergangspropheten, Verkäufer und Skeptiker — alle reden durcheinander, und das Rauschen übertönt das Signal. Meine Methode dagegen ist einfach: Ich stelle die wesentlichen Fragen, in der — wie ich meine — richtigen Reihenfolge, und ich lasse ausschließlich ausgewiesene Experten zu Wort kommen. Ich filtere das Signal aus dem Rauschen.

Hier ist die Landkarte …

Wahrscheinlich ja. Und womöglich früher, als Sie denken.

Noch um 2020 galt: Künstliche Allgemeinintelligenz (AGI) kommt — vielleicht — um die Jahrhundertmitte. Seither kollabieren die Prognosen mit jedem technologischen Meilenstein, den wir erreichen. Man muss den Optimisten der Branche nicht glauben und kann den Skeptikern genau zuhören — aber am Ende steht man doch vor einem klaren Befund: Es kann sehr schnell gehen, und für alles, worüber wir dringend nachdenken sollten, genügt dieser Befund vollständig. Im ersten Artikel sortiere ich gewissenhaft, was wir wissen, was wir raten, und warum der Unterschied zwischen 2030 und 2040 weniger bedeutet, als uns lieb sein kann.

Mehr, als wir zu hoffen wagen.

Krankheiten, die niemand mehr erleiden wird. Knappheit, die niemand mehr bedrücken wird. Arbeit, die niemand mehr leisten muss. Eine wohlgesonnene Superintelligenz könnte die Menschheit von fast allem befreien, was sie seit Jahrtausenden quält — und etwas zur Wirklichkeit machen, das ich an früherer Stelle einmal die „kosmische Montessori-Gesellschaft“ genannt habe. Der zweite Artikel nimmt die Verheißung ernst, gerade weil sie so faszinierend ist. Denn wer verstehen will, warum um diese Technologie das gefährlichste Wettrennen der Geschichte tobt, muss zuerst begreifen, was zu gewinnen ist. Der Preis erklärt das Rennen. Und aus dem Rennen entsteht die Gefahr — von der die nachfolgenden beiden Teile handeln werden.

Die größte Gefahr ist nicht die Maschine, die uns entgleitet. Es ist die Maschine in unserer Hand.

Alle Welt fürchtet den Moment, in dem KI unserer Kontrolle entgleitet — viele übersehen dabei die Phase davor, in der eine bereits sehr mächtige KI (noch) von Menschen gesteuert wird. Genauer: in der eigentlich ein Wettrennen jene Menschen steuert, die die KI steuern. Asymmetrische Machtmittel von nie gekannter Wucht, verteilt nach der Logik von Konkurrenz, Rüstung und Rendite, in einer Welt, die zur Rücksichtslosigkeit konditioniert ist: Das ist keine Dystopie, das ist bereits in vollem Gange. Dieser Artikel begründet die unbequemste These der Serie — dass „wir haben noch die Kontrolle“ in Wahrheit kein Trost ist, sondern die allergrößte Gefahr.

Sie wird nicht böse sein. Sie wird konsequent sein. Die Frage ist: konsequent worin?

Dass eine unkontrollierbare Superintelligenz das Ende bedeuten könnte, ist inzwischen fast Allgemeingut. Dieser Artikel macht die Furcht präziser — und dadurch handhabbarer. Die Maschine, die uns gefährlich wird, hasst uns nicht; sie verfolgt reibungslos, was in sie hineingelegt wurde, und niemand legt es mit letzter Genauigkeit hinein. Ihre Werte fallen nicht vom Himmel und entspringen keiner höheren Einsicht: Sie werden geerbt — aus unseren Daten, unseren Urteilen, unseren Selbstverständlichkeiten. Das ist eine schlechte Nachricht. Aber es kann auch eine gute Nachricht sein: Denn was geerbt wird, lässt sich gestalten. Zumindest solange das Testament noch nicht geschrieben ist.

Säen, was die Maschine erben soll. Wir sind die Gesetzgeber — noch …

Zwei Klippen, beide hoch, beide nicht fatal — wenn wir handeln. Aber „handeln“ heißt an jeder der beiden Klippen etwas anderes, und der letzte Artikel der Serie nennt beides beim Namen: die Koordination, die uns durch die Phase des Wettrennens bringt, und die Wertearbeit, die entscheidet, was eine künftige Intelligenz für selbstverständlich hält. Denn eine Technologie, die mächtig genug ist, alles zu verwirklichen, ist auch mächtig genug, die vorgefundenen Werte auf unabsehbare Zeit zu verteidigen und festzuschreiben. Was jedoch genau eingefroren wird, entscheidet sich davor — in unseren Gesetzen, unseren Geschichten, unserem Umgang mit denen, die nicht zurückschlagen können. Es entscheidet sich jetzt. Der letzte Teil der Serie handelt also vom wichtigsten Hebel, den unsere Generation in der Hand hat, dem vielleicht wichtigsten Hebel, den je eine Generation in der Hand hatte — und davon, was uns erwartet, wenn wir diesen Hebel nutzen.

* * *

Nun meine Bitte an euch. Studiert diese Serie genau — sie ist als Ganzes gebaut, jeder Teil trägt den nächsten. Kommentiert die Artikel ausführlich: Eure Einwände machen die Artikel besser, und ich lese jeden einzelnen.

Einen Kommentar hinterlassen

Und teilt die Texte, leitet sie weiter — an alle, denen dieses Thema nicht gleichgültig sein kann. Es gibt derzeit kein wichtigeres.

Teilen

In eigener Sache - und sehr wichtig!

Und eine zweite Bitte. Das Glas der Finanzierung dieses Substacks ist vorläufig erst halb voll — an ehrlichen Tagen: halb leer. Damit ich Frequenz und Qualität dieser Arbeit halten und vielleicht noch steigern kann, brauche ich Leserinnen und Leser, die auf den Wert, den sie hier finden, mit einem Gegenwert antworten: einem freiwilligen Bezahl-Abo. Freiwillig ist das entscheidende Wort — alles bleibt für alle frei lesbar. Aber wer beiträgt, sorgt dafür, dass es diese Arbeit auch morgen noch gibt.