Superintelligenz für alle und jedem seine eigene, streng geheime KI: die fünf wichtigsten Aussagen aus Mark Zuckerbergs KI-Manifest

Im KI-Boom der USA zählt der Meta-Konzern zu den grössten und wichtigsten Akteuren: Als «Hyperscaler» investiert er massiv in KI-Infrastruktur. Allein dieses Jahr wird der CEO Mark Zuckerberg 145 Milliarden Dollar dafür ausgeben, bis 2028 sollen es 600 Milliarden Dollar sein. Zudem wirbt die Firma aggressiv führende KI-Forscher mit Boni in Höhe von Millionen von Dollars ab, um bei den KI-Modellen aufzuholen.

Wenn Zuckerberg spricht, hört Amerikas KI-Branche hin – und am Montag äusserte er sich ausführlich. Der 42-Jährige veröffentlichte ein KI-Manifest, in dem er skizzierte, wie die amerikanische Regierung KI regulieren soll und wieso die Technologie angeblich die Gesellschaft zum Besseren verändern werde. Da Zuckerberg in Washington einen wachsenden Einfluss geniesst, dürfte man auch dort seine Worte mit Interesse lesen.

Meta fordert darin nicht nur offene Modelle, sondern veröffentlichte am Montag auch selbst ein neues, offenes KI-Modell namens Muse Glimmer. Dieses ist ein Open-Weight-Modell, die Parameter des Modells sind also öffentlich. Entwickler können es somit herunterladen und modifizieren. Geschlossene Modelle kann man hingegen nur fixfertig über die Plattform der dahinterstehenden KI-Firma nutzen. Meta kündigte zudem an, auch die Parameter für einige seiner führenden Modelle bald publik zu machen.

Damit unterscheidet sich Meta von den führenden KI-Firmen Anthropic, Google und Open AI, die nur geschlossene Modelle entwickeln. Auch in anderen Punkten kritisierte der CEO die KI-Strategien der Konkurrenz.

Seine wichtigsten Aussagen im Überblick:

1. Offene KI-Modelle unter amerikanischer Führung dienten der nationalen Sicherheit.

Passend zu den Geschäftsinteressen von Meta argumentiert Zuckerberg, dass «offene Modelle sicherer» seien. Dieses Plädoyer kommt nicht von ungefähr: Der Konzern selbst profitiert von einer kostenlosen Weiterentwicklung durch die weltweite Entwickler-Community. Konkurrenten wie Open AI hingegen, die auf Bezahlmodelle setzen, geraten durch offene Modelle unter Preisdruck.

In diesem Geiste befürwortet Zuckerberg auch einen uneingeschränkten Wettbewerb mit China. «Unser Ziel sollte es sein, dass amerikanische Open-Source-Modelle weltweit die besten sind. Dazu müssen die Hürden beseitigt werden, die den Wettbewerb für amerikanische Open-Source-Modelle erschweren.» Möglichst wenig Regulierung ist auch für Meta gut.

Wenig überraschend sprach sich Zuckerberg zudem für mehr Investitionen in KI-Infrastruktur aus – und versuchte damit die eigenen, zunehmend umstrittenen hohen Ausgaben zu normalisieren.

2. Es brauche streng persönliche KI-Assistenten.

Zuckerberg spricht sich für eine Zukunft aus, in der jedermann einen individuellen KI-Assistenten hat, mit dem er sich beraten kann. Die Protokolle dieser Gespräche solle niemand einsehen können, auch nicht die Entwicklerfirma der KI. Derzeit behalten sich die führenden KI-Firmen dies in ihren Nutzungsbedingungen vor.

Das Werteverständnis einer KI, das sogenannte Alignment, solle sich künftig auch nicht mehr an einer ganzen Firma ausrichten, sondern am individuellen Nutzer. Persönliche Assistenten müssten den Zielen und Werten jedes Einzelnen dienen. «Beim Alignment sollte es darum gehen, den Menschen dabei zu helfen, all die unterschiedlichen Ziele und Ansichten zu verfolgen, die es in einer Gesellschaft gibt.» Unklar ist, wie Zuckerberg dieses persönliche Alignment in den Händen von Hackern oder anderen Kriminellen sieht. Auf diese Gefahr geht er in seinem Manifest nicht ein.

3. Nicht Firmen, sondern die Konsumenten entschieden, wann wir «Superintelligenz» erreicht hätten.

Eine KI, die klüger ist als Menschen, bezeichnen KI-Forscher als Superintelligenz. Wann diese erreicht sein wird, darüber scheiden sich die Geister. Zuckerberg argumentiert nun, dass es nicht an den Wissenschaftern sei, dies festzustellen, sondern an der Gesellschaft: nämlich wenn «Milliarden von Menschen erfolgreich» einen solchen Superintelligenz-Agenten verwendeten.

In blumigem Marketingsprech bewarb Zuckerberg ausführlich seine Zukunftsvision einer «persönlichen Superintelligenz», die dem Einzelnen bei allen Formen von Alltagsaufgaben, Gesundheits- und Finanzfragen helfe. Diese steht im Widerspruch zu den düsteren Warnungen des CEO von Anthropic und jüngst auch desjenigen von Open AI vor ungewollten Konsequenzen durch KI.

Mit solchen Aussagen zeigt Zuckerberg jedoch, dass er – wie bereits im Zeitalter der sozialen Netzwerke – kein ausgewogenes Bild der Zukunft zu zeichnen vermag, samt aller Chancen und Risiken. Sondern eines, das seinem Konzern maximal nützen würde – mit Milliarden von Nutzern von KI, ähnlich wie schon bei Social Media.

4. Kritik an der Konkurrenz: Die führenden KI-Firmen wollten lediglich ihre eigene Macht zentralisieren.

«Die meisten anderen Forschungslabore konzentrieren sich darauf, KI für Unternehmen, Regierungen oder andere Institutionen zu entwickeln», schrieb Zuckerberg als Seitenhieb gegen die Konkurrenz: «Wenn diese Firmen also die Führung übernehmen, wird das Kräfteverhältnis zugunsten grösserer Institutionen und zulasten des Einzelnen ausfallen.»

Superintelligenz sollte vielmehr allen Menschen zugänglich sein und nicht zentralisiert werden. Zuckerberg argumentiert, dass ein Zugriff auf eine so fortgeschrittene Technologie für die breite Masse den Weg zu einer positiven KI-Zukunft sichere. Man müsse kostenlose KI-Modelle an «Milliarden von Menschen» verteilen.

Und diese Modelle müssten offen sein, denn «weitverbreitete Open-Source-Systeme haben sich als sicherer erwiesen». Als Beispiel nannte er die Plattform Hugging Face, die nach einem Angriff durch ein KI-Modell von Open AI im vergangenen Monat die Hilfe offener Modelle in Anspruch nahm, um ihre Sicherheitslücken zu beheben.

Das Argument blendet jedoch aus, dass Open Source keine Wunderwaffe gegen Cyberangriffe ist. Auch einer weltweiten Entwickler-Community können Sicherheitslücken entgehen.

5. Die Regierung müsse neue KI-Modelle «flexibel» regulieren. 

Auch auf die derzeitige Regulierungsdebatte geht Zuckerberg ein: Statt auf einen starren Gesetzesrahmen zu setzen, würde es ausreichen, wenn KI-Firmen und staatliche Aufsichtsbehörden ständig im Dialog stünden. So könne man gemeinsam feststellen, wie sich neue mächtige Modelle auf die nationale Sicherheit und kritische Infrastruktur auswirkten – und verhindern, dass die Öffentlichkeit lange auf neue Modelle warten müsse.

Mit diesen Argumenten will Meta harte gesetzliche Leitplanken verhindern. Ein informeller Dialog würde bedeuten, dass die Behörden fast vollständig auf die Selbsteinschätzungen und Daten von Konzernen wie Meta angewiesen wären. Es ist eine Strategie, auf die der Konzern bereits bei der Regulierung sozialer Netzwerke gesetzt hatte – lange mit Erfolg.