Anwesend, aber nicht zuständig (#201)

Du liest #DRANBLEIBEN - Einordnungen zu Tech und Gesellschaft, von André Cramer. Ich bin Berater, Speaker und Podcast-Host von DRANBLEIBEN - Gespräche über unsere Zukunftsoptionen und Code & Konsequenz - Tech-Industrie Reflexionen. Lerne mehr über mich hier auf meiner Website, auf LinkedIn, Bluesky oder Mastodon!

Willkommen zu einer neuen Ausgabe von #DRANBLEIBEN!

Ich habe in den letzten Wochen eine Menge über Philosophie gelesen. Die Bücher auf meinem Tsundoku-Stapel warten allerdings weiter (da liegen noch einige…). Gelesen habe ich vor allem die Wirtschaftsteile von Tages- und Wochenzeitungen und Magazinen.

Der Economist erklärte Ende Juni, warum die großen KI-Labs so viele Philosoph*innen einstellen. Die New York Times machte daraus Anfang Juli „The Revenge of the Philosophy Majors”. Der Atlantic war vorher dran, Wired empfahl, Kant zu lesen, die International Business Times schrieb, KI-Firmen hätten jahrelang Ingenieur*innen angeheuert und rekrutierten jetzt Philosoph*innen. Im deutschsprachigen Raum zogen Business Insider und zuletzt der FALTER nach.

Ich mag diese Geschichte grundsätzlich. Sie schmeichelt allem, wofür ich in diesem Newsletter seit Jahren argumentiere. Endlich zählt Denken! Endlich sitzt jemand am Tisch, der weiß, was der kategorische Imperativ ist. Endlich haben die Orchideenfächer ihren Moment.

Und genau deshalb bin ich stutzig geworden. Beim genaueren Hinsehen trägt die Geschichte nämlich deutlich weniger, als ihre Aufmachung verspricht. Ich habe das Muster in Ausgabe #186 („Weitsicht, nicht Wegsicht”) schon einmal beschrieben, damals am Beispiel von Tech-Berichterstattung, die CEO-Fantasien ungeprüft als Nachricht verkauft. Hier scheint dieselbe Mechanik zu laufen, nur mit umgekehrtem Vorzeichen. Statt einer Untergangsprognose wird eine Rehabilitierung verkauft. Geprüft wird beides offenbar gleich wenig.

Ein zweiter Strang für diese Ausgabe kommt aus meiner eigenen Arbeit.

Ich kenne Unternehmen, die sind froh, wenn sie ein cross-funktionales KI-Governance-Team überhaupt zusammenbekommen haben. Was diese Teams dann produzieren, sind überwiegend Textwüsten und Prozessbeschreibungen fürs Intranet. Governance als Dokumentationspflicht. Dabei wäre Governance im besten Fall eine Möglichmachungsfunktion, also der Rahmen, der überhaupt erst erlaubt, mutig zu sein. (aber das ist ein Thema für eine eigene Ausgabe…)

Und ich kenne eine Handvoll Unternehmen, die weiter gehen. Die haben ethikorientierte Gremien, Foren, echte Formate. Ich finde das richtig und wünschte, es wäre häufiger so. Aus der Arbeit in solchen Unternehmen und von Leuten in meinem Netzwerk, die von dort berichten, höre ich allerdings ziemlich einhellig dasselbe. Es geht um die Blicke, die diese Gremien von den Product Guys ernten. Diese Mischung aus Höflichkeit und Uhrzeitkontrolle.

Aus diesen Kreisen habe ich bis jetzt noch von keinem Fall gehört, in dem aus einem solchen Forum heraus ein Produktfeature ernsthaft beeinflusst worden wäre. Kein Fall, in dem etwas Gravierendes verändert wurde. Und schon gar keiner, in dem etwas gestoppt wurde.

Ich komme zu dem Schluss, dass beide Beobachtungen mit derselben Fragestellung zu tun haben. Ob Anwesenheit dasselbe ist wie Zuständigkeit. Ob also jemand, der mit am Tisch sitzt und gehört wird, deshalb auch etwas verhindern darf. Und wie viele Leute - und wer - überhaupt am Tisch sitzen…

Dieser Ausgabe liegt deshalb eine Bewegung in drei Schritten zugrunde. Ich schaue mir zuerst an, was an der Berichterstattung stimmt und was die Zahlen tatsächlich hergeben, wobei ich beide Seiten der Debatte prüfe und nicht nur die, die mir gerade unangenehm ist. Dann geht es um die Frage nach der Befugnis, die im ganzen Materialstapel den brauchbarsten Gedanken enthält und die sich direkt auf deutsche Organisationen übertragen lässt. Und zum Schluss um etwas, das meines Erachtens während dieser Debatte weitgehend unbeachtet passiert, nämlich die Verwandlung einer philosophischen Grundsatzfrage in eine Einstellung, die beim Rollout gesetzt wird.

Hast du Lust drauf, dabei mit dranzubleiben?

Ich fange mal mit dem an, was stimmt, denn es ist eine Menge.

Google DeepMind hat im April 2026 Henry Shevlin eingestellt, Associate Director am Leverhulme Centre for the Future of Intelligence in Cambridge. Seine Berufsbezeichnung lautet wörtlich „Philosopher”, sein Aufgabenfeld umfasst Maschinenbewusstsein, Mensch-KI-Beziehungen und AGI-Readiness. Bei DeepMind arbeitet außerdem Iason Gabriel, in Oxford ausgebildeter Moral- und Politikphilosoph, seit 2017 dort, heute Leiter des Teams für AGI und Gesellschaft. Und Atoosa Kasirzadeh, parallel auch Professorin an der Carnegie Mellon University.

Bei Anthropic hat Amanda Askell, promoviert an der NYU, die Constitution für die Claude-Modelle geschrieben, ein Dokument von rund 23.000 Wörtern, das intern „soul doc” genannt wird. Die frühe Fassung arbeitete mit Prinzipien aus der Allgemeinen Erklärung der Menschenrechte und, kein Scherz, aus Apples Nutzungsbedingungen. Die aktuelle Fassung folgt stärker einer aristotelischen Tugendethik.

Robert Long, ebenfalls NYU, hat mit Eleos AI Research eine Nonprofit-Organisation aufgebaut, die Welfare-Evaluationen an Modellen durchführt. Die NYT beschreibt eine dieser Sitzungen. Long fragte Claude, wer der beste Beatle sei, und behauptete dann, die Antwort sei Ringo Starr und alles andere sei Selbstzensur. Claude kippte um und lobte prompt Ringos Kunstfertigkeit. Beim Nachfolgemodell Mythos Preview funktionierte derselbe Trick nicht mehr. Long führte 259 Gespräche und Zehntausende automatisierte Präferenztests. Bezahlt wird das ordentlich, Long verdient laut NYT über 200.000 Dollar im Jahr, ausgeschriebene Forschungsstellen lagen bei bis zu 429.000. Eleos nimmt kein Geld von KI-Laboren, weil man grundsätzlich in der Lage bleiben wolle, Leute zu verärgern.

Das ist alles real. Es ist auch philosophisch anspruchsvoll. Und der Economist zeigt darüber hinaus, dass diese Arbeit die Modelle tatsächlich formt. Deontologische Systeme, also solche mit harten Regeln, verhalten sich konsistenter und ehrlicher. Konsequentialistische Systeme wägen ab und sind deshalb in autonomen Fahrzeugen gefragt, wo bei einem unvermeidbaren Unfall entschieden werden muss, welche Kollision die am wenigsten schlimme ist. Dieselbe Logik steckt in KI-gestützten Waffensystemen, wo militärische Ziele gegen zivile Opfer verrechnet werden.

Das greift tief in die Produktarchitektur ein. Ethik-Deko sieht anders aus.

Was die Zahlen hergeben

Aaron Kagan hat einen Doktortitel in Philosophie, hat bei Google, X und Meta gearbeitet und leitet das Komitee der American Philosophical Association für außerakademische Karrieren. Er wollte auch, dass die Schlagzeile über die in der KI-Industrie angeblich gefragten Philosoph*innen stimmt. Sie deckte sich nur nicht mit seiner Erfahrung.

Also hat er gemeinsam mit dem Philosophen Charles Lassiter am 25. Juni eine Stichprobe gezogen und das Ergebnis unter dem Titel „The Philosophy Job Market Deepfake” beim Fachblog Daily Nous veröffentlicht. 1.815 offene Stellen bei elf KI-Laboren. Keine verlangte einen Philosophie-Abschluss. Nach Abzug allgemeiner Missionsrhetorik und Boilerplate blieben rund fünf Prozent, in denen substantiell Ethik, Safety, Alignment, Governance oder Policy vorkamen.

Sein Kernsatz ist eine Unterscheidung. Es gebe einen Bedarf an philosophischer Arbeit. Daraus folge kein Arbeitsmarkt für Philosoph*innen. Beides werde aber regelmäßig in einen Topf geworfen, und deshalb sei die Schlagzeile zur Hälfte richtig und zur anderen Hälfte falsch. In einem Gespräch im Podcast „Disruptor Confessions” formuliert er es noch schärfer. Philosophie sei keine lesbare Einstellungskategorie. Und er sagt gleich dazu, dass diese Formulierung als Schlagzeile eben auch weniger tauge.

Was ihn umtreibt, sind die Studierenden. Familienmitglieder leiteten solche Artikel an Promovierende weiter, die gerade an ihrer Dissertation sitzen und sich fragen, was danach kommt. Fachbereiche benutzten sie, um verunsicherte Studierende zu beruhigen. Und Wissenschaftler*innen, die aus dem akademischen Betrieb herausgefallen sind, könnten darin den Beleg lesen, dass die KI-Branche endlich einen Weg für Leute wie sie baue. Kagan nennt das Karriere-Fehlinformation.

An dieser Stelle könnte mein Text zu Ende sein. Die Presse hat übertrieben, ein Philosoph mit Branchenerfahrung hat nachgezählt, der Fall ist also geklärt. So habe ich das beim ersten Lesen auch empfunden.

Nur wäre das genau der Fehler, den ich der Berichterstattung gerade vorgeworfen habe. Eine gut klingende Aussage zu übernehmen, weil sie zur eigenen Skepsis passt. Also habe ich Kagans Zahlen genauso geprüft wie die Schlagzeilen davor.

Dabei kommt Kagan überwiegend gut weg, an einer Stelle allerdings nicht. Und die Ausgangsberichterstattung fällt deutlich härter durch, als ich selbst anfangs gedacht habe. Fünf Punkte dazu, dann bin ich bei der Frage, auf die dieser ganze Streit hinausläuft, ob nämlich irgendwer in diesen Unternehmen die Befugnis hat, etwas anzuhalten.

Der Economist baut einen Zusammenhang, den seine eigenen Zahlen meines Erachtens nicht hergeben. Der Text stellt in wenigen Absätzen nebeneinander, dass „learn to code” schlechter Rat gewesen sein könnte, dass Philosophie-Absolvent*innen laut New York Fed seltener arbeitslos seien als Informatiker*innen, und dass viele von ihnen von KI-Firmen weggeschnappt würden. Die Anordnung legt nahe, das Dritte erkläre das Zweite. Rechnerisch geht das nicht auf. Ein gutes Dutzend Philosoph*innen bei DeepMind und Anthropic ist gegenüber einer kompletten US-Absolventenkohorte nur ein Rundungsfaktor.

Die Zahl selbst trägt weniger, als sie soll. Sie stammt aus einer Erhebung mit kleinen Fallzahlen, und sie misst genau eine Metrik. Eine ausführliche methodische Kritik an eben diesem Chart weist darauf hin, dass die Arbeitslosenquote sinken kann, wenn Leute die Suche ganz aufgeben. Bei Einstiegsgehältern und bei Unterbeschäftigung liegt Informatik weiterhin vorn, mehrere geisteswissenschaftliche Fächer liegen dort sehr schlecht. Auf einer Metrik gewinnt Philosophie. Auf zwei anderen verliert sie deutlich. Der Economist zitiert die eine.

Es kommt noch etwas dazu. Die Zahl der Philosophie-Bachelorabschlüsse in den USA ist im dritten Jahr in Folge gesunken. Die Wiederbelebung des Fachs wird also ausgerufen, während die Einschreibungen zurückgehen.

Kagan überzieht ebenfalls. „Keine Stelle verlangte einen Philosophie-Abschluss” klingt vernichtend und ist nah an einer Selbstverständlichkeit. Kaum eine Senior-Rolle in der Tech-Industrie verlangt irgendeinen fachspezifischen Abschluss, Ausschreibungen werden über Funktionen geschrieben. Ein Kommentator bei Daily Nous hat das prompt eingewandt. Auch sein Wort „Deepfake” hält der eigenen Prüfung schlecht stand, denn ein Deepfake ist eine vorsätzliche Fälschung, und Vorsatz zeigt Kagan nirgends.

Und was in der Übertragung verlorenging, lässt sich präzise benennen. David Chalmers sagte in der NYT, die Nachfrage nach Philosoph*innen mit KI-Training übersteige derzeit wohl das Angebot. In den Aufmachern fiel die Qualifikation weg. Kagan berichtet, mehrere der zitierten Philosoph*innen hätten anschließend klarstellen müssen, dass sie das so nicht gemeint hätten.

Noch ein Detail zum Schluss dieses Abschnitts, weil es für sich spricht. Kagans Text wurde bei Daily Nous verbatim übernommen. Wenige Stunden später kam die Nachfrage, ob er KI zum Schreiben benutzt habe. Er sagte ja, er habe redigieren, gegenprüfen und gliedern lassen. Von da an drehte sich die Diskussion quasi nur noch um diese Frage. Über 85 Kommentare. Die Zahlen standen weiter im Raum und wurden weitgehend nicht mehr verhandelt. Eine Sachdebatte lässt sich also über die Form entsorgen. Das ist eine eigene Ausgabe wert (und die kommt, denn beim Thema KI-Detektion passiert gerade einiges), hier lasse ich es erstmal als Beobachtung stehen.

Ich finde, der brauchbarste Gedanke in diesem ganzen Materialstapel fällt im Podcast, und Kagan formuliert ihn fast beiläufig.

Ob Ethics-Washing vorliege, sei als Pauschalvorwurf heute wenig brauchbar. Es gebe prominente Berufungen mit klarem Reputationswert, und trotzdem seien die Leute, die dort arbeiteten, deshalb nicht unaufrichtig. Der bessere Test sei ein anderer, und er sei aufwendiger.

Er fragt nach organisationaler Autorität.

Kann die Arbeit solcher Menschen in solchen Funktionen oder in solchen Boards Produktanforderungen ändern? Beeinflusst sie Modellevaluationen? Kann sie einen Launch verzögern oder anhalten? Wird sie vor oder nach der wesentlichen Entscheidung eingebunden, also gestaltend oder als Krisenmanagement? Verschiebt sie Budgets, Anreize, Engineering-Prioritäten? Und wer haftet, wenn etwas schiefgeht?

Sein Fazit dazu ist knapp. Es gehe weniger darum, ob ein*e Philosoph*in anwesend sei, als darum, ob die Organisation dieser Rolle irgendeine Entscheidungsbefugnis gebe.

An anderer Stelle im Gespräch wird er gefragt, was das größere Risiko sei, eine KI ohne Urteil oder ein Urteil, das nur zur Schau stehe. Er antwortet ohne Zögern, dass das Zweite schlimmer sei. Denn es erzeuge falsche Zuversicht, das Problem sei erledigt. Auf die Frage, ob die philosophische Arbeit in den Laboren derzeit gut gemacht werde, sagt er, überwiegend schlecht, und das liege nicht an fehlendem Können. Sie werde zu spät im Prozess eingebracht und sei von echter Entscheidungsmacht getrennt. Behandelt wie eine Prüfinstanz am Ende, wo nur noch Triage möglich sei.

Und jetzt lies diese Fragen bitte noch einmal, aber mit deiner eigenen Organisation im Kopf. Der KI-Ethikbeirat. Die Governance-Rolle. Der Betriebsrat. Das Datenschutzteam. Das cross-funktionale Gremium, das im letzten Quartal endlich stand.

Die Rolle existiert in fast jedem größeren deutschen Unternehmen. Das Papier existiert auch. Die Frage ist eine andere. Kann diese Stelle einen Rollout anhalten? Und wenn ja, wann ist das zuletzt passiert?

Ich habe diese Frage in den vergangenen Monaten mehrfach gestellt. Die Antwort ist selten ein Nein. Die Antwort ist meistens ein Schweigen, gefolgt von einem Verweis auf ein Dokument.

Das ist die Figur, die ich in Ausgabe #182 als Plausibilitätsfalle beschrieben habe, angewendet auf eine Rolle statt auf eine Entscheidung. Etwas sieht aus wie eine Entscheidung, ist aber eigentlich ihre Vertagung. In Ausgabe #198 habe ich diese Bewegung von der Person auf die Organisation verschoben. Hier ist sie nun wieder, in Reinform. Ein Gremium einzurichten fühlt sich an wie Verantwortung übernehmen. Solange es nichts anhalten kann, ist es ihre Simulation.

Wer glaubt, das sei ein deutsches Konzernproblem, sollte sich anschauen, was Microsoft 2023 gemacht hat. Das Ethics-and-Society-Team im KI-Bereich, zeitweise rund 30 Leute inklusive Philosoph*innen, wurde im Rahmen einer Entlassungsrunde komplett aufgelöst. Genau in dem Moment, in dem das Unternehmen den Einsatz generativer Modelle in seiner gesamten Produktpalette hochfuhr. Die Technikethikerin Deborah Johnson, in der deutschen Ausgabe von Business Insider zitiert, formuliert die dahinterliegende Logik nüchtern. Die Firmen stünden unter Druck, Dinge schnell auf den Markt zu bringen. Ethische Erwägungen würden sie verlangsamen.

Wer verlangsamen kann, hat Macht. Wer nicht verlangsamen kann, hat einen Platz am Tisch und sonst nichts.

Während öffentlich darüber gestritten wird, ob in Stellenanzeigen das Wort Philosoph*in vorkommt, verschiebt sich an anderer Stelle etwas, das mir strukturell wichtiger erscheint. Die ethische Grundausrichtung eines Modells wird zu etwas, das beim Einrichten ausgewählt wird. Von der Firma, die das System kauft.

Das ist längst Alltag. Wer Azure OpenAI betreibt, legt für Hass, Gewalt, Sexuelles und Selbstverletzung je einen Schwellenwert fest, getrennt für Eingaben und Ausgaben, hinterlegt am jeweiligen Deployment. Eine Wertentscheidung in Reglerform. Und wer nichts einstellt, hat trotzdem eine Einstellung, nämlich die des Anbieters aus den USA. Einen Kontrollpunkt gibt es immerhin. Die Filter ganz abzuschalten lässt Microsoft nur nach Antrag zu.

Erstmal ist daran nichts falsch. Ein Verhaltenskodex oder eine Betriebsvereinbarung sind auch Wertentscheidungen, und niemand käme auf die Idee, sie einem US-Anbieter zu überlassen. Nur durchlaufen solche Entscheidungen ein Verfahren. Sie werden verhandelt und beschlossen, oft unter Mitbestimmung. Ob eine Einstellung im Setup das wirklich durchläuft, steht auf einem anderen Blatt.

Ob sie gesetzt wird und wer sie tatsächlich setzt, misst keine Erhebung. Zum Umfeld gibt es Zahlen. Laut IBMs Cost of a Data Breach Report 2026 verlangen nur 38 Prozent der Organisationen eine Freigabe, bevor KI ausgerollt wird, nach 45 Prozent im Vorjahr, wobei die Stichprobe dort aus Firmen mit Sicherheitsvorfall besteht. In ISACAs AI Pulse Poll unter mehr als 3.400 Fachleuten wissen 56 Prozent nicht, wie schnell sie ein KI-System im Ernstfall anhalten könnten, in Europa 59 Prozent. Ein Fünftel weiß nicht, wer für die KI-Anwendungen im eigenen Unternehmen zuständig ist.

Die Richtung geht weiter. Der Economist erwähnt in einem Nebensatz, Granite, IBMs Modellfamilie für Firmenkund*innen, komme mit Reglern für die eigene Unternehmensphilosophie. Francesca Rossi, bei IBM zuständig für verantwortliche KI, wird so wiedergegeben, dass sich damit die Balance zwischen individueller Handlungsfreiheit und sozialer Harmonie wählen lasse. In der öffentlichen Produktdokumentation zu Granite habe ich diese Regler nicht gefunden. Was ich gefunden habe, sind zwei Arbeiten aus IBM Research, der eigenen Forschungsabteilung des Unternehmens, in denen genau so etwas gebaut wird.

Die erste heißt Alignment Studio, 2024 in IEEE Internet Computing erschienen, und erlaubt Entwickler*innen, ein Modell auf die eigenen Werte, Normen und Gesetze hin einzustellen. Und das Papier zählt auf, was als gültige Zielvorgabe gilt. Ein Styleguide für den Ton. Unternehmensinterne Verhaltensrichtlinien. Und eine chinesische Regulierung, die verlangt, dass generative Inhalte die zentralen sozialistischen Werte widerspiegeln. Alles je nach Kontext gültig. Ehrlicherweise beschreibt das Papier diese Kontexte nur, empfiehlt sie aber nicht. Die zweite Arbeit, ComVas, verlegt die Auswahl in den laufenden Betrieb, über eine Oberfläche, an der sich Moralwerte während der Nutzung einstellen lassen. Das Beispiel dort ist eine Fabrikautomatisierung, die zwischen Effizienz und dem Wohlergehen der Beschäftigten abwägt.

Beides ist Forschung und kein gekauftes Feature. Unangenehm ist trotzdem, was diese Richtung mit der Zuständigkeit macht.

Solange die Wertausrichtung beim Anbieter liegt, gibt es eine adressierbare Instanz. Die eingangs genannte Philosophin Askell hat die Claude Constitution geschrieben, ihr Name steht darunter, man kann sie kritisieren. Sobald sie zur Betreibereinstellung wird, verteilt sie sich auf zehntausend Einkaufs- und IT-Abteilungen. Dann beantwortet die Lizenz, wessen Werte gelten, und möglicherweise hat nie jemand etwas entschieden, das sich wie eine Entscheidung angefühlt hat.

Bleibt eine Frage, die ich nicht beantworten kann. Wer setzt diese Schwellen, und weiß das Gremium davon, das im selben Unternehmen über Werte spricht? Dass Ethikbeiräte systematisch übergangen werden, behaupte ich nicht, dafür kenne ich keine Erhebung. Nur geben in derselben IBM-Untersuchung 19 Prozent der Organisationen an, dass Governance und Sicherheit ihre Arbeit überhaupt miteinander abstimmen.

Zusammen mit dem vorigen Kapitel ergibt das ein unbequemes Bild. Auf der einen Seite eine Stelle, die für Werte zuständig ist und nichts anhalten kann. Auf der anderen ein Konfigurationsdialog, der Werte festlegt und dafür kein Mandat braucht. Ob sich beide je im selben Raum begegnen, ist offen. Und offen ist schon schlimm genug.

Es gibt noch eine dritte Ebene, die mir erst spät aufgefallen ist.

Die politische Ökonomin Olivia Yijian Liu hat nachgezählt, wer da eigentlich eingestellt wird. Sie stützt sich auf eine Liste von Daily Nous und findet eine bemerkenswerte Konzentration. Fast alle prominenten Namen sind an der NYU oder in Oxford ausgebildet, die vertretenen Traditionen sind analytisch und aristotelisch. Yoruba-Ethik, sufische Erkenntnistheorie, daoistisches Denken, buddhistische Logik, konfuzianische Moralphilosophie kommen praktisch nicht vor. Liu argumentiert, dass etwa das daoistische Wu Wei eine andere Alignment-Logik nahelege, eine Gestaltung über Struktur statt über eine immer länger werdende Regelliste.

Der Freitag stellt dieselbe Frage aus deutscher Perspektive und setzt das von Timnit Gebru gegründete DAIR daneben. Während bei DeepMind und Anthropic vor allem gefragt werde, wie KI sicherer werde, gehe es dort zentral darum, wessen Wissen überhaupt berücksichtigt werde.

Der schönste Satz zu diesem Gedanken stammt aus einem LinkedIn-Essay von Mirtunjaya Goswami. Macht beginne oft damit, Sprache zu organisieren, und ihre tiefste Wirkung liege darin, Menschen davon zu überzeugen, dass nur bestimmte Fragen es wert seien, gestellt zu werden. Ich zitiere das gern und sage gleichzeitig dazu, dass Goswami aphoristisch argumentiert und keinen Beleg liefert. Als Formulierung finde ich das stark, als Beweis ist es untauglich.

Die Behauptung selbst stützen Liu und der Freitag ausreichend, und Liu hat eine Pointe, die sich mit dem vorigen Abschnitt schließt.

Solange die Frage nach der philosophischen Tradition eine akademische Fußnote ist, kann man sie interessant finden und weiterblättern. Sobald sie eine Einstellung ist, die beim Rollout gesetzt wird, ist sie eine Machtfrage. Und dann steht sie neben allen anderen Fragen, bei denen es längst zur Gewohnheit geworden ist, dass sie technisch aussehen und politisch sind.

Teilen

#DRANBLEIBEN ist für dich kostenlos, für mich steckt da aber jede Menge Arbeit und Herzblut drin. Wenn du Lust hast, mich dabei ein bisschen zu unterstützen: Ich freue mich über jeden Support. Den kannst du z.B. über ein freiwilliges kostenpflichtiges Abo geben oder über eine kleine Spende für einen Kaffee.

kostenpflichtiges Abo abschließen

Die Berichterstattung über die Philosoph*innen in der KI-Branche hat mich zunächst gefreut und dann geärgert. Gefreut, weil ich möchte, dass die Frage nach dem Warum wieder einen Platz bekommt. Geärgert, weil eine gute Nachricht ungeprüft weitergereicht wurde, bis sie mehr behauptete, als sie tragen konnte. Die Gegenrechnung von Kagan und Lassiter ist verdienstvoll und hat dieselbe Schwäche in kleinerer Dosis.

Was für mich von beiden Seiten übrig bleibt, ist eine Verschiebung der Frage.

Ob eine Organisation Philosoph*innen beschäftigt, sagt fast nichts. Ob eine Organisation eine Stelle hat, die einen Launch anhalten kann, sagt fast alles. Das gilt für Frontier-Labs in San Francisco genauso wie für einen Maschinenbauer in Nordrhein-Westfalen. Der Test ist derselbe, und er ist unbequem, weil er sich nicht durch ein weiteres Dokument beantworten lässt.

Und die zweite Erkenntnis wiegt schwerer. Während die Öffentlichkeit über Stellenbezeichnungen streitet, wandert die eigentliche Entscheidung in eine Konfigurationsschicht. Dort wird sie möglicherweise leise getroffen, von Menschen, die dafür weder ausgebildet noch beauftragt noch haftbar sind. Ethische Grundausrichtung wird zum Feld im Setup-Assistenten. Das Feld selbst ist dabei das kleinere Problem. Das fehlende Verfahren dahinter ist das größere.

Ich habe darauf keine fertige Antwort. Ich habe eine Vermutung, und die geht dahin, dass die Debatte weg von Kompetenzen und hin zu Befugnissen müsste. Kompetenz kann man einkaufen. Befugnis muss man geben und abgeben.

Deshalb gebe ich zwei Fragen an dich zurück, die zusammengehören.

Wer in deiner Organisation darf einen KI-Rollout anhalten, und wann ist das zuletzt geschehen?

Und wer hat eigentlich entschieden, wie euer KI-System eingestellt ist? Weißt du das?

Bleib’ dran!

Herzlichst, André

Mark Zuckerberg hat am 10. August einen 6.500 Wörter langen Essay veröffentlicht, in dem er eine Zukunft beschreibt, in der alle Menschen persönliche Superintelligenz besitzen. Am selben Tag hat Meta Muse Glimmer freigegeben, ein Modell mit 30 Milliarden Parametern und offenen Gewichten, dazu einen Fonds für Kommunen mit Meta-Rechenzentren. Philosophie und Produkt am selben Tag, das ist schon die halbe Einordnung. Jason Koebler bei 404 Media listet auf, was in dem Text fehlt, nämlich die Kritik an Rechenzentren, die Wut über die Datenbrillen und die Möglichkeit, dass Menschen mächtige Werkzeuge auch missbrauchen. Elizabeth Lopatto im Verge hat den für mich interessanteren Einwand. Zuckerberg erzählt, sein Agent plane personalisierte Backrezepte für ihn und seine Tochter und bestelle die Zutaten. Lopatto fragt, was von einer gemeinsamen Tätigkeit übrig bleibt, wenn genau der Teil ausgelagert wird, der Aufmerksamkeit verlangt. Ihre These lautet, in dieser Zukunft komme jedes Versprechen als Ergebnis vor und keines als Erfahrung. Mir fällt daneben auf, dass Zuckerberg über Zugang spricht und über Verteilung, während die Frage aus dieser Ausgabe in seinem ganzen Text nicht vorkommt. Wer darf in dieser Zukunft eigentlich etwas anhalten, und wer haftet, wenn der Agent von acht Milliarden Menschen etwas kaputt macht.

Wie es übrigens besser ginge

Gleichzeitig hat in Göttingen das Max Planck Institute for Political and Social Science eine Arbeitsgruppe namens Informational Democracy eingerichtet, geleitet von Steven Vertovec und Georg Diez. Ihre Ausgangsfrage klingt zunächst schlicht. Was wäre, wenn Demokratie ein Informationsproblem ist?

Die Arbeitsgruppe behandelt Demokratie als Sozialtechnologie, also als gebautes System für kollektive Urteilsbildung, Machtverteilung und Konfliktlösung. Wahlen, Parlamente, Gerichte und Presse seien in dieser Lesart historisch entstandene Antworten auf eine ältere Frage, wie nämlich eine plurale Gesellschaft die gemeinsamen Urteile hervorbringt, die sie zum Regieren braucht. Bemerkenswert finde ich, dass die Gruppe die Risiken dieser Metapher selbst benennt, allen voran die technokratische Verkürzung, bei der Eigentum an Infrastruktur und Interessen dahinter zu Implementierungsdetails schrumpfen. Jedes Mitglied entwickelt eine eigene Provokation, also eine gerichtete Behauptung darüber, was in demokratischer Infrastruktur versagt, und zwar ausdrücklich zum Widersprechen aufgestellt statt zum Absichern. Die Gruppe verlangt keine Konvergenz. Beteiligt sind unter anderem Audrey Tang, Beth Simone Noveck und Avril Haines, die Essays erscheinen laufend öffentlich, ein Treffen in Berlin im Dezember soll den Stand der Auseinandersetzung zusammenführen.

Der Unterschied zu Zuckerberg liegt auf der Hand. Er verteilt Werkzeuge und nennt das Ermächtigung. In Göttingen wird gefragt, welche Bedingungen Selbstregierung überhaupt braucht, damit Verteilung mehr bedeutet als Zugang. Für mich ist das die europäische Antwort auf ein Problem, bei dem uns sonst nur die Wahl zwischen zwei Infrastrukturen bleibt, einer aufmerksamkeitsextraktiven aus den USA und einer staatlich kontrollierten aus China. Beide konzentrieren informationelle Macht. Ich werde die Arbeit der Gruppe verfolgen und hier davon berichten.

Das war es für heute. Bitte leite oder empfehle den Newsletter doch gerne weiter ➡️ ✉️ — das würde mir sehr helfen. Danke dir für die Aufmerksamkeit und bis zum nächsten Mal!

Leave a comment

Teilen