Douze livres pour appréhender les débats autour de l'IA

Bonjour les ami.e.s,

Petite anecdote : ces derniers jours, en lançant un épisode de podcast consacré à l’usage militaire de l’IA dans les frappes en Iran, j’ai dû écouter une publicité sur… les usages de l’IA dans la médecine. Avec une pointe de mauvaise foi, on pourrait voir dans ce rapprochement une miniature. Cette technologie contribue pour l’instant à aiguiser les grands problèmes de l’humanité alors même qu’on nous la vend comme une manière de les résoudre.

Cette newsletter a pour thème la débâcle climatique : comment réagit le capitalisme quand il entre dans une zone de sévères turbulences ? Il me semble que l’IA est l’un des grands déterminants de notre avenir, à la fois économique et climatique. Pour essayer d’y voir plus clair, j’ai mis à profit les vacances pour compléter une petite liste de lecture, que voici.

Je me suis concentré sur l’histoire de l’IA, ses effets sur le travail et la possibilité (ou non) d’un autre chemin technologique.

L’histoire de l’IA et l’état actuel de la bataille

◇ Intelligence artificielle, intelligence humaine : la double énigme, par Daniel Andler (Gallimard)

Très bonne introduction. Le mathématicien Daniel Andler fait l’histoire de ce champ de recherches que l’on fait remonter aux années 1950 – mais qui a des racines plus anciennes – et qui a été appelé « intelligence artificielle » pour des raisons marketing. Il retrace les querelles entre différents paradigmes, entre l’IA symbolique (fondée sur la logique déductive et des règles prédéfinies) et l’IA connexionniste (basée sur une logique inductive qui vise à laisser la machine apprendre elle-même à partir d’un grand nombre de données). Il décrit aussi les printemps et les hivers de la discipline, ainsi que la manière dont ces travaux évoluent en parallèle de nos réflexions sur l’intelligence humaine. Je l’avais interviewé en 2023 pour Le Nouvel Obs.

◇ The Eye of the Master: A Social History of Artificial Intelligence, par Matteo Pasquinelli (Verso)

Un peu geek, parfois obscur, mais bon complément au livre d’Andler. Pour le philosophe Matteo Pasquinelli, l’IA ne cherche pas à émuler l’intelligence humaine mais la manière dont le travail est divisé dans nos sociétés. C’est une conception matérialiste qui ne prend pas pour point de départ la célèbre conférence de Dartmouth en 1956, présentée comme l’an zéro de la discipline, mais s’attarde plutôt sur le XIXe siècle.

Selon Pasquinelli, les machines émergent de nos pratiques sociales et finissent par les transformer. Une machine est l’automatisation d’une division du travail préexistante. Par exemple, il a d’abord fallu qu’apparaissent les « calculateurs humains » pour que suive l’idée d’un ordinateur. Ce processus de mécanisation permet de décomposer les tâches pour confier chacune d’elles à la main-d’œuvre la moins chère capable de les accomplir. Conception marxiste classique : le machinisme parcellarise le travail, sépare artificiellement le manuel et l’intellectuel et finit par se dresser contre les humains dont il a vampirisé les connaissances.

Comment cela s’applique-t-il à l’IA ? Apparus dans les années 1950 pour automatiser le travail de perception (identification d’objets sur des photos aériennes), les réseaux de neurones artificiels s’avèrent très efficaces pour encoder et exproprier des formes d’intelligence collective. Par exemple, il n’y aurait pas eu ChatGPT sans les données que nous laissons sur le net (ce que le chercheur Antonio Casilli appelle le digital labor). Ainsi, l’IA n’est pas une quête pour reproduire l’intelligence humaine, mais une manière de prolonger et d’accroître une certaine répartition du travail.

◇ Silicon Empires: The Fight for the Future of AI, par Nick Srnicek (Polity Press)

Le philosophe Nick Srnicek est l’une des figures de l’accélérationnisme de gauche (la technologie peut nous émanciper si elle change de mains). Dans ce livre plus sobre, il insiste sur la très forte concentration de l’IA : un seul acteur (Nvidia) contrôle les puces, trois entreprises (Google, Amazon et Microsoft) se partagent l’essentiel du cloud. C’est un peu plus disputé au niveau des modèles (OpenAI, Anthropic, DeepMind, DeepSeek, etc.) et des applications, où des milliers d’entreprises existent même si beaucoup sont liées d’une manière ou d’une autre à la Big Tech.

Srnicek tempère les craintes d’une bulle financière semblable à celle de 2008. Pour lui, les risques sont contenus (même si l’on voit poindre, dans le secteur de l’IA, des montages financiers qui ont mené à la crise des subprimes). En revanche, il montre que les inventeurs des « technologies à usage général » – comme la machine à vapeur ou l’électricité – ont eu historiquement du mal à en capter la valeur. Comment les acteurs de l’intelligence artificielle comptent-ils éviter cette malédiction et rentabiliser leurs investissements ?

Quatre grandes stratégies sont possibles. La première vise à se rendre indispensable dans la course à la puissance de calcul. C’est Amazon qui cherche à favoriser n’importe quel usage de l’IA du moment que cela passe par son cloud. La deuxième est celle du conglomérat : Google est assez puissant pour espérer jouer sur tous les tableaux, avec ses puces, son cloud, ses modèles et leur intégration dans diverses industries. La troisième est celle de la recherche de pointe : OpenAI mise (presque) tout sur le développement de l’IA générale. La dernière parie sur l’ouverture des modèles ; c’est Meta qui espérait jusqu’à récemment se placer au centre d’un écosystème numérique.

Cette bataille se déroule dans un monde qui se referme. Pour Srnicek, nous vivons la fin du « Consensus de la Silicon Valley » – l’ouverture des frontières, le libre flot des données et du capital, et la symbiose entre les Etats-Unis et la Chine. Ces dernières années ont vu l’émergence d’une fraction du capital américain davantage tournée vers la défense, la surveillance et le technonationalisme. Côté Chinois, en réponse aux politiques de Biden et de Trump, s’est consolidée la volonté d’être autosuffisant. Quand l’Amérique vise l’innovation dans le domaine de l’IA, la Chine espère battre son rival dans la diffusion de ces technologies à l’ensemble de l’économie (une idée développée dans le livre suivant).

◇ The Rulers: Corporate Power in the Age of AI and the Cloud, par Cecilia Rikap (Verso)

Ce livre n’est pas encore publié – il le sera cet été –, mais un avant-goût en est donné dans ce podcast. La chercheuse Cecilia Rikap travaille sur la manière dont se recompose le pouvoir des grandes entreprises à l’ère de l’IA. Son précédent livre The Digital Innovation Race (2021, avec Bengt-Åke Lundvall) décrivait comment Google, Amazon, Facebook, Apple et Microsoft, ainsi que leurs homologues chinois, « s’approprient des rentes » en entraînant leurs IA sur des « données provenant d’organisations et de particuliers du monde entier ». Sous ces « monopoles intellectuels », le contrôle ne passe plus par la propriété, mais par la capacité de quelques grands acteurs à capter la valeur produite par des start-up ou des universités (par exemple, en les attirant dans leur cloud). L’orientation du développement technologique est concentrée entre quelques mains.

Après le lancement de DeepSeek, Cecilia Rikap a formulé l’hypothèse que les Chinois ne cherchaient pas tant à contester l’avance américaine sur le front de l’innovation qu’à intégrer plus rapidement les modèles dans leur économie. En revanche, les entreprises américaines agitent la menace chinoise pour s’attirer les faveurs renouvelées du gouvernement – la fin (contrer la poussée chinoise) justifie les moyens (leur assurer une rente). Elle montre aussi très bien comment Amazon et Google ont réussi à imposer dans les politiques publiques l’idée que transitions énergétique et numérique étaient liées (twin transition) et passaient par leurs produits… Avec une quarantaine d’autres chercheurs, elle a écrit un livre blanc pour proposer une alternative, consistant à casser ces monopoles et à développer un stack public.

L’avenir du travail et du capitalisme

◇ IA, notre ambition pour la France, rapport coordonné par Anne Bouverot et Philippe Aghion

La vision sociale-libérale de l’IA. Pour Philippe Aghion, prix Nobel d’économie 2025, et les néoschumpétériens, la croissance de long terme est le résultat de vagues d’innovations, qui se diffusent dans la société et améliorent la productivité. Les robots et l’IA seront bons pour l’emploi : les entreprises qui adoptent ces technologies auraient tendance à embaucher plus. Certes les métiers créés ne sont pas analogues à ceux détruits, mais il suffit d’un peu de flexisécurité à la scandinave (formation et fort taux de remplacement du salaire pendant un temps limité) pour que cela se passe bien.

Pour Aghion, l’IA est l’une de ces technologies génériques, après la vapeur, l’électricité et les technologies de l’information et de la communication (TIC) qui transforment les sociétés. Son optimisme ne se comprend que dans le cadre du débat autour de la « stagnation séculaire ». A partir des années 1970, malgré la révolution des TIC, la productivité a eu tendance à stagner. C’est la fameuse blague de l’économiste Robert Solow (autre prix Nobel) : « L’ère informatique est omniprésente, sauf dans les statistiques de productivité ». Pour les plus pessimistes, c’est parce que nous ne revivrons plus la grande vague industrielle du XXe siècle (Robert Gordon) ou bien parce que le monde est dans une situation chronique de surcapacité (cf. Benanav plus bas). Pour les optimistes comme Aghion, c’est un problème de comptabilité, de temps (il faut quelques décennies pour qu’une innovation se diffuse et la productivité a fini par augmenter dans les années 1990), puis de consolidation de géants qui ont bridé l’innovation. Dans cette perspective, l’IA est le juge de paix : va-t-elle relancer la croissance, l’espérance du modernisme et du progrès ou faire pschitt après avoir polarisé la société et abîmé la planète ?

◇ Un taylorisme augmenté : critique de l’intelligence artificielle, par Juan Sebastian Carbonell (éditions Amsterdam)

Court livre efficace à la confluence du marxisme et de la technocritique, pas très loin dans l’esprit de celui de Pasquinelli. Juan Sebastian Carbonell commence par dégonfler la hype autour de l’IA pour insister sur le fait que nous devrions davantage craindre la « dégradation du travail » que sa destruction. Les métiers « hautement qualifiés et intellectuels » ne seront pas protégés, ils seront « taylorisés » : après tout, que l’IA ne puisse jamais égaler un humain importe peu du moment que les entreprises se satisfont du good enough. Tout comme nous nous sommes habitués à des produits de moins bonne qualité manufacturés en série, il faudra s’habituer au slope culturel.

Étendre à l’IA le concept de taylorisme permet de décrire cette découpe d’une activité créatrice en tâches puis en froides procédures – dans une telle optique, cette technologie déqualifie le travail, en réduit le coût (« principe de Babbage ») et intensifie la surveillance des salariés ou des « indépendants » ubérisés. Carbonell prend pour exemple les traducteurs à qui l’on propose désormais de faire de la post-édition. Pour lui, les appels réformistes à « domestiquer » les machines, à « aligner » l’IA sur nos principes moraux sont un leurre : le « vide de politique a été rempli par une émergence éthique », comme le disait le philosophe italien Mario Tronti. Dans sa conclusion, le livre lance un appel à un « renouveau luddite ».

◇ Automation and the future of work, par Aaron Benanav (Verso)

Même veine que Carbonell. La thèse centrale d’Aaron Benanav est que nous vivons une longue stagnation, consécutive à l’épuisement du moteur de la croissance qu’était le secteur manufacturier de l’après-guerre. En cela, il reprend les travaux du marxiste Robert Brenner dans The Economics of Global Turbulence (2006) : depuis les années 1970, la planète serait dans une situation de surcapacité, ce qui freine la croissance et pousse de nombreux travailleurs vers le tertiaire, moins productif. Il en résulte un sous-emploi chronique, qui se traduit davantage par l’acceptation d’un travail précaire (les minijobs allemands) que par le chômage de masse.

Bien que Benanav ait de la sympathie pour les « théoriciens de l’automatisation » – ceux qui prédisent la bascule dans une société entièrement robotisée et prônent l’instauration d’un revenu de base –, il retourne leur présupposé : ce n’est pas la technologie qui va détruire de l’emploi mais le manque d’emplois qui va freiner la technologie. Dans le contexte d’un ralentissement de la croissance, les entreprises se retiennent d’investir dans le capital fixe. Pour prendre à leurs concurrents des parts d’un marché qui ne grossit qu’au ralenti, elles préfèrent mettre les salariés sous pression. En clair : plutôt des humains devenus robots que des robots devenus humains.

Nous sommes arrivés à ce que Keynes appelait un stade de la « maturité » du capitalisme. La réponse n’est pas une relance par la demande (pour Benanav, l’endettement croissant des Etats témoigne du fait qu’il y en a qui ont essayé et qu’ils ont eu des problèmes), ni un revenu de base qui laisserait en place les ressorts des inégalités. Non, à ses yeux, la seule solution est le partage du temps de travail entre les salariés. Après tout, Keynes envisageait une semaine de quinze heures. Dans le dernier chapitre, Benanav tente de revivifier la tradition d’un communisme démocratique.

◇ Inhuman Power: Artificial Intelligence and the Future of Capitalism, par Nick Dyer-Witheford, Atle Mikkola Kjosen et James Steinhoff (Pluto Press)

Un poil folklorique. Les écrits marxistes sur l’IA sont divisés entre deux grandes tendances. Il y a ceux que l’on pourrait appeler les « anti-hypistes », qui se méfient des grandes promesses, dystopiques ou utopiques. Pour eux, l’IA ne remplacera pas le travail, mais servira à l’intensifier, en le déqualifiant et en resserrant le contrôle et la surveillance des salariés (cf. Pasquinelli, Carbonell, Benanav). L’un des arguments qui soutient cette position est que, dans le marxisme orthodoxe, la constitution du profit ne vient que de l’exploitation du travail humain – un capitalisme entièrement automatisé est une contradiction dans les termes.

L’autre position, celle des accélérationnistes ou des partisans du « communisme de luxe automatisé » tient que c’est précisément parce qu’elle aiguise les contradictions du capitalisme que l’IA peut être un moyen de le dépasser. Il y a une tension grandissante entre les forces de production et les rapports de production. Les défenseurs de cet argument envisagent, par exemple, un monde robotisé doublé d’un revenu de base versé à tous sans conditions. Cette deuxième veine s’appuie parfois sur le célèbre Fragments sur les Machines de Marx où ce dernier décrit l’avènement d’un « intellect général », à savoir l’ensemble des connaissances scientifiques, techniques et sociales incorporées dans les machines.

Nick Dyer-Witheford, Atle Mikkola Kjosen et James Steinhoff entendent dépasser cette opposition. Publié en 2019, leur ouvrage semble presque d’un autre âge, mais en dépit d’une légère tendance à l’abstraction, il est d’une lecture vivifiante. Aux « anti-hypistes », ils reprennent l’idée que le mal est déjà là, que le travail est déjà dominé par les machines (l’exemple type étant le préparateur de commandes guidé par un algorithme) ; aux accélérationnistes, la possibilité d’un monde automatisé. Cependant, pour eux, l’émergence d’une IA générale ne fera pas buguer le capitalisme. S’appuyant sur un autre passage de Marx, ils estiment que l’auteur du Capital avait envisagé la possibilité d’une domination totale de l’humain par les machines, et donc du travail par le capital. Pas glop.

◇ Le pianiste déchaîné, par Kurt Vonnegut (Folio SF)

Ce roman est très souvent cité quand on parle de l’IA. Publié dans les années 1950, c’est une satire grinçante d’un monde où les machines assurent l’essentiel de la production et où seule une petite élite a encore le privilège de travailler (on y entre par des tests de QI, mais le népotisme existe toujours). Le gros de la population tue le temps dans l’armée ou dans les « Recos et Récus » – un entretien de voirie inutile – tout en recevant des outils domotiques permettant d’assurer un confort de base. La production est déterminée par un ordinateur central, l’EPICAC. Personne n’est à plaindre, mais tout le monde est malheureux. Comme le disent des personnages : « Nous avons enlevé à ces gens ce qui était le plus important sur Terre à leurs yeux : le sentiment qu’on avait besoin d’eux et qu’ils étaient utiles ».

Grincheux, socialiste, marqué par son expérience de la guerre, Kurt Vonnegut a écrit ce livre quand il avait trente ans. Certains passages sont à thèse, mais l’ensemble est assez réjouissant. On y suit les tourments d’un ingénieur-administrateur qui se met à se poser des questions. On y croise aussi un Chah, venu d’une contrée lointaine, qui s’étonne que le temps libéré soit occupé à regarder la télévision. Certains passages permettent d’illustrer ce que les sceptiques de l’IA ne cessent de répéter : le travail n’est pas une chose abstraite mais un processus vivant (« je ne peux pas vous dire exactement comment je fais, ça doit être un sixième sens », dit l’un des personnages à propos de son talent), les révolutions technologiques passées n’ont pas détruit du travail sur le temps long, mais les souffrances n’en sont pas moins réelles (« j’aimerais que l’on soit à cent ans d’ici, tout le monde serait alors habitué au changement »), le fait que les humains soient sujets aux erreurs est ce qui les rend charmants (un bar automatisé, où le service est propre et rapide, doit fermer boutique devant la concurrence d’un rade crasseux au patron épouvantable). Le roman est plus ambigu qu’on ne le dit : je ne vous divulgâche pas la fin.

Une autre IA est-elle possible ?

◇ Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, par Karen Hao (Penguin)

On pourrait appeler ce livre : l’histoire d’une promesse déçue. La journaliste Karen Hao s’est très tôt intéressée à la trajectoire d’OpenAI et raconte avec une profusion de détails la manière dont cette organisation fondée sur la volonté de maîtriser une technologie conçue comme périlleuse s’est progressivement convaincue que le meilleur moyen d’atteindre ce but était de la développer le plus vite possible en faisant voler en éclats tous les garde-fous. C’est une enquête brillante, qui décrit les dynamiques internes à la structure derrière ChatGPT : querelles entre les partisans de la prudence (safety, alignement, etc) et ceux de la course en avant, débats sur les paradigmes (pour arriver à l’IA générale, faut-il créer un contact avec le monde physique, une sorte d’incarnation, ou bien peut-on se contenter des grands modèles de langage ?), logiques de l’investissement (quels produits pourraient être rentables ?).

La métaphore impériale souligne l’extractivisme des grands modèles – pillage de données et de bibliothèques de contenus, qui sont de la créativité et du travail humain sédimentés, sollicitations de ressources en eau et en énergie, mise au travail pour l’apprentissage supervisé de personnes précarisées et mal payées (sur ce sujet, on peut aussi lire cet article financé en partie par Force ouvrière). En creux se dessine la possibilité d’un autre chemin. Hao donne l’exemple d’une radio associative en Nouvelle-Zélande qui souhaitait revitaliser la langue maorie en utilisant l’IA. A chaque étape, les concepteurs de ce projet se sont assurés du consentement éclairé de la communauté, ont minimisé l’impact énergétique, ont peaufiné une licence spéciale pour éviter que l’outil soit détourné de son but pédagogique.

◇ AI Futures, par Evgeny Morozov (Boston Review)

Evgeny Morozov est l’auteur du mythique Pour tout résoudre, cliquez ici – une critique implacable du solutionnisme technologique parue au début des années 2010. Dans ce nouvel article, publié par la Boston Review, il s’efforce d’ouvrir une troisième voie entre les réalistes, pour lesquels il faut réguler l’IA sans chercher à en freiner le déploiement, et les refuzniks, pour lesquels cette technologie est trop biaisée pour qu’on puisse espérer la sauver. Il se tourne vers l’uchronie : « Si nous pouvions remonter le temps et protéger les informaticiens de l’influence néfaste de la Guerre froide, quel type de programme technologique plus démocratique, plus civique et moins militariste aurait pu voir le jour ? » A ses yeux, les IA symbolique et connexionniste sont profondément imprégnées par les logiques qui les ont vues naître : la bureaucratie (le règne des règles) pour la première ; le marché (le règne des données) pour la seconde. Elles sont toutes les deux instrumentales dans le sens où elles résument l’intelligence à la résolution de problèmes.

Reprenant les écrits d’un ingénieur et romancier peu connu, Hans Otto Storm, il distingue deux types d’intelligence, celle du design, de la résolution de problèmes, et celle de la flânerie, de l’attention au contexte, de la découverte de possibilités, beaucoup plus difficile à formaliser dans une machine. L’IA connexionniste est bien plus souple que l’IA symbolique et permet en partie cette flânerie, mais elle reste trop orientée. Morozov cite quelques exemples de l’histoire des sciences informatiques, comme le Environmental Ecology Lab, le projet chilien Cybersyn ou les travaux du mathématicien Oscar Varsavsky qui proposait d’utiliser ces technologies pour « esquisser d’autres modèles de développement socio-économique ». Ce serait « un espace non pas dédié à la simple gestion ou à la recherche d’efficacité, mais à l’imagination, à la simulation et à l’expérimentation ». Il le reconnaît, on en est loin.

◇ Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity, par Daron Acemoglu et Simon Johnson (Basic Books)

Autre prix Nobel, moins optimiste que Philippe Aghion : Daron Acemoglu. La thèse centrale de cet économiste turco-américain est que les technologies ne se déploient jamais selon des lignes prédéfinies : ce sont les institutions qui les orientent dans un sens émancipateur ou aliénant. C’est tout le propos qu’il développe avec son coauteur Simon Johnson dans Power and Progress (2023) ; on parle d’école « institutionnaliste ». Non seulement il a fallu du temps et beaucoup de souffrances pour que les révolutions technologiques précédentes (la vapeur, en particulier) participent de l’élévation des niveaux de vie, mais ce ne serait pas arrivé sans des combats ouvriers, syndicaux. Rien n’était écrit. La technologie n’est pas une force bienfaitrice par essence.

A ses yeux, la troisième vague de l’IA – celle que nous connaissons aujourd’hui, après l’IA symbolique des années 1950 et les systèmes experts des années 1980 - paraît mal emmanchée. Même si nous disposons d’encore peu de données sur ses effets, il craint qu’elle n’encourage une « automatisation médiocre » (so-so automation) : dégradation du travail, management algorithmique, faible gains de productivité, polarisation avec des gagnants et des perdants. Comme Carbonell, il ne croit pas à un remplacement massif des emplois, mais plutôt à la lente merdification des choses. Mais contrairement à Carbonell, qui appelle à un « néo-luddisme » et voit mal comment l’IA pourrait être retournée (« une chaîne de montage peut-elle être émancipatrice ? »), il plaide plutôt pour une régulation.

Il reconnaît que le rapport de force est pour l’instant en faveur du capital, très concentré dans les mains de quelques Américains, et qu’il risque de l’être d’autant plus à mesure que le travail est déqualifié (si le nombre de personnes qui peuvent remplir la même tâche tend à augmenter). Pas découragé pour autant, il propose une sorte de programme politique : le refus de délivrer des brevets pour des technologies « destinées à la surveillance des travailleurs ou des citoyens », l’anti-trust, c’est-à-dire le démantèlement des géants de la tech, une réforme fiscale (moins d’impôts sur le travail, davantage sur le capital), la création de syndicats de la donnée sur le modèle de la Writers Guild of America (qui décideraient d’ouvrir ou non les datas de ses membres pour entraîner des IA), une taxe sur la publicité en ligne pour modifier le modèle économique des plateformes, etc.

Dans un article récent, Acemoglu et ses comparses essaient d’imaginer ce que serait une IA « pro-travailleur », qui « valorise les compétences et l’expertise humaines ». Plutôt que de chercher à remplacer les salariés, elle collabore avec eux « en leur permettant (a) d’accomplir des tâches plus complexes liées à leur travail, (b) de s’attaquer à de nouvelles tâches et (c) d’acquérir de nouvelles compétences ». Une force tire dans ce sens : l’IA générative, par nature, n’est pas fiable, elle hallucine et les résultats qu’elle donne sont proprement inexplicables (c’est une boîte noire). Difficile d’automatiser entièrement des processus sur cette base. En revanche, elle est très utile en matière de collaboration, avec un humain in the loop. Bien que les propositions d’Acemoglu fassent écho à celles de l’ère progressiste, certains critiques estiment qu’elles sont trop gentillettes et sous-estiment la nocivité intrinsèque de l’IA actuelle ◆

Et vous, quels sont les articles ou livres qui vous ont paru éclairants pour comprendre ce qui se joue avec l’IA ? Je suis preneur de conseils de lecture :)

📆 A venir : généalogie du taux d’actualisation. Cette newsletter a été éditée par Marie Telling.