Le code fait loi… et bientôt pensée ?

En janvier 2000, Lawrence Lessig, professeur de droit à Harvard et fondateur (plus tard) de l’organisation Creative Commons, publiait dans le Harvard Magazine un article connu sous le nom de Code is Law.

Écrit il y a bientôt 26 ans, cet article est une référence sur le sujet de la neutralité du Net. En un quart de siècle, il est resté pertinent, même de plus en plus. L’évolution actuelle du secteur numérique laisse penser que le discours qu’il porte va être nécessaire pendant encore quelques années.

Je vous invite sincèrement à lire l’article en entier (le Framablog en a proposé une traduction en français), mais pour vous en donner la substance, Lessig nous alerte sur les risques d’un trop grand libertarianisme dans le cyberespace.

Son argument : les choix techniques ne sont pas neutres et si les états ne définissent pas des règles d’implémentation sur les aspects critiques dans l’utilisation du numérique, ce vide sera comblé par les entreprises privées qui produisent le code et les architectures numériques que nous utilisons.

Vingt-cinq ans plus tard, notre quotidien est rempli de réseaux sociaux créés et détenus par des entreprises dont le pouvoir d’influence dépassent ceux des états et dont les algorithmes vont jusqu’à dégrader notre santé mentale, notamment chez les plus jeunes d’entre nous.

Les algorithmes… quand on y pense, cette dépersonnalisation est vraiment un coup de génie de la part des géants du numérique !

Quand on parle d’algorithmes, de recommandations YouTube, de feed TikTok, Instagram ou LinkedIn, on s’imagine une espèce de gros serveur à la Hal 9000 qui viendrait choisir pour nous ce qui est bon ou pas. En somme, une entité inhumaine, à la limite de l’incontrôlable, qui nous connait mieux que nous-mêmes et dont nous subissons la curation.

Mais n’oublions pas que ces algorithmes ne sont que du code. Du code écrit par des personnes bien humaines, selon des directives, des choix, des consignes dictées, elles aussi, par des êtres humains, pour servir leurs intérêts et/ou leurs idéologies.

L’algorithme est un choix d’implémentation. Même avec les technologies récentes de machine learning, il existe des moyens d’orienter les résultats et de mettre en place les gardes fous nécessaires pour ne pas en perdre le contrôle. Aurélie Jean, docteure en science et spécialiste de modélisation numérique, l’explique clairement dans son ouvrage Les Algorithmes font-ils la loi ?

Aujourd’hui, les algorithmes ne s’arrêtent pas au simple fait de faire loi, ils ont même commencé à influencer nos façons de penser, notamment au travers des bulles d’information.

On garde encore un semblant de contrôle en sélectionnant nous-même les contenus parmi ce que veulent bien nous proposer les GAFAM (ou leurs pendants chinois). Mais à l’aube de l’IA Générative, qui réalise cette sélection pour nous, nous sommes à un tournant.

Je me suis amusé à demander à l’IA Grok, “Qui est l’entrepreneur le plus innovant aux USA ?” Sa réponse :

Déterminer l’entrepreneur le plus innovant est par nature subjectif, car l’innovation se mesure à travers l’impact sur les industries, la disruption technologique et la résolution de défis mondiaux comme l’IA, l’espace ou la durabilité. Basé sur des analyses récentes de sources fiables (Forbes, USA Today, EY Entrepreneur of the Year) et des discussions en ligne, Elon Musk émerge comme le consensus dominant en 2025.1

Si vous ne connaissez pas Grok, c’est une IA développée par X Corp, l’entreprise d’un certain… Elon Musk.

Le plus drôle (ou pas), c’est que Grok fourni les liens vers les sources de sa réponse (les fameux Forbes et Cie…). Les articles parlent des nouvelles générations d’entrepreneur·es. Musk n’y est mentionné nulle part comme le plus innovant, il est même souvent absent des classements utilisés comme “source” de la réponse.

On se rend donc rapidement compte que ce fameux “consensus dominant” est un choix d’implémentation des équipes de Grok, un code source écrit de façon délibérée pour flatter l’égo fragile du patron de X Corp.

L’IA de Musk est presque une parodie des IA génératives, tellement ses biais sont grossiers, mais elle met en évidence l’absence de neutralité de ces technologies. Elles sont entrainées et configurées de manière à répondre à des choix.

Le code fait loi, et il filtre l’accès à l’information qui structure notre pensée.

Malgré les apparences anthropomorphiques des IA génératives qu’on nous présente aujourd’hui, gardons à l’esprit que ce ne sont que des lignes de code. Un code écrit et spécifié par des personnes qui ont des intérêts économiques, politiques et/ou idéologiques.

À nous de décider, collectivement, si l’on veut leur confier ce pouvoir.

Vous avez peut-être pensé à quelqu’un en lisant cet article. Si c’est le cas, envoyez-le-lui avec le bouton de partage ci-dessous, c’est le meilleur soutien que vous puissiez m’apporter. 🫶

Partager

Quant à moi, je vous donne rendez-vous dans deux semaines pour de nouvelles réflexions. D’ici là, n’hésitez pas à réagir, mettre des ❤️ si le sujet vous a plu et vous abonner si ce n’est pas encore fait.

Je m’appelle Cédric Spalvieri. Blogueur et conférencier, j’ai accompagné ces 20 dernières années la transformation digitale d’entreprises allant de la PME au groupe international. Curieux des mutations que subit notre société, je m’intéresse à la manière dont les évolutions du numérique impactent le monde dans lequel nous vivons.

Les liens vers les pages Amazon sont des liens d’affiliation. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises. Par honnêteté intellectuelle, je vous renvoie majoritairement vers des livres que j’ai moi-même déjà lus.

1

La réponse complète :