Le futur a commencé en 1997

L’autre jour, j’ai perdu une partie d’échecs contre mon neveu. L’évènement semble n’avoir ému personne. En revanche, le 11 mai 1997, lorsque Garry Kasparov perd sa partie d’échecs, le monde bascule.

Parce que Kasparov est alors champion du monde d’échecs. Et, surtout, parce que son adversaire n’est pas humain : Kasparov affronte Deep Blue, un ordinateur conçu par IBM.

Cette défaite est devenue le symbole du moment où, dans l’un des domaines les plus intimement associés à l’intelligence humaine, la machine a fini par nous dépasser.

L’histoire contient pourtant une ironie que je viens de découvrir. Quelques années auparavant, Kasparov avait tiré une partie de sa domination de l’utilisation intensive... des ordinateurs.

J’ai découvert cette histoire en écoutant une longue interview de Magnus Carlsen. (Pour ceux qui ne suivent pas les échecs, Carlsen est un Norvégien considéré comme l’un des meilleurs joueurs de tous les temps, champion du monde de 2013 à 2023.)

Dans l’interview, Carlsen explique pourquoi, selon lui, Kasparov était aussi fort dans les ouvertures (= les premiers coups d’une partie d’échecs). Kasparov travaillait plus que les autres ; il connaissait un plus grand nombre d’ouvertures ; il osait davantage explorer des variantes inhabituelles ; il avait constitué une excellente équipe de spécialistes chargés d’en explorer de nouvelles.

Et il utilisait les ordinateurs.

Kasparov a été l’un des premiers grands joueurs à exploiter leur puissance de calcul pour explorer de nouvelles ouvertures. L’homme devenu célèbre pour avoir été battu par un ordinateur avait donc auparavant utilisé les ordinateurs pour battre les autres hommes.

L’ironie est savoureuse. Mais elle l’est encore plus quand on regarde ce qui s’est passé quelques années plus tard.

En 2004, Kasparov rencontre un jeune homme de 13 ans qui vient de devenir grand maître : Magnus Carlsen. Ils jouent ensemble une partie. Match nul. Quelques mois plus tard, Kasparov prend sa retraite. Carlsen, lui, deviendra champion du monde et probablement le meilleur joueur de sa génération.

Et il va, à son tour, utiliser les machines pour s'améliorer.

En 2017, une nouvelle machine débarque dans le monde des échecs : AlphaZero. Contrairement aux logiciels précédents, AlphaZero n’a pas appris à jouer en ingurgitant les parties des grands maîtres. On lui a appris les règles, puis il a joué contre lui-même. Beaucoup, beaucoup, beaucoup de parties.

Très vite, AlphaZero devient largement meilleur que tous les autres logiciels d’échecs existants. Sa manière de jouer est étrange : il accorde par exemple une importance inhabituelle à l’espace et accepte de sacrifier des pièces pour des bénéfices qui n’apparaîtront que beaucoup plus tard.

Carlsen, qui a grandi dans un monde où les échecs étaient déjà dominés par les machines, raconte avoir été énormément inspiré par l’analyse des parties d’AlphaZero. À tel point qu’il considère les années qui ont suivi comme le sommet de sa carrière.

Ce détail m’interpelle terriblement. Carlsen n’avait aucune chance de battre AlphaZero, mais cela ne l’a pas empêché d’apprendre de la machine, bien au contraire : son génie lui a précisément permis de comprendre mieux que personne cette nouvelle manière de penser les échecs.

Ce qui me fait me demander si nous ne nous trompons pas en imaginant que l’IA va nécessairement réduire la valeur de l’expertise. Peut-être que, au contraire, plus je maîtrise un domaine, plus je suis capable de comprendre avec finesse ce qu’une IA fait de particulier et ainsi d’en tirer quelque chose.

En 2019, Carlsen bénéficie pendant quelque temps d’un avantage considérable, mais ne dure qu’un temps. Car si Carlsen peut étudier AlphaZero, ses adversaires le peuvent aussi.

Les autres rattrapent leur retard. Les idées circulent, les joueurs les étudient et ce qui constituait un avantage devient progressivement la nouvelle norme.

Il y a quelques années, savoir bien utiliser ChatGPT était en soi différenciant. Aujourd’hui, ça l’est déjà beaucoup moins. Et on peut imaginer que résumer un document, préparer une réunion ou produire un premier brouillon avec une IA deviendra bientôt aussi remarquable que savoir utiliser Google.

Ce qui m’intéresse est donc surtout de savoir ce qui se passe ensuite. Sur ce point encore, les échecs ont des choses étonnantes à nous apprendre.

Prenons une position dans laquelle le meilleur coup possible est A. Des années d’analyse informatique permettent de savoir que A est objectivement le meilleur choix.

Le problème, c’est que votre adversaire le sait aussi. Il sait que vous allez probablement jouer A, a étudié les réponses possibles, vous avez étudié ses réponses, il a étudié vos réponses à ses réponses... À haut niveau, certaines séquences ont été explorées jusqu’à l’absurde.

Carlsen explique que, dans ce contexte, il peut devenir intéressant de jouer B. Objectivement, B est un peu moins bon. Mais votre adversaire l’a moins étudié. Vous acceptez donc une petite perte théorique pour emmener la partie dans une zone moins balisée.

Cette idée m’interpelle. Une bonne partie de ce qu’on cherche actuellement à faire avec l’IA consiste à se rapprocher du meilleur résultat connu : produire un meilleur email, trouver le meilleur argumentaire commercial, appliquer les bonnes pratiques d’une discipline.

Mais si tout le monde dispose des mêmes machines pour se rapprocher du même optimum, que se passe-t-il ? Faut-il précisément s’éloigner des bonnes pratiques pour sortir du lot ? Ou simplement explorer des terrains moins explorés et parier sur notre capacité à mieux nous débrouiller une fois la carte disparue ?

Autre détail qui m’a surpris : pour s’entraîner, Carlsen utilise assez peu les IA lui-même.

Ses assistants, énormément. Grâce à l’IA, ils explorent des positions, analysent des variantes, découvrent des possibilités, puis proposent à Carlsen de nouvelles manières de jouer, auxquelles il n’aurait peut-être jamais pensé. Mais lui s’en tient désormais à l’écart.

Son raisonnement est simple. Pendant un tournoi, il ne pourra compté que sur lui-même. S’il prend l’habitude de réfléchir avec une machine à côté de lui, il s’entraîne pour une situation factice.

Imaginez qu’une IA vous indique qu’un coup est excellent. Vous pouvez mémoriser le coup sans réellement comprendre en quoi il est excellent. Et donc être tenté de le reproduire dans une situation faussement similaire, où il ne fonctionne plus.

Même chose face à un adversaire qui jouerait un coup auquel Carlsen ne s’attend pas. Certes, il peut immédiatement en déduire que ce n’est probablement pas le coup optimal. (Sinon, il l’aurait forcément rencontré pendant sa préparation.) Mais cette information ne lui donne aucun avantage s’il ne comprend pas pourquoi le coup est moins bon. Il doit donc se l’être entièrement approprié pour pouvoir l’utiliser à bon escient.

La distinction que fait Carlsen est limpide : il utilise l’IA comme source de nouvelles choses auxquelles réfléchir, et non pour réfléchir à sa place. L’IA augmente la variété des idées auxquelles il est exposé, sans impacter les capacités dont il aura besoin le jour du tournoi.

Difficile de ne pas méditer un instant sur ce que l’application d’une telle discipline d’utilisation pourrait avoir dans le monde de l’entreprise…

Il reste une caractéristique du jeu des machines que Carlsen trouve particulièrement difficile à reproduire : leur capacité à sacrifier quelque chose maintenant pour obtenir un avantage beaucoup plus tard.

Mettons qu’un joueur perde une pièce. À court terme, la décision semble mauvaise. Quinze coups plus tard, l’espace libéré compense largement la perte initiale ; c’est la récompense du temps long.

Intellectuellement et émotionnellement, qui est capable d’une telle prouesse ?

Si sacrifier une pièce maintenant me donnera un avantage considérable dans quinze coups, serais-je capable de le voir ? Oserais-je le tenter ? Aurais-je la patience d’attendre la récompense ?

Et là, le parallèle avec d’autres domaines devient intéressant. Pour des sujets avec coût immédiat et bénéfice lointain (au hasard, le climat ?), impliquant une compréhension imparfaite de la chaîne qui relie les deux, est-il possible qu’une IA nous soit de bon conseil ? Si oui, serions-nous capable de la suivre ?

C’est finalement ce qui m’a le plus frappé en écoutant Carlsen.

Nous passons beaucoup de temps à essayer d’imaginer ce qui arrivera lorsque l’intelligence artificielle deviendra meilleure que nous dans certaines activités : ce que vaudra encore l’expertise humaine, comment nous nous différencierons si tout le monde utilise les mêmes modèles, ce que nous devrons continuer à apprendre ou au contraire déléguer.

Aux échecs, la question de la supériorité de la machine est réglée depuis presque trente ans. Et pourtant, les humains continuent de regarder des humains jouer aux échecs. Les meilleures machines pourraient s’affronter entre elles à un niveau inaccessible au cerveau humain, mais ce sont les parties de Carlsen et des autres champions que des millions de personnes suivent.

Je trouve cette évolution plutôt rassurante : découvrir qu’une machine fait quelque chose mieux que nous ne nous a pas nécessairement fait perdre notre intérêt pour les humains qui le font.

Rendez-vous dans 30 ans.