Et Linkedin, on s'en parle ?

Vous avez été nombreux à réagir à ma newsletter de début septembre, à propos de feu-Twitter…

Sans trop de surprise, personne n’a répondu que c’était sur Linkedin que les choses se passaient maintenant. De fait, ce serait plutôt dans des groupes Whatsapp, sur Discord pour certaines communautés, voire sur Reddit que l’on trouve désormais les conversations et informations intéressantes. Pas sur Linkedin - à quelques exceptions près.

Dommage, parce que la plateforme avait pourtant beaucoup d’atouts pour devenir un espace de qualité… Mais différents choix dans son design et ses algorithmes en ont décidé autrement.

D’ailleurs, comme moi, vous avez sans doute vu passer - y compris sur Linkedin lui-même - de plus en plus de critiques du réseau et de ses posts formatés, qui finissent tous par se ressembler…

La responsable est tout trouvée : tout ça, c’est la faute de l’IA, puisque les postes générés avec ou par ChatGPT et ses homologues ne font qu’uniformiser les publications pour “plaire” à l’algorithme.

Voilà donc ce qui se passe quand des robots écrivent pour des robots. Et Linkedin pourrait n’être qu’un laboratoire qui préfigure ce que va devenir le web en général.

Alors quand la filiale de Microsoft coche par défaut la case l’autorisant à utiliser les contenus postés sur la plateforme pour entraîner ses IA*, elle ne trahit pas seulement la confiance de ses utilisateurs, mais elle se tire aussi une balle dans le pied…

Car sous couvert d’”amélioration de l’IA générative”, on va donc se retrouver dans une situation où des IA écrivent des posts calibrés pour des algorithmes, tout en servant à entraîner d’autres algorithmes : c’est le serpent qui se mord la queue.

Le risque est déjà bien identifié et documenté : les spécialistes parlent d’un “AI slop”, ce qui pourrait à terme engendrer un “Model Collapse” : l’effondrement des modèles sous le flot des contenus de mauvaise qualité.

Une alternative possible serait de n’entraîner les IA que sur des corpus antérieurs à novembre 2022 (l’ouverture de ChatGPT au grand public), avec toutes les limites que cela implique en termes de fraîcheur de l’information.

Fait notable, les conséquences de la “contamination” du web par des données par des contenus “synthétiques” commencent à inquiéter au-delà des seuls spécialistes de l’IA. Par exemple, une dizaine d'économistes ont récemment tiré la sonnette d’alarme sur le coût économique que représenterait la perte d’accès à des informations fiables - très largement supérieur au coût que représente la production de ces informations…

Le risque : que l’adage “la mauvaise monnaie chasse la bonne” qui prévaut en économie se vérifie aussi dans le contexte de l’IA…

Benoit Zante

*La collecte des données des usagers commencera le 3 novembre, mais il est possible de désactiver cette option, activée par défaut par Linkedin, sur cette page.