Ce n'était pas un bug
Ce que l'attaque d'OpenAI contre Hugging Face montre, et que personne ne sait corriger
À Contre-Courant
Analyses sur les risques existentiels de l'intelligence artificielle et le problème de l'alignement
Live Last read · last published · next check
Latest posts
La main devant la caméra
Pourquoi on ne peut montrer à une IA que des signaux, jamais le monde qu'on veut vraiment
Le monde tourne normalement
C'est précisément le problème
« Les experts s'en occupent »
Ils s'en occupent, oui. Cela ne veut pas dire qu'ils y arrivent, ni qu'ils sont assez nombreux, ni que ceux qui vous rassurent le font pour de bonnes raisons.
« C'est du complotisme »
Un argument ne devient pas faux parce qu'il ressemble à une théorie du complot. Et le risque IA lui ressemble exactement sur rien.
« Il y a trop d'incertitude pour s'inquiéter »
L'incertitude sur un risque irréversible n'est pas une raison de se rassurer ; c'est l'inverse.
L'auto-amélioration récursive n'est plus théorique : trois annonces de juin 2026
En juin 2026, Anthropic, Sakana AI et OpenAI ont publié des données qui montrent que l'auto-amélioration récursive est déjà en cours, partiellement, sans que personne ne sache garantir les propriétés
Quand l'IA se modifie elle-même : le problème que personne ne sait résoudre
L'auto-amélioration récursive change la structure du problème de l'alignement d'une manière que les approches actuelles ne couvrent pas.
Les lignes qu'on a dit ne jamais franchir
On avait dit qu'on serait prudents, voici ce qu'on a fait à la place.
La dernière invention
Pendant quatre milliards d'années, l'intelligence est apparue par hasard. Nous sommes la première espèce à en fabriquer délibérément une qui pourrait nous dépasser