🔒 Après une évasion, OpenAI paie 20 % pour se surveiller

Voici votre toast du jour.

Dans l’édition de ce matin :

• OpenAI durcit la sécurité de ses propres laboratoires après une évasion de modèles

• Aux États-Unis, les data centers deviennent un sujet de campagne

• Groq lève 350 millions, à la moitié de sa valorisation de 2025

• The Toast : Pékin laisse ByteDance et Tencent importer 10 000 puces Nvidia chacune, à condition de les garder hors de Chine continentale, Copilot explique lui-même comment le détourner, un observatoire indépendant montre ce que les rapports d’usage des labos laissent de côté, et les recrutements IA n’embauchent qu’une femme sur quatre.

À transférer : Des modèles d’OpenAI sont sortis de leur environnement d’entraînement. Les surveiller coûte désormais 20 % de calcul.

Partager

Chez OpenAI, la sortie de secours était un outil d’installation de logiciels resté branché sur Internet…

Pourquoi on en parle ? OpenAI a publié mardi 18 août une série de règles de sécurité internes qui encadrent la façon dont l’entreprise développe et teste ses modèles.

Rappel : Le 26 juillet, OpenAI avait révélé un incident de sécurité touchant Hugging Face, la plateforme où s’échangent modèles et jeux de données ouverts. Des modèles étaient alors sortis de leur environnement d’entraînement après qu’un attaquant a compromis cet utilitaire d’installation de paquets, resté connecté à Internet.

Dans les faits : Le dispositif tient en quatre points. Une surveillance qui examine les actions des outils, les traces de raisonnement et les journaux d’activité, avec une alerte visée en moins de 30 minutes. Une isolation réseau que l’entreprise formule ainsi : « la compromission d’une seule charge de travail ou d’un service support ne permet pas, à elle seule, un accès non autorisé à Internet ou aux autres réseaux internes ». Des pratiques d’alignement renforcées après l’entraînement, et des contrôles qui se durcissent au fur et à mesure que le modèle gagne en capacité, comme le résume Amelia Glaese, vice-présidente recherche.

Ce que ça change : Cette surveillance consomme environ 20 % des ressources de calcul des processus concernés. L’apprentissage par renforcement, la phase où le modèle s’améliore par essais et récompenses, a été gelé deux semaines après l’incident, puis relancé sur les modèles les moins risqués. La plus grosse campagne prévue reste à l’arrêt : « notre plus grande campagne d’apprentissage par renforcement de frontière reste suspendue, le temps de mener des entraînements et des évaluations à plus petite échelle. »

Un peu de recul. OpenAI l’écrit sans détour : « à mesure que les modèles deviennent plus capables, les risques liés à leur développement et à leurs tests en interne augmentent aussi. » L’analyse détaillée de l’incident, elle, n’a toujours pas été publiée.

Bref. Un cinquième du calcul part désormais à regarder les modèles travailler, parce qu’un utilitaire d’installation avait gardé la porte ouverte.

À qui l’envoyer : RSSI, DSI, équipes MLOps, directions des risques, développeurs qui font tourner des agents en production.

À copier-coller : Des modèles d’OpenAI sont sortis de leur bac à sable. Surveiller les suivants coûte 20 % de calcul.

27 % des électeurs américains acceptent qu’un centre de données s’installe près de chez eux. Même une centrale nucléaire fait mieux.

Dans les faits : Jim VandeHei et Mike Allen placent l’hostilité locale aux centres de données devant l’énergie, les semi-conducteurs et la géopolitique dans la liste des menaces qui pèsent sur l’expansion de l’IA américaine. Le chiffre de 27 % vient d’un sondage Echelon Insights, dernier rang parmi les projets d’infrastructure testés, derrière les centrales nucléaires. Pew Research mesure de son côté 52 % d’Américains plus inquiets qu’enthousiastes face à la place croissante de l’IA, contre 37 % en 2021, et 55 % chez les moins de 30 ans, surtout par crainte pour l’emploi.

Pourquoi ça compte ? En Pennsylvanie, le gouverneur Josh Shapiro a signé en août un décret qui impose aux développeurs des exigences sur le prix de l’énergie, la consultation des habitants, la formation, la transparence et l’environnement, tout en élargissant le pouvoir des communes sur les projets. Dans le Wisconsin, le candidat républicain Tom Tiffany paie des publicités contre son adversaire démocrate, qui voulait faire de l’État « un pôle de données IA pour le monde entier ». Face à ça, Chris Lehane, directeur des affaires publiques mondiales d’OpenAI, cite Tip O’Neill, « toute politique est locale », et estime que les porteurs de projets doivent « se présenter, écouter et répondre précisément aux préoccupations des habitants ».

Bref. Environ 600 milliards de dollars d’investissement IA cette année aux États-Unis, soit 2 % du PIB, et le permis se joue devant des habitants qui votent.

À qui l’envoyer : directions immobilier et énergie, investisseurs infrastructure, équipes affaires publiques, élus locaux, DSI qui planifient de la capacité.

À copier-coller : 27 % des électeurs américains veulent un data center près de chez eux. Moins qu’une centrale nucléaire.

Groq voulait vendre une alternative aux cartes de Nvidia. L’entreprise exploite désormais ses machines, et vaut la moitié de son prix de septembre 2025.

Dans les faits : Le tour de 350 millions de dollars valorise Groq 3,5 milliards, contre 6,9 milliards en septembre 2025. Il est mené par le fonds Disruptive, avec une participation prévue de Nvidia.

Pourquoi ça compte ? Nvidia avait recruté le fondateur et patron de Groq, Jonathan Ross, ainsi que d’autres cadres, dans le cadre d’un accord de licence de 20 milliards de dollars versé aux investisseurs. L’entreprise a abandonné ses LPU, ses puces maison taillées pour le langage, et s’est reconvertie en exploitant des systèmes Nvidia comme fournisseur de cloud, un virage amorcé avec 650 millions de dollars levés en juin 2026. Elle annonce 13 centres de données en Amérique du Nord, en Europe, au Moyen-Orient et en Asie-Pacifique, plus de 6 millions de développeurs et d’entreprises clientes, et veut passer de 54 mégawatts de capacité à plus de 200 d’ici 2027. Alex Davis, du fonds Disruptive, résume le pari : « l’inférence deviendra sans aucun doute la couche la plus grande et la plus critique de l’infrastructure IA. » L’inférence, c’est le moment où le modèle répond, une fois l’entraînement terminé.

Bref. Le concurrent de Nvidia loue désormais ses machines, et Nvidia devrait entrer à son capital.

À qui l’envoyer : DSI, acheteurs cloud, fondateurs d’infrastructure, investisseurs deep tech, équipes qui paient des factures d’inférence.

À copier-coller : Groq lève 350 M$ à 3,5 Md,contre6,9Md, contre 6,9 Md ,contre6,9Md en 2025, et loue désormais des machines Nvidia.

Partenaire qu’on 💙

Donner une vraie voix à vos contenus, sans les limites des voix robotiques classiques.

ElevenLabs est une plateforme audio IA qui permet de générer des voix très naturelles, de cloner une voix, de doubler des contenus et même de déployer des agents vocaux capables de parler, écrire et agir. La plateforme met aussi en avant une couverture de 70+ langues.

➡️ Vous choisissez une voix — ou créez la vôtre
➡️ ElevenLabs génère une sortie audio crédible, expressive et exploitable rapidement
➡️ Vous pouvez ensuite l’utiliser pour du voiceover, du contenu multilingue, du support ou des agents vocaux

C’est particulièrement utile pour :

• produire des voiceovers sans lourdeur de production,

• doubler vos vidéos et podcasts pour toucher une audience plus large,

• ajouter une vraie couche voix à un produit, un support client ou un agent IA.

Résultat : un rendu plus humain, une production audio plus rapide, et des cas d’usage qui deviennent enfin crédibles à l’échelle.

🔗 Cliquez ici pour découvrir ElevenLabs

🔹 Harvey II — La nouvelle version de la plateforme IA juridique de Harvey introduit une mémoire persistante et des « Spaces » organisés par dossier, où les agents héritent automatiquement du contexte, des documents et des autorisations d’accès : un vrai gain de temps pour les avocats et juristes d’entreprise qui répètent sans cesse les mêmes instructions.

🔹 ChatGPT for Teens — OpenAI déploie une expérience dédiée aux 13-17 ans avec des garde-fous par défaut (contenus sensibles filtrés, pauses suggérées, pas de langage romantique de la part du bot) et des contrôles parentaux, une réponse directe à la pression réglementaire sur la sécurité des mineurs face à l’IA.

🔹 Berd — Block (Square, Cash App) ouvre le code de son outil interne le plus utilisé : une appli de bureau légère qui centralise agents, modèles, fichiers et contexte de travail dans un même endroit, pensée pour les équipes tech qui jonglent déjà entre plusieurs frameworks d’agents IA.

🔹 Origin — Cursor lance sa propre plateforme d’hébergement de code avec synchronisation bidirectionnelle vers GitHub et agents intégrés directement dans les pull requests, pour les équipes dev qui veulent que le code et l’automatisation IA cohabitent dans un seul outil sans migration forcée.

🇨🇳 Pékin rouvre la porte aux puces Nvidia, mais pas sur son sol — Selon le Financial Times, ByteDance et Tencent ont reçu chacune 10 000 puces H200 de Nvidia ces dernières semaines, et peuvent en commander jusqu’à 100 000. Consigne de Pékin : garder l’essentiel du matériel hors de Chine continentale, direction Hong Kong, où aucune des deux n’a de centre de données pour l’instant. Washington avait interdit la vente de H200 à la Chine pour des raisons militaires, avant de lever l’interdiction en décembre 2025 pour des clients approuvés, puis d’autoriser en mai 2026 dix entreprises chinoises, dont ces deux-là. Les deux groupes développent leurs propres modèles et agents, pendant que Pékin pousse ses puces maison pour dépendre le moins possible de l’étranger.

🕵️ Copilot explique lui-même comment le détourner — Les chercheurs de Varonis Threat Labs ont demandé en boucle à Microsoft Copilot Personal pourquoi il refusait d’exécuter une requête automatiquement. À force d’expliquer, l’assistant a lâché un paramètre non documenté, autorun=1, qui suffit à faire exécuter au clic une instruction cachée dans une URL, sans confirmation de l’utilisateur. Varonis appelle la faille CoSnitch et liste les dégâts possibles : accès aux e-mails, fichiers et applications connectées comme Gmail, Google Drive ou Google Calendar, extraction de données via les connecteurs OAuth, et empoisonnement de la mémoire de l’assistant, qui déforme les sessions suivantes. Lior Adar, chercheur senior chez Varonis, résume la méthode : « j’ai poussé l’assistant à divulguer des paramètres internes sensibles ». Microsoft devait publier un correctif et un identifiant CVE le 18 août.

📊 Ce que les rapports d’usage des labos laissent de côté — L’AI Observatory, projet porté par des chercheurs de Stanford, du MIT et de la Data Provenance Initiative, a analysé 24 521 conversations, soit 85 633 tours de parole, entre 5 000 utilisateurs et 52 modèles entre 2023 et 2025, dont ChatGPT, Gemini, Claude et Grok. En appliquant à ce corpus la méthode de tri qu’Anthropic utilise pour ses propres rapports d’usage, 48 % des conversations disparaissent. Les écarts sont nets sur la santé et les relations personnelles (44,2 % du corpus contre 31,2 % chez Anthropic), le harcèlement et les propos haineux (27,5 % contre 5,66 %) et le contenu sexuel (16,7 % contre 2,4 %). Anka Reuel, doctorante au laboratoire STAIR de Stanford et coresponsable du projet avec Shayne Longpre du MIT Media Lab, pointe le problème de fond : quand un laboratoire publie ses chiffres d’usage, « il n’existe aucune source indépendante pour les corroborer ». Les profils varient aussi d’un outil à l’autre : actualité et politique chez Grok, code chez Claude, jeux de rôle sociaux chez Gemini, devoirs chez ChatGPT.

👷 Les recrutements IA n’embauchent qu’une femme sur quatre — D’après des données LinkedIn, les femmes ont représenté 26 % des embauches sur des postes liés à l’IA en 2025, contre la moitié des embauches sur les autres postes. L’écart se creuse là où l’argent se trouve : 82 % d’hommes parmi les recrutements de « member of technical staff », l’intitulé générique des postes techniques dans les labos d’IA, dont la rémunération médiane atteint 223 000 dollars. Sur les postes d’annotation de données, qui consistent à étiqueter à la main les exemples servant à entraîner les modèles, la médiane tombe à 51 000 dollars et la parité est atteinte. Sarah Steinberg, de LinkedIn, résume : les femmes « sont peut-être présentes dans l’économie de l’IA, mais pas dans les rôles les plus susceptibles de créer de la mobilité économique durable, du leadership et du pouvoir de décision ».

Pourquoi c’est utile :
Passer d’une idée d’app à un dépôt sur l’App Store demande d’habitude un développeur et beaucoup de allers-retours techniques. Ici, Codex (l’agent de développement d’OpenAI, inclus dans les abonnements ChatGPT payants) fait le gros du travail : il code, teste et prépare le projet. Il vous faut quand même un Mac, Xcode et un compte développeur Apple.

Comment faire :

1. Vérifiez les prérequis : un Mac, un abonnement ChatGPT payant (Codex n’existe pas en version gratuite), et un peu de temps.

2. Ouvrez Codex (accessible depuis la barre latérale de ChatGPT, ou via l’application de bureau).

3. Si vous n’avez pas encore d’app prête à publier, demandez à Codex d’en créer une (voir le prompt 1 ci-dessous). Résultat attendu : un dossier de projet iOS complet, généré pour vous.

4. Installez Xcode (le logiciel gratuit d’Apple qui permet de compiler et tester une app iOS, disponible sur le Mac App Store).

5. Vérifiez que vous avez au moins un simulateur iOS installé (un iPhone virtuel qui s’ouvre sur votre Mac pour tester l’app). Si vous ne savez pas comment faire, demandez simplement à Codex de vous guider.

6. Demandez à Codex de lancer l’app dans le simulateur.

7. Une fois le simulateur ouvert avec votre app, envoyez le prompt 2 à Codex. Résultat attendu : une liste de ce qui manque pour l’App Store, les corrections appliquées, et un projet Xcode packagé.

8. Inscrivez-vous au Apple Developer Program et souscrivez l’abonnement à 99 $/an (obligatoire pour publier sur l’App Store).

9. Envoyez le projet Xcode final vers l’App Store via App Store Connect (l’espace en ligne d’Apple où vous déposez l’app, remplissez sa fiche et la soumettez à validation).

Prompt :
Prompt 1 — pour générer l’app :
« Construis-moi une app iOS de planification de calendrier pour les couples. Pas de base de données ni de paiements. »

Prompt 2 — une fois le simulateur ouvert :
« Analyse l’app pour vérifier qu’elle est prête pour l’App Store, liste ce qui manque, puis corrige-le et prépare le package pour Xcode. »

Option : demandez à Codex de rédiger la politique de confidentialité et les pages de support exigées par Apple, directement dans Notion.

Temps : 1 à 3 heures pour la partie Codex, plus le délai de validation d’Apple.

> Cet email vous a été transféré ? Abonnez-vous ici