Education, métacognition, conscience. J’ai le sentiment que ces trois mots résument mes dernières éditions de FIERE.
Eduquer car c’est très tôt que les habitudes naissent et se consolident. De préférence de bonnes habitudes pour être capable de s’adapter aux secousses de la vie, internes et externes.
Métacognition, pour “surveiller” comment on réagit, raisonne, interagit avec notre environnement, avec et pour les autres.
Conscience, qui prolonge le précédent mot, et impose ce recul sur ce que nous faisons. Comme de la méditation en pleine conscience, comme utiliser les IA en pleine conscience.
La sélection des articles pour FIERE doit cocher les trois. A toi de me dire si le contrat est rempli.
Bonne lecture
J’ai masqué le nombre de votes pour ne pas t’influencer. Tu seras peut-être le premier ou la première comme le 23ᵉ ou 89ᵉ à voter.
Tu veux du #Flippant ? Tu vas être servi : Anthropic a décidé de ne pas publier son nouveau modèle de langage, Mythos, en raison de ses capacités jugées trop dangereuses, pouvant identifier et exploiter des vulnérabilités critiques dans des systèmes informatiques. Rien que ça.
Est-ce du marketing d’Anthropic pour survaloriser son modèle ? On pourrait le croire vu le consortium de clients restreints qui va y avoir accès “afin de prévenir des abus potentiels”. Ses tests internes ont révélé qu’il pouvait détecter des milliers de vulnérabilités zero-day dans des logiciels majeurs. Ce niveau de compétence en programmation le rend capable d’identifier des problèmes de sécurité que même des experts humains peinent à repérer.
L’objectif est d’améliorer la sécurité des systèmes tout en intégrant des mesures de protection contre d’éventuelles attaques exploitant les potentialités de l’IA. Pyromane et pompier simultanément.
Intérêt de l’article : ★★★★☆
Source : Mythos, Anthropic juge son nouveau modèle trop dangereux pour être publié
Objectif à court terme, pour garder notre compétence cognitive à long terme : reprendre le papier et le crayon pour travailler. Et le gars (c’est de moi dont je parle) écrit ça sur un clavier d’ordinateur. Bonjour ma dissonance cognitive !
En fait, penser sur papier est une stratégie cognitive fondamentale qui favorise la mémorisation et la créativité. L’écriture manuscrite et le dessin offrent des avantages cognitifs indéniables, en permettant de projeter nos pensées à l’extérieur de notre esprit. Voilà qui est #Inspirant.
Cette matérialité engage le cerveau de manière plus profonde que l’utilisation d’un clavier. Ce qui ne veut pas dire qu’il faut supprimer la techno. D’ailleurs, l’intelligence artificielle n’est pas à rejeter, il faut plutôt la considérer comme un allié pour optimiser nos notes manuscrites. Elle peut numériser et enrichir nos réflexions visuelles tout en nous aidant à synthétiser des contenus longs.
Pour équilibrer créativité authentique et pouvoir numérique, il est crucial (bah oui, faut toujours que je le place) d’apprendre à combiner ces approches.
Intérêt de l’article : ★★☆☆☆
Source : Penser sur papier, un crayon à la main - Heuristiquement
Le champ des découvertes en neuroscience est fabuleux et #Enthousiasmant pour découvrir comment notre cerveau, et donc nous, “fonctionnons”. De bon augure à l’ère de l’IA partout, dont les prophètes nous promettent qu’elle nous remplacera.
Parce que les neurosciences révolutionnent notre compréhension des mécanismes d'apprentissage dès la naissance et l'importance des interactions précoces avec notre environnement. Imagine-toi que même in utero, le cerveau humain commence à mémoriser des stimuli.
Intérêt de l’article : ★★★☆☆
Source : Comment les neurosciences transforment les apprentissages - Sciences Humaines
On nous répète partout que “l’humain doit rester dans la boucle” avec l’IA. Sur le papier, ça rassure. Dans la réalité, c’est beaucoup moins évident.
Cet article montre que mettre un humain en bout de chaîne ne suffit pas si on ne travaille pas sa capacité à se demander “Est-ce que je comprends vraiment ce que la machine me propose, ou est-ce que je suis juste en train de suivre ce qui a l’air crédible ?”
Autrement dit, sans métacognition, la supervision humaine est surtout une fiction réglementaire telle que les dispositions de l’AI Act européen relatives aux systèmes à haut risque exigent (transparence, explicabilité et supervision humaine).
Deux points à retenir pour cette session de #ReflechirEnsemble.
D’abord, l’IA ne nous manipule pas seulement par ses résultats, elle nous manipule par la manière dont elle les présente. Des réponses fluides, bien mises en forme, avec des explications qui sonnent juste désactivent notre vigilance et activent le pilotage automatique. Système 1 et système 2 de la pensée par Daniel Kahneman, ça te parle ?
On croit analyser alors qu’on se contente d’acquiescer. Et oui, le biais d’automatisation n’est pas un concept théorique, il a déjà ses “applications” dans la vraie vie. Il fait dérailler des décisions en santé, en banque, en éducation. On passe de “l’humain est-il dans la boucle ?” à “dans quel état mental est-il quand il lit l’output de la machine ?”. Tu perçois la différence ?
Ensuite, c’est mon deuxième point, c’est sur la transparence et l’explicabilité, qui, telles qu’on nous les vend aujourd’hui, sont loin d’être suffisantes. Documenter un système, afficher des explications, surligner des mots, cocher les cases de conformité… tout cela peut donner une impression de sérieux sans améliorer du tout le jugement humain.
Tant qu’on ne prend pas au sérieux la compétence métacognitive des opérateurs (formation, contexte, charge cognitive, conditions de travail), on (se) fabrique surtout une fausse sécurité. Les organisations qui ont les moyens de développer cette compétence auront un coup d’avance.
Y a plus qu’à nous y mettre, dans notre quotidien, pour ne pas devenir un vulgaire coup de tampon humain “validé” sur ce que dit la machine.
Je crois que la vraie “IA responsable” commence par notre façon de nous observer penser quand on travaille avec elle. J’ai jamais dit que c’était facile. Déjà, qui est conscient de l’état de métacognition ? Cette rubrique devient réfléchir ensemble sur réfléchir ensemble. Passionnant non ?
Intérêt de l’article : ★★★★★
Source : IA et métacognition : savoir quand on peut faire confiance, ou non, à la machine n’est pas toujours évident - The Conversation
---
Au fait, puisqu’on parle d’email marketing, je te propose de nous rejoindre à Biarritz les 7, 8 et 9 octobre pour l’EMDay, le plus gros évènement français sur le sujet.
Avec l’équipe, on te prépare une édition encore plus belle et enrichissante.
PS : -30% sur ton billet jusqu’au 30 avril pour l’offre 2+2+2 (jours + soirées + nuits)
PPS : “nuits”, c’est pour l’hébergement.
Comments
Nothing yet. Say the first thing.
Sign in to join the conversation.