La scie à chaîne

J’ai commencé a utiliser Chatgpt le lendemain de sa sortie, en 2022

Comme tout le monde, j’ai été vraiment impressionné par l’expérience

J’ai donc suivi de près les outils (et surtout, les compagnies qui créent ces produits). Probablement beaucoup plus que 90% des gens.

Je n’en parle pas tant que ça parce que je dois déjà gérer mon lot de controverse dans mon quotidien

Mais je veux quand même faire le point suivant parce que je crois que c’est un enjeu de sécurité publique :

Ces outils sont à la fois utiles et extrêmement dangereux

Tout comme une scie à chaîne, ils permettent de faire certaines choses impossibles sans eux

Et tout comme avec une scie à chaîne, on peut commettre des erreurs catastrophiques irréversibles si on les utilise mal

Partager

Je ne parle pas seulement des rares cas extrêmement malheureux où des jeunes ont commis l’irréparable sous les encouragements de leur chatbot

On peut faire des choix de carrière ou relationnels qui semblent totalement raisonnables et bien articulés -- mais qui sont totalement stupides -- basé sur des conversations avec ces logiciels

Si tu crois être «au dessus de ça», je t’arrête tout de suite

Il y a quelques mois, Amazon a *perdu* plus de 6 millions de commandes parce qu’un de leurs ingénieurs trouvait son IA tellement intelligent qu’il lui a donné accès à une base de données que l’IA a juste.. supprimé

On est TOUS à risque pour une raison simple; notre cerveau interprète le langage comme de l’intelligence

Sauf que l’IA porte bien mal son nom (ou, très bien, si tu veux en faire le marketing)

Il n’y a pas «d’intelligence» dans ces systèmes

Si on combine cet angle mort de notre cerveau, avec le motif de profit des géants de ce secteur, on se retrouve avec une machine qui oui, est pleine de savoir..

Et qui a été conçue spécifiquement pour avoir l’air de *comprendre*

Mais ces machines ne comprennent rien

Elles «savent» tout, et ont comme objectif de faire bien paraître leurs compagnies respectives en étant engageantes et convaincantes

Elles mentent et inventent des choses régulièrement (je vais mettre une anecdote de ma fille en commentaires)

Pour un expert dans un domaine, c’est un allié redoutable comme tu sais sur quoi mettre l’accent et tu sais démêler le vrai du faux, ou le probable de l’improbable

Mais si tu ne connais pas bien un sujet et que tu te remets à un chatbot..

Tu t’exposes à quelque chose de pire que l’ignorance

Tu t’exposes à des demi-verités ou des exagérations (ou mêmes des faussetés) dites avec un maximum de confiance, que tu prends à 100% telles quelles

Utiliser «l’IA», c’est une compétence en soi, comme utiliser n’importe quel autre logiciel

Si tu ne prévois pas t’investir là-dedans à raison de dizaines d’heures par mois, je te suggère de ne pas y toucher

Et de grâce, ne laissez surtout jamais vos enfants sans surveillance avec ces chatbots

À+

Coach Seb