ChatGPT peut maintenant envoyer des SMS à votre place (et ça fait peur)

ChatGPT peut désormais accéder à vos conversations dans l'application Messages sur Mac, rédiger des réponses et même les envoyer à votre place. Une fonction pratique, mais qui soulève de sérieuses questions de confidentialité.

En quelques années, ChatGPT est passé de chatbot conversationnel basique à un véritable assistant de travail. Aujourd'hui, il est capable d'interagir avec différentes applications sans que l'utilisateur ait à changer d'interface. Et justement, OpenAI vient d'ajouter une nouvelle capacité à son application bureau pour macOS. Grâce au plugin Apple Messages, l'intelligence artificielle peut désormais, depuis les modes Work et Codex, accéder à l'application Messages pour rechercher des conversations, retrouver des informations, rédiger des réponses et, dans certaines conditions, envoyer elle-même des messages. Une évolution qui rapproche un peu plus ChatGPT d'un véritable assistant capable d'agir à la place de l'utilisateur, mais qui soulève aussi d'importantes questions autour de la confidentialité.

Apple Messages dans ChatGPT : quand l'IA répond toute seule

Ce nouveau plugin, dévoilé le 20 août, prend en charge les échanges sous iMessage – le système de messagerie d'Apple, qui utilise Internet – , les SMS traditionnels et le protocole RCS sur macOS. Depuis son interface, ChatGPT peut désormais parcourir l'historique des conversations afin d'y retrouver une information précise, faire le point sur des échanges auxquels l'utilisateur n'a pas encore répondu, nettoyer la boîte de réception en supprimant les spams, rédiger une réponse et même envoyer un message directement à un contact. Il peut aussi exploiter d'autres informations accessibles sur l'ordinateur, comme le calendrier.

Ainsi, dans un contexte professionnel, l'outil peut analyser les échanges avec un interlocuteur afin de proposer une relance. L'utilisateur peut également lui demander de trouver une date convenant aux participants d'un événement puis de préparer, voire d'envoyer, le message destiné aux personnes concernées. Attention, cette extension nécessite un appareil équipé d'une puce Apple Silicon et ne fonctionne donc pas sur les anciens Mac équipés de processeurs Intel.

Bien évidemment, OpenAI a prévu un garde-fou. Ainsi, l'envoi d'un message nécessite par défaut une validation humaine. L'utilisateur doit vérifier à la fois son contenu et ses destinataires avant que le message ne soit envoyé. Cette étape peut cependant être désactivée. Une option permet en effet d'accorder à ChatGPT une autorisation permanente afin qu'il puisse envoyer les messages sans demander systématiquement une nouvelle confirmation. Autant dire qu'il faut avoir sacrément confiance ! À tel point que l'entreprise elle-même le déconseille, étant donné que les IA génératives peuvent produire des réponses inadaptées, mal interpréter le contexte d'une conversation ou sélectionner le mauvais destinataire.

Apple Messages dans ChatGPT : des garde-fous loin d'être infaillibles

Outre l'aspect quelque peu déshumanisant de laisser un chatbot gérer ses échanges personnels, ce nouveau plugin soulève également quelques questions en termes de protection de la vie privée. Pour fonctionner, l'extension doit avoir accès aux conversations de l'application Messages. L'entreprise a beau assurer que l'outil "ne crée pas d'index des messages", cela ne signifie pas pour autant que tout le traitement s'effectue en local, sur le Mac. Cette précision indique surtout que ChatGPT ne constitue pas une base de données recensant l'intégralité des conversations afin de pouvoir les retrouver en permanence. Les contenus nécessaires au traitement d'une demande peuvent donc être utilisés dans le cadre de la conversation avec ChatGPT et transmis aux serveurs d'OpenAI.

L'installation de l'extension implique par ailleurs d'accorder à ChatGPT des autorisations particulièrement larges dans macOS. Il faut notamment lui donner un accès complet au disque, ainsi que des droits lui permettant d'interagir avec d'autres fonctions du système, notamment l'automatisation et les contacts. C'est d'ailleurs un peu paradoxal au regard de l'importance qu'Apple accorde habituellement à la confidentialité et à la protection des données personnelles.

Le système n'est en outre pas exempt de défauts. La documentation d'OpenAI mentionne que, dans certains cas, la demande de confirmation avant l'envoi d'un message peut ne pas apparaître même si elle est prévue. Le contrôle manuel présenté comme le garde-fou n'est donc pas une protection absolue et systématique. Merveilleux !