Meta a suspendu la fonctionnalité de partage de conversations dans Muse, l'application d'agent IA personnel construite sur les mêmes modèles Muse Spark que Meta AI. La suspension est intervenue le 20 octobre, après qu'Ars Technica a interrogé Meta au sujet d'une recherche publiée par la société de sécurité Claroc.

Ce que Claroc a découvert

Lorsqu'un utilisateur de Muse partageait une conversation, l'application créait une page publique dont l'adresse web était construite à partir du titre de la conversation et d'un identifiant aléatoire. Chaque fois que quelqu'un ouvrait une telle page, l'adresse complète était recherchée via le DNS, et les services commerciaux de DNS passif conservent un historique de ces recherches. Ainsi, le titre et l'identifiant, qui constituaient ensemble la clé d'accès à la page, sont devenus consultables.

Dans un rapport daté du 18 octobre, Claroc indique qu'une seule recherche DNS passive a renvoyé plus de 6 800 adresses de partage Muse. Ses chercheurs en ont ouvert quelques centaines sans se connecter, et la plupart se sont chargées. La majorité étaient sans danger, mais une minorité contenait des éléments sensibles, que Claroc décrit uniquement par catégorie : une demande de prêt pour une petite entreprise, l'examen interne des revenus d'une société, une liste de tâches comportant une alerte de fraude bancaire et une partie d'un numéro de compte, le rapport de performance d'un investisseur immobilier, un calendrier de congés du personnel et les notes de préparation d'un candidat pour un entretien confidentiel de recherche de cadres.

Claroc affirme avoir signalé le problème au programme de prime aux bogues (bug bounty) de Meta le 8 octobre. La société indique n'avoir aucune preuve que ces pages aient été utilisées de manière malveillante.

La réponse de Meta

Meta a déclaré à Ars Technica avoir suspendu la fonctionnalité le temps d'examiner le rapport et d'étudier des modifications sur la manière dont les liens peuvent être découverts. Après la suspension, Claroc a revérifié 40 partages qui s'ouvraient auparavant sans compte ; aucun ne s'est ouvert. Les adresses elles-mêmes, y compris les titres, figurent toujours dans l'historique DNS passif. Meta n'a pas précisé quand le partage sera rétabli, ni si les anciens liens fonctionneront à nouveau.

Ce que cela signifie si vous utilisez des assistants IA conversationnels

Considérez un lien de partage comme une page publique. Quiconque obtient ou trouve l'adresse peut l'ouvrir, et dans ce cas, même le titre a fuité à lui seul. Ne partagez pas de conversations contenant des données clients, financières, de santé ou RH.

Faites attention au titre. Si le titre d'une conversation décrit quelque chose de privé, ne partagez pas cette conversation ; copiez plutôt la partie utile dans un document que vous contrôlez.

Passez en revue ce que vous avez déjà partagé sur n'importe quel assistant et supprimez les liens dont vous n'avez plus besoin. Pour les équipes, Claroc recommande d'informer le personnel que les conversations IA partagées deviennent des pages publiques et de les surveiller comme un transfert de données sortant.

Vous comparez des assistants pour un usage professionnel ? Consultez Meta AI vs ChatGPT.