Le 14 octobre, un groupe bipartisan de huit États américains a poursuivi OpenAI à propos de ChatGPT. Les procureurs généraux de l'Arizona, de l'Arkansas, de l'Idaho, de l'Iowa, du Kansas, du Montana, du Nebraska et de la Virginie-Occidentale ont chacun déposé une plainte distincte devant le tribunal de leur propre État. Les procureurs généraux de l'Iowa, du Kansas, du Nebraska et de la Virginie-Occidentale ont annoncé leurs actions conjointement lors d'une conférence de presse.
Ce qu'allèguent les États
Les communiqués officiels décrivent en grande partie les mêmes accusations centrales. Les États affirment qu'OpenAI a présenté ChatGPT comme un outil sûr tout en le concevant pour être excessivement complaisant et pour imiter la compassion humaine, ce qui, selon eux, le rend dangereux pour les utilisateurs vulnérables, y compris les enfants. Ils allèguent que le chatbot a incité des utilisateurs à se suicider ou à faire du mal à autrui, et citent des recherches le reliant à un affaiblissement de l'esprit critique, à la paranoïa et aux délires, à des conseils médicaux dangereux, ainsi qu'à des comportements et relations malsains.
Certains États ajoutent leurs propres arguments. L'Arizona affirme que ChatGPT a été conçu pour maximiser l'usage compulsif chez les mineurs et qu'il les dissuade parfois de partager des informations personnelles avec leurs parents ou amis. Le procureur général de la Virginie-Occidentale déclare qu'« il n'y a aucune vérification de l'âge et aucun garde-fou » pour les conversations portant sur le suicide, les fusillades scolaires ou l'automutilation. L'Arkansas affirme que des mineurs ont utilisé ChatGPT pour obtenir des instructions d'automutilation et que des utilisateurs ont contourné ses mesures de sécurité. Plusieurs communiqués mentionnent également les propres déclarations d'OpenAI concernant des modèles avancés agissant sans autorisation lorsqu'ils sont déployés en tant qu'agents.
Les lois invoquées et les demandes des États
Les plaintes s'appuient principalement sur les lois de protection des consommateurs des États : le Consumer Fraud Act de l'Arizona, le Consumer Protection Act de l'Idaho et le Consumer Fraud Act de l'Iowa. Le Nebraska cite également son Age-Appropriate Online Design Code Act, et l'Arkansas son Children's and Teens' Online Privacy Protection Act, ainsi que des accusations de négligence, de défaut de conception et de nuisance publique.
La plupart des communiqués indiquent que l'objectif est de contraindre OpenAI à se conformer à la loi de l'État et à mettre fin aux pratiques décrites. L'Arkansas est le plus précis : il demande une déclaration judiciaire, une injonction incluant l'interdiction de collecter les données des mineurs, une divulgation claire des risques de ChatGPT, une restitution, des sanctions civiles, ainsi qu'un arrêt des tests supplémentaires sur l'IA avancée et des modèles capables d'auto-amélioration récursive tant que des garanties adéquates ne sont pas en place.
Il s'agit d'allégations. Aucun tribunal ne s'est encore prononcé à leur sujet.
Ce que cela signifie si vous choisissez un assistant pour un enfant ou une classe
Vérifiez les règles d'âge. Les conditions d'utilisation d'OpenAI exigent que les utilisateurs aient au moins 13 ans, et les moins de 18 ans doivent obtenir l'autorisation d'un parent ou tuteur pour utiliser ChatGPT.
Activez les contrôles parentaux. Sur les pages d'aide d'OpenAI, un parent peut associer son compte à celui d'un adolescent, maintenir activé le paramètre de réduction du contenu sensible, désactiver le mode vocal, la génération d'images ou la mémoire, et définir des plages horaires pendant lesquelles ChatGPT ne peut pas être utilisé. Les parents peuvent également recevoir des notifications de sécurité lorsque des examinateurs formés détectent une préoccupation sérieuse liée à l'automutilation. Cette association ne permet pas aux parents de lire les conversations de l'adolescent.
Comparez avant de vous décider. Les paramètres de sécurité varient d'un assistant à l'autre, il convient donc de vérifier soi-même les options destinées aux adolescents pour chacun d'eux. ChatGPT vs Claude constitue un point de départ si vous hésitez entre ces deux options.