La Californie a signé le 10 septembre un ensemble de lois sur la sécurité des mineurs en ligne, dont l'une établit un précédent auquel le reste du secteur devra désormais répondre.

Adam's Law

SB 1119, rédigée par le sénateur Steve Padilla avec les membres de l'Assemblée Buffy Wicks et Rebecca Bauer-Kahan, concerne les chatbots compagnons IA. Elle impose aux opérateurs de mettre en place des protocoles de crise en cas d'idées suicidaires, de fournir des contrôles parentaux et d'envoyer des notifications si un enfant désactive les paramètres de sécurité.

La disposition qui innove véritablement porte sur le contrôle. Cette loi est présentée comme la première du pays à exiger des entreprises qu'elles réalisent des audits indépendants de sécurité des mineurs et des évaluations annuelles des risques. Pas une auto-évaluation, ni un rapport déposé après coup lorsqu'un incident survient.

Le reste du dispositif

Une douzaine d'autres textes ont été signés en parallèle. SB 867 concerne les jouets chatbots compagnons, étendant la même préoccupation aux produits physiques destinés aux jeunes enfants. AB 1856 instaure des signaux de vérification d'âge pour les applications logicielles. AB 1709 interdit aux plateformes de réseaux sociaux de proposer des fonctionnalités d'engagement addictives aux utilisateurs de moins de 16 ans. AB 2 augmente les dommages et intérêts auxquels une grande plateforme peut être exposée lorsque son comportement porte préjudice à un enfant, et les victimes de deepfakes peuvent demander réparation civile à hauteur de 250 000 $ par action.

Pourquoi la Californie compte au-delà de ses frontières

Les entreprises construisent rarement un produit pour la Californie et un autre pour le reste du monde. Une exigence de conformité rédigée à Sacramento tend à devenir la norme nationale par défaut, comme cela s'est vérifié depuis des années avec les règles de l'État sur la protection de la vie privée et les émissions.

À quoi s'attendre

Si vous développez sur une plateforme de chatbot compagnon, ou si vous lancez un produit doté d'un personnage avec lequel un mineur pourrait discuter, l'obligation d'audit est le poste à anticiper. Il s'agit d'un coût externe récurrent, et non d'un exercice de conformité ponctuel, qui incombe aux opérateurs plutôt qu'au fournisseur du modèle sous-jacent.

Pour tous les autres acteurs, le signal à retenir est que les régulateurs ont cessé de traiter les chatbots comme de simples logiciels génériques et commencent à considérer les produits compagnons comme une catégorie à part, avec ses propres obligations.