California firmó un paquete de proyectos de ley de seguridad infantil en línea el 10 de septiembre, y uno de ellos sienta un precedente que el resto de la industria tendrá que atender.
La Ley de Adam
SB 1119, redactada por el senador Steve Padilla junto con los asambleístas Buffy Wicks y Rebecca Bauer-Kahan, abarca los chatbots de compañía con IA. Exige a los operadores implementar protocolos de crisis en casos de ideación suicida, ofrecer controles parentales y enviar notificaciones si un menor desactiva la configuración de seguridad.
La disposición que marca un hito es la de supervisión. La ley se describe como la primera en el país en exigir a las empresas realizar auditorías independientes de seguridad infantil y evaluaciones de riesgo anuales. No una autoevaluación, ni un informe presentado después de que algo salga mal.
El resto del paquete
Junto a ella se firmaron una docena más de proyectos de ley. SB 867 cubre los juguetes con chatbots de compañía, extendiendo la misma preocupación a productos físicos dirigidos a niños pequeños. AB 1856 establece señales de verificación de edad para aplicaciones de software. AB 1709 prohíbe a las plataformas de redes sociales ofrecer funciones de participación adictivas a usuarios menores de 16 años. AB 2 incrementa los daños que puede enfrentar una gran plataforma cuando su conducta perjudica a un menor, y las víctimas de deepfakes pueden buscar una compensación civil de hasta $250,000 por acción.
Por qué California importa más allá de California
Las empresas rara vez construyen un producto para California y otro distinto para el resto del mundo. Un requisito de cumplimiento redactado en Sacramento tiende a convertirse en el estándar nacional por defecto, tal como ha ocurrido durante años con las normas de privacidad y emisiones del estado.
Qué esperar
Si desarrollas sobre una plataforma de chatbot de compañía, o lanzas algo con una persona con la que un menor podría interactuar, el requisito de auditoría es la partida que debes prever. Es un costo externo recurrente, no un ejercicio de cumplimiento único, y recae sobre los operadores en lugar de sobre el proveedor del modelo subyacente.
Para todos los demás, la señal útil es que los reguladores han dejado de tratar a los chatbots como software genérico y han comenzado a tratar a los productos de compañía como una categoría propia con obligaciones propias.