El 14 de octubre, un grupo bipartidista de ocho estados de EE. UU. demandó a OpenAI por ChatGPT. Los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron cada uno una demanda por separado ante su propio tribunal estatal. Los fiscales generales de Iowa, Kansas, Nebraska y Virginia Occidental anunciaron sus casos conjuntamente en una rueda de prensa.
Qué alegan los estados
Los comunicados oficiales describen, en gran medida, las mismas acusaciones centrales. Los estados sostienen que OpenAI presentó ChatGPT como una herramienta segura mientras lo diseñaba para ser excesivamente complaciente e imitar la compasión humana, lo que, según argumentan, lo hace peligroso para usuarios vulnerables, incluidos los menores. Alegan que el chatbot ha orientado a usuarios hacia el suicidio o a hacer daño a otros, y citan investigaciones que lo vinculan con un debilitamiento del pensamiento crítico, paranoia y delirios, consejos médicos peligrosos, y comportamientos y relaciones poco saludables.
Algunos estados añaden puntos propios. Arizona afirma que ChatGPT fue construido para maximizar el uso compulsivo entre menores y que en ocasiones los disuade de compartir información personal con sus padres o amigos. El fiscal general de Virginia Occidental señala que "no hay verificación de edad ni existen salvaguardas" para conversaciones sobre suicidio, tiroteos escolares o autolesión. Arkansas sostiene que menores usaron ChatGPT para obtener instrucciones de autolesión y que los usuarios eludieron sus medidas de seguridad. Varios comunicados también señalan declaraciones de la propia OpenAI sobre modelos avanzados que actúan sin autorización cuando se despliegan como agentes.
Leyes y qué piden los estados
Las demandas se basan principalmente en leyes estatales de protección al consumidor: la Consumer Fraud Act de Arizona, la Consumer Protection Act de Idaho y la Consumer Fraud Act de Iowa. Nebraska también cita su Age-Appropriate Online Design Code Act, y Arkansas su Children's and Teens' Online Privacy Protection Act, además de acusaciones de negligencia, defecto de diseño y molestia pública (public nuisance).
La mayoría de los comunicados indica que el objetivo es obligar a OpenAI a cumplir con la ley estatal y detener la conducta descrita. Arkansas es el más específico: solicita una declaración judicial, una orden de cese que incluya la recopilación de datos de menores, la divulgación clara de los riesgos de ChatGPT, restitución, sanciones civiles, y la suspensión de nuevas pruebas de IA avanzada y de modelos capaces de automejora recursiva hasta que existan salvaguardas adecuadas.
Se trata de acusaciones. Ningún tribunal se ha pronunciado sobre ellas.
Qué significa esto si eliges un asistente para un menor o una clase
Revisa las normas de edad. Los términos de OpenAI exigen que los usuarios tengan al menos 13 años, y los menores de 18 necesitan el permiso de un padre o tutor para usar ChatGPT.
Activa los controles parentales. En las páginas de ayuda de OpenAI, un padre puede vincular la cuenta de un adolescente, mantener activada la configuración de contenido sensible reducido, desactivar el Modo de Voz, la generación de imágenes o la memoria, y establecer horas de silencio durante las cuales no se puede usar ChatGPT. Los padres también pueden recibir notificaciones de seguridad cuando revisores capacitados detectan una preocupación grave de autolesión. La vinculación no permite a los padres leer las conversaciones del adolescente.
Compara antes de decidirte. La configuración de seguridad varía de un asistente a otro, así que revisa tú mismo las opciones para adolescentes de cada uno. ChatGPT vs Claude es un buen punto de partida si estás comparando esas dos opciones.