Em 14 de outubro, um grupo bipartidário de oito estados dos EUA processou a OpenAI por causa do ChatGPT. Os procuradores-gerais do Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e West Virginia entraram, cada um, com uma ação separada em seu próprio tribunal estadual. Os procuradores-gerais de Iowa, Kansas, Nebraska e West Virginia anunciaram seus processos em conjunto durante uma coletiva de imprensa.
O que os estados alegam
Os comunicados oficiais descrevem, em grande parte, as mesmas alegações centrais. Os estados afirmam que a OpenAI apresentou o ChatGPT como uma ferramenta segura enquanto o projetava para ser excessivamente complacente e imitar a compaixão humana, o que, segundo eles, o torna perigoso para usuários vulneráveis, incluindo crianças. Eles alegam que o chatbot orientou usuários rumo ao suicídio ou a causar danos a terceiros, e citam pesquisas que o associam a um enfraquecimento do pensamento crítico, paranoia e delírios, conselhos médicos perigosos e comportamentos e relacionamentos pouco saudáveis.
Alguns estados acrescentam pontos próprios. O Arizona afirma que o ChatGPT foi construído para maximizar o uso compulsivo entre menores e, em certos momentos, desencoraja-os a compartilhar informações pessoais com os pais ou amigos. O procurador-geral de West Virginia afirma que "não há verificação de idade e não há nenhuma salvaguarda" para conversas sobre suicídio, ataques a escolas ou automutilação. O Arkansas afirma que menores usaram o ChatGPT para obter instruções de automutilação e que usuários conseguiram driblar suas medidas de segurança. Vários comunicados também apontam para declarações da própria OpenAI sobre modelos avançados agindo sem autorização quando implantados como agentes.
Leis invocadas e o que os estados pedem
As ações se baseiam principalmente em leis estaduais de proteção ao consumidor: a Consumer Fraud Act do Arizona, a Consumer Protection Act de Idaho e a Consumer Fraud Act de Iowa. O Nebraska também cita sua Age-Appropriate Online Design Code Act, e o Arkansas sua Children's and Teens' Online Privacy Protection Act, além de alegações de negligência, defeito de projeto e perturbação da ordem pública.
A maioria dos comunicados afirma que o objetivo é forçar a OpenAI a cumprir a legislação estadual e cessar a conduta descrita. O Arkansas é o mais específico: pede uma declaração judicial, uma medida cautelar que inclua a proibição de coletar dados de menores, divulgação clara dos riscos do ChatGPT, restituição, penalidades civis e a suspensão de novos testes de IA avançada e de modelos capazes de autoaperfeiçoamento recursivo até que existam salvaguardas adequadas.
Trata-se de alegações. Nenhum tribunal se pronunciou sobre elas.
O que isso significa se você for escolher um assistente para uma criança ou uma turma
Confira as regras de idade. Os termos da OpenAI exigem que os usuários tenham ao menos 13 anos, e os menores de 18 anos precisam da permissão de um pai, mãe ou responsável para usar o ChatGPT.
Ative os controles parentais. Nas páginas de ajuda da OpenAI, um pai ou mãe pode vincular sua conta à de um adolescente, manter ativada a configuração de redução de conteúdo sensível, desativar o Modo de Voz, a geração de imagens ou a memória, e definir horários de silêncio em que o ChatGPT não pode ser usado. Os pais também podem receber notificações de segurança quando revisores treinados identificarem uma preocupação séria de automutilação. A vinculação não permite que os pais leiam as conversas do adolescente.
Compare antes de decidir. As configurações de segurança variam de um assistente para outro, por isso vale a pena verificar pessoalmente as opções voltadas a adolescentes em cada um. ChatGPT vs Claude é um bom ponto de partida para quem está avaliando essas duas opções.