404 Media publicou materiais internos que descrevem um programa da OpenAI com nome de código Project Lily, sob o qual centenas de terceirizados externos leem conversas reais entre pessoas e o ChatGPT.
O que os revisores fazem
Os terceirizados resumem o que o usuário estava tentando alcançar e, em seguida, classificam a resposta do modelo em uma escala de 1 a 7. Eles sinalizam modos específicos de falha, incluindo frases robóticas e concordância excessiva com o usuário. A reportagem se baseia em instruções aos revisores, mensagens no Slack, a rubrica de pontuação e os próprios envios dos usuários.
A remuneração é superior a US$ 50 por hora, repassada por meio de empresas intermediárias, e não diretamente pela OpenAI. Algumas das conversas revisadas continham informações pessoais sensíveis.
A lacuna de consentimento
Uma fonte que trabalhou no programa foi questionada se os usuários percebem que suas conversas são revisadas dessa forma. A resposta foi não: as pessoas não imaginam que, em algum lugar, um terceirizado esteja analisando a conversa.
Após a publicação, a OpenAI indicou uma página de ajuda que afirma que humanos podem revisar conteúdo para melhorar o desempenho do modelo. A configuração relevante, que envia as conversas para o treinamento, vem ativada por padrão nos planos Free, Plus e Pro. Desativá-la é responsabilidade do usuário, e exige saber que ela existe.
Por que isso importa
A revisão humana não é um escândalo em si. É assim que esses sistemas são feitos para soar menos robóticos, e todo assistente relevante faz alguma versão disso. O que a reportagem expõe é a distância entre uma prática defensável e o que os usuários realmente entendem sobre ela.
A consequência prática é estreita e concreta. Se você cola em um assistente genérico qualquer coisa que não entregaria a um estranho — dados de clientes, detalhes médicos, trabalho ainda não divulgado — as configurações padrão não estão a seu favor. Verifique a opção de treinamento ou use um plano e produto em que o tratamento de dados seja contratual, e não opcional.