404 Media ha publicado materiales internos que describen un programa de OpenAI con nombre en clave Project Lily, en virtud del cual cientos de contratistas externos leen conversaciones reales entre personas y ChatGPT.

Qué hacen los revisores

Los contratistas resumen lo que el usuario intentaba conseguir y luego califican la respuesta del modelo en una escala de 1 a 7. Señalan modos de fallo específicos, incluidas las frases robóticas y el exceso de conformidad con el usuario. El reportaje se basa en las instrucciones dadas a los revisores, mensajes de Slack, la rúbrica de puntuación y las propias conversaciones enviadas por los usuarios.

La paga supera los 50 dólares la hora, canalizada a través de empresas intermediarias en lugar de OpenAI directamente. Algunas de las conversaciones revisadas contenían información personal sensible.

La brecha de consentimiento

Se preguntó a una fuente que trabajó en el programa si los usuarios saben que sus chats se revisan de esta manera. La respuesta fue que no: la gente no imagina que en algún lugar un contratista está analizando la conversación.

Tras la publicación, OpenAI remitió a una página de ayuda que indica que humanos pueden revisar contenido para mejorar el rendimiento del modelo. La configuración correspondiente, que envía los chats al entrenamiento, está activada por defecto en los planes Free, Plus y Pro. Desactivarla es responsabilidad del usuario, y requiere saber que existe.

Por qué importa

La revisión humana no es en sí un escándalo. Es la forma en que se logra que estos sistemas suenen menos robóticos, y todo asistente importante hace alguna versión de esto. Lo que expone el reportaje es la distancia entre una práctica defendible y lo que los usuarios realmente entienden sobre ella.

La consecuencia práctica es concreta y acotada. Si pegas en un asistente general algo que no le entregarías a un desconocido —datos de clientes, detalles médicos, trabajo aún no publicado—, la configuración por defecto no está de tu lado. Revisa el interruptor de entrenamiento, o utiliza un plan y un producto donde el tratamiento de datos sea contractual y no opcional.