Três empresas que competem em praticamente tudo vêm conversando discretamente entre si sobre segurança. A OpenAI confirmou em 15 de setembro que suas discussões com a Anthropic e o Google DeepMind já se estendem por várias semanas.
O que está em discussão
Três mecanismos vieram à tona. O primeiro é a inclusão de avaliadores terceirizados dentro das empresas para monitorar o trabalho de segurança de dentro, em vez de revisá-lo posteriormente. O segundo é um novo órgão de padrões do setor. O terceiro, e o mais incomum, é a coordenação do próprio ritmo de desenvolvimento de fronteira.
Chris Lehane, chefe de política global da OpenAI, disse que a empresa apoia uma disposição do FRONTIER Act que exigiria que os principais laboratórios admitissem organizações de verificação independentes. Sam Altman disse que a OpenAI incluiria avaliadores terceirizados. Demis Hassabis pediu um novo órgão de padrões nos EUA para atuar como fiscalizador.
O que desencadeou isso
O CEO da Anthropic, Dario Amodei, publicou um ensaio no sábado argumentando que o setor deveria trabalhar em conjunto para desacelerar o ritmo da IA de fronteira e evitar riscos catastróficos. As confirmações da OpenAI e do Google vieram poucos dias depois.
A questão antitruste
Concorrentes concordando em desacelerar é, à primeira vista, a configuração de um acordo ilegal. A posição de Lehane é que nenhuma isenção governamental é necessária para a coordenação em segurança. Observadores citados pelo TechCrunch se mostraram menos seguros, observando que as conversas poderiam atrair escrutínio caso a coordenação fosse considerada uma supressão da concorrência.
O cenário político vai na direção contrária. O presidente Trump chamou as preocupações com a segurança da IA de farsa, e o assessor David Sacks descreveu os temores como exagerados. Assim, os laboratórios estão propondo autocontenção em um momento em que o governo não está pedindo nada disso.
Por que isso importa
Para quem escolhe ferramentas, a questão prática é se a avaliação independente se tornará algo comum. Um modelo auditado por uma organização externa é uma proposta diferente de um cujas alegações de segurança dependem inteiramente de seu criador. Nada foi assinado ainda — são conversas, não compromissos —, mas a direção vale a pena ser observada, pois mudaria o real valor da documentação de segurança de um fornecedor.