Trois entreprises qui se font concurrence sur presque tout discutent discrètement entre elles de sécurité. OpenAI a confirmé le 15 septembre que ses discussions avec Anthropic et Google DeepMind durent depuis plusieurs semaines.
Ce qui est sur la table
Trois mécanismes ont émergé. Le premier consiste à intégrer des évaluateurs tiers au sein des entreprises pour surveiller le travail sur la sécurité de l'intérieur plutôt que de l'examiner après coup. Le deuxième est un nouvel organisme de normalisation pour le secteur. Le troisième, et le plus inhabituel, consiste à coordonner le rythme même du développement des modèles de pointe.
Chris Lehane, responsable mondial des politiques chez OpenAI, a déclaré que l'entreprise soutenait une disposition du FRONTIER Act qui obligerait les principaux laboratoires à admettre des organisations de vérification indépendantes. Sam Altman a indiqué qu'OpenAI intégrerait des évaluateurs tiers. Demis Hassabis a appelé à la création d'un nouvel organisme de normalisation américain jouant le rôle de chien de garde.
L'élément déclencheur
Le PDG d'Anthropic, Dario Amodei, a publié samedi un essai plaidant pour que le secteur travaille collectivement à ralentir le rythme des modèles d'IA de pointe afin d'éviter des risques catastrophiques. Les confirmations d'OpenAI et de Google ont suivi quelques jours plus tard.
La question antitrust
Des concurrents qui s'accordent pour ralentir prend, à première vue, la forme d'un accord illégal. La position de Lehane est qu'aucune dérogation gouvernementale n'est nécessaire pour une coordination sur la sécurité. Des observateurs cités par TechCrunch se montrent moins catégoriques, notant que ces discussions pourraient attirer un examen attentif si la coordination s'avérait restreindre la concurrence.
Le contexte politique va en sens inverse. Le président Trump a qualifié les inquiétudes sur la sécurité de l'IA de canular, et le conseiller David Sacks a jugé ces craintes exagérées. Les laboratoires proposent donc une forme d'autolimitation à un moment où l'administration n'en demande aucune.
Pourquoi c'est important
Pour quiconque choisit des outils, la question pratique est de savoir si l'évaluation indépendante deviendra la norme. Un modèle audité par une organisation extérieure constitue une proposition différente de celle dont les affirmations de sécurité reposent entièrement sur son créateur. Rien n'a encore été signé — il s'agit de discussions, pas d'engagements —, mais la direction prise mérite d'être suivie, car elle changerait ce que vaut réellement la documentation de sécurité d'un fournisseur.