New York a imposé un moratoire d'un an sur l'IA générative destinée aux élèves, de la petite section jusqu'à la 4e — la restriction la plus large de ce type aux États-Unis, dans son plus grand district scolaire.

Ce que couvre la mesure

Le moratoire concerne près de 600 000 élèves, soit environ deux tiers des inscrits du district. Il s'applique à tous les logiciels comportant une IA générative destinée aux élèves, et le district va interrompre ou désactiver les composants d'IA dans plus de 38 programmes auparavant approuvés qui ne répondent pas aux nouvelles normes de sécurité et de contrôle.

Deux choses restent inchangées : les enseignants peuvent toujours utiliser l'IA pour préparer leurs cours, et les lycéens ne sont pas concernés. La ville met également en place des cours de culture de l'IA deux fois par an pour tous les lycéens des établissements publics.

Le raisonnement avancé

Les responsables ont justifié la mesure par la protection de l'esprit critique des élèves et de la relation enseignant-élève, estimant que la technologie n'a pas d'avantage prouvé à ces âges. Il s'agit là d'un argument portant sur les preuves plutôt que sur le risque — une position différente des préoccupations de sécurité et de confidentialité qui avaient motivé les précédentes restrictions scolaires.

Pourquoi cela dépasse New York

Des décisions de district de cette ampleur créent un précédent en matière d'achats publics. Les fournisseurs de technologies éducatives qui avaient intégré des fonctionnalités d'IA pour remporter des contrats disposent désormais d'un cas de référence où ces mêmes fonctionnalités ont conduit à la désactivation d'un produit, et les autres districts ont tendance à suivre l'exemple du plus grand d'entre eux.

L'association des deux mesures est l'élément le plus intéressant : interdire les outils aux élèves les plus jeunes, enseigner le sujet aux plus âgés. C'est une position sur l'ordre des étapes plutôt qu'une opposition — l'usage vient après la compréhension.

Ce qu'il faut surveiller

Si le moratoire sera reconduit après un an, et quelles preuves seront produites pour justifier son maintien ou sa levée. Une durée d'un an assortie d'une justification fondée sur des preuves constitue une politique vérifiable, ce qui est plus que ce qu'offrent la plupart des restrictions technologiques.

Pour tous ceux qui conçoivent des outils éducatifs, la leçon pratique est que les fonctionnalités d'IA comportent désormais un risque en matière d'achats publics dans les deux sens — absentes, elles paraissent dépassées ; présentes, elles peuvent totalement disqualifier un produit.