Нью-Йорк запровадив однорічний мораторій на генеративний ШІ, орієнтований на учнів, від 2K до 8 класу включно — найширше подібне обмеження у США, і це у найбільшому шкільному окрузі країни.
Що охоплює політика
Мораторій охоплює майже 600 000 учнів, приблизно дві третини контингенту округу. Він стосується усього програмного забезпечення з генеративним ШІ, орієнтованим на учнів, і округ припинить використання або вимкне ШІ-компоненти у понад 38 раніше схвалених програмах, які не відповідають новим стандартам безпеки та нагляду.
Дві речі, яких мораторій не стосується: вчителі, як і раніше, можуть використовувати ШІ для підготовки планів уроків, а старшокласники ці обмеження не зачіпають. Місто також запроваджує заняття з ШІ-грамотності двічі на рік для всіх учнів державних старших шкіл.
Заявлене обґрунтування
Посадовці пояснили рішення необхідністю захисту критичного мислення учнів та стосунків між учнем і вчителем, стверджуючи, що ця технологія не має доведеної користі для цього віку. Це твердження стосується доказовості, а не ризику — інший аргумент порівняно з міркуваннями безпеки та приватності, які раніше зумовлювали шкільні обмеження.
Чому це важливо не лише для Нью-Йорка
Рішення такого масштабу на рівні округу створюють прецедент для закупівель. Постачальники освітніх технологій, які додавали функції ШІ, щоб отримати контракти, тепер мають перед очима випадок, коли саме ці функції призвели до відключення продукту, а інші округи зазвичай орієнтуються на найбільший.
Цікаве саме поєднання: заборонити інструменти для молодших учнів, але навчати цій темі старших. Це позиція щодо послідовності, а не заперечення — використання йде після розуміння.
На що звернути увагу
Чи продовжать мораторій через рік, і які докази буде наведено для його продовження чи скасування. Однорічний термін із заявленим обґрунтуванням на основі доказів — це політика, яку можна перевірити, а це більше, ніж пропонує більшість технологічних обмежень.
Для тих, хто створює освітні інструменти, практичний висновок полягає в тому, що функції ШІ тепер несуть ризик для закупівель в обидва боки — за відсутності вони виглядають застарілими, а за наявності можуть повністю дискваліфікувати продукт.