Нью-Йорк запровадив річний мораторій на генеративний ШІ, орієнтований на учнів, для класів з 2K по 8-й. Мер Зохран Мамдані назвав це «найширшим мораторієм на генеративний ШІ в країні» — у найбільшому шкільному окрузі США.

Що охоплює політика

Мораторій поширюється на усе програмне забезпечення з генеративним ШІ, орієнтованим на учнів, для школярів з 2K по 8-й клас, і округ припинить дію або вимкне компоненти ШІ у понад 38 раніше затверджених програмах, які не відповідають новим стандартам безпеки та нагляду.

Старша школа теж зачеплена: використання ШІ там обмежене п'ятьма затвердженими пілотними програмами — Quill, Edia, Brisk Teaching, Playlab та Intel AI-Ready Schools — що охоплюють близько 50 000 учнів, приблизно 17% контингенту. Вчителі по всьому округу можуть використовувати ШІ для планування уроків, перекладу та комунікацій, але не для оцінювання, моніторингу поведінки, планування спеціальної освіти чи підтримки психічного здоров'я учнів. Місто також запроваджує два 45-хвилинних модулі з ШІ-грамотності на рік для всіх старшокласників.

Заявлене обґрунтування

Посадовці сформулювали це як захист критичного мислення учнів і стосунків учень-вчитель, аргументуючи це тим, що технологія не має доведеної користі у цьому віці. Це твердження про докази, а не про ризик — інший аргумент, ніж занепокоєння щодо безпеки та приватності, які лежали в основі попередніх шкільних обмежень.

Чому це важливо не лише для Нью-Йорка

Рішення округу такого масштабу створюють прецедент для закупівель. Постачальники освітніх технологій, які впроваджували функції ШІ, щоб виграти контракти, тепер мають прецедент, коли саме ці функції призвели до вимкнення продукту, а інші округи зазвичай орієнтуються на найбільший.

Цікаве поєднання: обмежити інструменти для молодших учнів, навчати предмету старших через структуровані пілотні програми та модулі грамотності. Це позиція про послідовність, а не пряма опозиція — використання йде після розуміння.

На що звернути увагу

Чи буде мораторій продовжено через рік, і які докази будуть надані для обґрунтування продовження чи скасування. Річний термін із заявленим доказовим обґрунтуванням — це перевірювана політика, що є більшим, ніж пропонує більшість технологічних обмежень.

Для всіх, хто розробляє освітні інструменти, практичний урок полягає в тому, що функції ШІ тепер несуть ризик для закупівель в обох напрямках — за відсутності вони виглядають застарілими; за наявності вони можуть повністю дискваліфікувати продукт.