10 сентября Калифорния подписала пакет законопроектов о безопасности детей в интернете, и один из них задаёт прецедент, на который придётся реагировать всей отрасли.

Закон Адама

SB 1119, автором которого является сенатор Стив Падилья вместе с членами ассамблеи Баффи Уикс и Ребеккой Бауэр-Кахан, касается ИИ-чат-ботов-компаньонов. Он обязывает операторов внедрять протоколы действий в кризисных ситуациях в случаях суицидальных мыслей, предоставлять средства родительского контроля и отправлять уведомления, если ребёнок отключает настройки безопасности.

Новаторским является положение о надзоре. Закон называют первым в стране требованием к компаниям проводить независимые аудиты безопасности детей и ежегодные оценки рисков. Не самооценку, и не отчёт, подаваемый после того, как что-то пошло не так.

Остальная часть пакета

Вместе с ним было подписано ещё около дюжины законопроектов. SB 867 касается игрушек-чат-ботов-компаньонов, распространяя ту же озабоченность на физические продукты, ориентированные на маленьких детей. AB 1856 устанавливает сигналы проверки возраста для программных приложений. AB 1709 запрещает платформам социальных сетей предоставлять пользователям младше 16 лет функции, вызывающие привыкание. AB 2 повышает размер компенсации, которую может понести крупная платформа, если её действия причинили вред ребёнку, а жертвы дипфейков могут требовать гражданско-правовой компенсации в размере до 250 000 долларов за один иск.

Почему Калифорния важна не только для Калифорнии

Компании редко создают один продукт для Калифорнии и другой — для всех остальных. Требование о соответствии, разработанное в Сакраменто, как правило, становится общенациональным стандартом де-факто — именно так на протяжении многих лет работали законы штата о конфиденциальности и о выбросах.

Чего ожидать

Если вы разрабатываете продукт на платформе чат-бота-компаньона или выпускаете что-либо с персонажем, с которым может общаться несовершеннолетний, требование об аудите — это та статья расходов, которую нужно закладывать в планы. Это регулярные внешние расходы, а не разовая процедура проверки соответствия, и они ложатся на операторов, а не на поставщика модели, лежащей в основе продукта.

Для всех остальных полезный сигнал заключается в том, что регуляторы перестали относиться к чат-ботам как к обычному программному обеспечению и начали рассматривать продукты-компаньоны как отдельную категорию со своими собственными обязанностями.