Каліфорнія підписала пакет законопроєктів про безпеку дітей в інтернеті 10 вересня, і один із них створює прецедент, на який доведеться зважати всій галузі.

Закон Адама

SB 1119, автором якого є сенатор Стів Паділья за участю депутатів асамблеї Баффі Вікс і Ребекки Бауер-Каган, стосується ШІ-чатботів-компаньйонів. Він вимагає від операторів впровадити протоколи реагування у випадках суїцидальних думок, забезпечити батьківський контроль і надсилати сповіщення, якщо дитина вимикає налаштування безпеки.

Положення, яке стає новим кроком у галузі, — це нагляд. Закон описують як перший у країні, що вимагає від компаній проводити незалежні аудити безпеки дітей та щорічні оцінки ризиків. Не самооцінку і не звіт, поданий після того, як щось пішло не так.

Решта пакету

Разом із ним підписали ще з десяток законопроєктів. SB 867 стосується іграшок-чатботів-компаньйонів, поширюючи ту саму турботу на фізичні продукти, орієнтовані на маленьких дітей. AB 1856 встановлює сигнали верифікації віку для програмних застосунків. AB 1709 забороняє платформам соціальних мереж пропонувати функції, що викликають звикання, користувачам віком до 16 років. AB 2 підвищує розмір збитків, які може понести велика платформа, якщо її дії завдають шкоди дитині, а жертви дипфейків можуть вимагати цивільного відшкодування до $250,000 за позов.

Чому Каліфорнія важлива не лише для Каліфорнії

Компанії рідко створюють один продукт для Каліфорнії, а інший — для решти світу. Вимога щодо відповідності, прописана в Сакраменто, зазвичай стає національним стандартом за замовчуванням, так само як роками працювали закони штату щодо приватності та викидів.

Чого очікувати

Якщо ви розробляєте на платформі чатбота-компаньйона або випускаєте будь-що з персонажем, з яким може спілкуватися неповнолітній, вимога аудиту — це той пункт витрат, який варто планувати. Це повторювані зовнішні витрати, а не одноразова перевірка відповідності, і вони лягають на операторів, а не на постачальника моделі, що лежить в основі.

Для всіх інших корисний сигнал полягає в тому, що регулятори перестали розглядати чатботів як звичайне програмне забезпечення і почали ставитися до продуктів-компаньйонів як до окремої категорії з власними обов'язками.