14 октября двухпартийная группа из восьми штатов США подала в суд на OpenAI из-за ChatGPT. Генеральные прокуроры Аризоны, Арканзаса, Айдахо, Айовы, Канзаса, Монтаны, Небраски и Западной Вирджинии подали отдельные иски, каждый в суд своего штата. Прокуроры Айовы, Канзаса, Небраски и Западной Вирджинии объявили о своих исках вместе, на общей пресс-конференции.

В чём обвиняют

В официальных пресс-релизах главные претензии почти совпадают. Штаты утверждают, что OpenAI подавала ChatGPT как безопасный инструмент, а сама сделала его чрезмерно поддакивающим и имитирующим человеческое сочувствие — и что именно это делает его опасным для уязвимых пользователей, включая детей. По их словам, чат-бот подталкивал людей к самоубийству или к причинению вреда другим. Штаты ссылаются и на исследования, которые связывают ChatGPT с ослаблением критического мышления, паранойей и бредовыми идеями, опасными медицинскими советами, а также нездоровыми привычками и отношениями.

Некоторые штаты добавляют свои доводы. Аризона утверждает, что ChatGPT построен так, чтобы у несовершеннолетних возникала навязчивая привычка им пользоваться, и что порой он отговаривает их делиться личным с родителями или друзьями. Генпрокурор Западной Вирджинии заявляет, что «нет ни проверки возраста, ни ограничителей» в разговорах о самоубийстве, стрельбе в школах и самоповреждении. Арканзас пишет, что несовершеннолетние получали через ChatGPT инструкции по самоповреждению, а пользователи обходили его защитные механизмы. В нескольких релизах упоминаются и собственные признания OpenAI о том, что продвинутые модели, запущенные как агенты, действовали без разрешения.

Законы и требования

Иски опираются в основном на законы штатов о защите прав потребителей: закон Аризоны о мошенничестве в отношении потребителей, закон Айдахо о защите прав потребителей и закон Айовы о мошенничестве в отношении потребителей. Небраска ссылается ещё и на свой закон о дизайне онлайн-сервисов с учётом возраста, а Арканзас — на закон о защите онлайн-приватности детей и подростков, а также на халатность, дефект конструкции и создание угрозы для общества.

В большинстве релизов цель сформулирована так: заставить OpenAI соблюдать законы штата и прекратить описанные действия. Конкретнее всех Арканзас: он просит суд признать нарушение закона, запретить дальнейшие нарушения, в том числе сбор данных несовершеннолетних, обязать чётко раскрывать риски ChatGPT, вернуть деньги пострадавшим, назначить гражданские штрафы, а также остановить дальнейшие испытания продвинутого AI и создание моделей, способных к рекурсивному самоулучшению, пока не появятся надёжные меры защиты.

Всё это пока обвинения. Суд по ним ещё не выносил решений.

Что это значит, если вы выбираете ассистента для ребёнка или класса

Проверьте возрастные правила. По условиям OpenAI, пользоваться ChatGPT можно с 13 лет, а тем, кому нет 18, нужно разрешение родителя или опекуна.

Включите родительский контроль. Согласно справке OpenAI, родитель может привязать аккаунт подростка, оставить включённой настройку, снижающую количество чувствительного контента, отключить голосовой режим, генерацию изображений или память и задать «тихие часы», когда ChatGPT недоступен. Родителям также могут приходить уведомления, если специально обученные сотрудники увидят серьёзный риск самоповреждения. При этом привязка не даёт родителям читать переписку подростка.

Сравните, прежде чем решать. Настройки безопасности у разных ассистентов разные, так что проверьте подростковые опции каждого сами. Если вы выбираете между этими двумя, начните со сравнения ChatGPT vs Claude.