Три компании, конкурирующие практически во всём, тихо ведут переговоры друг с другом о безопасности. OpenAI подтвердила 15 сентября, что её обсуждения с Anthropic и Google DeepMind продолжаются уже несколько недель.

Что обсуждается

На поверхность вышли три механизма. Первый — внедрение независимых экспертов-оценщиков внутрь компаний, чтобы наблюдать за работой над безопасностью изнутри, а не проверять её постфактум. Второй — создание нового отраслевого органа по стандартам. Третий, самый необычный, — координация темпов развития передовых моделей как таковых.

Крис Леэйн, глава отдела глобальной политики OpenAI, заявил, что компания поддерживает положение закона FRONTIER Act, которое обязало бы ведущие лаборатории допускать независимые организации по верификации. Сэм Альтман сказал, что OpenAI внедрит независимых экспертов-оценщиков. Демис Хассабис призвал создать новый орган по стандартам в США, который выполнял бы функции надзорного органа.

Что стало толчком

Генеральный директор Anthropic Дарио Амодеи опубликовал в субботу эссе, в котором утверждал, что индустрии следует объединить усилия, чтобы замедлить темпы развития передовых моделей ИИ и избежать катастрофических рисков. Подтверждения от OpenAI и Google последовали спустя несколько дней.

Вопрос антимонопольного законодательства

Соглашение конкурентов действовать медленнее на первый взгляд напоминает незаконный сговор. Позиция Леэйна заключается в том, что для координации по вопросам безопасности не требуется государственного разрешения. Наблюдатели, опрошенные TechCrunch, были менее уверены в этом, отметив, что переговоры могут привлечь пристальное внимание регуляторов, если координация будет признана подавляющей конкуренцию.

Политический фон складывается иначе. Президент Трамп называл опасения по поводу безопасности ИИ мистификацией, а советник Дэвид Сакс охарактеризовал эти опасения как преувеличенные. Таким образом, лаборатории предлагают самоограничение в тот момент, когда администрация этого не требует.

Почему это важно

Для тех, кто выбирает инструменты, практический вопрос в том, станет ли независимая оценка нормой. Модель, прошедшая аудит сторонней организации, — это совсем не то же самое, что модель, чьи заявления о безопасности основаны исключительно на словах её создателя. Пока ничего не подписано — это переговоры, а не обязательства, — но за этим направлением стоит следить, поскольку оно изменит реальную ценность документации о безопасности, предоставляемой поставщиками.