Три компанії, які конкурують практично в усьому, тихо обговорюють між собою питання безпеки. OpenAI 15 вересня підтвердила, що її переговори з Anthropic та Google DeepMind тривають уже кілька тижнів.

Що обговорюється

На поверхню випливли три механізми. Перший — залучення незалежних оцінювачів безпосередньо до роботи компаній, щоб контролювати роботу над безпекою зсередини, а не перевіряти її постфактум. Другий — новий галузевий орган зі стандартів. Третій, і найнезвичніший, — координація темпів розвитку передових моделей як таких.

Кріс Лехейн, керівник глобальної політики OpenAI, заявив, що компанія підтримує положення закону FRONTIER Act, яке зобов'язало б провідні лабораторії допускати незалежні організації з перевірки. Сем Альтман сказав, що OpenAI залучить незалежних оцінювачів. Деміс Хассабіс закликав створити новий орган зі стандартів у США, який діяв би як наглядовий орган.

Що стало приводом

Генеральний директор Anthropic Даріо Амодей у суботу опублікував есе, в якому стверджував, що галузі варто спільно уповільнити темпи розвитку передового ШІ, аби уникнути катастрофічних ризиків. Підтвердження від OpenAI та Google з'явилися вже за кілька днів.

Антимонопольне питання

Домовленість конкурентів рухатися повільніше на перший погляд має вигляд незаконної змови. Позиція Лехейна полягає в тому, що для координації дій у сфері безпеки державний дозвіл не потрібен. Опитані виданням TechCrunch спостерігачі були менш впевнені, зазначивши, що переговори можуть привернути увагу регуляторів, якщо виявиться, що координація придушує конкуренцію.

Політичний контекст цьому суперечить. Президент Трамп назвав занепокоєння щодо безпеки ШІ містифікацією, а радник Девід Сакс охарактеризував ці побоювання як перебільшені. Тож лабораторії пропонують самообмеження в момент, коли адміністрація його не вимагає.

Чому це важливо

Для тих, хто обирає інструменти, практичне питання полягає в тому, чи стане незалежна оцінка нормою. Модель, перевірена сторонньою організацією, — це зовсім інше, ніж модель, чиї заяви про безпеку ґрунтуються виключно на словах виробника. Поки що нічого не підписано — це лише переговори, а не зобов'язання, — але за цим напрямом варто стежити, адже він може змінити реальну цінність документації з безпеки, яку надає постачальник.