Meta приостановила функцию обмена переписками в Muse — приложении с личным AI-агентом на тех же моделях Muse Spark, что и Meta AI. Это произошло 20 октября, после того как Ars Technica спросила Meta об исследовании компании по безопасности Claroc.
Что нашла Claroc
Когда пользователь Muse делился чатом, приложение создавало публичную страницу, адрес которой складывался из названия переписки и случайного идентификатора. Каждый раз, когда кто-то открывал такую страницу, полный адрес запрашивался в DNS, а коммерческие сервисы пассивного DNS хранят историю таких запросов. Так название и идентификатор, которые вместе служат ключом к странице, стало возможно найти поиском.
В отчёте от 18 октября Claroc пишет, что один запрос к пассивному DNS вернул больше 6800 адресов страниц Muse. Исследователи открыли несколько сотен из них без входа в аккаунт, и большинство загрузилось. Большая часть была безобидной, но в меньшинстве нашлись конфиденциальные данные, которые Claroc описывает только по типам: заявка малого бизнеса на кредит, внутренний отчёт компании о выручке, список дел с уведомлением банка о мошенничестве и частью номера счёта, отчёт инвестора в недвижимость, график отпусков сотрудников и заметки кандидата к конфиденциальному разговору с хедхантером.
Claroc сообщает, что 8 октября передала информацию о проблеме в программу Meta по поиску уязвимостей. По её словам, признаков того, что кто-то воспользовался страницами во вред, нет.
Ответ Meta
Meta сообщила Ars Technica, что приостановила функцию на время изучения отчёта и думает, как изменить то, насколько ссылки можно обнаружить. После паузы Claroc перепроверила 40 страниц, которые раньше открывались без аккаунта, — ни одна не открылась. Сами адреса, вместе с названиями, по-прежнему есть в истории пассивного DNS. Когда обмен вернётся и заработают ли старые ссылки, Meta не сообщила.
Что это значит, если вы пользуетесь AI-ассистентами
Считайте ссылку на чат публичной страницей. Открыть её может любой, кто получит или найдёт адрес, а здесь утекло даже само название. Не делитесь чатами с данными клиентов, финансами, сведениями о здоровье или кадровыми вопросами.
Следите за названием. Если название чата выдаёт что-то личное, не делитесь этим чатом — перенесите нужную часть в документ, который вы контролируете.
Проверьте, чем вы уже поделились в любых ассистентах, и удалите ненужные ссылки. Командам Claroc советует объяснить сотрудникам, что общие AI-чаты становятся публичными страницами, и отслеживать их как передачу данных наружу.
Выбираете ассистента для работы? Посмотрите сравнение Meta AI и ChatGPT.