Meta призупинила функцію обміну розмовами у Muse, персональному ШІ-агенті, побудованому на тих самих моделях Muse Spark, що й Meta AI. Призупинення відбулося 20 жовтня, після того як Ars Technica звернулася до Meta із запитом щодо дослідження, опублікованого компанією з кібербезпеки Claroc.

Що виявила Claroc

Коли користувач Muse ділився чатом, застосунок створював публічну сторінку, веб-адреса якої формувалася з назви розмови та випадкового ідентифікатора. Щоразу, коли хтось відкривав таку сторінку, повна адреса шукалася через DNS, а комерційні сервіси пасивного DNS (passive-DNS) зберігають історію таких запитів. Тож назва та ідентифікатор, які разом слугували ключем до сторінки, ставали доступними для пошуку.

У звіті від 18 жовтня Claroc повідомляє, що один-єдиний пошук через пасивний DNS видав понад 6800 адрес спільного доступу Muse. Дослідники компанії відкрили кілька сотень із них без входу в акаунт, і більшість завантажилися. Переважна частина не містила нічого небезпечного, але в меншості виявився чутливий матеріал, який Claroc описує лише за категоріями: заявка на кредит для малого бізнесу, внутрішній огляд доходів компанії, список справ із попередженням про банківське шахрайство та частиною номера рахунку, звіт про результати інвестора в нерухомість, календар відпусток персоналу та нотатки кандидата для підготовки до конфіденційної розмови з рекрутером на керівну посаду.

Claroc повідомляє, що звернулася до програми винагород за виявлення вразливостей (bug bounty) Meta 8 жовтня. За її словами, немає доказів того, що хтось зловживав цими сторінками.

Реакція Meta

Meta повідомила Ars Technica, що призупинила цю функціональність, доки розглядає звіт і обмірковує зміни щодо того, як посилання можуть бути виявлені. Після призупинення Claroc повторно перевірила 40 спільних посилань, які раніше відкривалися без акаунту; жодне з них не відкрилося. Самі адреси, включно з назвами, досі залишаються в історії пасивного DNS. Meta не повідомила, коли функція обміну повернеться і чи працюватимуть старі посилання знову.

Що це означає, якщо ви користуєтеся ШІ-чат-асистентами

Ставтеся до посилання спільного доступу як до публічної сторінки. Будь-хто, хто отримає або знайде адресу, може відкрити її, а в цьому випадку навіть сама назва витікала самостійно. Не діліться чатами, які містять дані клієнтів, фінансову інформацію, відомості про здоров'я чи кадрові дані.

Звертайте увагу на назву. Якщо назва чату описує щось приватне, не діліться цим чатом; натомість скопіюйте корисну частину в документ, який контролюєте ви самі.

Перегляньте, чим ви вже ділилися в будь-якому асистенті, і видаліть посилання, які вам більше не потрібні. Для команд Claroc рекомендує повідомити співробітників про те, що спільні ШІ-чати стають публічними сторінками, і відстежувати їх як форму вихідної передачі даних.

Порівнюєте асистентів для робочого використання? Дивіться Meta AI vs ChatGPT.