Meta hat die Funktion zum Teilen von Gesprächen in Muse pausiert, der persönlichen KI-Agenten-App, die auf denselben Muse-Spark-Modellen wie Meta AI basiert. Die Pause erfolgte am 20. Oktober, nachdem Ars Technica Meta zu den von der Sicherheitsfirma Claroc veröffentlichten Erkenntnissen befragt hatte.

Was Claroc herausfand

Wenn ein Muse-Nutzer einen Chat teilte, erstellte die App eine öffentliche Seite, deren Webadresse aus dem Titel des Gesprächs plus einer zufälligen ID zusammengesetzt war. Jedes Mal, wenn jemand eine solche Seite öffnete, wurde die vollständige Adresse per DNS abgefragt, und kommerzielle Passive-DNS-Dienste speichern eine Historie dieser Abfragen. Dadurch wurden der Titel und die ID, die zusammen als Schlüssel zur Seite dienen, durchsuchbar.

In einem Bericht vom 18. Oktober schreibt Claroc, dass eine einzige Passive-DNS-Suche mehr als 6.800 Muse-Freigabeadressen ergab. Die Forscher öffneten einige Hundert davon ohne Anmeldung, und die meisten luden erfolgreich. Die meisten waren harmlos, aber eine Minderheit enthielt sensibles Material, das Claroc nur nach Kategorie beschreibt: einen Kreditantrag eines Kleinunternehmens, die interne Umsatzprüfung eines Unternehmens, eine Aufgabenliste mit einem Hinweis auf Bankbetrug und einem Teil einer Kontonummer, den Leistungsbericht eines Immobilieninvestors, einen Urlaubskalender des Personals sowie die Vorbereitungsnotizen eines Kandidaten für ein vertrauliches Executive-Search-Gespräch.

Claroc gibt an, das Problem am 8. Oktober im Rahmen von Metas Bug-Bounty-Programm gemeldet zu haben. Es gebe keine Hinweise darauf, dass die Seiten missbraucht wurden.

Metas Reaktion

Meta teilte Ars Technica mit, man habe die Funktion pausiert, während der Bericht geprüft und Änderungen daran erwogen werden, wie Links auffindbar sein können. Nach der Pause überprüfte Claroc erneut 40 Freigaben, die zuvor ohne Konto geöffnet werden konnten; keine davon ließ sich mehr öffnen. Die Adressen selbst, einschließlich der Titel, befinden sich weiterhin in der Passive-DNS-Historie. Meta hat nicht mitgeteilt, wann die Freigabefunktion zurückkehren wird oder ob alte Links wieder funktionieren werden.

Was das für Nutzer von KI-Chat-Assistenten bedeutet

Behandeln Sie einen Freigabe-Link als öffentliche Seite. Jeder, der die Adresse erhält oder findet, kann sie öffnen, und in diesem Fall ist sogar schon der Titel für sich genommen durchgesickert. Teilen Sie keine Chats, die Kundendaten, Finanzinformationen, Gesundheits- oder Personaldetails enthalten.

Achten Sie auf den Titel. Wenn der Titel eines Chats etwas Privates beschreibt, teilen Sie diesen Chat nicht; kopieren Sie stattdessen den nützlichen Teil in ein Dokument, das Sie selbst kontrollieren.

Überprüfen Sie, was Sie bereits geteilt haben, in jedem Assistenten, und löschen Sie Links, die Sie nicht mehr benötigen. Für Teams empfiehlt Claroc, Mitarbeiter darüber zu informieren, dass geteilte KI-Chats zu öffentlichen Seiten werden, und dies als eine Form des ausgehenden Datentransfers zu betrachten.

Vergleichen Sie Assistenten für die berufliche Nutzung? Siehe Meta AI vs ChatGPT.