Meta השהתה את תכונת שיתוף השיחות באפליקציית Muse, סוכן ה-AI האישי הבנוי על אותם מודלי Muse Spark כמו Meta AI. ההשהיה הגיעה ב-20 באוקטובר, לאחר ש-Ars Technica פנתה ל-Meta בעקבות מחקר שפרסמה חברת האבטחה Claroc.

מה מצאה Claroc

כאשר משתמש Muse שיתף שיחה, האפליקציה יצרה דף ציבורי שכתובת האינטרנט שלו נבנתה מכותרת השיחה בתוספת מזהה אקראי. בכל פעם שמישהו פתח דף כזה, הכתובת המלאה עברה חיפוש ב-DNS, ושירותי passive-DNS מסחריים שומרים היסטוריה של חיפושים אלה. כך הכותרת והמזהה, שיחד משמשים כמפתח לדף, הפכו לניתנים לחיפוש.

בדוח מיום 18 באוקטובר, Claroc מציינת כי חיפוש יחיד ב-passive-DNS החזיר למעלה מ-6,800 כתובות שיתוף של Muse. חוקריה פתחו כמה מאות מהן ללא התחברות, ורובן נטענו. רובן היו לא מזיקות, אך במיעוטן היה חומר רגיש, שאותו Claroc מתארת רק לפי קטגוריה: בקשת הלוואה לעסק קטן, סקירת הכנסות פנימית של חברה, רשימת מטלות הכוללת התראה על הונאה בנקאית וחלק ממספר חשבון, דוח ביצועים של משקיע נדל"ן, לוח חופשות של עובדים, והערות הכנה של מועמד לקראת שיחה סודית עם חברת איתור בכירים.

Claroc מציינת כי דיווחה על הבעיה לתוכנית ציד הבאגים של Meta ב-8 באוקטובר. היא אומרת שאין לה עדות לכך שמישהו ניצל לרעה את הדפים.

התגובה של Meta

Meta מסרה ל-Ars Technica כי השהתה את הפונקציונליות בזמן שהיא בוחנת את הדוח ושוקלת שינויים באופן שבו ניתן לאתר קישורים. לאחר ההשהיה, Claroc בדקה מחדש 40 שיתופים שבעבר נפתחו ללא חשבון; אף אחד מהם לא נפתח. הכתובות עצמן, כולל הכותרות, עדיין נמצאות בהיסטוריית ה-passive-DNS. Meta לא ציינה מתי השיתוף יחזור או האם קישורים ישנים יעבדו שוב.

מה המשמעות עבור משתמשי עוזרי צ'אט מבוססי AI

התייחסו לקישור שיתוף כאל דף ציבורי. כל מי שמקבל או מוצא את הכתובת יכול לפתוח אותה, ובמקרה הזה אפילו הכותרת לבדה דלפה. אל תשתפו שיחות המכילות נתוני לקוחות, כספים, פרטים רפואיים או פרטי משאבי אנוש.

שימו לב לכותרת. אם כותרת של שיחה מתארת משהו פרטי, אל תשתפו את אותה שיחה; במקום זאת העתיקו את החלק השימושי למסמך שבשליטתכם.

בדקו מה כבר שיתפתם בכל עוזר שהוא ומחקו קישורים שאינכם זקוקים להם עוד. עבור צוותים, Claroc ממליצה ליידע עובדים שצ'אטים משותפים של AI הופכים לדפים ציבוריים, ולהתייחס אליהם כאל העברת מידע החוצה.

משווים בין עוזרי AI לשימוש בעבודה? ראו Meta AI מול ChatGPT.