ב-26 באוקטובר פרסמה Cloudflare תיאור מפורט של חשיפת נתונים ב-Workers AI, השירות שלה להרצת מודלים של בינה מלאכותית דרך API. הבעיה פגעה במודל אחד, GLM-5.3, בין 27 באוגוסט ל-9 בספטמבר 2026. ב-155 תגובות, המודל יצר טקסט תוך שימוש בנתונים שנותרו מבקשות קודמות, שיכלו לכלול בקשות ותשובות חלקיות של משתמשים אחרים.
מה השתבש
שתי בעיות התחברו יחד. Cloudflare הגדירה את GLM-5.3 עם חלון הקשר (context window) של 1,048,576 טוקנים, אבל מאגר הזיכרון המחזיק את מצב העבודה של המודל (ה-KV cache) היה בעל מקום ל-681,280 טוקנים בלבד. באג ב-SGLang, תוכנת ההגשה בקוד פתוח שבה Cloudflare משתמשת, גרם לכך שבקשות ארוכות יותר מכך טופלו כמוצלחות במקום להידחות. המודל המשיך אז מדפי מטמון ישנים שנותרו מבקשות קודמות לאותו מודל.
זו הסיבה שרק בקשות ארוכות מ-681,280 טוקנים נפגעו. Cloudflare מציינת כי רק מספר קטן של לקוחות שלחו בקשות כאלה, שהן נראו כשימוש רגיל בהקשר ארוך, וכי לא נמצאו ראיות לניצול מכוון. אף מודל אחר של Workers AI לא נפגע.
כיצד הבעיה התגלתה ותוקנה
חוקר האבטחה גדי עברון מ-Knostic דיווח על הבעיה דרך תוכנית ציד הבאגים (bug bounty) של Cloudflare באתר HackerOne בשעות הלילה המאוחרות של ה-8 בספטמבר (UTC). Cloudflare שחזרה את הבעיה עם שני חשבונות נפרדים ביום שלמחרת, הפכה את המודל לפרטי בשעה 14:00 UTC ב-9 בספטמבר ושחזרה אותו בשעה 19:40 UTC.
התיקונים כוללים מאגר מטמון גדול מספיק עבור מלוא ההקשר, כ-2.04 מיליון טוקנים; שינויים ב-SGLang כך שבקשות מעל האורך המותר נדחות לפני העברת כל נתון; בדיקות checksum על העברות מטמון; ובדיקות פריסה חדשות המשוות בין גודל הזיכרון לאורך ההקשר. השינויים ב-SGLang הוגשו לפרויקט הקוד הפתוח. הדוח אינו מתאר כיצד נודע ללקוחות שנפגעו על כך.
המשמעות עבור עסקים המשתמשים ב-APIs מתארחים של בינה מלאכותית
יש להתייחס לכל בקשה (prompt) כאל נתונים שאתם משתפים עם ספק. גם עם ספק גדול ומוכר, באג בשירות ההגשה עלול לחשוף אותם למישהו אחר. יש לשלוח רק את מה שהמשימה דורשת, ולהסיר שמות לקוחות, פרטי התחברות וסודות לפני שהם מגיעים למודל.
יש להיזהר בקצוות. הבאג הזה פגע רק בבקשות בקצה הרחוק של חלון ההקשר המפורסם. אם אתם מעבירים מסמכים ארוכים מאוד דרך API, כדאי לשקול לפצל אותם לבקשות קטנות יותר במקום להסתמך על המקסימום.
יש לבדוק כיצד ספק מטפל באירועים. בבחירת ספק בינה מלאכותית, כדאי לחפש תוכנית ציד באגים פומבית ודוחות מפורטים לאחר אירוע כמו זה. אם שלחתם בקשות ארוכות מ-681,280 טוקנים ל-GLM-5.3 ב-Workers AI בין 27 באוגוסט ל-9 בספטמבר, מומלץ לשאול את Cloudflare האם הבקשות שלכם היו בין אלו שנפגעו.