קליפורניה חתמה על חבילת חוקים להגנת ילדים ברשת ב-10 בספטמבר, ואחד מהם קובע תקדים שכל שאר התעשייה תצטרך להתמודד איתו.
חוק אדם (Adam's Law)
SB 1119, שנכתב על ידי הסנטור סטיב פדייה (Steve Padilla) יחד עם חברות האסיפה באפי ויקס (Buffy Wicks) ורבקה באוור-קהאן (Rebecca Bauer-Kahan), חל על צ'אטבוטים חברתיים מבוססי בינה מלאכותית. הוא מחייב מפעילים ליישם פרוטוקולי משבר במקרים של מחשבות אובדניות, לספק בקרות הוריות, ולשלוח התראות אם ילד מבטל הגדרות בטיחות.
הסעיף הפורץ דרך הוא סעיף הפיקוח. החוק מתואר כראשון בארה"ב המחייב חברות לבצע ביקורות בטיחות עצמאיות לילדים והערכות סיכון שנתיות. לא הערכה עצמית, ולא דיווח שמוגש לאחר שמשהו כבר השתבש.
שאר החבילה
עוד תריסר חוקים נחתמו לצידו. SB 867 חל על צעצועי צ'אטבוט חברתיים, ומרחיב את אותה דאגה למוצרים פיזיים המיועדים לילדים צעירים. AB 1856 קובע אמצעי אימות גיל עבור יישומי תוכנה. AB 1709 אוסר על פלטפורמות מדיה חברתית להציע מאפייני מעורבות ממכרים למשתמשים מתחת לגיל 16. AB 2 מעלה את סכום הפיצויים שפלטפורמה גדולה עלולה לשאת בו כאשר התנהלותה פוגעת בילד, וקורבנות דיפפייק יכולים לתבוע סעד אזרחי של עד 250,000 דולר לתביעה.
מדוע קליפורניה חשובה מעבר לגבולותיה
חברות לעיתים רחוקות בונות מוצר אחד לקליפורניה ומוצר אחר לכל השאר. דרישת ציות שנכתבת בסקרמנטו נוטה להפוך לברירת המחדל הארצית, וכך פעלו כללי הפרטיות והפליטות של המדינה במשך שנים.
למה לצפות
אם אתם בונים על גבי פלטפורמת צ'אטבוט חברתי, או משיקים משהו עם דמות שקטין עשוי לשוחח איתה, דרישת הביקורת היא הסעיף שצריך לתכנן לקראתו. מדובר בעלות חיצונית חוזרת, לא בתרגיל ציות חד-פעמי, והיא חלה על המפעילים ולא על ספק המודל שמאחוריהם.
עבור כל השאר, האות המשמעותי הוא שהרגולטורים הפסיקו להתייחס לצ'אטבוטים כתוכנה גנרית והחלו להתייחס למוצרים חברתיים כקטגוריה נפרדת עם חובות משלה.