שלוש חברות המתחרות זו בזו כמעט בכל תחום מנהלות ביניהן בשקט שיחות בנושא בטיחות. OpenAI אישרה ב-15 בספטמבר כי הדיונים שלה עם Anthropic ו-Google DeepMind נמשכים כבר מספר שבועות.
מה נמצא על השולחן
עלו עד כה שלושה מנגנונים. הראשון הוא הטמעת גורמי הערכה חיצוניים בתוך החברות כדי לפקח על עבודת הבטיחות מבפנים, במקום לבחון אותה בדיעבד. השני הוא גוף תקינה תעשייתי חדש. השלישי, והבלתי־שגרתי מכולם, הוא תיאום על קצב הפיתוח של הבינה המלאכותית המתקדמת עצמו.
כריס לוהיין, ראש מדיניות הגלובלית של OpenAI, אמר כי החברה תומכת בסעיף בחוק ה-FRONTIER Act שיחייב את המעבדות המובילות לאפשר כניסה של גופי אימות עצמאיים. סם אלטמן אמר כי OpenAI תטמיע גורמי הערכה חיצוניים. דמיס האסביס קרא להקמת גוף תקינה חדש בארה"ב שישמש כגוף פיקוח.
מה הצית את זה
מנכ"ל Anthropic דריו אמודיי פרסם ביום שבת חיבור שבו טען כי על התעשייה לפעול יחד כדי להאט את קצב הפיתוח של הבינה המלאכותית המתקדמת ולמנוע סיכונים קטסטרופליים. אישוריהן של OpenAI ו-Google הגיעו כמה ימים לאחר מכן.
שאלת ההגבלים העסקיים
הסכמה בין מתחרים להאט את הקצב נראית, על פניה, כמו הסכם בלתי חוקי. עמדתו של לוהיין היא שאין צורך בפטור ממשלתי לצורך תיאום בנושאי בטיחות. משקיפים שצוטטו על ידי TechCrunch הביעו פחות ודאות, וציינו כי השיחות עלולות למשוך ביקורת אם יימצא שהתיאום מדכא תחרות.
הרקע הפוליטי דווקא הפוך. הנשיא טראמפ כינה את החששות בנושא בטיחות הבינה המלאכותית תרמית, והיועץ דיוויד סאקס תיאר את החששות כמוגזמים. כך שהמעבדות מציעות ריסון עצמי בדיוק ברגע שבו הממשל אינו דורש דבר כזה.
למה זה חשוב
עבור מי שבוחר כלים, השאלה המעשית היא האם הערכה עצמאית תהפוך לנורמה. מודל שנבדק על ידי גוף חיצוני הוא הצעה שונה לגמרי ממודל שטענות הבטיחות שלו מתבססות כולן על היצרן שלו. דבר עדיין לא נחתם — מדובר בשיחות, לא בהתחייבויות — אך הכיוון ראוי למעקב, שכן הוא עשוי לשנות את הערך האמיתי של תיעוד הבטיחות של ספק כלשהו.