Mistral AI שחררה את Mistral Large 4, והפרט שמייחד אותו הוא לא הגודל אלא הרישיון: המשקולות בדרך.
מה זה
Large 4 הוא מודל mixture-of-experts מולטימודלי מטבעו עם טריליון פרמטרים, מתוכם 49 מיליארד פעילים בכל טוקן נתון. הוא זמין כעת כתצוגה מקדימה ציבורית דרך ה-API, כאשר משקולות פתוחות צפויות בסוף אוקטובר.
התמחור עומד על 1.36$ למיליון טוקני קלט ו-4.18$ למיליון טוקני פלט. לשם השוואה, GPT-6 Sol של OpenAI מתומחר ב-2$ ו-10$, ו-Claude Sonnet 5.5 של Anthropic ב-2$ ו-10$ באותו אופן.
מה Mistral טוענת
ההכרזה פותחת עם אבטחה: Mistral טוענת ש-Large 4 משיג 82% בשחזור ותיקון פגיעויות, מה שהיא מכנה הציון הגבוה ביותר מבין כל המודלים. היא גם מדווחת על 61.7% ב-DeepSWE v1.1 עבור כתיבת קוד, וטוענת שהוא עולה על כל מודלי הקוד הפתוח במבחן הסוכן המשפטי של HarveyAI וחורג מ-GPT-6 Astra במשימות משפטיות ופיננסיות.
אלו הם המספרים של היצרנית עצמה. הערכות בלתי תלויות יגיעו לאחר שהמשקולות יהיו פומביות, ואז יהיה שווה להתייחס אליהן ברצינות.
למה משקולות פתוחות בגודל כזה חשובות
מודל שאפשר להוריד הוא מודל שאפשר להריץ בתוך התשתית העצמית, לכוונן, ולהמשיך להריץ גם אם היצרנית משנה את המחירים או את התנאים שלה. עבור תעשיות מפוקחות באירופה בפרט, שבהן מיקום האחסון של הנתונים הוא תנאי ולא העדפה, מודל ברמת חזית עם משקולות פורסמו מחברה אירופית משנה את שיח הרכש.
הקושי הוא החומרה. טריליון פרמטרים, גם עם 49 מיליארד פעילים, זה לא משהו שמריצים על תחנת עבודה. משקולות פתוחות בקנה מידה כזה מועילות בעיקר לארגונים עם יכולת GPU משלהם, או לספקי ענן שיארחו אותו.
למי כדאי להתעניין בזה
צוותים שזקוקים למודל חזק תחת שליטתם שלהם, וצוותים בתחומי המשפט, הפיננסים או האבטחה, שבהם Mistral מרכזת את הטענות שלה. לכל השאר, התצוגה המקדימה ב-API במחיר 1.36$ ו-4.18$ היא פשוט אחת הדרכים הזולות ביותר לנסות החודש מודל בגודל חזית.