- מיסטרל 3 מאגדת עשרה דגמים פתוחים, החל מדגם חזית רב-מודאלי ועד לסדרה הקומפקטית מיניסטרל 3.
- ארכיטקטורת Mixture of Experts מאפשרת דיוק גבוה עם צריכת חשמל נמוכה יותר ופריסות יעילות בקצה.
- דגמים קטנים יותר יכולים לפעול במצב לא מקוון על גבי GPU יחיד או על מכשירים הדורשים משאבים נמוכים, ובכך לחזק את הריבונות הדיגיטלית.
- אירופה צוברת תאוצה בתחום הבינה המלאכותית הודות לגישה הפתוחה של מיסטרל ולשותפויותיה עם גופים ציבוריים וחברות.
הסטארט-אפ הצרפתי Mistral AI היא הציבה את עצמה במרכז הדיון על בינה מלאכותית באירופה עם ה- שיגור מיסטרל 3משפחה חדשה של דגמים פתוחים שנועדה לעבוד הן במרכזי נתונים גדולים והן במכשירים עם משאבים מוגבלים מאוד. החברה רחוקה מלהיכנס למרוץ עיוור על גודל המודל. היא דוגלת בבינה מבוזרת שניתן ליישם בכל מקום שצריך.: בענן, בקצה, או אפילו בלי חיבור לאינטרנט.
אסטרטגיה זו מציבה מיסטרל כאחת החלופות האירופיות הבודדות המסוגלות לעמוד מול ענקיות כמו OpenAI, גוגל או אנתרופיק, והצעה חלופות ל-ChatGPTאבל מנקודת מבט שונה: דגמים במשקל פתוח תחת רישיון מתירניניתנת להתאמה לצרכים של חברות ומנהלים ציבוריים, ועם דגש חזק על שפות אירופאיות ופריסות ריבוניות בתוך היבשת.
מהו מיסטרל 3 ולמה הוא רלוונטי?
המשפחה מיסטרל 3 זה נוצר על ידי עשר דגמים במשקל פתוח שוחרר תחת רישיון אפאצ'י 2.0זה מאפשר שימוש מסחרי כמעט ללא הגבלות. הוא כולל דגם דגל מסוג Frontier. מיסטרל לארג' 3וסדרת דגמים קומפקטיים תחת המותג משרדי 3אשר מגיעים בשלושה גדלים משוערים (14.000, 8.000 ו-3.000 מיליון פרמטרים) ובמספר וריאציות בהתאם לסוג המשימה.
החידוש המרכזי הוא שהמודל הגדול אינו מוגבל לטקסט: מיסטרל לארג' 3 הוא רב-מודאלי ורב-לשוניהיא מסוגלת לעבוד עם טקסט ותמונות באותה ארכיטקטורה ומציעה תמיכה חזקה בשפות אירופאיות. בניגוד לגישות אחרות המשלבות מודלים של שפה וראייה בנפרד, גישה זו מסתמכת על מערכת משולבת אחת שיכולה לנתח מסמכים גדולים, להבין תמונות ולפעול כעוזר מתקדם למשימות מורכבות.
במקביל, הסדרה משרדי 3 הוא נועד לעבוד בתרחישים שבהם גישה לענן מוגבלת או לא קיימת כלל. דגמים אלה יכולים לפעול על מכשירים עם כמות קטנה של זיכרון של 4 ג'יגה-בייט או על כרטיס מסך יחיד, מה שפותח את הדלת לשימוש בו ב מחשבים ניידים, טלפונים ניידים, רובוטים, רחפנים או מערכות משובצות ללא תלות בחיבור אינטרנט קבוע או בספקים חיצוניים.
עבור המערכת האקולוגית האירופית, שבה השיחה על ריבונות דיגיטלית ושליטה בנתונים שילוב זה של מודל גבול פתוח ומודלים קלים הניתנים לפריסה מקומית נוכח מאוד ורלוונטי במיוחד, הן עבור חברות פרטיות והן עבור ממשל ציבורי המחפשים חלופות לפלטפורמות הגדולות של ארה"ב וסינית.
ארכיטקטורה, תמהיל מומחים וגישה טכנית
הלב הטכני של מיסטרל לארג' 3 היא ארכיטקטורה של תערובת של מומחים (MoE), עיצוב שבו המודל יש לה מספר "מומחים" פנימיים., אבל מפעיל רק חלק מהם כדי לעבד כל אסימוןבפועל, המערכת מטפלת 41.000 מיליארד פרמטרים פעילים מתוך סך של millones 675.000זה מאפשר שילוב של יכולת חשיבה גבוהה עם צריכת אנרגיה ומחשוב מבוקרת יותר בהשוואה למודל צפוף מקביל.
ארכיטקטורה זו, בשילוב עם חלון הקשר של עד 256.000 אסימוניםזה מאפשר ל-Mistral Large 3 לעבד כמויות גדולות מאוד של מידע, כגון חוזים ארוכים, תיעוד טכני או מאגרי ידע של תאגידים גדולים. המודל מכוון למקרי שימוש כגון ניתוח מסמכים, סיוע בתכנות, יצירת תוכן, סוכני בינה מלאכותית ואוטומציה של תהליכי עבודה.
במקביל, המודלים משרדי 3 הם מוצעים בשלוש גרסאות עיקריות: בסיס (מודל גנרי מאומן מראש), לְהוֹרוֹת (מותאם לשיחה ומשימות עוזר) ו הַנמָקָה (מותאם לצורך חשיבה לוגית וניתוח מעמיק יותר). כל הגרסאות תומכות חזון והם מטפלים בהקשרים רחבים - בין 128 ל-256 אסימונים - תוך שמירה על תאימות עם שפות מרובות.
הרעיון הבסיסי, כפי שהסביר המייסד השותף והמדען הראשי גיום למפל, הוא שב"יותר מ-90%" ממקרי השימוש הארגוניים, דגם קטן ומכוון היטב מספיק. ויתרה מכך, יעיל יותר. באמצעות טכניקות כגון שימוש ב נתונים סינתטיים עבור משימות ספציפיותהחברה טוענת כי מודלים אלה יכולים להתקרב או אפילו לעלות על אפשרויות גדולות וסגורות ביישומים ספציפיים מאוד, תוך הפחתת עלויות, השהייה וסיכוני פרטיות.
כל המערכת האקולוגית הזו משולבת עם מגוון רחב יותר של מוצרי החברה: החל מ ממשק API של סוכני מיסטרלעם מחברים להפעלת קוד, חיפוש באינטרנט או יצירת תמונות, עד קוד מיסטרל לסיוע למתכנתים, מודל ההיגיון השלום ואת הפלטפורמה סטודיו AI לפריסת יישומים, ניהול ניתוחים ותחזוקת יומני שימוש.
שיתוף פעולה עם NVIDIA ופריסה בתחום מחשוב-על ומחשוב קצה
גולת הכותרת של ההשקה היא הברית בין מיסטרל בינה מלאכותית ו-NVIDIA, אשר מציבה את מיסטרל 3 כמשפחת דגמים המותאמים היטב למערכות מחשוב-על ופלטפורמות קצה של היצרנית האמריקאית. מיסטרל לארג' 3בשילוב עם תשתיות כגון NVIDIA GB200 NVL72, לפי NVIDIA שיפורי ביצועים של עד פי עשרה בהשוואה לדור הקודם המבוסס על מעבדי GPU H200, תוך ניצול מקביליות מתקדמת, זיכרון משותף דרך NVLink ופורמטים מספריים אופטימליים כגון NVFP4.
העבודה המשותפת לא נעצרת בחומרה מתקדמת. הסדרה משרדי 3 הוא עבר אופטימיזציה לפעולה מהירה בסביבות כגון מחשבים אישיים ומחשבים ניידים עם כרטיסי מסך RTX, מכשירי Jetson ופלטפורמות קצההקלה על הסקות מקומיות בתרחישים תעשייתיים, רובוטיים או צרכניים. מסגרות פופולריות כגון Llama.cpp ואולמה הם הותאמו כדי לנצל את המודלים הללו, מה שמפשט את פריסתם על ידי מפתחים וצוותי IT.
יתר על כן, אינטגרציה עם המערכת האקולוגית NVIDIA NeMo —כולל כלים כמו Data Designer, Guardrails ו-Agent Toolkit— מאפשרים לחברות לבצע כוונון עדין, בקרת אבטחה, תזמור סוכנים ועיצוב נתונים מבוסס על מיסטרל 3. במקביל, מנועי הסקה כגון TensorRT-LLM, SGLang ו-vLLM כדי להפחית את העלות לכל אסימון ולשפר את יעילות האנרגיה.
דגמי המיסטרל 3 זמינים כעת אצל קמעונאים גדולים ספקי ענן ומאגרים פתוחיםוהם יגיעו גם בצורה של מיקרו-שירותי NIM בתוך קטלוג NVIDIA, משהו מעניין במיוחד עבור חברות אירופאיות שכבר פועלות על ערימות של יצרן זה ורוצות לאמץ בינה מלאכותית גנרטיבית עם שליטה רבה יותר על הפריסה.
כל המסגרת הזו מאפשרת ל-Mistral 3 לחיות הן במרכזי נתונים גדולים והן במכשירים בקצה, מה שמחזק את הנרטיב שלה כ... בינה מלאכותית באמת נפוצה ומבוזרת, פחות תלויים בשירותים מרחוק ומותאמים יותר לצרכים הספציפיים של כל לקוח.
מודלים קטנים, פריסה לא מקוונת ומקרי שימוש בקצה
אחד מעמודי התווך של השיח של מיסטרל הוא ש רוב היישומים בעולם האמיתי אינם דורשים את המודל הגדול ביותר האפשרי.אבל כזה שמתאים היטב למקרה השימוש וניתן לכוונן אותו באמצעות נתונים ספציפיים. כאן נכנסים לתמונה תשעת הדגמים בסדרה. משרדי 3צפוף, בעל ביצועים גבוהים, וזמין בגדלים וגרסאות שונים בהתאם לדרישות עלות, מהירות או קיבולת.
מודלים אלה נועדו לעבוד ב כרטיס מסך יחיד או אפילו על חומרה צנועהזה מאפשר פריסות מקומיות על שרתים פנימיים, מחשבים ניידים, רובוטים תעשייתיים או מכשירים הפועלים בסביבות מרוחקות. עבור חברות המטפלות במידע רגיש - החל מיצרנים ועד מוסדות פיננסיים או סוכנויות ממשלתיות - היכולת להפעיל בינה מלאכותית בתוך התשתית שלהן, מבלי לשלוח נתונים לענן, היא יתרון משמעותי.
החברה מצטטת דוגמאות כגון רובוטים של מפעלים המנתחים נתוני חיישנים בזמן אמת ללא חיבור לאינטרנט, רחפנים למקרי חירום והצלה, כלי רכב עם עוזרי בינה מלאכותית מתפקדים במלואם באזורים ללא כיסוי. או כלים חינוכיים המציעים עזרה לא מקוונת לתלמידים. על ידי עיבוד הנתונים ישירות במכשיר, ה- פרטיות ושליטה במידע של משתמשים.
למפל מתעקש שנגישות היא חלק מרכזי במשימה של מיסטרל: ישנם מיליארדי אנשים עם טלפונים ניידים או מחשבים ניידים אך ללא גישה אמינה לאינטרנטאשר יכולים להפיק תועלת ממודלים המסוגלים לפעול באופן מקומי. בדרך זו, החברה מנסה להפריך את התפיסה שבינה מלאכותית מתקדמת חייבת להיות קשורה תמיד למרכזי נתונים גדולים הנשלטים על ידי קבוצה קטנה של חברות.
במקביל, מיסטרל החלה לעבוד עם שותפים בינלאומיים בתחום המכונה בינה מלאכותית פיזיתבין שיתופי הפעולה שהוזכרו נמצאים סוכנות המדע והטכנולוגיה HTX של סינגפור לרובוטים, אבטחת סייבר ומערכות כיבוי אש; והסוכנות הגרמנית הלסינג, המתמקדת בהגנה, עם מודלים של חזון-שפת פעולה עבור רחפנים; ויצרני רכב המחפשים עוזרי בינה מלאכותית בתא הנוסעים יעיל ובעל שליטה רבה יותר.
השפעה באירופה: ריבונות דיגיטלית ומערכת אקולוגית ציבורית-פרטית
מעבר להיבטים הטכניים, מיסטרל הפכה לנקודת ייחוס בדיון על ריבונות דיגיטלית באירופהלמרות שהחברה מגדירה את עצמה כ"שיתוף פעולה טרנס-אטלנטי" - עם צוותים והכשרת מודלים הפרוסים בין אירופה לארצות הברית -, מחויבותה למודלים פתוחים עם תמיכה חזקה בשפות אירופאיות התקבלה יפה על ידי מוסדות ציבור ביבשת.
החברה סגרה עסקאות עם הצבא הצרפתי, סוכנות התעסוקה הציבורית הצרפתית, ממשלת לוקסמבורג וארגונים אירופיים אחרים מעוניין בפריסת בינה מלאכותית תחת מסגרות רגולטוריות מחמירות ושמירה על שליטה בנתונים בתוך האיחוד האירופי. במקביל, הנציבות האירופית הציגה אסטרטגיה לקידום כלי בינה מלאכותית אירופיים שמחזקים את התחרותיות התעשייתית מבלי להתפשר על בטיחות וחוסן.
גם ההקשר הגיאופוליטי דוחף את האזור להגיב. מוכר כי אירופה נפגעה מארה"ב וסין במרוץ אחר מודלים מהדור הבא, בעוד שבמדינות כמו סין צצות חלופות פתוחות כמו DeepSeek, Alibaba ו-Kimi ומתחילות להתחרות בפתרונות כמו ChatGPT במשימות מסוימות, Mistral מנסה למלא חלק מהפער הזה עם מודלים פתוחים ורב-תכליתיים התואמים את דרישות הרגולציה האירופיות.
מבחינה כלכלית, הסטארט-אפ גייס כ- 2.700 מ' ועברה בתוך הערכות שווי הקרובות ל- millones 14.000נתונים אלה נמוכים בהרבה מאלה של ענקיות כמו OpenAI או Anthropic, אך משמעותיים עבור המערכת האקולוגית האירופית. חלק גדול ממודל העסקים כרוך בהצעת, מעבר למשקלים פתוחים, שירותי התאמה אישית, כלי פריסה ומוצרים ארגוניים כגון ממשק ה-API של Mistral Agents או חבילת Le Chat עם אינטגרציות ארגוניות.
העמדה ברורה: להיות ספק תשתית בינה מלאכותית פתוחה וגמישה המאפשר לחברות אירופאיות (ואזוריות אחרות) לחדש מבלי להיות תלויות לחלוטין בפלטפורמות אמריקאיות, תוך שמירה על שליטה מסוימת על המקום וכיצד המודלים מופעלים, וקידום אינטגרציות עם כלים שכבר מיושמים במערכות שלהן.
דיון על פתיחות אמיתית ואתגרים צפויים
למרות ההתלהבות שמייסטרל 3 מעורר בחלק מקהילת הטכנולוגיה, אין מחסור בקולות ביקורתיים שמטילים ספק באיזו מידה ניתן באמת להתייחס למודלים אלה "קוד פתוח"החברה בחרה בגישה משקל פתוחזה משחרר את המשקלים לשימוש והתאמה, אבל לא בהכרח את כל הפרטים אודות נתוני האימון והתהליכים הפנימיים הדרושים לשחזור המודל מאפס.
חוקרים כמו אנדראס ליסנפלד, מייסד שותף של מדד הבינה המלאכותית האירופי בקוד פתוח, הם מציינים כי צוואר הבקבוק העיקרי עבור בינה מלאכותית באירופה אינו רק גישה למודלים., אלא ל נתוני אימון בקנה מידה גדולמנקודת מבט זו, מיסטרל 3 תורם ל לשפר את מגוון המודלים השימושייםעם זאת, זה לא פותר במלואה את הבעיה הבסיסית של מערכת אקולוגית אירופאית שממשיכה להתקשות לייצר ולשתף מערכי נתונים עצומים באיכות גבוהה.
מיסטרל עצמה מודה שדגמי החלל הפתוח שלה "מעט מאחור" את הפתרונות הסגורים המתקדמים יותר, אבל הוא מתעקש שהפער מצטמצם במהירות. ושהנקודה המרכזית היא יחס עלות-תועלתאם ניתן לפרוס מודל מעט פחות חזק בעלות נמוכה, לכוונן אותו למשימה ספציפית, ולהפעיל אותו קרוב למשתמש, זה עשוי להיות מעניין יותר עבור חברות רבות מאשר מודל צמרת אשר ניתן לגשת אליו רק דרך API מרוחק.
אף על פי כן, נותרו אתגרים: החל מ- תחרות בינלאומית עזה זה כולל גם את הצורך להבטיח אבטחה, עקיבות ועמידה בתקנות בהקשרים כמו שירותי בריאות, פיננסים וממשל. האיזון בין פתיחות, שליטה ואחריות ימשיך להנחות את מיסטרל ושחקנים אירופאים אחרים בשנים הקרובות.
ההשקה של מיסטרל 3 זה מחזק את הרעיון שבינה מלאכותית מתקדמת לא חייבת להיות מוגבלת למודלים ענקיים וסגורים.ומציעה לאירופה - ולכל ארגון שמעריך ריבונות טכנולוגית - פלטת כלים פתוחים המשלבת מודל גבול רב-מודאלי עם מגוון מודלים קלים המסוגלים לעבוד בקצה, במצב לא מקוון, ועם רמת התאמה אישית שקשה להשתוות אליה על ידי פלטפורמות קנייניות לחלוטין.
אני חובב טכנולוגיה שהפך את תחומי העניין ה"חנון" שלו למקצוע. ביליתי יותר מ-10 שנים מחיי בטכנולוגיה מתקדמת והתעסקות עם כל מיני תוכניות מתוך סקרנות טהורה. עכשיו התמחיתי בטכנולוגיית מחשבים ומשחקי וידאו. הסיבה לכך היא שכבר יותר מ-5 שנים אני כותב לאתרים שונים בנושאי טכנולוגיה ומשחקי וידאו, ויוצר מאמרים המבקשים לתת לכם את המידע הדרוש לכם בשפה מובנת לכולם.
אם יש לך שאלות, הידע שלי נע מכל מה שקשור למערכת ההפעלה Windows וכן אנדרואיד לטלפונים ניידים. והמחויבות שלי היא אליך, אני תמיד מוכן להקדיש כמה דקות ולעזור לך לפתור כל שאלה שיש לך בעולם האינטרנט הזה.