Mistral 3: il-mewġa ġdida ta’ mudelli miftuħa għall-IA distribwita

L-istartup Franċiż Mistral AI Poġġiet lilha nnifisha fiċ-ċentru tad-dibattitu dwar l-intelliġenza artifiċjali fl-Ewropa bil- It-tnedija ta' Mistral 3Familja ġdida ta' mudelli miftuħa ddisinjati biex jaħdmu kemm f'ċentri tad-dejta kbar kif ukoll f'apparati b'riżorsi limitati ħafna. 'Il bogħod milli tidħol f'tellieqa għamja għad-daqs tal-mudell, il-kumpanija Huwa favur intelliġenza distribwita li tista' tiġi implimentata kull fejn ikun meħtieġ.fil-cloud, fit-tarf, jew saħansitra mingħajr konnessjoni tal-internet.

Din l-istrateġija tpoġġi Mistral bħala waħda mill-ftit alternattivi Ewropej kapaċi li tiffaċċja ġganti bħal OpenAI, Google jew Anthropic, u joffru alternattivi għal ChatGPTImma minn perspettiva differenti: mudelli b'piż miftuħ taħt liċenzja permissivaadattabbli għall-bżonnijiet tal-kumpaniji u l-amministrazzjonijiet pubbliċi, u b'enfasi qawwija fuq il-lingwi Ewropej u l-iskjeramenti sovrani fil-kontinent.

X'inhu Mistral 3 u għaliex huwa rilevanti?

Il-familja Mistral 3 Huwa ffurmat minn għaxar mudelli ta' piż miftuħ rilaxxat taħt il-Liċenzja Apache 2.0Dan jippermetti l-użu kummerċjali tiegħu kważi mingħajr ebda restrizzjoni. Jinkludi mudell ewlieni tat-tip Frontier. Mistral Kbir 3u linja ta’ mudelli kompatti taħt il-marka Ministerjali 3li jiġu fi tliet daqsijiet approssimattivi (14.000, 8.000 u 3.000 miljun parametru) u diversi varjanti skont it-tip ta' kompitu.

L-innovazzjoni ewlenija hija li l-mudell il-kbir mhuwiex limitat għat-test: Mistral Large 3 huwa multimodali u multilingwiHuwa kapaċi jaħdem bit-test u l-immaġnijiet fl-istess arkitettura u joffri appoġġ robust għal-lingwi Ewropej. B'differenza minn approċċi oħra li jikkombinaw mudelli tal-lingwa u tal-viżjoni separatament, dan jiddependi fuq sistema integrata waħda li tista' tanalizza dokumenti kbar, tifhem l-immaġnijiet, u taġixxi bħala assistent avvanzat għal kompiti kumplessi.

Fl-istess ħin, is-serje Ministerjali 3 Huwa ddisinjat biex jaħdem f'xenarji fejn l-aċċess għall-cloud huwa limitat jew ineżistenti. Dawn il-mudelli jistgħu jaħdmu fuq apparati b'inqas minn 4 GB ta 'memorja jew fuq GPU waħda, li tiftaħ il-bieb għall-użu tagħha fi laptops, mowbajls, robots, drones, jew sistemi integrati mingħajr ma tiddependi fuq konnessjoni kostanti tal-internet jew fornituri esterni.

Għall-ekosistema Ewropea, fejn il-konverżazzjoni dwar sovranità diġitali u kontroll tad-dejta Din il-kombinazzjoni ta' mudell ta' fruntiera miftuħa u mudelli ħfief skjerabbli lokalment hija preżenti ħafna u partikolarment rilevanti, kemm għal kumpaniji privati ​​kif ukoll għal amministrazzjonijiet pubbliċi li qed ifittxu alternattivi għall-pjattaformi kbar tal-Istati Uniti u taċ-Ċina.

Arkitettura, Taħlita ta' Esperti, u Approċċ Tekniku

Il-qalba teknika ta' Mistral Kbir 3 hija arkitettura ta ' Taħlita ta' Esperti (MoE), disinn li fih il-mudell Għandu diversi "esperti" interni.imma jattiva biss porzjon minnhom biex jipproċessa kull tokenFil-prattika, is-sistema timmaniġġja 41.000 biljun parametru attiv fuq total ta' 675.000 millonesDan jippermetti li tiġi kkombinata kapaċità għolja ta' raġunament ma' konsum aktar kontrollat ​​tal-enerġija u tal-kompjuters minn mudell dens ekwivalenti.

Din l-arkitettura, flimkien ma’ tieqa tal-kuntest sa 256.000 tokenDan jippermetti lil Mistral Large 3 jipproċessa volumi kbar ħafna ta' informazzjoni, bħal kuntratti twal, dokumentazzjoni teknika, jew bażijiet kbar ta' għarfien korporattivi. Il-mudell huwa mmirat lejn każijiet ta' użu bħal analiżi tad-dokumenti, assistenza għall-ipprogrammar, ħolqien ta' kontenut, aġenti tal-IA, u awtomazzjoni tal-fluss tax-xogħol.

B'mod parallel, il-mudelli Ministerjali 3 Huma offruti fi tliet varjanti ewlenin: Bażi (mudell ġeneriku mħarreġ minn qabel), Istruzzjonijiet (ottimizzat għal konverżazzjoni u kompiti ta' assistent) u Raġunament (Aġġustat għal raġunament loġiku u analiżi aktar profonda). Il-verżjonijiet kollha jappoġġjaw viżjoni u jimmaniġġjaw kuntesti wesgħin —bejn 128K u 256K tokens—, filwaqt li jżommu kompatibilità ma' diversi lingwi.

L-idea sottostanti, kif spjegat mill-ko-fundatur u x-xjenzat ewlieni Guillaume Lample, hija li f'"aktar minn 90%" tal-każijiet ta' użu tal-intrapriżi, Mudell żgħir u aġġustat sew huwa biżżejjed. u, barra minn hekk, aktar effiċjenti. Permezz ta’ tekniki bħall-użu ta’ dejta sintetika għal kompiti speċifiċiIl-kumpanija targumenta li dawn il-mudelli jistgħu javviċinaw jew saħansitra jaqbżu għażliet akbar u magħluqa f'applikazzjonijiet speċifiċi ħafna, filwaqt li jnaqqsu l-ispejjeż, il-latenza, u r-riskji għall-privatezza.

Din l-ekosistema kollha hija integrata ma' firxa usa' ta' prodotti tal-kumpanija: minn API tal-Aġenti Mistralb'konnetturi għall-eżekuzzjoni tal-kodiċi, tiftix fuq il-web, jew ġenerazzjoni ta' immaġni, sa Kodiċi Mistral Għall-assistenza tal-programmatur, il-mudell tar-raġunament Masterly u l-pjattaforma AI Studio biex jiġu skjerati applikazzjonijiet, tiġi ġestita l-analitika, u jinżammu r-reġistri tal-użu.

Kollaborazzjoni ma' NVIDIA u skjerament fis-superkomputazzjoni u l-edge computing

Punt ewlieni tat-tnedija huwa l-alleanza bejn Mistral AI u NVIDIA, li jpoġġi lil Mistral 3 bħala familja ta' mudelli rfinuti għas-sistemi ta' superkomputazzjoni u l-pjattaformi tat-tarf tal-manifattur Amerikan. Mistral Kbir 3flimkien ma' infrastruttura bħal NVIDIA GB200 NVL72, skont NVIDIA titjib fil-prestazzjoni sa għaxar darbiet meta mqabbel mal-ġenerazzjoni preċedenti bbażata fuq GPUs H200, li tieħu vantaġġ minn paralleliżmu avvanzat, memorja kondiviża permezz ta' NVLink, u formati numeriċi ottimizzati bħal NVFP4.

Ix-xogħol kollaborattiv ma jieqafx mal-ħardwer ta' kwalità għolja. Is-serje Ministerjali 3 Ġie ottimizzat biex jaħdem malajr f'ambjenti bħal PCs u laptops b'GPUs RTX, apparati Jetson, u pjattaformi edgejiffaċilitaw inferenzi lokali f'xenarji industrijali, robotiċi, jew tal-konsumatur. Oqfsa popolari bħal Llama.cpp u Ollama Dawn ġew adattati biex jieħdu vantaġġ minn dawn il-mudelli, u dan jissimplifika l-iskjerament tagħhom mill-iżviluppaturi u t-timijiet tal-IT.

Barra minn hekk, l-integrazzjoni mal-ekosistema NVIDIA NeMo —inklużi għodod bħal Data Designer, Guardrails, u Agent Toolkit— jippermettu lill-kumpaniji jwettqu irfinar, kontroll tas-sigurtà, orkestrazzjoni tal-aġenti, u disinn tad-dejta ibbażat fuq Mistral 3. Fl-istess ħin, magni ta' inferenza bħal TensorRT-LLM, SGLang u vLLM biex jitnaqqas l-ispiża għal kull token u titjieb l-effiċjenza enerġetika.

Il-mudelli Mistral 3 issa huma disponibbli mingħand il-bejjiegħa bl-imnut ewlenin fornituri tal-cloud u repożitorji miftuħau jaslu wkoll fil-forma ta’ Mikroservizzi NIM fil-katalgu NVIDIA, xi ħaġa partikolarment interessanti għall-kumpaniji Ewropej li diġà joperaw fuq l-istacks ta’ dan il-manifattur u jridu jadottaw AI ġenerattiva b’kontroll akbar fuq l-iskjerament.

Dan il-qafas kollu jippermetti lil Mistral 3 jgħix kemm f'ċentri tad-dejta kbar kif ukoll f'apparati on-edge, u b'hekk isaħħaħ in-narrattiva tiegħu ta' IA tassew mifruxa u mifruxa, inqas dipendenti fuq servizzi remoti u aktar adattat għall-bżonnijiet speċifiċi ta' kull klijent.

Mudelli żgħar, skjerament offline, u każijiet ta' użu fit-tarf

Wieħed mill-pilastri tad-diskors ta' Mistral huwa li Il-biċċa l-kbira tal-applikazzjonijiet tad-dinja reali ma jeħtiġux l-akbar mudell possibbli.iżda wieħed li jaqbel sew mal-każ ta' użu u jista' jiġi rfinat b'dejta speċifika. Dak hu fejn jidħlu d-disa' mudelli fis-serje. Ministerjali 3dens, ta' prestazzjoni għolja, u disponibbli f'daqsijiet u varjanti differenti biex ikunu adattati għar-rekwiżiti tal-ispiża, il-veloċità, jew il-kapaċità.

Dawn il-mudelli huma ddisinjati biex jaħdmu fi GPU waħda jew saħansitra fuq ħardwer modestDan jippermetti skjeramenti lokali fuq servers interni, laptops, robots industrijali, jew apparati li joperaw f'ambjenti remoti. Għal kumpaniji li jimmaniġġjaw informazzjoni sensittiva—minn manifatturi għal istituzzjonijiet finanzjarji jew aġenziji governattivi—il-kapaċità li jħaddmu l-AI fl-infrastruttura tagħhom stess, mingħajr ma jibagħtu d-dejta lill-cloud, hija vantaġġ sinifikanti.

Il-kumpanija ssemmi eżempji bħal Robots tal-fabbrika li janalizzaw id-dejta tas-sensuri f'ħin reali mingħajr konnessjoni tal-internet, drones għal emerġenzi u salvataġġi, vetturi b'assistenti tal-AI kompletament funzjonali f'żoni mingħajr kopertura jew għodod edukattivi li joffru għajnuna offline lill-istudenti. Billi jipproċessaw id-dejta direttament fuq l-apparat, il- privatezza u kontroll tal-informazzjoni ta 'l-utenti.

Lample tinsisti li l-aċċessibbiltà hija parti ċentrali mill-missjoni ta' Mistral: hemm Biljuni ta’ nies b’mowbajls jew laptops iżda mingħajr aċċess affidabbli għall-internetli jistgħu jibbenefikaw minn mudelli kapaċi jaħdmu lokalment. B'dan il-mod, il-kumpanija qed tipprova tneħħi l-idea li l-IA avvanzata trid dejjem tkun marbuta ma' ċentri tad-dejta kbar ikkontrollati minn grupp żgħir ta' kumpaniji.

B'mod parallel, Mistral bdiet taħdem ma' msieħba internazzjonali fil-qasam ta' dak li hu magħruf bħala Fiżika tal-AIFost il-kollaborazzjonijiet imsemmija hemm l-aġenzija tax-xjenza u t-teknoloġija HTX ta’ Singapor għar-robots, iċ-ċibersigurtà, u s-sistemi ta’ protezzjoni min-nar; u l-aġenzija Ġermaniża Helsing, iffukat fuq id-difiża, b'mudelli ta' viżjoni-lingwaġġ-azzjoni għad-drones; u manifatturi tal-karozzi li qed ifittxu Assistenti tal-AI fil-kabina aktar effiċjenti u kontrollabbli.

Impatt fl-Ewropa: sovranità diġitali u ekosistema pubblika-privata

Lil hinn mill-aspetti tekniċi, Mistral sar punt ta' riferiment fid-dibattitu dwar Sovranità diġitali fl-EwropaGħalkemm il-kumpanija tiddefinixxi lilha nnifisha bħala "kollaborazzjoni transatlantika" —b'timijiet u taħriġ ta' mudelli mifruxa bejn l-Ewropa u l-Istati Uniti—, l-impenn tagħha għal mudelli miftuħa b'appoġġ qawwi għal-lingwi Ewropej intlaqa' tajjeb mill-istituzzjonijiet pubbliċi fil-kontinent.

Il-kumpanija għalqet ftehimiet ma' l-armata Franċiża, l-aġenzija pubblika Franċiża tal-impjiegi, il-gvern tal-Lussemburgu, u organizzazzjonijiet Ewropej oħra interessati li jużaw l-IA taħt oqfsa regolatorji stretti u jżommu kontroll tad-dejta fi ħdan l-UE. B'mod parallel, il-Kummissjoni Ewropea ppreżentat strateġija biex tingħata spinta lill-għodod Ewropej tal-IA li jsaħħu l-kompetittività industrijali mingħajr ma jissagrifikaw is-sikurezza u r-reżiljenza.

Il-kuntest ġeopolitiku qed iġiegħel ukoll lir-reġjun jirreaġixxi. Huwa rikonoxxut li L-Ewropa waqgħet lura mill-Istati Uniti u ċ-Ċina Fit-tellieqa għall-mudelli tal-ġenerazzjoni li jmiss, filwaqt li f'pajjiżi bħaċ-Ċina qed jitfaċċaw alternattivi miftuħa bħal DeepSeek, Alibaba, u Kimi u jibdew jikkompetu ma' soluzzjonijiet bħal ChatGPT f'ċerti kompiti, Mistral qed tipprova timla parti minn dik il-lakuna b'mudelli miftuħa u versatili allinjati mar-rekwiżiti regolatorji Ewropej.

Finanzjarjament, l-istartup ġabar madwar 2.700 miljun u mxiet fi ħdan valutazzjonijiet qrib 14.000 millonesDawn iċ-ċifri huma ferm aktar baxxi minn dawk ta’ ġganti bħal OpenAI jew Anthropic, iżda sinifikanti għall-ekosistema Ewropea. Parti kbira mill-mudell tan-negozju tinvolvi l-offerta, lil hinn mill-piżijiet miftuħa, servizzi ta' personalizzazzjoni, għodod ta' skjerament, u prodotti tal-intrapriża bħall-Mistral Agents API jew is-suite Le Chat b'integrazzjonijiet korporattivi.

Il-pożizzjonament huwa ċar: li tkun fornitur ta' infrastruttura tal-IA miftuħa u flessibbli li jippermetti lill-kumpaniji Ewropej (u reġjonali oħra) jinnovaw mingħajr ma jiddependu kompletament fuq pjattaformi tal-Istati Uniti, filwaqt li jżommu ċertu kontroll fuq fejn u kif jitħaddmu l-mudelli, u jiffaċilitaw integrazzjonijiet ma' għodod diġà implimentati fis-sistemi tagħhom.

Dibattitu dwar ftuħ reali u sfidi pendenti

Minkejja l-entużjażmu li Mistral 3 qed jiġġenera f'parti mill-komunità tat-teknoloġija, m'hemmx nuqqas ta' vuċijiet kritiċi li jiddubitaw sa liema punt dawn il-mudelli jistgħu verament jiġu kkunsidrati "sors miftuħ"Il-kumpanija għażlet approċċ piż miftuħJirrilaxxa l-piżijiet għall-użu u l-adattament, iżda mhux neċessarjament id-dettalji kollha dwar id-dejta tat-taħriġ u l-proċessi interni meħtieġa biex il-mudell jiġi riprodott mill-bidu.

Riċerkaturi bħal Andreas Liesenfeld, ko-fundatur tal-Indiċi Ewropew tal-IA tas-Sors Miftuħ, Huma jirrimarkaw li l-akbar ostaklu għall-IA fl-Ewropa mhuwiex biss l-aċċess għall-mudelli, iżda biex dejta ta' taħriġ fuq skala kbiraMinn dik il-perspettiva, Mistral 3 jikkontribwixxi għal ittejjeb il-firxa ta' mudelli użabbliMadankollu, ma jsolvix għalkollox il-problema sottostanti ta' ekosistema Ewropea li tkompli titħabat biex tiġġenera u taqsam settijiet ta' dejta massivi ta' kwalità għolja.

Mistral innifsu jammetti li l-mudelli miftuħa tiegħu huma "ftit lura" mis-soluzzjonijiet magħluqa aktar avvanzati, iżda Huwa jinsisti li d-distakk qed jonqos b'rata mgħaġġla. u li l-punt ewlieni huwa il-proporzjon tal-ispejjeż u l-benefiċċjiJekk mudell kemxejn inqas qawwi jista' jiġi skjerat bi prezz baxx, jiġi rfinat għal kompitu speċifiku, u jaħdem qrib l-utent, Dan jista' jkun aktar interessanti għal ħafna kumpaniji milli top model li jista' jiġi aċċessat biss permezz ta' API remota.

Anke hekk, għad hemm sfidi: mill- kompetizzjoni internazzjonali ħarxa Dan jestendi għall-ħtieġa li jiġu garantiti s-sigurtà, it-traċċabilità, u l-konformità regolatorja f'kuntesti bħall-kura tas-saħħa, il-finanzi, u l-gvern. Il-bilanċ bejn il-ftuħ, il-kontroll, u r-responsabbiltà se jkompli jiggwida lil Mistral u atturi Ewropej oħra fis-snin li ġejjin.

It-tnedija ta ' Mistral 3 Dan isaħħaħ l-idea li l-IA avvanzata m'għandhiex għalfejn tkun limitata għal mudelli ġganti u magħluqa.u joffri lill-Ewropa — u lil kwalunkwe organizzazzjoni li tgħożż is-sovranità teknoloġika — paletta ta’ għodod miftuħa li jikkombinaw mudell multimodali ta’ fruntiera ma’ firxa ta’ mudelli ħfief kapaċi jaħdmu fit-tarf, offline, u b’livell ta’ adattament li diffiċli jintlaħaq minn pjattaformi purament proprjetarji.

Artiklu relatat:

Kif Tuża l-PC Tiegħek bħala Ċentru Lokali tal-AI: Gwida Prattika u Komparattiva

Alberto navarro

Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.

Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.