Mistral 3: novi val odprtih modelov za porazdeljeno umetno inteligenco

Francoski zagonski program Mistral AI Postavila se je v središče razprave o umetni inteligenci v Evropi z Izstrelitev Mistrala 3Nova družina odprtih modelov, zasnovanih za delovanje tako v velikih podatkovnih centrih kot v napravah z zelo omejenimi viri. Podjetje se še zdaleč ne podaja v slepo dirko za velikost modelov, temveč Zagovarja porazdeljeno inteligenco, ki jo je mogoče implementirati kjer koli je to potrebno.: v oblaku, na robu omrežja ali celo brez internetne povezave.

Ta strategija postavlja Mistral kot ena redkih evropskih alternativ, ki se lahko kosa z velikani, kot so OpenAI, Google ali Anthropic, in ponudbo alternative ChatGPTAmpak z drugačnega zornega kota: modeli z odprto težo pod dovoljenjemprilagodljiv potrebam podjetij in javnih uprav ter z močnim poudarkom na evropskih jezikih in suvereni uporabi znotraj celine.

Kaj je Mistral 3 in zakaj je pomemben?

Družina Mistral 3 Oblikuje ga deset modelov z odprto težo izdano pod licenco Apache 2.0To omogoča njegovo komercialno uporabo praktično brez omejitev. Vključuje tudi paradni model tipa Frontier. Mistral Veliki 3in linijo kompaktnih modelov pod blagovno znamko Ministrski 3ki so na voljo v treh približnih velikostih (14.000, 8.000 in 3.000 milijonov parametrov) in več različicah, odvisno od vrste naloge.

Ključna inovacija je, da veliki model ni omejen na besedilo: Mistral Large 3 je multimodalen in večjezičenZmožen je delati z besedilom in slikami znotraj iste arhitekture ter ponuja robustno podporo za evropske jezike. Za razliko od drugih pristopov, ki ločeno združujejo jezikovne in vizualne modele, se ta opira na en sam integriran sistem, ki lahko analizira velike dokumente, razume slike in deluje kot napredni pomočnik za kompleksne naloge.

Hkrati pa serija Ministrski 3 Zasnovan je za delovanje v scenarijih, kjer je dostop do oblaka omejen ali ga sploh ni. Ti modeli lahko delujejo na napravah z najmanj ... 4 GB pomnilnika ali na enem samem grafičnem procesorju, kar odpira vrata njegovi uporabi v prenosniki, mobilni telefoni, roboti, droni ali vgrajeni sistemi brez odvisnosti od stalne internetne povezave ali zunanjih ponudnikov.

Za evropski ekosistem, kjer se pogovor o digitalna suverenost in nadzor nad podatki Ta kombinacija modela odprtih meja in lokalno uporabljivih lahkih modelov je zelo prisotna in še posebej pomembna tako za zasebna podjetja kot za javne uprave, ki iščejo alternative velikim ameriškim in kitajskim platformam.

Arhitektura, mešanica strokovnjakov in tehnični pristop

Tehnično srce Mistral Veliki 3 je arhitektura Mešanica strokovnjakov (MoE), zasnova, v kateri model Ima več notranjih "strokovnjakov"., ampak aktivira le del njih za obdelavo vsakega žetonaV praksi sistem obravnava 41.000 milijard aktivnih parametrov od skupno 675.000 milijardeTo omogoča kombinacijo visoke zmogljivosti sklepanja z bolj nadzorovano porabo energije in računalništva kot pri enakovrednem gostem modelu.

Ta arhitektura, v kombinaciji z kontekstno okno z do 256.000 žetoniTo omogoča, da Mistral Large 3 obdeluje zelo velike količine informacij, kot so dolge pogodbe, tehnična dokumentacija ali velike korporativne baze znanja. Model je usmerjen v primere uporabe, kot so analiza dokumentov, pomoč pri programiranju, ustvarjanje vsebin, agenti umetne inteligence in avtomatizacija delovnih procesov.

Vzporedno, modeli Ministrski 3 Ponujajo se v treh glavnih različicah: Osnova (generični prednaučen model), Pouči (optimizirano za pogovore in naloge pomočnika) in Razmišljanje (Prilagojeno za logično sklepanje in globljo analizo). Vse različice podpirajo vid in obdelujejo široke kontekste – med 128 in 256 žetonov –, hkrati pa ohranjajo združljivost z več jeziki.

Osnovna ideja, kot jo je pojasnil soustanovitelj in glavni znanstvenik Guillaume Lample, je, da v "več kot 90 %" primerov uporabe v podjetjih, Zadostuje majhen, dobro uglašen model. in poleg tega učinkovitejše. S tehnikami, kot je uporaba sintetični podatki za specifične nalogePodjetje trdi, da se lahko ti modeli v zelo specifičnih aplikacijah približajo ali celo presežejo večje, zaprte možnosti, hkrati pa zmanjšajo stroške, zakasnitev in tveganja za zasebnost.

Celoten ekosistem je integriran s širšo paleto izdelkov podjetja: od API za agente Mistrals konektorji za izvajanje kode, spletno iskanje ali ustvarjanje slik, do Mistral koda Za pomoč programerjem, model sklepanja Mojstrsko in ploščad Studio za umetno inteligenco za uvajanje aplikacij, upravljanje analitike in vzdrževanje dnevnikov uporabe.

Sodelovanje z NVIDIA in uvajanje v superračunalništvo in robno računalništvo

Vrhunec predstavitve je zavezništvo med Mistral AI in NVIDIA, ki Mistral 3 uvršča med družine modelov, natančno prilagojene za superračunalniške sisteme in robne platforme ameriškega proizvajalca. Mistral Veliki 3v kombinaciji z infrastrukturo, kot je npr. NVIDIA GB200 NVL72, po podatkih NVIDIE izboljšave zmogljivosti do desetkrat v primerjavi s prejšnjo generacijo, ki temelji na grafičnih procesorjih H200, z izkoriščanjem naprednega paralelizma, deljenega pomnilnika prek NVLinka in optimiziranih numeričnih formatov, kot so NVFP4.

Sodelovanje se ne ustavi le pri vrhunski strojni opremi. Serija Ministrski 3 Optimiziran je za hitro delovanje v okoljih, kot so Osebni računalniki in prenosniki z grafičnimi procesorji RTX, naprave Jetson in robne platformeolajšanje lokalnih sklepov v industrijskih, robotskih ali potrošniških scenarijih. Priljubljeni okviri, kot so Llama.cpp in Ollama Prilagojeni so bili tako, da izkoriščajo te modele, kar poenostavlja njihovo uvajanje s strani razvijalcev in IT-ekip.

Poleg tega integracija z ekosistemom NVIDIA NeMo – vključno z orodji, kot so Data Designer, Guardrails in Agent Toolkit – podjetjem omogoča izvajanje fino nastavljanje, varnostni nadzor, orkestracija agentov in oblikovanje podatkov na osnovi Mistrala 3. Hkrati pa mehanizmi sklepanja, kot so TensorRT-LLM, SGLang in vLLM za zmanjšanje stroškov na žeton in izboljšanje energetske učinkovitosti.

Modeli Mistral 3 so zdaj na voljo pri večjih trgovcih. ponudniki storitev v oblaku in odprti repozitorijiin prispeli bodo tudi v obliki Mikrostoritve NIM znotraj kataloga NVIDIA, kar je še posebej zanimivo za evropska podjetja, ki že delujejo na skladih tega proizvajalca in želijo sprejeti generativno umetno inteligenco z večjim nadzorom nad uvajanjem.

Ves ta okvir omogoča, da Mistral 3 deluje tako v velikih podatkovnih centrih kot tudi na robnih napravah, kar krepi njegovo narativ ... resnično vseprisotna in porazdeljena umetna inteligenca, manj odvisni od oddaljenih storitev in bolj prilagojeni specifičnim potrebam vsake stranke.

Majhni modeli, uvajanje brez povezave in primeri uporabe na robu

Eden od stebrov Mistralovega diskurza je, da Večina aplikacij v resničnem svetu ne zahteva največjega možnega modela.vendar takšnega, ki se dobro ujema s primerom uporabe in ga je mogoče natančno prilagoditi s specifičnimi podatki. Tukaj pride prav devet modelov v seriji. Ministrski 3gosti, visokozmogljivi in ​​na voljo v različnih velikostih in različicah, ki ustrezajo zahtevam glede stroškov, hitrosti ali zmogljivosti.

Ti modeli so zasnovani za delo v en sam grafični procesor ali celo na skromni strojni opremiTo omogoča lokalno uvajanje na internih strežnikih, prenosnikih, industrijskih robotih ali napravah, ki delujejo v oddaljenih okoljih. Za podjetja, ki ravnajo z občutljivimi informacijami – od proizvajalcev do finančnih institucij ali vladnih agencij – je možnost delovanja umetne inteligence znotraj lastne infrastrukture, ne da bi pri tem pošiljali podatke v oblak, pomembna prednost.

Podjetje navaja primere, kot so Tovarniški roboti, ki analizirajo podatke senzorjev v realnem času brez internetne povezave, droni za nujne primere in reševanje, vozila s popolnoma delujočimi pomočniki umetne inteligence na območjih brez pokritosti ali izobraževalna orodja, ki študentom ponujajo pomoč brez povezave. Z obdelavo podatkov neposredno na napravi zasebnost in nadzor nad informacijami uporabnikov.

Lample vztraja, da je dostopnost osrednji del poslanstva Mistrala: obstajajo Milijarde ljudi z mobilnimi telefoni ali prenosniki, vendar brez zanesljivega dostopa do internetaki bi lahko imeli koristi od modelov, ki se lahko izvajajo lokalno. Na ta način podjetje poskuša ovreči prepričanje, da mora biti napredna umetna inteligenca vedno vezana na velike podatkovne centre, ki jih nadzoruje majhna skupina podjetij.

Vzporedno je Mistral začel sodelovati z mednarodnimi partnerji na področju tako imenovanega Fizična umetna inteligencaMed omenjenimi sodelovanji sta singapurska agencija za znanost in tehnologijo HTX za robotiko, kibernetsko varnost in sisteme protipožarne zaščite ter nemška Helsing, osredotočen na obrambo, z modeli vida, jezika in delovanja za drone; in proizvajalci avtomobilov, ki iščejo Pomočniki umetne inteligence v kabini bolj učinkovit in nadzorljiv.

Vpliv v Evropi: digitalna suverenost in javno-zasebni ekosistem

Poleg tehničnih vidikov je Mistral postal merilo v razpravi o Digitalna suverenost v EvropiČeprav se podjetje opredeljuje kot »čezatlantsko sodelovanje« – z ekipami in usposabljanjem modelov, ki so razporejeni med Evropo in Združenimi državami –, so javne ustanove na celini dobro sprejele njegovo zavezanost odprtim modelom z močno podporo evropskim jezikom.

Podjetje je sklenilo posle z francoska vojska, francoska javna agencija za zaposlovanje, luksemburška vlada in druge evropske organizacije zainteresirani za uvedbo umetne inteligence v skladu s strogimi regulativnimi okviri in ohranjanje nadzora nad podatki znotraj EU. Hkrati je Evropska komisija predstavila strategija za spodbujanje evropskih orodij umetne inteligence ki krepijo industrijsko konkurenčnost, ne da bi pri tem žrtvovali varnost in odpornost.

Geopolitični kontekst prav tako spodbuja regijo k odzivanju. Priznava se, da Evropa je zaostala za Združenimi državami in Kitajsko V tekmi za modele naslednje generacije, medtem ko se v državah, kot je Kitajska, pojavljajo odprte alternative, kot so DeepSeek, Alibaba in Kimi, ki pri določenih nalogah začenjajo konkurirati rešitvam, kot je ChatGPT, Mistral poskuša del te vrzeli zapolniti z odprtimi, vsestranskimi modeli, usklajenimi z evropskimi regulativnimi zahtevami.

Zagonsko podjetje je finančno zbralo približno 2.700 milijonov dolarjev in se je gibal znotraj vrednotenj blizu 14.000 milijardeTe številke so precej nižje od številk velikanov, kot sta OpenAI ali Anthropic, vendar pomembne za evropski ekosistem. Velik del poslovnega modela vključuje ponujanje, poleg odprtih uteži, tudi storitve prilagajanja, orodja za uvajanje in poslovni izdelki kot sta API Mistral Agents ali paket Le Chat s korporativnimi integracijami.

Pozicioniranje je jasno: biti ponudnik odprte in prilagodljive infrastrukture umetne inteligence ki evropskim (in drugim regionalnim) podjetjem omogoča inovacije, ne da bi bila popolnoma odvisna od ameriških platform, hkrati pa ohranja določen nadzor nad tem, kje in kako se modeli izvajajo, ter olajša integracije z orodji, ki so že implementirana v njihovih sistemih.

Razprava o resnični odprtosti in prihajajočih izzivih

Kljub navdušenju, ki ga Mistral 3 vzbuja v delu tehnološke skupnosti, ni pomanjkanja kritičnih glasov, ki dvomijo v kolikšni meri je mogoče te modele resnično upoštevati "odprtokodna"Podjetje se je odločilo za pristop odprta težaSprosti uteži za uporabo in prilagajanje, ne pa nujno vseh podrobnosti o učnih podatkih in notranjih procesih, potrebnih za reprodukcijo modela iz nič.

Raziskovalci, kot so Andreas Liesenfeld, soustanovitelj evropskega indeksa odprtokodne umetne inteligence, Poudarjajo, da glavno ozko grlo za umetno inteligenco v Evropi ni le dostop do modelov, ampak do obsežni podatki o usposabljanjuS tega vidika Mistral 3 prispeva k izboljšati paleto uporabnih modelovVendar pa to ne rešuje v celoti osnovnega problema evropskega ekosistema, ki se še naprej bori za ustvarjanje in deljenje visokokakovostnih ogromnih naborov podatkov.

Mistral sam priznava, da njegovi modeli odprtega tipa "nekoliko zaostajajo" za naprednejšimi zaprtimi rešitvami, vendar Vztraja, da se razlika hitro zmanjšuje. in da je ključna točka razmerje med stroški in koristmiČe je mogoče nekoliko manj zmogljiv model namestiti po nizki ceni, ga natančno prilagoditi za določeno nalogo in ga izvajati blizu uporabnika, To je za mnoga podjetja morda bolj zanimivo kot vrhunski model do katerega je mogoče dostopati le prek oddaljenega API-ja.

Kljub temu ostajajo izzivi: od huda mednarodna konkurenca To se razteza tudi na potrebo po zagotavljanju varnosti, sledljivosti in skladnosti s predpisi v okoljih, kot so zdravstvo, finance in vlada. Ravnovesje med odprtostjo, nadzorom in odgovornostjo bo tudi v prihodnjih letih vodilo Mistrala in drugih evropskih akterjev.

Izstrelitev Mistral 3 To krepi idejo, da vrhunska umetna inteligenca ni nujno omejena na velikanske, zaprte modele.in Evropi – in vsaki organizaciji, ki ceni tehnološko suverenost – ponuja paleto odprtih orodij, ki združujejo multimodalni model meje z vrsto lahkih modelov, ki lahko delujejo na robu omrežja, brez povezave in s stopnjo prilagoditve, ki jo je težko doseči s povsem lastniškimi platformami.

Povezani članek:

Kako uporabljati računalnik kot lokalno središče umetne inteligence: praktični in primerjalni vodnik

Alberto Navarro

Sem tehnološki navdušenec, ki je svoja "geek" zanimanja spremenil v poklic. Več kot 10 let svojega življenja sem porabil za uporabo vrhunske tehnologije in premleval najrazličnejše programe iz čiste radovednosti. Zdaj sem se specializiral za računalniško tehnologijo in video igre. To je zato, ker že več kot 5 let pišem za različna spletna mesta o tehnologiji in video igrah ter ustvarjam članke, ki vam želijo dati informacije, ki jih potrebujete, v jeziku, ki je razumljiv vsem.

Če imate kakršna koli vprašanja, moje znanje sega od vsega v zvezi z operacijskim sistemom Windows kot tudi Androidom za mobilne telefone. In moja zaveza je vam, vedno sem pripravljen porabiti nekaj minut in vam pomagati razrešiti kakršna koli vprašanja, ki jih morda imate v tem internetnem svetu.