Mistral 3: vala e re e modeleve të hapura për inteligjencën artificiale të shpërndarë

Startupi francez Mistral AI Është vendosur në qendër të debatit mbi inteligjencën artificiale në Evropë me Nisja e Mistral 3Një familje e re modelesh të hapura të projektuara për të funksionuar si në qendra të mëdha të të dhënave ashtu edhe në pajisje me burime shumë të kufizuara. Larg nga hyrja në një garë të verbër për madhësinë e modelit, kompania Ai mbështet inteligjencën e shpërndarë që mund të zbatohet kudo që është e nevojshme.: në renë kompjuterike, në skajet e rrjetit, ose edhe pa lidhje interneti.

Kjo strategji vendos Mistral si një nga alternativat e pakta evropiane të afta t'i rezistojnë gjigantëve si OpenAI, Google ose Anthropic, dhe oferta alternativa ndaj ChatGPTPor nga një këndvështrim tjetër: modele me peshë të hapur sipas licencës lejuesei adaptueshëm ndaj nevojave të kompanive dhe administratave publike, dhe me një fokus të fortë në gjuhët evropiane dhe vendosjet sovrane brenda kontinentit.

Çfarë është Mistral 3 dhe pse është i rëndësishëm?

Familja Mistral 3 Është formuar nga dhjetë modele me peshë të hapur lëshuar sipas Licencës Apache 2.0Kjo lejon përdorimin e tij komercial praktikisht pa asnjë kufizim. Ai përfshin një model kryesor të tipit Frontier. Mistral i madh 3dhe një linjë modelesh kompakte nën markën Ministeriali 3të cilat vijnë në tre madhësi të përafërta (14.000, 8.000 dhe 3.000 milion parametra) dhe disa variante në varësi të llojit të detyrës.

Risia kryesore është se modeli i madh nuk kufizohet vetëm në tekst: Mistral Large 3 është multimodal dhe shumëgjuhëshËshtë i aftë të punojë me tekst dhe imazhe brenda të njëjtës arkitekturë dhe ofron mbështetje të fuqishme për gjuhët evropiane. Ndryshe nga qasjet e tjera që kombinojnë modelet e gjuhës dhe të vizionit veçmas, kjo mbështetet në një sistem të vetëm të integruar që mund të analizojë dokumente të mëdha, të kuptojë imazhet dhe të veprojë si një asistent i avancuar për detyra komplekse.

Në të njëjtën kohë, seriali Ministeriali 3 Është projektuar për të funksionuar në skenarë ku qasja në cloud është e kufizuar ose nuk ekziston fare. Këto modele mund të funksionojnë në pajisje me vetëm pak... 4 GB memorie ose në një GPU të vetme, gjë që hap derën për përdorimin e saj në laptopë, telefona celularë, robotë, dronë ose sisteme të integruara pa u varur nga një lidhje e vazhdueshme interneti ose ofrues të jashtëm.

Për ekosistemin evropian, ku biseda rreth sovraniteti dixhital dhe kontrolli i të dhënave Ky kombinim i një modeli me kufij të hapur dhe modeleve të lehta të vendosshme në nivel lokal është shumë i pranishëm dhe veçanërisht i rëndësishëm, si për kompanitë private ashtu edhe për administratat publike që kërkojnë alternativa ndaj platformave të mëdha amerikane dhe kineze.

Arkitektura, Përzierja e Ekspertëve dhe Qasja Teknike

Zemra teknike e Mistral i madh 3 është një arkitekturë e Përzierja e Ekspertëve (MM), një dizajn në të cilin modeli Ka shumë "ekspertë" të brendshëm., por aktivizon vetëm një pjesë të tyre për të përpunuar secilin tokenNë praktikë, sistemi merret me 41.000 miliardë parametra aktivë nga një total prej 675.000 miliardëKjo lejon kombinimin e kapacitetit të lartë të arsyetimit me konsum më të kontrolluar të energjisë dhe llogaritjes sesa një model ekuivalent i dendur.

Kjo arkitekturë, e kombinuar me një dritare konteksti deri në 256.000 tokenaKjo i lejon Mistral Large 3 të përpunojë vëllime shumë të mëdha informacioni, siç janë kontratat e gjata, dokumentacioni teknik ose bazat e mëdha të njohurive të korporatave. Modeli është i orientuar drejt rasteve të përdorimit si p.sh. analiza e dokumenteve, asistencë në programim, krijim përmbajtjeje, agjentë të inteligjencës artificiale dhe automatizim i rrjedhës së punës.

Paralelisht, modelet Ministeriali 3 Ato ofrohen në tre variante kryesore: Bazë (model gjenerik i parapërgatitur), Udhëzim (optimizuar për biseda dhe detyra asistenti) dhe Arsyetimi (Përshtatur për arsyetim logjik dhe analizë më të thellë). Mbështeten të gjitha versionet vizion dhe ato trajtojnë kontekste të gjera — midis 128 mijë dhe 256 mijë tokenëve —, duke ruajtur përputhshmërinë me gjuhë të shumta.

Ideja themelore, siç shpjegohet nga bashkëthemeluesi dhe shkencëtari kryesor Guillaume Lample, është se në "më shumë se 90%" të rasteve të përdorimit në ndërmarrje, Një model i vogël dhe i akorduar mirë është i mjaftueshëm. dhe, për më tepër, më efikase. Nëpërmjet teknikave të tilla si përdorimi i të dhëna sintetike për detyra specifikeKompania argumenton se këto modele mund t'i afrohen ose edhe t'i tejkalojnë opsionet më të mëdha dhe të mbyllura në aplikacione shumë specifike, duke zvogëluar kostot, vonesën dhe rreziqet e privatësisë.

I gjithë ky ekosistem është i integruar me një gamë më të gjerë të produkteve të kompanisë: nga API-ja e Agjentëve Mistralme lidhës për ekzekutimin e kodit, kërkimin në internet ose gjenerimin e imazheve, deri në Kodi Mistral Për ndihmë programuesi, modeli i arsyetimit Mjeshtërisht dhe platforma Studioja e AI-së për të vendosur aplikacione, për të menaxhuar analizat dhe për të mirëmbajtur regjistrat e përdorimit.

Bashkëpunimi me NVIDIA dhe vendosja në superkompjuterë dhe informatikë në skaje

Një pikë kulmore e lançimit është aleanca midis Mistral AI dhe NVIDIA, e cila e pozicionon Mistral 3 si një familje modelesh të përshtatura për sistemet superkompjuterike dhe platformat skajore të prodhuesit amerikan. Mistral i madh 3të kombinuara me infrastrukturë të tillë si NVIDIA GB200 NVL72, sipas NVIDIA-s përmirësime të performancës deri në dhjetë herë krahasuar me gjeneratën e mëparshme të bazuar në GPU-të H200, duke përfituar nga paralelizmi i përparuar, memoria e përbashkët nëpërmjet NVLink dhe formatet numerike të optimizuara si p.sh. NVFP4.

Puna bashkëpunuese nuk ndalet vetëm te pajisjet e nivelit të lartë. Seria Ministeriali 3 Është optimizuar për të funksionuar shpejt në mjedise të tilla si PC dhe laptopë me GPU RTX, pajisje Jetson dhe platforma edgelehtësimin e nxjerrjes së përfundimeve lokale në skenarë industrialë, robotikë ose të konsumatorit. Korniza të njohura si p.sh. Llama.cpp dhe Ollama Ato janë përshtatur për të përfituar nga këto modele, gjë që thjeshton vendosjen e tyre nga zhvilluesit dhe ekipet e IT-së.

Për më tepër, integrimi me ekosistemin NVIDIA NeMo —duke përfshirë mjete si Data Designer, Guardrails dhe Agent Toolkit— u mundëson kompanive të kryejnë rregullim i imët, kontroll sigurie, orkestrim agjentësh dhe dizajn të dhënash bazuar në Mistral 3. Në të njëjtën kohë, motorë përfundimi si p.sh. TensorRT-LLM, SGLang dhe vLLM për të ulur koston për token dhe për të përmirësuar efikasitetin e energjisë.

Modelet Mistral 3 tani janë në dispozicion në shitësit kryesorë me pakicë. ofruesit e cloud-it dhe depot e hapuradhe ato do të vijnë edhe në formën e Mikroshërbimet NIM brenda katalogut NVIDIA, diçka veçanërisht interesante për kompanitë evropiane që tashmë operojnë në pirgjet e këtij prodhuesi dhe duan të miratojnë IA gjeneruese me kontroll më të madh mbi vendosjen.

I gjithë ky kuadër i lejon Mistral 3 të jetojë si në qendra të mëdha të të dhënave ashtu edhe në pajisje të skajshme, duke përforcuar narrativën e tij të një AI vërtet i kudondodhur dhe i shpërndarë, më pak të varur nga shërbimet në distancë dhe më të përshtatur ndaj nevojave specifike të secilit klient.

Modele të vogla, vendosje jashtë linje dhe raste përdorimi në skaje

Një nga shtyllat e diskursit të Mistral është se Shumica e aplikacioneve të botës reale nuk kërkojnë modelin më të madh të mundshëm.por një që përshtatet mirë me rastin e përdorimit dhe mund të përshtatet me të dhëna specifike. Këtu hyjnë në lojë nëntë modelet e serisë. Ministeriali 3të dendura, me performancë të lartë dhe të disponueshme në madhësi dhe variante të ndryshme për t'iu përshtatur kërkesave të kostos, shpejtësisë ose kapacitetit.

Këto modele janë të dizajnuara për të punuar në një GPU të vetme ose edhe në harduer modestKjo lejon vendosje lokale në servera të brendshëm, laptopë, robotë industrialë ose pajisje që veprojnë në mjedise të largëta. Për kompanitë që trajtojnë informacione të ndjeshme - nga prodhuesit te institucionet financiare ose agjencitë qeveritare - aftësia për të përdorur inteligjencën artificiale brenda infrastrukturës së tyre, pa dërguar të dhëna në cloud, është një avantazh i rëndësishëm.

Kompania përmend shembuj të tillë si Robotë fabrike që analizojnë të dhënat e sensorëve në kohë reale pa lidhje interneti, dronë për emergjenca dhe shpëtime, automjete me asistentë të inteligjencës artificiale plotësisht funksionale në zona pa mbulim ose mjete edukative që ofrojnë ndihmë jashtë linje për studentët. Duke përpunuar të dhënat direkt në pajisje, privatësia dhe kontrolli i informacionit të përdoruesve.

Lample këmbëngul se aksesueshmëria është një pjesë qendrore e misionit të Mistral: ka Miliarda njerëz me telefona celularë ose laptopë, por pa qasje të besueshme në internettë cilat mund të përfitojnë nga modelet e afta për t'u ekzekutuar në nivel lokal. Në këtë mënyrë, kompania po përpiqet të hedhë poshtë idenë se inteligjenca artificiale e përparuar duhet të jetë gjithmonë e lidhur me qendra të mëdha të të dhënave të kontrolluara nga një grup i vogël kompanish.

Paralelisht, Mistral ka filluar të punojë me partnerë ndërkombëtarë në fushën e asaj që njihet si IA fizikeNdër bashkëpunimet e përmendura janë agjencia shkencore dhe teknologjike HTX e Singaporit për robotët, sigurinë kibernetike dhe sistemet e mbrojtjes nga zjarri; dhe agjencia gjermane Helsing, i fokusuar në mbrojtje, me modele veprimi me gjuhë vizioni për dronë; dhe prodhuesit e automobilave që kërkojnë Asistentë të inteligjencës artificiale në kabinë më efikase dhe të kontrollueshme.

Ndikimi në Evropë: sovraniteti dixhital dhe ekosistemi publik-privat

Përtej aspekteve teknike, Mistral është bërë një pikë referimi në debatin mbi Sovraniteti dixhital në EvropëEdhe pse kompania e përcakton veten si një "bashkëpunim transatlantik" —me ekipe dhe trajnime modelesh të përhapura midis Evropës dhe Shteteve të Bashkuara —, angazhimi i saj për modele të hapura me mbështetje të fortë për gjuhët evropiane është pritur mirë nga institucionet publike në kontinent.

Kompania ka mbyllur marrëveshje me ushtria franceze, agjencia publike franceze e punësimit, qeveria e Luksemburgut dhe organizata të tjera evropiane të interesuar në vendosjen e IA-së sipas kornizave të rrepta rregullatore dhe ruajtjen e kontrollit të të dhënave brenda BE-së. Paralelisht, Komisioni Evropian ka paraqitur një strategji për të forcuar mjetet evropiane të inteligjencës artificiale që forcojnë konkurrueshmërinë industriale pa sakrifikuar sigurinë dhe qëndrueshmërinë.

Konteksti gjeopolitik po e shtyn gjithashtu rajonin të reagojë. Është e njohur se Evropa ka mbetur prapa Shteteve të Bashkuara dhe Kinës Në garën për modelet e gjeneratës së ardhshme, ndërsa në vende si Kina po shfaqen alternativa të hapura si DeepSeek, Alibaba dhe Kimi dhe po fillojnë të konkurrojnë me zgjidhje si ChatGPT në detyra të caktuara, Mistral po përpiqet të mbushë një pjesë të këtij boshllëku me modele të hapura dhe të gjithanshme, të përputhura me kërkesat rregullatore evropiane.

Financiarisht, startup-i ka mbledhur rreth 2.700 milionë dollarë dhe është zhvendosur brenda vlerësimeve afër 14.000 miliardëKëto shifra janë shumë më të ulëta se ato të gjigantëve si OpenAI ose Anthropic, por të rëndësishme për ekosistemin evropian. Një pjesë e madhe e modelit të biznesit përfshin ofrimin, përtej peshave të hapura, shërbime personalizimi, mjete shpërndarjeje dhe produkte ndërmarrjesh siç është API-ja e Agentëve Mistral ose suita Le Chat me integrime të korporatave.

Pozicionimi është i qartë: të jesh një ofrues i infrastrukturës së hapur dhe fleksibile të inteligjencës artificiale që u lejon kompanive evropiane (dhe kompanive të tjera rajonale) të inovojnë pa qenë plotësisht të varura nga platformat amerikane, duke ruajtur njëfarë kontrolli mbi vendin dhe mënyrën e funksionimit të modeleve, dhe duke lehtësuar integrimet me mjetet që tashmë janë zbatuar në sistemet e tyre.

Debat mbi hapjen e vërtetë dhe sfidat e pazgjidhura

Pavarësisht entuziazmit që Mistral 3 po gjeneron te një pjesë e komunitetit të teknologjisë, nuk ka mungesë zërash kritikë që vënë në pikëpyetje deri në çfarë mase këto modele mund të merren në konsideratë vërtet "burim i hapur"Kompania ka zgjedhur një qasje peshë e hapurAi liron peshat për përdorim dhe përshtatje, por jo domosdoshmërisht të gjitha detajet në lidhje me të dhënat e trajnimit dhe proceset e brendshme të nevojshme për të riprodhuar modelin nga e para.

Studiues të tillë si Andreas Liesenfeld, bashkëthemelues i Indeksit Evropian të IA-së me Burim të Hapur, Ata theksojnë se pengesa kryesore për inteligjencën artificiale në Evropë nuk është vetëm qasja në modele., por te të dhëna trajnimi në shkallë të gjerëNga kjo perspektivë, Mistral 3 kontribuon në përmirësoni gamën e modeleve të përdorshmeMegjithatë, kjo nuk e zgjidh plotësisht problemin themelor të një ekosistemi evropian që vazhdon të ketë vështirësi në gjenerimin dhe ndarjen e grupeve të të dhënave masive me cilësi të lartë.

Vetë Mistral pranon se modelet e saj me plan të hapur janë "pak prapa" zgjidhjeve më të përparuara të mbyllura, por Ai këmbëngul se hendeku po ngushtohet me shpejtësi. dhe se pika kyçe është raporti kosto-përfitimNëse një model pak më pak i fuqishëm mund të vendoset me kosto të ulët, të përshtatet për një detyrë specifike dhe të funksionojë afër përdoruesit, Kjo mund të jetë më interesante për shumë kompani sesa një model i nivelit të lartë. të cilit mund t'i qaseni vetëm përmes API-t në distancë.

Megjithatë, sfidat mbeten: nga konkurrencë e ashpër ndërkombëtare Kjo shtrihet deri te nevoja për të garantuar sigurinë, gjurmueshmërinë dhe pajtueshmërinë rregullatore në kontekste të tilla si kujdesi shëndetësor, financat dhe qeveria. Ekuilibri midis hapjes, kontrollit dhe përgjegjësisë do të vazhdojë të udhëheqë Mistral-in dhe aktorët e tjerë evropianë në vitet e ardhshme.

Lansimi i Mistral 3 Kjo përforcon idenë se inteligjenca artificiale e përparuar nuk ka pse të kufizohet vetëm në modele gjigante dhe të mbyllura.dhe i ofron Evropës — dhe çdo organizate që vlerëson sovranitetin teknologjik — një gamë mjetesh të hapura që kombinojnë një model multimodal kufitar me një gamë modelesh të lehta të afta për të punuar në skaj, jashtë linje dhe me një nivel personalizimi të vështirë për t'u krahasuar nga platforma thjesht pronësore.

Artikull i lidhur:

Si ta përdorni kompjuterin tuaj si një qendër lokale të inteligjencës artificiale: Një udhëzues praktik dhe krahasues

Alberto Navarro

Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.

Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.