Mistral 3: nýja bylgja opinna líkana fyrir dreifða gervigreind

Franska gangsetningin Mistral AI Það hefur komið sér í brennidepil umræðunnar um gervigreind í Evrópu með Mistral 3 geimferðinNý fjölskylda opinna líkana sem eru hannaðar til að virka bæði í stórum gagnaverum og tækjum með mjög takmarkaðar auðlindir. Fyrirtækið er langt frá því að taka þátt í blindri keppni um stærð líkana. Það hvetur til dreifðrar upplýsingaöflunar sem hægt er að innleiða hvar sem þörf krefur.: í skýinu, á jaðrinum eða jafnvel án nettengingar.

Þessi stefna setur Mistral er einn fárra evrópskra valkosta sem geta staðist risa eins og OpenAI, Google eða Anthropic.og tilboð valkostir við ChatGPTEn frá öðru sjónarhorni: Opin þyngdarlíkön með leyfiaðlögunarhæft að þörfum fyrirtækja og opinberra stjórnsýslufyrirtækja og með sterka áherslu á evrópsk tungumál og fullveldisútbreiðsla innan álfunnar.

Hvað er Mistral 3 og hvers vegna er það viðeigandi?

Fjölskyldan Mistral 3 Það er gert úr tíu gerðir með opnum þyngd Gefið út undir Apache leyfi 2.0Þetta gerir kleift að nota það í viðskiptalegum tilgangi nánast án takmarkana. Það inniheldur flaggskipsútgáfu af gerðinni Frontier. Mistral Large 3og lína af samþjöppuðum gerðum undir vörumerkinu Ráðherrafundur 3sem koma í þremur um það bil stærðum (14.000, 8.000 og 3.000 milljónir breytur) og nokkrum afbrigðum eftir tegund verkefnis.

Lykilnýjungin er sú að stóra líkanið er ekki takmarkað við texta: Mistral Large 3 er fjölþætt og fjöltyngtÞað getur unnið með texta og myndir innan sömu arkitektúrs og býður upp á öflugan stuðning fyrir evrópsk tungumál. Ólíkt öðrum aðferðum sem sameina tungumála- og sjónlíkön sérstaklega, byggir þessi á einu samþættu kerfi sem getur greint stór skjöl, skilið myndir og virkað sem háþróaður aðstoðarmaður fyrir flókin verkefni.

Á sama tíma, serían Ráðherrafundur 3 Það er hannað til að virka í aðstæðum þar sem aðgangur að skýinu er takmarkaður eða enginn. Þessar gerðir geta keyrt á tækjum með allt að litlum straumi. 4 GB af minni eða á einni GPU, sem opnar dyrnar fyrir notkun þess í fartölvur, farsímar, vélmenni, drónar eða innbyggð kerfi án þess að vera háður stöðugri nettengingu eða utanaðkomandi þjónustuaðilum.

Fyrir evrópska vistkerfið, þar sem umræðan um stafrænt fullveldi og gagnastjórnun Þessi samsetning af opnum landamæralíkani og léttum líkanum sem hægt er að innleiða á staðnum er mjög algeng og sérstaklega viðeigandi, bæði fyrir einkafyrirtæki og opinberar stjórnsýslur sem leita að valkostum við stóru bandarísku og kínversku palla.

Arkitektúr, blanda sérfræðinga og tæknileg nálgun

Tæknilega hjartað í Mistral Large 3 Það er byggingarlist af Blanda sérfræðinga (MoE), hönnun þar sem líkanið Það hefur marga innri „sérfræðinga“.en virkjar aðeins hluta þeirra til að vinna úr hverju tákniÍ reynd meðhöndlar kerfið 41.000 milljarður virkra breytna af samtals 675.000 millonesÞetta gerir kleift að sameina mikla rökhugsunargetu við stýrðari orku- og útreikningsnotkun en sambærileg þétt líkan.

Þessi byggingarlist, ásamt samhengisgluggi fyrir allt að 256.000 táknÞetta gerir Mistral Large 3 kleift að vinna úr mjög miklu magni upplýsinga, svo sem löngum samningum, tæknilegum skjölum eða þekkingargrunnum stórra fyrirtækja. Líkanið er hannað fyrir notkunartilvik eins og Skjalagreining, aðstoð við forritun, efnissköpun, gervigreindarumboðsmenn og sjálfvirkni verkflæðis.

Samhliða, líkönin Ráðherrafundur 3 Þau eru í boði í þremur meginútgáfum: Base (almenn forþjálfuð líkan), Leiðbeina (bjartsýni fyrir samtal og aðstoðarverkefni) og Rökstuðningur (Aðlagað fyrir rökrétta rökhugsun og dýpri greiningu). Allar útgáfur styðja sýn og þeir meðhöndla breitt samhengi — á milli 128 og 256 tákna — en viðhalda samhæfni við mörg tungumál.

Undirliggjandi hugmyndin, eins og meðstofnandi og aðalvísindamaður Guillaume Lample útskýrir, er sú að í „meira en 90%“ tilfella fyrirtækjanotkunar, Lítil, vel stillt líkan er nóg. og þar að auki skilvirkari. Með aðferðum eins og notkun á tilbúin gögn fyrir tiltekin verkefniFyrirtækið heldur því fram að þessar gerðir geti nálgast eða jafnvel farið fram úr stærri, lokuðum valkostum í mjög sérstökum forritum, en jafnframt dregið úr kostnaði, töf og áhættu varðandi friðhelgi einkalífs.

Allt þetta vistkerfi er samþætt fjölbreyttara úrvali af vörum fyrirtækisins: allt frá Mistral Agents APImeð tengjum fyrir kóðaframkvæmd, vefleit eða myndagerð, allt að Mistral-kóðinn Til aðstoðar forritara, rökfræðilíkanið Meistaralegt og pallurinn AI stúdíó til að setja upp forrit, stjórna greiningum og viðhalda notkunarskrám.

Samstarf við NVIDIA og innleiðing í ofurtölvum og jaðartölvum

Hápunktur kynningarinnar er bandalagið milli Mistral gervigreind og NVIDIA, sem staðsetur Mistral 3 sem fjölskyldu líkana sem eru fínstilltar fyrir ofurtölvukerfi og jaðarpalla bandaríska framleiðandans. Mistral Large 3ásamt innviðum eins og NVIDIA GB200 NVL72, samkvæmt NVIDIA allt að tífalda afköstabætur samanborið við fyrri kynslóð sem byggir á H200 GPU-um, sem nýtir sér háþróaða samsíða virkni, sameiginlegt minni í gegnum NVLink og fínstillt töluleg snið eins og NVFP4.

Samstarfið stoppar ekki við hágæða vélbúnað. Ráðherrafundur 3 Það hefur verið fínstillt til að keyra hratt í umhverfi eins og Tölvur og fartölvur með RTX skjákortum, Jetson tækjum og jaðarkerfumauðvelda staðbundnar ályktanir í iðnaðar-, vélfærafræði- eða neytendaviðburðum. Vinsæl rammar eins og Llama.cpp og Ollama Þau hafa verið aðlöguð til að nýta sér þessi líkön, sem einfaldar innleiðingu þeirra fyrir forritara og upplýsingatækniteymi.

Ennfremur, samþætting við vistkerfið NVIDIA NeMo —þar á meðal verkfæri eins og Data Designer, Guardrails og Agent Toolkit — gerir fyrirtækjum kleift að framkvæma fínstilling, öryggisstjórnun, umboðsmannastjórnun og gagnahönnun byggt á Mistral 3. Á sama tíma, ályktunarvélar eins og TensorRT-LLM, SGLang og vLLM til að lækka kostnað á hvert tákn og bæta orkunýtingu.

Mistral 3 gerðirnar eru nú fáanlegar hjá helstu söluaðilum. skýjaþjónustuaðilar og opnar geymslurog þau munu einnig koma í formi NIM örþjónustur innan NVIDIA vörulistan, eitthvað sérstaklega áhugavert fyrir evrópsk fyrirtæki sem starfa nú þegar á stafla þessa framleiðanda og vilja tileinka sér kynslóðargervigreind með meiri stjórn á dreifingu.

Allt þetta rammaverk gerir Mistral 3 kleift að starfa bæði í stórum gagnaverum og á jaðartækjum, sem styrkir frásögnina af ... sannarlega alls staðar nálæg og dreifð gervigreind, minna háð fjarþjónustu og betur aðlöguð að þörfum hvers viðskiptavinar.

Lítil líkön, ótengd dreifing og notkunartilvik á jaðri

Einn af meginstoðum ræðu Mistrals er sá að Flest raunveruleg forrit þurfa ekki stærsta mögulega líkan.en eitt sem passar vel við notkunartilfellið og hægt er að fínstilla með tilteknum gögnum. Þar koma níu gerðirnar í seríunni inn í myndina. Ráðherrafundur 3Þéttur, afkastamikill og fáanlegur í mismunandi stærðum og útfærslum sem henta kostnaði, hraða eða afkastagetu.

Þessar gerðir eru hannaðar til að virka í einn GPU eða jafnvel á hóflegum vélbúnaðiÞetta gerir kleift að setja upp staðbundnar lausnir á netþjónum, fartölvum, iðnaðarvélmennum eða tækjum sem starfa í afskekktum umhverfum. Fyrir fyrirtæki sem meðhöndla viðkvæmar upplýsingar - allt frá framleiðendum til fjármálastofnana eða ríkisstofnana - er möguleikinn á að keyra gervigreind innan eigin innviða, án þess að senda gögn í skýið, verulegur kostur.

Fyrirtækið nefnir dæmi eins og Verksmiðjuvélmenni sem greina skynjaragögn í rauntíma án nettengingar, drónar fyrir neyðartilvik og björgun, ökutæki með fullkomlega virkum gervigreindaraðstoðarmönnum á svæðum án þjónustusvæðis. eða námsverkfæri sem bjóða nemendum aðstoð án nettengingar. Með því að vinna úr gögnunum beint í tækinu, friðhelgi einkalífs og stjórnun upplýsinga notenda.

Lample heldur því fram að aðgengi sé lykilþáttur í markmiðum Mistral: það eru til Milljarðar manna með farsíma eða fartölvur en án áreiðanlegs aðgangs að internetinusem gætu notið góðs af líkönum sem geta keyrt staðbundið. Á þennan hátt reynir fyrirtækið að afnema þá hugmynd að háþróuð gervigreind verði alltaf að vera bundin við stór gagnaver sem eru undir stjórn lítils hóps fyrirtækja.

Samhliða því hefur Mistral hafið samstarf við alþjóðlega samstarfsaðila á sviði þess sem kallað er Eðlisfræði gervigreindarMeðal samstarfsverkefna sem nefnd eru eru vísinda- og tæknistofnunin HTX í Singapúr fyrir vélmenni, netöryggi og brunavarnakerfi; og þýska Helsing, með áherslu á varnarmál, með framtíðarsýn-máls-aðgerðalíkönum fyrir dróna; og bílaframleiðendur sem leita að Aðstoðarmenn gervigreindar í farþegarýminu skilvirkari og stjórnanlegri.

Áhrif í Evrópu: stafrænt fullveldi og vistkerfi opinberra aðila og einkaaðila

Fyrir utan tæknilegu þættina hefur Mistral orðið viðmið í umræðunni um Stafrænt fullveldi í EvrópuÞótt fyrirtækið skilgreini sig sem „samstarfsaðila yfir Atlantshafið“ — með teymum og fyrirmyndarþjálfun sem er dreifð milli Evrópu og Bandaríkjanna — hefur skuldbinding þess við opnar fyrirmyndir með sterkum stuðningi við evrópsk tungumál verið vel tekið af opinberum stofnunum á meginlandinu.

Fyrirtækið hefur lokið samningum við franski herinn, franska vinnumálastofnunin, ríkisstjórn Lúxemborgar og aðrar evrópskar stofnanir áhuga á að innleiða gervigreind innan strangs regluverks og viðhalda stjórn á gögnunum innan ESB. Samhliða því hefur framkvæmdastjórn Evrópusambandsins lagt fram stefna til að efla evrópsk gervigreindartól sem styrkja samkeppnishæfni iðnaðarins án þess að fórna öryggi og seiglu.

Jarðfræðilegt samhengi ýtir einnig undir viðbrögð á svæðinu. Það er viðurkennt að Evrópa hefur dregist aftur úr Bandaríkjunum og Kína Í kapphlaupinu um næstu kynslóð líkana, á meðan opnir valkostir eins og DeepSeek, Alibaba og Kimi eru að koma fram í löndum eins og Kína og byrja að keppa við lausnir eins og ChatGPT í ákveðnum verkefnum, reynir Mistral að fylla hluta af því bili með opnum, fjölhæfum líkönum sem eru í samræmi við evrópskar reglugerðir.

Fjárhagslega hefur sprotafyrirtækið safnað um það bil 2.700 milljónir og hefur færst innan verðmats nálægt 14.000 millonesÞessar tölur eru mun lægri en hjá risum eins og OpenAI eða Anthropic, en þær eru mikilvægar fyrir evrópska vistkerfið. Stór hluti viðskiptamódelsins felst í því að bjóða upp á, umfram opnar lóðir, sérsniðnar þjónustur, dreifingartól og fyrirtækjavörur eins og Mistral Agents API eða Le Chat svítuna með fyrirtækjasamþættingum.

Staðsetningin er skýr: að vera veitandi opins og sveigjanlegs gervigreindarinnviða sem gerir evrópskum (og öðrum svæðisbundnum) fyrirtækjum kleift að nýsköpun án þess að vera algjörlega háð bandarískum kerfum, en jafnframt viðhalda einhverri stjórn á því hvar og hvernig líkönin eru keyrð og auðvelda samþættingu við verkfæri sem þegar eru innleidd í kerfum þeirra.

Umræða um raunverulega opinskáa umgjörð og yfirvofandi áskoranir

Þrátt fyrir þann áhuga sem Mistral 3 vekur í hluta tæknisamfélagsins, þá er enginn skortur á gagnrýnum röddum sem spyrja spurninga. að hve miklu leyti er hægt að líta á þessar gerðir í raun og veru „opinn hugbúnaður“Fyrirtækið hefur valið aðferð opin þyngdÞað gefur út vigtin til notkunar og aðlögunar, en ekki endilega allar upplýsingar um þjálfunargögnin og innri ferla sem þarf til að endurskapa líkanið frá grunni.

Rannsakendur eins og Andreas Liesenfeld, meðstofnandi Evrópska vísitölunnar um opna hugbúnað fyrir gervigreind, Þeir benda á að helsti flöskuhálsinn fyrir gervigreind í Evrópu sé ekki bara aðgangur að líkönum.en til stórfelld þjálfunargögnFrá því sjónarhorni stuðlar Mistral 3 að bæta úrval nothæfra líkanaHins vegar leysir það ekki að fullu undirliggjandi vandamál evrópsks vistkerfis sem heldur áfram að eiga í erfiðleikum með að búa til og deila risavaxnum hágæða gagnasöfnum.

Mistral viðurkennir sjálft að opnu rýmin þeirra séu „aðeins á eftir“ háþróaðri lokuðum lausnum, en Hann heldur því fram að bilið sé að minnka hratt. og að lykilatriðið sé kostnaðar-ávinningshlutfalliðEf hægt er að nota örlítið minna öfluga gerð með litlum tilkostnaði, fínstilla hana fyrir tiltekið verkefni og keyra hana nálægt notandanum, Þetta gæti verið áhugaverðara fyrir mörg fyrirtæki en toppmódel sem aðeins er hægt að nálgast í gegnum fjarstýrða API.

Engu að síður eru enn áskoranir: frá hörð alþjóðleg samkeppni Þetta nær einnig til þess að tryggja öryggi, rekjanleika og að farið sé að reglum í samhengi eins og heilbrigðisþjónustu, fjármálum og stjórnsýslu. Jafnvægið milli gagnsæis, stjórnunar og ábyrgðar mun áfram leiða Mistral og aðra evrópska aðila á komandi árum.

Sjósetja Mistral 3 Þetta styrkir þá hugmynd að nýjustu gervigreind þurfi ekki að takmarkast við risastór, lokuð líkön., og býður Evrópu — og öllum stofnunum sem meta tæknilegt fullveldi mikils — upp á úrval opinna verkfæra sem sameina fjölþætta jaðarlíkan við úrval léttvægra líkana sem geta unnið á jaðrinum, án nettengingar og með sérstillingarstigi sem erfitt er að jafna með eingöngu einkaleyfisvernduðum kerfum.

Tengd grein:

Hvernig á að nota tölvuna þína sem staðbundna gervigreindarmiðstöð: Hagnýt og samanburðarleiðbeiningar

Alberto navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.