Mistral 3: y don newydd o fodelau agored ar gyfer AI dosbarthedig

Y cwmni newydd Ffrengig Mistral AI Mae wedi gosod ei hun yng nghanol y ddadl ar ddeallusrwydd artiffisial yn Ewrop gyda'r Lansio Mistral 3Teulu newydd o fodelau agored wedi'u cynllunio i weithio mewn canolfannau data mawr a dyfeisiau gydag adnoddau cyfyngedig iawn. Ymhell o fod yn rhan o ras ddall am faint model, mae'r cwmni Mae'n eiriol dros ddeallusrwydd dosbarthedig y gellir ei weithredu lle bynnag y bo angen.: yn y cwmwl, ar yr ymyl, neu hyd yn oed heb gysylltiad rhyngrwyd.

Mae'r strategaeth hon yn gosod Mistral fel un o'r ychydig ddewisiadau amgen Ewropeaidd sy'n gallu sefyll i fyny i gewri fel OpenAI, Google neu Anthropic, ac yn cynnig dewisiadau amgen i ChatGPTOnd o safbwynt gwahanol: modelau pwysau agored o dan drwydded ganiataoladdasadwy i anghenion cwmnïau a gweinyddiaethau cyhoeddus, a chyda ffocws cryf ar ieithoedd Ewropeaidd a defnyddiau sofran o fewn y cyfandir.

Beth yw Mistral 3 a pham ei fod yn berthnasol?

Y teulu Mistral 3 Mae wedi ei ffurfio gan deg model pwysau agored wedi'i ryddhau o dan Drwydded Apache 2.0Mae hyn yn caniatáu ei ddefnydd masnachol heb fawr ddim cyfyngiadau. Mae'n cynnwys model blaenllaw tebyg i Frontier. Mistral Mawr 3a llinell o fodelau cryno o dan y brand Gweinidogol 3sy'n dod mewn tri maint bras (14.000, 8.000 a 3.000 miliwn o baramedrau) a sawl amrywiad yn dibynnu ar y math o dasg.

Y prif arloesedd yw nad yw'r model mawr wedi'i gyfyngu i destun: Mae Mistral Large 3 yn amlfoddol ac amlieithogMae'n gallu gweithio gyda thestun a delweddau o fewn yr un bensaernïaeth ac mae'n cynnig cefnogaeth gadarn ar gyfer ieithoedd Ewropeaidd. Yn wahanol i ddulliau eraill sy'n cyfuno modelau iaith a gweledigaeth ar wahân, mae'r un hon yn dibynnu ar un system integredig a all ddadansoddi dogfennau mawr, deall delweddau, a gweithredu fel cynorthwyydd uwch ar gyfer tasgau cymhleth.

Ar yr un pryd, y gyfres Gweinidogol 3 Mae wedi'i gynllunio i weithio mewn senarios lle mae mynediad i'r cwmwl yn gyfyngedig neu'n gwbl absennol. Gall y modelau hyn redeg ar ddyfeisiau gyda chyn lleied â 4 GB o gof neu ar un GPU, sy'n agor y drws i'w ddefnydd mewn gliniaduron, ffonau symudol, robotiaid, dronau, neu systemau mewnosodedig heb ddibynnu ar gysylltiad rhyngrwyd cyson na darparwyr allanol.

Ar gyfer ecosystem Ewrop, lle mae'r sgwrs am sofraniaeth ddigidol a rheoli data Mae'r cyfuniad hwn o fodel ffin agored a modelau ysgafn y gellir eu defnyddio'n lleol yn bresennol iawn ac yn arbennig o berthnasol, i gwmnïau preifat a gweinyddiaethau cyhoeddus sy'n chwilio am ddewisiadau eraill yn lle llwyfannau mawr yr Unol Daleithiau a Tsieina.

Pensaernïaeth, Cymysgedd o Arbenigwyr, a Dull Technegol

Calon dechnegol Mistral Mawr 3 yn bensaernïaeth o Cymysgedd o Arbenigwyr (MoE), dyluniad lle mae'r model Mae ganddo nifer o "arbenigwyr" mewnol.Ond dim ond yn actifadu rhan ohonyn nhw i brosesu pob tocynYn ymarferol, mae'r system yn ymdrin â 41.000 biliwn o baramedrau gweithredol dros gyfanswm o Millones 675.000Mae hyn yn caniatáu cyfuno gallu rhesymu uchel â defnydd ynni a chyfrifiadura mwy rheoledig na model dwys cyfatebol.

Y bensaernïaeth hon, ynghyd â ffenestr gyd-destun o hyd at 256.000 o docynnauMae hyn yn caniatáu i Mistral Large 3 brosesu cyfrolau mawr iawn o wybodaeth, megis contractau hir, dogfennaeth dechnegol, neu gronfeydd gwybodaeth corfforaethol mawr. Mae'r model wedi'i anelu at achosion defnydd megis dadansoddi dogfennau, cymorth rhaglennu, creu cynnwys, asiantau AI, ac awtomeiddio llif gwaith.

Ochr yn ochr â hynny, y modelau Gweinidogol 3 Fe'u cynigir mewn tair prif amrywiad: Sylfaen (model generig wedi'i hyfforddi ymlaen llaw), Cyfarwyddyd (wedi'i optimeiddio ar gyfer sgwrs a thasgau cynorthwyydd) a Rhesymu (Wedi'i addasu ar gyfer rhesymu rhesymegol a dadansoddiad dyfnach). Cefnogir pob fersiwn gweledigaeth ac maen nhw'n trin cyd-destunau eang —rhwng 128K a 256K o docynnau—, gan gynnal cydnawsedd â sawl iaith.

Y syniad sylfaenol, fel yr eglurwyd gan y cyd-sylfaenydd a'r prif wyddonydd Guillaume Lample, yw mewn "mwy na 90%" o achosion defnydd menter, Mae model bach, wedi'i diwnio'n dda yn ddigonol. ac, ar ben hynny, yn fwy effeithlon. Trwy dechnegau fel defnyddio data synthetig ar gyfer tasgau penodolMae'r cwmni'n dadlau y gall y modelau hyn agosáu at neu hyd yn oed ragori ar opsiynau mwy, caeedig mewn cymwysiadau penodol iawn, gan leihau costau, oedi, a risgiau preifatrwydd.

Mae'r ecosystem cyfan hwn wedi'i integreiddio ag ystod ehangach o gynhyrchion y cwmni: o API Asiantau Mistralgyda chysylltwyr ar gyfer gweithredu cod, chwiliad gwe, neu gynhyrchu delweddau, hyd at Cod Mistral I gael cymorth rhaglennwr, y model rhesymu Meistrol a'r platfform Stiwdio AI i ddefnyddio cymwysiadau, rheoli dadansoddeg, a chynnal logiau defnydd.

Cydweithio ag NVIDIA a'i ddefnyddio mewn uwchgyfrifiadura a chyfrifiadura ymylol

Un o uchafbwyntiau'r lansiad yw'r gynghrair rhwng Mistral AI ac NVIDIA, sy'n gosod Mistral 3 fel teulu o fodelau sydd wedi'u mireinio ar gyfer systemau uwchgyfrifiadura a llwyfannau ymyl y gwneuthurwr Americanaidd. Mistral Mawr 3ynghyd â seilwaith fel NVIDIA GB200 NVL72, yn ôl NVIDIA gwelliannau perfformiad hyd at ddeg gwaith o'i gymharu â'r genhedlaeth flaenorol yn seiliedig ar GPUs H200, gan fanteisio ar baraleliaeth uwch, cof a rennir trwy NVLink, a fformatau rhifiadol wedi'u optimeiddio fel NVFP4.

Nid yw'r gwaith cydweithredol yn dod i ben gyda chaledwedd pen uchel. Y gyfres Gweinidogol 3 Mae wedi'i optimeiddio i redeg yn gyflym mewn amgylcheddau fel Cyfrifiaduron personol a gliniaduron gyda GPUs RTX, dyfeisiau Jetson, a llwyfannau ymylhwyluso casgliadau lleol mewn senarios diwydiannol, roboteg, neu ddefnyddwyr. Fframweithiau poblogaidd fel Llama.cpp ac Ollama Maent wedi cael eu haddasu i fanteisio ar y modelau hyn, sy'n symleiddio eu defnydd gan ddatblygwyr a thimau TG.

Ar ben hynny, integreiddio â'r ecosystem NVIDIA NeMo —gan gynnwys offer fel Data Designer, Guardrails, a Agent Toolkit—yn galluogi cwmnïau i berfformio mireinio, rheoli diogelwch, trefnu asiantau, a dylunio data yn seiliedig ar Mistral 3. Ar yr un pryd, peiriannau casglu fel TensorRT-LLM, SGLang a vLLM i leihau'r gost fesul tocyn a gwella effeithlonrwydd ynni.

Mae modelau Mistral 3 bellach ar gael mewn manwerthwyr mawr darparwyr cwmwl a storfeydd agoreda byddant hefyd yn cyrraedd ar ffurf Microgwasanaethau NIM o fewn catalog NVIDIA, rhywbeth sy'n arbennig o ddiddorol i gwmnïau Ewropeaidd sydd eisoes yn gweithredu ar bentyrrau'r gwneuthurwr hwn ac sydd eisiau mabwysiadu AI cynhyrchiol gyda mwy o reolaeth dros ei ddefnyddio.

Mae'r holl fframwaith hwn yn caniatáu i Mistral 3 fyw mewn canolfannau data mawr a dyfeisiau ar ymyl y ffordd, gan atgyfnerthu ei naratif o AI hollbresennol a dosbarthedig, yn llai dibynnol ar wasanaethau o bell ac yn fwy addas i anghenion penodol pob cleient.

Modelau bach, defnydd all-lein, ac achosion defnydd ymyl

Un o gonglfeini trafodaeth Mistral yw bod Nid yw'r rhan fwyaf o gymwysiadau byd go iawn angen y model mwyaf posibl.ond un sy'n cyd-fynd yn dda â'r achos defnydd a gellir ei fireinio â data penodol. Dyna lle mae'r naw model yn y gyfres yn dod i mewn. Gweinidogol 3dwys, perfformiad uchel, ac ar gael mewn gwahanol feintiau ac amrywiadau i gyd-fynd â gofynion cost, cyflymder neu gapasiti.

Mae'r modelau hyn wedi'u cynllunio i weithio yn un GPU neu hyd yn oed ar galedwedd cymedrolMae hyn yn caniatáu ar gyfer defnydd lleol ar weinyddion mewnol, gliniaduron, robotiaid diwydiannol, neu ddyfeisiau sy'n gweithredu mewn amgylcheddau anghysbell. I gwmnïau sy'n trin gwybodaeth sensitif—o weithgynhyrchwyr i sefydliadau ariannol neu asiantaethau'r llywodraeth—mae'r gallu i redeg AI o fewn eu seilwaith eu hunain, heb anfon data i'r cwmwl, yn fantais sylweddol.

Mae'r cwmni'n crybwyll enghreifftiau fel Robotiaid ffatri sy'n dadansoddi data synhwyrydd mewn amser real heb gysylltiad rhyngrwyd, dronau ar gyfer argyfyngau ac achubiaethau, cerbydau gyda chynorthwywyr AI cwbl weithredol mewn ardaloedd heb sylw neu offer addysgol sy'n cynnig cymorth all-lein i fyfyrwyr. Drwy brosesu'r data yn uniongyrchol ar y ddyfais, y preifatrwydd a rheoli gwybodaeth y defnyddwyr.

Mae Lample yn mynnu bod hygyrchedd yn rhan ganolog o genhadaeth Mistral: mae yna Biliynau o bobl â ffonau symudol neu liniaduron ond heb fynediad dibynadwy i'r rhyngrwyda allai elwa o fodelau sy'n gallu rhedeg yn lleol. Yn y modd hwn, mae'r cwmni'n ceisio chwalu'r syniad bod rhaid i AI uwch fod ynghlwm bob amser â chanolfannau data mawr a reolir gan grŵp bach o gwmnïau.

Ochr yn ochr â hynny, mae Mistral wedi dechrau gweithio gyda phartneriaid rhyngwladol ym maes yr hyn a elwir yn Ffiseg AIYmhlith y cydweithrediadau a grybwyllir mae asiantaeth wyddoniaeth a thechnoleg HTX Singapore ar gyfer robotiaid, seiberddiogelwch, a systemau amddiffyn rhag tân; a'r Almaen Helsing, yn canolbwyntio ar amddiffyn, gyda modelau gweledigaeth-iaith-gweithredu ar gyfer dronau; a gweithgynhyrchwyr modurol sy'n chwilio Cynorthwywyr AI yn y caban yn fwy effeithlon a rheoladwy.

Effaith yn Ewrop: sofraniaeth ddigidol ac ecosystem cyhoeddus-preifat

Y tu hwnt i'r agweddau technegol, mae Mistral wedi dod yn feincnod yn y ddadl ar Sofraniaeth ddigidol yn EwropEr bod y cwmni'n diffinio ei hun fel "cydweithrediad trawsatlantig" —gyda thimau a hyfforddiant model wedi'i wasgaru rhwng Ewrop a'r Unol Daleithiau—, mae ei ymrwymiad i fodelau agored gyda chefnogaeth gref i ieithoedd Ewropeaidd wedi cael derbyniad da gan sefydliadau cyhoeddus ar y cyfandir.

Mae'r cwmni wedi cau cytundebau gyda byddin Ffrainc, asiantaeth cyflogaeth gyhoeddus Ffrainc, llywodraeth Lwcsembwrg, a sefydliadau Ewropeaidd eraill sydd â diddordeb mewn defnyddio AI o dan fframweithiau rheoleiddio llym a chynnal rheolaeth dros y data o fewn yr UE. Ochr yn ochr â hynny, mae'r Comisiwn Ewropeaidd wedi cyflwyno strategaeth i hybu offer AI Ewropeaidd sy'n cryfhau cystadleurwydd diwydiannol heb aberthu diogelwch a gwydnwch.

Mae'r cyd-destun geo-wleidyddol hefyd yn gwthio'r rhanbarth i ymateb. Cydnabyddir bod Mae Ewrop wedi syrthio y tu ôl i'r Unol Daleithiau a Tsieina Yn y ras am fodelau cenhedlaeth nesaf, tra bod dewisiadau amgen agored fel DeepSeek, Alibaba, a Kimi yn dod i'r amlwg mewn gwledydd fel Tsieina ac yn dechrau cystadlu ag atebion fel ChatGPT mewn rhai tasgau, mae Mistral yn ceisio llenwi rhan o'r bwlch hwnnw gyda modelau agored, amlbwrpas sy'n cyd-fynd â gofynion rheoleiddio Ewropeaidd.

Yn ariannol, mae'r cwmni newydd wedi codi tua 2.700 miliwn ac wedi symud o fewn gwerthoedd sy'n agos at Millones 14.000Mae'r ffigurau hyn yn llawer is na rhai cewri fel OpenAI neu Anthropic, ond yn arwyddocaol i'r ecosystem Ewropeaidd. Mae rhan fawr o'r model busnes yn cynnwys cynnig, y tu hwnt i bwysau agored, gwasanaethau addasu, offer defnyddio, a chynhyrchion menter fel API Mistral Agents neu gyfres Le Chat gydag integreiddiadau corfforaethol.

Mae'r safbwynt yn glir: bod yn darparwr seilwaith AI agored a hyblyg sy'n caniatáu i gwmnïau Ewropeaidd (a rhanbarthol eraill) arloesi heb fod yn gwbl ddibynnol ar lwyfannau'r Unol Daleithiau, gan gynnal rhywfaint o reolaeth dros ble a sut mae'r modelau'n cael eu rhedeg, a hwyluso integreiddiadau ag offer sydd eisoes wedi'u gweithredu yn eu systemau.

Dadl ar agoredrwydd gwirioneddol a heriau sydd ar ddod

Er gwaethaf y brwdfrydedd y mae Mistral 3 yn ei greu mewn rhan o'r gymuned dechnoleg, nid oes prinder lleisiau beirniadol sy'n cwestiynu i ba raddau y gellir ystyried y modelau hyn mewn gwirionedd "ffynhonnell agored"Mae'r cwmni wedi dewis dull pwysau agoredMae'n rhyddhau'r pwysau i'w defnyddio ac i'w haddasu, ond nid o reidrwydd yr holl fanylion am y data hyfforddi a'r prosesau mewnol sydd eu hangen i atgynhyrchu'r model o'r dechrau.

Ymchwilwyr fel Andreas Liesenfeld, cyd-sylfaenydd Mynegai Deallusrwydd Artiffisial Ffynhonnell Agored Ewrop, Maen nhw'n tynnu sylw at y ffaith nad mynediad at fodelau yn unig yw'r prif dagfa ar gyfer deallusrwydd artiffisial yn Ewropond i data hyfforddi ar raddfa fawrO'r safbwynt hwnnw, mae Mistral 3 yn cyfrannu at gwella'r ystod o fodelau defnyddiadwyFodd bynnag, nid yw'n datrys yn llawn y broblem sylfaenol o ecosystem Ewropeaidd sy'n parhau i gael trafferth i gynhyrchu a rhannu setiau data enfawr o ansawdd uchel.

Mae Mistral ei hun yn cyfaddef bod ei fodelau cynllun agored "ychydig ar ei hôl hi" o'r atebion caeedig mwy datblygedig, ond Mae'n mynnu bod y bwlch yn culhau'n gyflym. a bod y pwynt allweddol yw y gymhareb cost-buddOs gellir defnyddio model ychydig yn llai pwerus am gost isel, ei fireinio ar gyfer tasg benodol, a'i redeg yn agos at y defnyddiwr, Efallai y bydd hyn yn fwy diddorol i lawer o gwmnïau na model uchaf y gellir cael mynediad iddo drwy API o bell yn unig.

Er hynny, mae heriau'n parhau: o'r cystadleuaeth ryngwladol ffyrnig Mae hyn yn ymestyn i'r angen i warantu diogelwch, olrhain, a chydymffurfiaeth reoleiddiol mewn cyd-destunau fel gofal iechyd, cyllid, a llywodraeth. Bydd y cydbwysedd rhwng agoredrwydd, rheolaeth, a chyfrifoldeb yn parhau i arwain Mistral a chwaraewyr Ewropeaidd eraill yn y blynyddoedd i ddod.

Lansiad Mistral 3 Mae'n atgyfnerthu'r syniad nad oes rhaid i AI arloesol fod yn gyfyngedig i fodelau caeedig enfawr., ac mae'n cynnig palet o offer agored i Ewrop —ac unrhyw sefydliad sy'n gwerthfawrogi sofraniaeth dechnolegol— sy'n cyfuno model ffin aml-foddol ag ystod o fodelau ysgafn sy'n gallu gweithio ar yr ymyl, all-lein, a chyda lefel o addasu sy'n anodd ei chyfateb gan lwyfannau cwbl berchnogol.

Erthygl gysylltiedig:

Sut i Ddefnyddio Eich Cyfrifiadur Personol fel Hwb Deallusrwydd Artiffisial Lleol: Canllaw Ymarferol a Chymharol

Alberto navarro

Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.

Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.