Mistral 3: nthwv dej tshiab ntawm cov qauv qhib rau faib AI

Fabkis startup Mistral AI Nws tau muab nws tus kheej tso rau hauv nruab nrab ntawm kev sib cav tswv yim txog kev txawj ntse hauv Tebchaws Europe nrog rau Mistral 3 tso tawmIb tsev neeg tshiab ntawm cov qauv qhib tsim los ua haujlwm hauv ob lub chaw loj cov ntaub ntawv thiab cov khoom siv nrog cov peev txheej tsawg heev. Nyob deb ntawm kev nkag mus rau kev sib tw dig muag rau cov qauv loj, lub tuam txhab Nws tawm tswv yim rau kev faib kev txawj ntse uas tuaj yeem siv tau txhua qhov chaw xav tau.: hauv huab, ntawm ntug, lossis txawm tias tsis muaj kev sib txuas hauv internet.

Lub tswv yim no qhov chaw Mistral yog ib qho ntawm ob peb txoj hauv kev European muaj peev xwm sawv ntsug rau cov neeg loj xws li OpenAI, Google lossis Anthropicthiab muab lwm txoj rau ChatGPTTab sis los ntawm ib qho kev xav txawv: qhib-yuav ua qauv nyob rau hauv daim ntawv tso caiyoog raws li cov kev xav tau ntawm cov tuam txhab thiab kev tswj hwm pej xeem, thiab nrog rau kev tsom mus rau cov lus nyob sab Europe thiab kev xa mus rau thaj av loj.

Mistral 3 yog dab tsi thiab vim li cas nws thiaj cuam tshuam?

Tsev neeg Mistral 3 Nws yog tsim los ntawm kaum qhib hnyav qauv tso tawm hauv Apache License 2.0Qhov no tso cai rau nws cov lag luam siv nrog zoo tsis muaj kev txwv. Nws suav nrog tus qauv Frontier-type flagship. Mistral Loj 3thiab ib kab ntawm compact qauv nyob rau hauv lub hom Ministerial 3uas tuaj nyob rau hauv peb qhov ntau thiab tsawg (14.000, 8.000 thiab 3.000 lab tsis) thiab ntau yam sib txawv nyob ntawm seb hom haujlwm.

Qhov tseem ceeb innovation yog tus qauv loj tsis txwv rau cov ntawv nyeem: Mistral Loj 3 yog ntau hom lus thiab ntau hom lusNws muaj peev xwm ua hauj lwm nrog cov ntawv nyeem thiab cov duab nyob rau hauv tib lub architecture thiab muaj kev txhawb zog rau cov lus European. Tsis zoo li lwm txoj hauv kev uas muab cov qauv lus thiab pom kev sib cais, qhov no yog ib qho kev sib koom ua ke uas tuaj yeem txheeb xyuas cov ntaub ntawv loj, nkag siab cov duab, thiab ua tus pab cuam siab heev rau cov haujlwm nyuaj.

Nyob rau tib lub sijhawm, series Ministerial 3 Nws yog tsim los ua haujlwm hauv cov xwm txheej uas huab nkag tau txwv lossis tsis muaj. Cov qauv no tuaj yeem khiav ntawm cov khoom siv nrog tsawg npaum li 4 GB ntawm lub cim xeeb lossis ntawm ib qho GPU, uas qhib qhov rooj rau nws siv hauv laptops, mobile phones, robots, drones, los yog embedded systems yam tsis nyob ntawm qhov txuas hauv internet tsis tu ncua lossis cov chaw muab kev pabcuam sab nraud.

Rau cov European ecosystem, qhov twg kev sib tham txog digital sovereignty thiab tswj cov ntaub ntawv Qhov kev sib xyaw ua ke ntawm tus qauv qhib pem hauv ntej thiab cov qauv siv hauv zos siv tau yooj yim heev tam sim no thiab tshwj xeeb tshaj yog cuam tshuam, ob qho tib si rau cov tuam txhab ntiag tug thiab cov kev tswj hwm pej xeem nrhiav lwm txoj hauv kev loj hauv Asmeskas thiab Suav.

Architecture, Sib xyaw ntawm Cov Kws Tshaj Lij, thiab Kev Ua Haujlwm Zoo

Lub plawv technical ntawm Mistral Loj 3 yog ib tug architecture ntawm Kev sib xyaw ntawm Cov Kws Tshaj Lij (MoE), ib tug tsim nyob rau hauv uas tus qauv Nws muaj ntau yam sab hauv "tus kws tshaj lij"., tab sis tsuas yog qhib ib feem ntawm lawv los ua txhua tus tokenHauv kev xyaum, qhov system ua haujlwm 41.000 billion active parameters tshaj tag nrho ntawm 675.000 billionQhov no tso cai rau kev sib koom ua ke muaj peev xwm muaj peev xwm nrog kev tswj hwm lub zog ntau dua thiab kev siv suav ntau dua li tus qauv sib npaug.

Qhov no architecture, ua ke nrog a lub qhov rai ntsiab lus ntawm txog li 256.000 tokensQhov no tso cai rau Mistral Loj 3 los ua cov ntaub ntawv loj heev, xws li cov ntawv cog lus ntev, cov ntaub ntawv qhia txuj ci, lossis cov tuam txhab kev paub loj. Cov qauv yog npaj rau kev siv rooj plaub xws li Kev tsom xam cov ntaub ntawv, kev pab cuam programming, cov ntsiab lus tsim, AI tus neeg sawv cev, thiab kev ua haujlwm automation.

Nyob rau hauv parallel, cov qauv Ministerial 3 Lawv muaj nyob rau hauv peb lub ntsiab variants: Lub hauv paus (generic pretrained qauv), Qhia (ua kom zoo rau kev sib tham thiab cov haujlwm pabcuam) thiab Kev xav (Hloov rau qhov laj thawj laj thawj thiab kev tsom xam tob dua). Tag nrho cov versions txhawb kev pom kev thiab lawv tuav cov ntsiab lus dav dav - nruab nrab ntawm 128K thiab 256K tokens -, thaum tswj kev sib raug zoo nrog ntau hom lus.

Lub tswv yim hauv qab, raws li tau piav qhia los ntawm tus tsim thiab tus thawj kws tshawb fawb Guillaume Lample, yog tias nyob rau hauv "ntau tshaj 90%" ntawm kev siv lag luam, Ib tug me me, zoo-tuned qauv yog txaus. thiab, ntxiv rau, ntau npaum. Los ntawm cov txheej txheem xws li kev siv cov ntaub ntawv hluavtaws rau cov haujlwm tshwj xeebLub tuam txhab sib cav hais tias cov qauv no tuaj yeem mus txog lossis dhau qhov loj dua, kaw cov kev xaiv hauv cov ntawv thov tshwj xeeb, thaum txo cov nqi, latency, thiab kev pheej hmoo tsis pub lwm tus paub.

Qhov no tag nrho ecosystem yog kev koom ua ke nrog ntau yam ntawm lub tuam txhab cov khoom: los ntawm Mistral Agents APInrog cov connectors rau code execution, web search, los yog tsim duab, mus txog Mistral Code Rau kev pabcuam programmer, tus qauv tsim qauv Ua tau zoo heev thiab lub platform AI Studio txhawm rau xa cov ntawv thov, tswj xyuas kev txheeb xyuas, thiab tswj xyuas cov ntaub ntawv siv.

Kev koom tes nrog NVIDIA thiab xa mus rau hauv supercomputing thiab ntug xam

Ib qho tseem ceeb ntawm kev tshaj tawm yog kev sib koom ua ke ntawm Mistral AI thiab NVIDIA, uas ua hauj lwm Mistral 3 raws li ib tsev neeg ntawm cov qauv zoo-tuned rau lub supercomputing systems thiab ntug platforms ntawm American chaw tsim tshuaj paus. Mistral Loj 3ua ke nrog infrastructure xws li NVIDIA GB200 NVL72, raws li NVIDIA kev txhim kho kev ua tau zoo txog li kaum zaug piv rau cov tiam dhau los raws li H200 GPUs, ua kom zoo dua ntawm kev sib tw ua ntej, sib koom nco ntawm NVLink, thiab ua kom zoo tshaj cov lej xws li NVFP4.

Kev sib koom tes ua haujlwm tsis nres ntawm cov khoom siv high-end. Cov series Ministerial 3 Nws tau raug optimized khiav ceev hauv ib puag ncig xws li PCs thiab laptops nrog RTX GPUs, Jetson li, thiab ntug platformsua kom yooj yim cov kev xav hauv zos hauv kev lag luam, neeg hlau, lossis cov neeg siv khoom. Nrov lub moj khaum xws li Llama.cpp thiab Ollama Lawv tau raug kho kom zoo dua ntawm cov qauv no, uas ua rau lawv yooj yim rau kev xa tawm los ntawm cov neeg tsim khoom thiab pab pawg IT.

Tsis tas li ntawd, kev koom ua ke nrog ecosystem NVIDIA NeMo - suav nrog cov cuab yeej xws li Cov Qauv Tsim Qauv, Guardrails, thiab Cov Khoom Siv Tus Neeg Sawv Cev - ua rau cov tuam txhab ua haujlwm nplua-tuning, tswj kev ruaj ntseg, tus neeg saib xyuas orchestration, thiab tsim cov ntaub ntawv raws li Mistral 3. Tib lub sij hawm, inference cav xws li TensorRT-LLM, SGLang thiab vLLM txo tus nqi ib token thiab txhim kho lub zog efficiency.

Mistral 3 qauv tam sim no muaj nyob rau ntawm cov khw muag khoom loj huab muab kev pab thiab qhib repositoriesthiab lawv kuj yuav tuaj txog hauv daim ntawv NIM microservices nyob rau hauv NVIDIA catalog, ib yam dab tsi tshwj xeeb tshaj yog nthuav rau European tuam txhab uas muag uas twb ua hauj lwm nyob rau hauv no cov chaw tsim tshuaj paus thiab xav txais yuav generative AI nrog ntau dua kev tswj ntawm xa mus.

Txhua lub moj khaum no tso cai rau Mistral 3 nyob hauv ob qho tib si hauv cov ntaub ntawv loj thiab ntawm ntug khoom, txhawb nqa nws cov lus piav qhia ntawm tiag tiag ubiquitous thiab faib AI, tsawg dua nyob ntawm cov kev pab cuam tej thaj chaw deb thiab ntau yoog raws li cov kev xav tau tshwj xeeb ntawm txhua tus neeg siv khoom.

Cov qauv me me, kev xa tawm offline, thiab ntug siv rooj plaub

Ib qho piv txwv ntawm Mistral cov lus hais yog qhov ntawd Feem ntau cov ntawv thov hauv ntiaj teb tsis xav tau tus qauv loj tshaj plaws.tab sis ib qho uas haum zoo nrog cov ntaub ntawv siv thiab tuaj yeem raug kho kom zoo nrog cov ntaub ntawv tshwj xeeb. Qhov ntawd yog qhov uas cuaj qauv hauv koob tuaj. Ministerial 3ntom ntom, ua haujlwm siab, thiab muaj nyob rau hauv ntau qhov sib txawv thiab txawv txav kom haum rau tus nqi, ceev, lossis muaj peev xwm.

Cov qauv no yog tsim los ua haujlwm hauv ib qho GPU lossis txawm tias ntawm cov khoom siv me meQhov no tso cai rau kev xa tawm hauv zos ntawm cov servers hauv tsev, laptops, muaj robots, lossis cov khoom siv ua haujlwm hauv thaj chaw deb. Rau cov tuam txhab tuav cov ntaub ntawv rhiab heev-los ntawm cov tuam txhab lag luam mus rau cov tuam txhab nyiaj txiag lossis tsoomfwv cov koom haum-lub peev xwm los khiav AI hauv lawv tus kheej cov txheej txheem, tsis tas xa cov ntaub ntawv mus rau huab, yog qhov zoo dua.

Lub tuam txhab suav cov piv txwv xws li Factory robots uas txheeb xyuas cov ntaub ntawv sensor hauv lub sijhawm tiag tiag yam tsis muaj kev sib txuas hauv internet, drones rau xwm txheej ceev thiab cawm, tsheb nrog cov neeg ua haujlwm AI ua haujlwm tau zoo hauv thaj chaw uas tsis muaj kev pabcuam. los yog cov cuab yeej kev kawm uas muaj kev pab offline rau cov tub ntxhais kawm. Los ntawm kev ua cov ntaub ntawv ncaj qha ntawm lub cuab yeej, lub kev ceev ntiag tug thiab tswj cov ntaub ntawv ntawm cov neeg siv.

Lample hais tias kev nkag mus tau yog qhov tseem ceeb ntawm Mistral lub hom phiaj: muaj Ntau txhiab tus neeg uas muaj lub xov tooj ntawm tes lossis laptops tab sis tsis muaj kev nkag mus tau zoo hauv internetuas tuaj yeem tau txais txiaj ntsig los ntawm cov qauv muaj peev xwm khiav hauv zos. Nyob rau hauv txoj kev no, lub tuam txhab tab tom sim tshem tawm qhov kev xav tias AI siab heev yuav tsum ib txwm muab khi rau cov ntaub ntawv loj loj tswj los ntawm ib pab pawg me ntawm cov tuam txhab.

Nyob rau hauv parallel, Mistral tau pib ua hauj lwm nrog cov neeg koom tes thoob ntiaj teb nyob rau hauv lub cheeb tsam ntawm lub npe hu ua. AI physicsNtawm cov kev sib koom tes tau hais yog Singapore lub HTX science thiab technology lub koom haum rau cov neeg hlau, cybersecurity, thiab hluav taws xob tiv thaiv systems; thiab German Helsing, tsom rau kev tiv thaiv, nrog rau kev pom kev-lus-kev ua qauv rau drones; thiab automotive manufacturers nrhiav AI pab hauv tsev ntau npaum thiab tswj tau.

Kev cuam tshuam hauv Tebchaws Europe: digital sovereignty thiab pej xeem-private ecosystem

Dhau li ntawm kev sib tham, Mistral tau dhau los ua tus qauv hauv kev sib cav txog Digital sovereignty hauv EuropeTxawm hais tias lub tuam txhab txhais nws tus kheej raws li "kev sib koom ua ke ntawm transatlantic" - nrog cov pab pawg thiab cov qauv kev cob qhia kis tau los ntawm Tebchaws Europe thiab Tebchaws Meskas -, nws txoj kev cog lus qhib cov qauv nrog kev txhawb zog rau cov lus European tau txais txiaj ntsig zoo los ntawm cov koom haum pej xeem nyob rau sab av loj.

Lub tuam txhab tau kaw deals nrog cov tub rog Fab Kis, Fab Kis lub chaw ua haujlwm pej xeem, tsoomfwv Luxembourg, thiab lwm lub koom haum European txaus siab rau kev xa tawm AI raws li kev tswj hwm nruj thiab tswj xyuas cov ntaub ntawv hauv EU. Nyob rau tib lub sijhawm, European Commission tau nthuav tawm ib lub tswv yim los txhawb European AI cov cuab yeej uas ntxiv dag zog rau kev lag luam kev sib tw yam tsis muaj kev cuam tshuam kev nyab xeeb thiab kev ua haujlwm.

Cov ntsiab lus geopolitical kuj tseem thawb lub cheeb tsam kom hnov ​​​​qab. Nws raug lees paub tias Tebchaws Europe tau poob qab Tebchaws Meskas thiab Tuam Tshoj Hauv kev sib tw rau tiam tom ntej, thaum nyob hauv cov teb chaws xws li Tuam Tshoj qhib lwm txoj hauv kev xws li DeepSeek, Alibaba, thiab Kimi tau tshwm sim thiab pib sib tw nrog cov kev daws teeb meem zoo li ChatGPT hauv qee yam dej num, Mistral tab tom sim ua ib feem ntawm qhov sib txawv nrog qhib, ntau yam qauv ua raws li European cov cai tswj hwm.

Nyiaj txiag, qhov pib tau nce ib ncig $2.700 billion thiab tau tsiv mus nyob rau hauv cov nqi ze rau 14.000 billionCov nuj nqis no qis dua li cov loj loj xws li OpenAI lossis Anthropic, tab sis tseem ceeb rau European ecosystem. Ib feem ntau ntawm cov qauv kev lag luam suav nrog kev muab, dhau qhov qhib qhov hnyav, Cov kev pabcuam customization, xa cov cuab yeej, thiab cov khoom lag luam xws li Mistral Agents API lossis Le Chat suite nrog kev koom ua ke koom nrog.

Txoj hauj lwm yog qhov tseeb: ua ib muab kev qhib thiab hloov pauv AI infrastructure uas tso cai rau European (thiab lwm lub regional) tuam txhab uas muag los innovate yam tsis tau kiag li nyob ntawm US platforms, thaum tswj ib co kev tswj nyob qhov twg thiab yuav ua li cas cov qauv khiav, thiab pab txhawb kev koom ua ke nrog cov cuab yeej twb siv nyob rau hauv lawv lub cev.

Sib cav txog kev qhib siab tiag tiag thiab cov kev sib tw tseem tos

Txawm hais tias muaj kev txaus siab uas Mistral 3 tab tom tsim nyob rau hauv ib feem ntawm lub zej zog thev naus laus zis, tsis muaj qhov tsis txaus ntawm cov suab tseem ceeb uas nug. txog qhov twg cov qauv no tuaj yeem txiav txim siab tiag tiag "qhib qhov chaw"Lub tuam txhab tau xaiv rau txoj hauv kev qhib lujNws tso tawm qhov hnyav rau kev siv thiab hloov kho, tab sis tsis tas yuav tsum muaj tag nrho cov ntsiab lus ntawm cov ntaub ntawv kev cob qhia thiab cov txheej txheem sab hauv uas xav tau los tsim cov qauv los ntawm kos.

Cov kws tshawb nrhiav xws li Andreas Liesenfeld, co-founder ntawm European Open Source AI Index, Lawv taw qhia tias lub fwj tseem ceeb rau AI hauv Tebchaws Europe tsis yog nkag mus rau cov qauv xwbtab sis rau cov ntaub ntawv kev cob qhia lojLos ntawm qhov kev xav ntawd, Mistral 3 pab txhawb rau txhim kho qhov ntau ntawm cov qauv siv tauTxawm li cas los xij, nws tsis tuaj yeem daws qhov teeb meem hauv qab ntawm European ecosystem uas txuas ntxiv tawm tsam los tsim thiab qhia cov ntaub ntawv zoo heev.

Mistral nws tus kheej lees paub tias nws cov qauv qhib yog "me ntsis tom qab" cov kev daws teeb meem siab dua, tab sis Nws hais tias qhov sib txawv yog nqaim sai. thiab hais tias lub ntsiab lus tseem ceeb yog tus nqi-cov txiaj ntsig pivYog tias tus qauv tsis muaj zog me ntsis tuaj yeem siv tau ntawm tus nqi qis, kho kom zoo rau ib txoj haujlwm tshwj xeeb, thiab khiav ze rau tus neeg siv, Qhov no tej zaum yuav txaus siab rau ntau lub tuam txhab tshaj li tus qauv saum toj kawg nkaus uas tsuas tuaj yeem nkag tau los ntawm tej thaj chaw deb API.

Txawm li cas los xij, cov kev sib tw tseem nyob: los ntawm kev sib tw loj thoob ntiaj teb Qhov no txuas ntxiv mus rau qhov xav tau los lav kev ruaj ntseg, kev taug qab, thiab kev tswj hwm kev ua raws li cov ntsiab lus xws li kev kho mob, nyiaj txiag, thiab tsoomfwv. Qhov sib npaug ntawm kev qhib siab, kev tswj hwm, thiab lub luag haujlwm yuav txuas ntxiv coj Mistral thiab lwm tus neeg European hauv xyoo tom ntej.

Qhov kev tso tawm ntawm Mistral 3 Nws txhawb lub tswv yim tias kev txiav-ntug AI tsis tas yuav txwv rau cov qauv loj, kaw.thiab muab cov teb chaws Europe - thiab txhua lub koom haum uas muaj nuj nqis rau kev tswj hwm thev naus laus zis - lub palette ntawm cov cuab yeej qhib uas sib xyaw ua ke ntawm cov qauv sib txawv ntawm cov qauv nrog ntau yam ntawm cov qauv hnyav uas muaj peev xwm ua haujlwm ntawm ntug, offline, thiab nrog ib theem ntawm kev hloov kho nyuaj kom phim los ntawm cov tswv lag luam ntshiab.

Tsab xov xwm cuam tshuam:

Yuav Siv Koj Lub PC li cas hauv AI Hub Hauv Zos: Phau Ntawv Qhia Txog Tswv Yim thiab Sib Piv

Alberto Navarro

Kuv yog ib tus neeg nyiam siv thev naus laus zis uas tau hloov nws txoj kev nyiam "geek" rau hauv txoj haujlwm. Kuv tau siv ntau tshaj 10 xyoo ntawm kuv lub neej siv cov cuab yeej siv thev naus laus zis thiab tinkering nrog txhua yam kev pab cuam tawm ntawm kev xav paub dawb huv. Tam sim no kuv tau tshwj xeeb hauv computer technology thiab video games. Qhov no yog vim ntau tshaj 5 xyoo kuv tau sau rau ntau lub vev xaib ntawm kev siv tshuab thiab kev ua si video, tsim cov ntawv uas nrhiav kom muab cov ntaub ntawv koj xav tau hauv hom lus uas txhua tus neeg nkag siab.

Yog tias koj muaj lus nug, kuv qhov kev paub yog los ntawm txhua yam ntsig txog Windows operating system nrog rau Android rau cov xov tooj ntawm tes. Thiab kuv txoj kev cog lus yog rau koj, Kuv ib txwm kam siv ob peb feeb thiab pab koj daws cov lus nug uas koj muaj nyob hauv lub ntiaj teb no hauv internet.