Mistral 3: den nye bølge af åbne modeller til distribueret AI

Den franske startup Mistral AI Det har placeret sig selv i centrum for debatten om kunstig intelligens i Europa med Mistral 3-opsendelseEn ny familie af åbne modeller designet til at fungere i både store datacentre og enheder med meget begrænsede ressourcer. Virksomheden deltager langt fra i et blindt kapløb om modelstørrelse. Den går ind for distribueret intelligens, der kan implementeres, hvor der er behov for det.: i skyen, ved kanten eller endda uden internetforbindelse.

Denne strategi placerer Mistral som et af de få europæiske alternativer, der er i stand til at holde stand mod giganter som OpenAI, Google eller Anthropic, og tilbud alternativer til ChatGPTMen fra et andet perspektiv: modeller med åben vægt under tilladt licenstilpasningsdygtig til virksomheders og offentlige forvaltningers behov og med et stærkt fokus på europæiske sprog og suveræn implementering på kontinentet.

Hvad er Mistral 3, og hvorfor er det relevant?

Familien Mistral 3 Det er dannet af ti modeller med åben vægt udgivet under Apache-licens 2.0Dette muliggør kommerciel brug stort set uden begrænsninger. Den inkluderer en flagskibsmodel af Frontier-typen. Mistral Large 3og en serie af kompakte modeller under mærket Ministeriel 3som findes i tre omtrentlige størrelser (14.000, 8.000 og 3.000 millioner parametre) og adskillige varianter afhængigt af opgavetypen.

Den vigtigste innovation er, at den store model ikke er begrænset til tekst: Mistral Large 3 er multimodal og flersprogetDen er i stand til at arbejde med tekst og billeder inden for den samme arkitektur og tilbyder robust understøttelse af europæiske sprog. I modsætning til andre tilgange, der kombinerer sprog- og visionsmodeller separat, er denne afhængig af et enkelt integreret system, der kan analysere store dokumenter, forstå billeder og fungere som en avanceret assistent til komplekse opgaver.

Samtidig er serien Ministeriel 3 Den er designet til at fungere i scenarier, hvor cloud-adgang er begrænset eller ikke-eksisterende. Disse modeller kan køre på enheder med så lidt som 4 GB hukommelse eller på en enkelt GPU, hvilket åbner døren for dens anvendelse i bærbare computere, mobiltelefoner, robotter, droner eller indlejrede systemer uden at være afhængig af en konstant internetforbindelse eller eksterne udbydere.

For det europæiske økosystem, hvor samtalen om digital suverænitet og datakontrol Denne kombination af en åben grænsemodel og lokalt implementerbare letvægtsmodeller er meget fremtrædende og særligt relevant, både for private virksomheder og offentlige forvaltninger, der søger alternativer til de store amerikanske og kinesiske platforme.

Arkitektur, ekspertblanding og teknisk tilgang

Det tekniske hjerte af Mistral Large 3 er en arkitektur af Blanding af eksperter (MoE), et design hvor modellen Den har flere interne "eksperter"., men aktiverer kun en del af dem til at behandle hvert tokenI praksis håndterer systemet 41.000 milliarder aktive parametre ud af i alt 675.000 milliarderDette muliggør en kombination af høj ræsonnementskapacitet og et mere kontrolleret energi- og computerforbrug end en tilsvarende tæt model.

Denne arkitektur, kombineret med en kontekstvindue på op til 256.000 tokensDette gør det muligt for Mistral Large 3 at behandle meget store mængder information, såsom lange kontrakter, teknisk dokumentation eller store virksomhedsvidensbaser. Modellen er gearet til use cases som f.eks. dokumentanalyse, programmeringsassistance, indholdsoprettelse, AI-agenter og automatisering af arbejdsgange.

Parallelt med modellerne Ministeriel 3 De tilbydes i tre hovedvarianter: Grundlag (generisk prætrænet model), Instruere (optimeret til samtale og assistentopgaver) og Ræsonnement (Justeret for logisk ræsonnement og dybere analyse). Alle versioner understøtter vision og de håndterer brede kontekster – mellem 128 og 256 tokens – samtidig med at de opretholder kompatibilitet med flere sprog.

Den underliggende idé, som forklaret af medstifter og chefforsker Guillaume Lample, er, at i "mere end 90%" af virksomhedsbrugssager, En lille, velafstemt model er tilstrækkelig. og desuden mere effektiv. Gennem teknikker som brugen af syntetiske data til specifikke opgaverVirksomheden argumenterer for, at disse modeller kan nærme sig eller endda overgå større, lukkede muligheder i meget specifikke applikationer, samtidig med at de reducerer omkostninger, latenstid og privatlivsrisici.

Hele dette økosystem er integreret med en bredere vifte af virksomhedens produkter: fra Mistral Agents APImed forbindelser til kodeudførelse, websøgning eller billedgenerering, op til Mistral-koden Til programmørhjælp, ræsonnementsmodellen Mesterlig og platformen AI-studie at implementere applikationer, administrere analyser og vedligeholde brugslogfiler.

Samarbejde med NVIDIA og implementering inden for supercomputing og edge computing

Et højdepunkt ved lanceringen er alliancen mellem Mistral AI og NVIDIA, hvilket positionerer Mistral 3 som en familie af modeller, der er finjusteret til den amerikanske producents supercomputersystemer og edge-platforme. Mistral Large 3kombineret med infrastruktur som f.eks. NVIDIA GB200 NVL72ifølge NVIDIA forbedringer af ydeevnen på op til ti gange sammenlignet med den forrige generation baseret på H200 GPU'er, der udnytter avanceret parallelisme, delt hukommelse via NVLink og optimerede numeriske formater som f.eks. NVFP4.

Samarbejdet stopper ikke ved avanceret hardware. Serien Ministeriel 3 Den er optimeret til at køre hurtigt i miljøer som f.eks. PC'er og bærbare computere med RTX GPU'er, Jetson-enheder og edge-platformefremme af lokale inferenser i industrielle, robot- eller forbrugerscenarier. Populære frameworks som f.eks. Llama.cpp og Ollama De er blevet tilpasset for at udnytte disse modeller, hvilket forenkler deres implementering for udviklere og IT-teams.

Derudover integration med økosystemet NVIDIA NeMo —herunder værktøjer som Data Designer, Guardrails og Agent Toolkit — gør det muligt for virksomheder at udføre finjustering, sikkerhedskontrol, agentorkestrering og datadesign baseret på Mistral 3. Samtidig kan inferensmotorer som f.eks. TensorRT-LLM, SGLang og vLLM for at reducere omkostningerne pr. token og forbedre energieffektiviteten.

Mistral 3-modellerne er nu tilgængelige hos større forhandlere cloud-udbydere og åbne lagreog de vil også ankomme i form af NIM-mikrotjenester inden for NVIDIA-kataloget, noget særligt interessant for europæiske virksomheder, der allerede opererer på denne producents stakke og ønsker at implementere generativ AI med større kontrol over implementeringen.

Alt dette framework gør det muligt for Mistral 3 at fungere både i store datacentre og on-edge-enheder, hvilket forstærker dets fortælling om en virkelig allestedsnærværende og distribueret AI, mindre afhængig af fjerntjenester og mere tilpasset den enkelte klients specifikke behov.

Små modeller, offline implementering og edge use cases

En af grundpillerne i Mistrals diskurs er, at De fleste virkelige applikationer kræver ikke den størst mulige model.men en der passer godt til brugsscenariet og kan finjusteres med specifikke data. Det er her, de ni modeller i serien kommer ind i billedet. Ministeriel 3tæt, højtydende og tilgængelig i forskellige størrelser og varianter, der passer til omkostnings-, hastigheds- eller kapacitetskrav.

Disse modeller er designet til at fungere i en enkelt GPU eller endda på beskeden hardwareDette muliggør lokale implementeringer på interne servere, bærbare computere, industrirobotter eller enheder, der opererer i fjerntliggende miljøer. For virksomheder, der håndterer følsomme oplysninger – fra producenter til finansielle institutioner eller offentlige myndigheder – er muligheden for at køre AI i deres egen infrastruktur uden at sende data til skyen en betydelig fordel.

Virksomheden nævner eksempler som f.eks. Fabriksrobotter, der analyserer sensordata i realtid uden internetforbindelse, droner til nødsituationer og redninger, køretøjer med fuldt funktionelle AI-assistenter i områder uden dækning eller uddannelsesværktøjer, der tilbyder offline hjælp til studerende. Ved at behandle dataene direkte på enheden, privatliv og kontrol af oplysninger af brugerne.

Lample insisterer på, at tilgængelighed er en central del af Mistrals mission: der er Milliarder af mennesker med mobiltelefoner eller bærbare computere, men uden pålidelig internetadgangsom kunne drage fordel af modeller, der kan køre lokalt. På denne måde forsøger virksomheden at aflive forestillingen om, at avanceret AI altid skal være knyttet til store datacentre, der kontrolleres af en lille gruppe virksomheder.

Parallelt hermed er Mistral begyndt at samarbejde med internationale partnere inden for det, der kaldes Fysisk kunstig intelligensBlandt de nævnte samarbejder er Singapores HTX-videnskabs- og teknologiagentur for robotter, cybersikkerhed og brandsikringssystemer; og det tyske Helsing, fokuseret på forsvar, med vision-sprog-handlingsmodeller til droner; og bilproducenter, der søger AI-assistenter i kabinen mere effektiv og kontrollerbar.

Indvirkning i Europa: digital suverænitet og offentligt-privat økosystem

Ud over de tekniske aspekter er Mistral blevet et pejlemærke i debatten om Digital suverænitet i EuropaSelvom virksomheden definerer sig selv som et "transatlantisk samarbejde" – med teams og modeltræning spredt mellem Europa og USA – er dens engagement i åbne modeller med stærk støtte til europæiske sprog blevet godt modtaget af offentlige institutioner på kontinentet.

Virksomheden har indgået aftaler med den franske hær, den franske offentlige arbejdsformidling, Luxembourgs regering og andre europæiske organisationer interesseret i at implementere AI under strenge reguleringsrammer og opretholde kontrollen over dataene i EU. Sideløbende har Europa-Kommissionen fremlagt en strategi til at fremme europæiske AI-værktøjer der styrker industriens konkurrenceevne uden at ofre sikkerhed og modstandsdygtighed.

Den geopolitiske kontekst presser også regionen til at reagere. Det erkendes, at Europa er sakket bagud i forhold til USA og Kina I kapløbet om næste generations modeller, hvor åbne alternativer som DeepSeek, Alibaba og Kimi dukker op i lande som Kina og begynder at konkurrere med løsninger som ChatGPT på visse områder, forsøger Mistral at udfylde en del af dette hul med åbne, alsidige modeller, der er i overensstemmelse med europæiske lovgivningsmæssige krav.

Finansielt har startup'en indsamlet omkring 2.700 millioner dollars og har bevæget sig inden for værdiansættelser tæt på 14.000 milliarderDisse tal er langt lavere end tal for giganter som OpenAI eller Anthropic, men betydelige for det europæiske økosystem. En stor del af forretningsmodellen involverer at tilbyde, ud over åbne vægte, Tilpasningstjenester, implementeringsværktøjer og virksomhedsprodukter såsom Mistral Agents API eller Le Chat-pakken med virksomhedsintegrationer.

Positioneringen er klar: at være en leverandør af åben og fleksibel AI-infrastruktur der giver europæiske (og andre regionale) virksomheder mulighed for at innovere uden at være fuldstændig afhængige af amerikanske platforme, samtidig med at de bevarer en vis kontrol over, hvor og hvordan modellerne køres, og letter integrationer med værktøjer, der allerede er implementeret i deres systemer.

Debat om reel åbenhed og kommende udfordringer

Trods den entusiasme, som Mistral 3 skaber i en del af teknologimiljøet, er der ingen mangel på kritiske stemmer, der sætter spørgsmålstegn ved i hvilken grad kan disse modeller reelt betragtes "åben kildekode"Virksomheden har valgt en fremgangsmåde åben vægtDen frigiver vægtene til brug og tilpasning, men ikke nødvendigvis alle detaljerne om træningsdataene og de interne processer, der er nødvendige for at reproducere modellen fra bunden.

Forskere som f.eks. Andreas Liesenfeld, medstifter af European Open Source AI Index, De påpeger, at den største flaskehals for AI i Europa ikke kun er adgang til modeller., men til træningsdata i stor skalaFra det perspektiv bidrager Mistral 3 til forbedre udvalget af brugbare modellerDet løser dog ikke fuldt ud det underliggende problem med et europæisk økosystem, der fortsat kæmper med at generere og dele massive datasæt af høj kvalitet.

Mistral indrømmer selv, at deres åbne modeller er "lidt bagud" i forhold til de mere avancerede lukkede løsninger, men Han insisterer på, at forskellen hurtigt bliver mindre. og at hovedpointen er cost-benefit-forholdetHvis en lidt mindre kraftfuld model kan implementeres billigt, finjusteres til en specifik opgave og køre tæt på brugeren, Dette kan være mere interessant for mange virksomheder end en topmodel som kun kan tilgås via en fjern-API.

Alligevel er der fortsat udfordringer: fra hård international konkurrence Dette omfatter behovet for at garantere sikkerhed, sporbarhed og overholdelse af lovgivningen i sammenhænge som sundhedspleje, finans og offentlig forvaltning. Balancen mellem åbenhed, kontrol og ansvarlighed vil fortsat være vejledende for Mistral og andre europæiske aktører i de kommende år.

Lanceringen af Mistral 3 Det forstærker ideen om, at banebrydende AI ikke behøver at være begrænset til gigantiske, lukkede modeller., og tilbyder Europa – og enhver organisation, der værdsætter teknologisk suverænitet – en palet af åbne værktøjer, der kombinerer en multimodal frontiermodel med en række letvægtsmodeller, der er i stand til at fungere i kanten, offline og med et niveau af tilpasning, der er vanskeligt at matche af rent proprietære platforme.

Relateret artikel:

Sådan bruger du din pc som et lokalt AI-hub: En praktisk og sammenlignende guide

Alberto Navarro

Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.

Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.