Mistral 3: uusi aalto avoimia malleja hajautetulle tekoälylle

Ranskalainen startup Mistral AI Se on asettunut tekoälykeskustelun keskiöön Euroopassa mm. Mistral 3:n laukaisuUusi avoimien mallien perhe on suunniteltu toimimaan sekä suurissa datakeskuksissa että laitteissa, joilla on hyvin rajalliset resurssit. Yritys ei ole ryhtynyt sokeaan kilpailuun mallien koosta, vaan Se kannattaa hajautettua älykkyyttä, jota voidaan ottaa käyttöön missä tahansa sitä tarvitaan.pilvessä, reunalla tai jopa ilman internetyhteyttä.

Tämä strategia asettaa Mistral yhtenä harvoista eurooppalaisista vaihtoehdoista, joka pystyy kilpailemaan jättiläisten, kuten OpenAI:n, Googlen tai Anthropicin, kanssa, ja tarjous vaihtoehtoja ChatGPT:lleMutta eri näkökulmasta: avoimen painon mallit sallitulla lisenssillämukautuva yritysten ja julkishallinnon tarpeisiin ja keskittyen vahvasti eurooppalaisiin kieliin ja itsenäisiin käyttöönottoihin mantereella.

Mikä on Mistral 3 ja miksi se on tärkeä?

Perhe Mistral 3 Sen muodostaa kymmenen avoimen painon mallia julkaistu Apache-lisenssillä 2.0Tämä mahdollistaa sen kaupallisen käytön käytännössä ilman rajoituksia. Se sisältää Frontier-tyyppisen lippulaivamallin. Mistral Large 3ja tuotemerkin alla on kompakteja malleja Ministeri 3joita on saatavilla kolmessa likimääräisessä koossa (14 000, 8 000 ja 3 000 miljoonaa parametria) ja useissa muunnelmissa tehtävän tyypistä riippuen.

Keskeinen innovaatio on, että suuri malli ei rajoitu tekstiin: Mistral Large 3 on multimodaalinen ja monikielinenSe pystyy käsittelemään tekstiä ja kuvia saman arkkitehtuurin puitteissa ja tarjoaa vankan tuen eurooppalaisille kielille. Toisin kuin muut lähestymistavat, jotka yhdistävät kieli- ja näkömallit erikseen, tämä perustuu yhteen integroituun järjestelmään, joka pystyy analysoimaan suuria dokumentteja, ymmärtämään kuvia ja toimimaan edistyneenä avustajana monimutkaisissa tehtävissä.

Samaan aikaan sarja Ministeri 3 Se on suunniteltu toimimaan tilanteissa, joissa pilvipalveluihin pääsy on rajoitettua tai olematonta. Nämä mallit toimivat laitteilla, joissa on vain 4 Gt muistia tai yhdellä GPU:lla, mikä avaa oven sen käytölle kannettavat tietokoneet, matkapuhelimet, robotit, droonit tai sulautetut järjestelmät ilman jatkuvaa internetyhteyttä tai ulkoisia palveluntarjoajia.

Euroopan ekosysteemille, jossa keskustelu digitaalinen suvereniteetti ja datanhallinta Tämä avoimen rajan mallin ja paikallisesti käyttöönotettavien kevyiden mallien yhdistelmä on erittäin yleinen ja erityisen merkityksellinen sekä yksityisille yrityksille että julkishallinnoille, jotka etsivät vaihtoehtoja suurille yhdysvaltalaisille ja kiinalaisille alustoille.

Arkkitehtuuri, asiantuntijoiden yhdistelmä ja tekninen lähestymistapa

Tekninen sydän Mistral Large 3 on arkkitehtuuri Asiantuntijoiden sekoitus (MoE), suunnittelu, jossa malli Sillä on useita sisäisiä "asiantuntijoita"., mutta aktivoi vain osan niistä käsitelläkseen jokaisen tunnuksenKäytännössä järjestelmä hoitaa 41.000 miljardia aktiivista parametria yhteensä 675.000 millonesTämä mahdollistaa korkean päättelykyvyn yhdistämisen hallitumpaan energian- ja laskentatehoon kuin vastaavassa tiheässä mallissa.

Tämä arkkitehtuuri yhdistettynä jopa 256.000 XNUMX XNUMX tokenin konteksti-ikkunaTämä mahdollistaa Mistral Large 3:n käsitellä erittäin suuria tietomääriä, kuten pitkiä sopimuksia, teknistä dokumentaatiota tai laajoja yritystietokantoja. Malli on suunnattu käyttötapauksiin, kuten dokumenttianalyysi, ohjelmointiapu, sisällöntuotanto, tekoälyagentit ja työnkulun automatisointi.

Samanaikaisesti mallit Ministeri 3 Niitä tarjotaan kolmessa pääversiossa: pohja (yleinen esikoulutettu malli), opettaa (optimoitu keskusteluille ja avustajatehtäville) ja perustelut (Muokattu loogista päättelyä ja syvällisempää analyysia varten). Kaikki versiot tukevat näkymä ja ne käsittelevät laajoja konteksteja – 128 000 ja 256 000 tokenia – säilyttäen samalla yhteensopivuuden useiden kielten kanssa.

Perusajatuksena, kuten toinen perustaja ja johtava tutkija Guillaume Lample selitti, on, että "yli 90 prosentissa" yritysten käyttötapauksista Pieni, hyvin viritetty malli riittää. ja lisäksi tehokkaampia. Tekniikoiden, kuten synteettistä dataa tiettyihin tehtäviinYritys väittää, että nämä mallit voivat lähestyä tai jopa ylittää suuremmat, suljetut vaihtoehdot hyvin erityisissä sovelluksissa samalla vähentäen kustannuksia, viivettä ja yksityisyyteen liittyviä riskejä.

Koko tämä ekosysteemi on integroitu yrityksen laajempaan tuotevalikoimaan: alkaen Mistral Agents -sovellusliittymäliittimillä koodin suorittamiseen, verkkohakuun tai kuvien luomiseen, jopa Mistral-koodi Ohjelmoijan avuksi päättelymalli Mestarillinen ja alusta AI-studio sovellusten käyttöönottoon, analytiikan hallintaan ja käyttölokien ylläpitoon.

Yhteistyö NVIDIAn kanssa ja käyttöönotto supertietokoneissa ja reunalaskennassa

Lanseerauksen kohokohta on liittouma seuraavien välillä: Mistral-tekoäly ja NVIDIA, joka asettaa Mistral 3:n malliperheeksi, joka on hienosäädetty amerikkalaisen valmistajan supertietokonejärjestelmille ja reuna-alustoille. Mistral Large 3yhdistettynä infrastruktuuriin, kuten NVIDIA GB200 NVL72NVIDIAn mukaan jopa kymmenkertaiset suorituskyvyn parannukset verrattuna edelliseen H200-näytönohjaimiin perustuvaan sukupolveen, hyödyntäen edistynyttä rinnakkaisuutta, jaettua muistia NVLinkin kautta ja optimoituja numeerisia muotoja, kuten NVFP4.

Yhteistyö ei rajoitu pelkästään huippuluokan laitteistoon. Sarja Ministeri 3 Se on optimoitu toimimaan nopeasti ympäristöissä, kuten RTX-näytönohjaimilla varustetut tietokoneet ja kannettavat tietokoneet, Jetson-laitteet ja reunatietokoneethelpottaen paikallisten päätelmien tekemistä teollisuus-, robotiikka- tai kuluttajatilanteissa. Suosittuja viitekehyksiä, kuten Llama.cpp ja Ollama Niitä on mukautettu hyödyntämään näitä malleja, mikä yksinkertaistaa niiden käyttöönottoa kehittäjien ja IT-tiimien toimesta.

Lisäksi integrointi ekosysteemiin NVIDIA NeMo —mukaan lukien työkalut, kuten Data Designer, Guardrails ja Agent Toolkit — mahdollistavat yrityksille suorituskyvyn hienosäätö, tietoturvan hallinta, agenttien orkestrointi ja datasuunnittelu Mistral 3:een perustuen. Samaan aikaan päättelymoottorit, kuten TensorRT-LLM, SGLang ja vLLM alentaakseen poletin hintaa ja parantaakseen energiatehokkuutta.

Mistral 3 -mallit ovat nyt saatavilla suurimmista jälleenmyyjistä pilvipalveluntarjoajat ja avoimet tietovarastotja ne saapuvat myös muodossa NIM-mikropalvelut NVIDIAn luettelossa, mikä on erityisen mielenkiintoista eurooppalaisille yrityksille, jotka jo toimivat tämän valmistajan järjestelmillä ja haluavat ottaa käyttöön generatiivisen tekoälyn, jolla on paremmat mahdollisuudet hallita käyttöönottoa.

Kaikki tämä viitekehys mahdollistaa Mistral 3:n toiminnan sekä suurissa datakeskuksissa että reunalla toimivissa laitteissa, mikä vahvistaa sen narratiivia todella kaikkialla läsnä oleva ja hajautettu tekoäly, vähemmän riippuvainen etäpalveluista ja paremmin mukautettu kunkin asiakkaan erityistarpeisiin.

Pienet mallit, offline-käyttöönotto ja reunakäyttötapaukset

Yksi Mistralin puheen kulmakivistä on, että Useimmat reaalimaailman sovellukset eivät vaadi mahdollisimman suurta mallia.mutta sellainen, joka sopii hyvin käyttötapaukseen ja jota voidaan hienosäätää tiettyjen tietojen avulla. Tässä kohtaa sarjan yhdeksän mallia tulevat mukaan kuvaan. Ministeri 3tiheä, tehokas ja saatavilla eri kokoisina ja versioina kustannus-, nopeus- tai kapasiteettivaatimusten mukaan.

Nämä mallit on suunniteltu toimimaan yhdellä näytönohjaimella tai jopa vaatimattomalla laitteistollaTämä mahdollistaa paikalliset käyttöönotot yrityksen sisäisillä palvelimilla, kannettavilla tietokoneilla, teollisuusroboteilla tai etäympäristöissä toimivilla laitteilla. Arkaluonteisia tietoja käsitteleville yrityksille – valmistajista rahoituslaitoksiin tai valtion virastoihin – tekoälyn käyttö omassa infrastruktuurissaan ilman datan lähettämistä pilveen on merkittävä etu.

Yritys mainitsee esimerkkeinä mm. Tehdasrobotit, jotka analysoivat anturidataa reaaliajassa ilman internetyhteyttä, droonit hätätilanteisiin ja pelastustoimiin, ajoneuvot täysin toimivilla tekoälyavustajilla alueilla, joilla ei ole internetyhteyttä tai opetustyökaluja, jotka tarjoavat offline-apua opiskelijoille. Käsittelemällä tietoja suoraan laitteella, yksityisyys ja tiedon hallinta käyttäjille.

Lample painottaa, että esteettömyys on keskeinen osa Mistralin missiota: on olemassa Miljardeilla ihmisillä on matkapuhelimet tai kannettavat tietokoneet, mutta ilman luotettavaa internetyhteyttäjotka voisivat hyötyä paikallisesti toimivista malleista. Tällä tavoin yritys pyrkii hälventämään käsitystä siitä, että edistyneen tekoälyn on aina oltava sidoksissa pienen yritysryhmän hallinnoimiin suuriin datakeskuksiin.

Samanaikaisesti Mistral on aloittanut yhteistyön kansainvälisten kumppaneiden kanssa ns. Fyysinen tekoälyMainittujen yhteistyöhankkeiden joukossa ovat Singaporen HTX-tiede- ja teknologiavirasto, joka keskittyy robotteihin, kyberturvallisuuteen ja palontorjuntajärjestelmiin, sekä Saksan... Helsing, keskittyen puolustukseen ja tarjoamalla dronejen näkö-, kieli- ja toimintamalleja; ja autonvalmistajat, jotka etsivät Tekoälyavustajat matkustamossa tehokkaampi ja hallittavampi.

Vaikutus Euroopassa: digitaalinen suvereniteetti ja julkisen ja yksityisen sektorin ekosysteemi

Teknisten näkökohtien lisäksi Mistralista on tullut vertailukohta keskustelussa Digitaalinen suvereniteetti EuroopassaVaikka yritys määrittelee itsensä "transatlanttiseksi yhteistyöksi" – jonka tiimit ja mallikoulutus on levinnyt Euroopan ja Yhdysvaltojen välille – sen sitoutuminen avoimiin malleihin, joissa on vahva tuki eurooppalaisille kielille, on otettu hyvin vastaan ​​mantereen julkisissa laitoksissa.

Yhtiö on tehnyt sopimuksia mm. Ranskan armeija, Ranskan julkinen työvoimatoimisto, Luxemburgin hallitus ja muut eurooppalaiset järjestöt kiinnostunut ottamaan tekoälyn käyttöön tiukkojen sääntelykehysten mukaisesti ja säilyttämään datan hallinnan EU:ssa. Samanaikaisesti Euroopan komissio on esittänyt strategia eurooppalaisten tekoälytyökalujen edistämiseksi jotka vahvistavat teollisuuden kilpailukykyä tinkimättä turvallisuudesta ja kestävyydestä.

Myös geopoliittinen konteksti ajaa aluetta reagoimaan. On tunnustettu, että Eurooppa on jäänyt Yhdysvaltojen ja Kiinan jälkeen Seuraavan sukupolven mallien kilpailussa, vaikka esimerkiksi Kiinassa avoimet vaihtoehdot, kuten DeepSeek, Alibaba ja Kimi, ovat syntymässä ja alkaneet kilpailla ChatGPT:n kaltaisten ratkaisujen kanssa tietyissä tehtävissä, Mistral pyrkii täyttämään osan tästä aukosta avoimilla, monipuolisilla malleilla, jotka ovat eurooppalaisten sääntelyvaatimusten mukaisia.

Startup-yritys on kerännyt taloudellisesti noin 2.700 euroa ja on liikkunut arvostusten sisällä lähellä 14.000 millonesNämä luvut ovat huomattavasti alhaisemmat kuin jättiläisten, kuten OpenAI:n tai Anthropicin, luvut, mutta merkittäviä eurooppalaiselle ekosysteemille. Suuri osa liiketoimintamallista sisältää avoimien painojen lisäksi myös mukautuspalvelut, käyttöönottotyökalut ja yritystuotteet kuten Mistral Agents API tai Le Chat -paketti yritysintegraatioilla.

Asemointi on selvä: olla avoimen ja joustavan tekoälyinfrastruktuurin tarjoaja joka antaa eurooppalaisille (ja muille alueellisille) yrityksille mahdollisuuden innovoida olematta täysin riippuvaisia ​​Yhdysvaltain alustoista, samalla säilyttäen jonkin verran määräysvaltaa mallien suorituspaikasta ja -tavasta sekä helpottaen integraatioita järjestelmiin jo toteutettuihin työkaluihin.

Keskustelua todellisesta avoimuudesta ja edessä olevista haasteista

Vaikka Mistral 3 herättää innostusta osassa teknologiayhteisöä, kriittisiä ääniä, jotka kyseenalaistavat... missä määrin näitä malleja voidaan todella ottaa huomioon "avoimen lähdekoodin"Yritys on valinnut lähestymistavan avoin painoSe vapauttaa painot käyttöä ja mukauttamista varten, mutta ei välttämättä kaikkia yksityiskohtia harjoitusdatasta ja sisäisistä prosesseista, joita tarvitaan mallin toistamiseen tyhjästä.

Tutkijat, kuten Andreas Liesenfeld, European Open Source AI Indexin perustajajäsen, He huomauttavat, että tekoälyn suurin pullonkaula Euroopassa ei ole pelkästään mallien saatavuus, mutta siihen laajamittainen harjoitusdataTästä näkökulmasta Mistral 3 edistää parantaa käyttökelpoisten mallien valikoimaaSe ei kuitenkaan täysin ratkaise eurooppalaisen ekosysteemin perimmäistä ongelmaa, sillä ekosysteemillä on edelleen vaikeuksia tuottaa ja jakaa korkealaatuisia massiivisia tietoaineistoja.

Mistral itse myöntää, että sen avoimet mallit ovat "hieman jäljessä" edistyneemmistä suljetuista ratkaisuista, mutta Hän vakuuttaa, että kuilu kaventuu nopeasti. ja että keskeinen pointti on kustannus-hyötysuhdeJos hieman vähemmän tehokas malli voidaan ottaa käyttöön edullisesti, hienosäätää tiettyyn tehtävään ja käyttää lähellä käyttäjää, Tämä voi olla monille yrityksille kiinnostavampaa kuin huippumalli johon pääsee käsiksi vain etä-API:n kautta.

Haasteita on kuitenkin edelleen: alkaen kova kansainvälinen kilpailu Tämä ulottuu tarpeeseen taata turvallisuus, jäljitettävyys ja määräysten noudattaminen esimerkiksi terveydenhuollossa, rahoitusalalla ja hallinnossa. Avoimuuden, valvonnan ja vastuullisuuden välinen tasapaino ohjaa Mistralia ja muita eurooppalaisia ​​toimijoita tulevina vuosina.

Käynnistäminen Mistral 3 Se vahvistaa ajatusta siitä, että huippuluokan tekoälyn ei tarvitse rajoittua jättimäisiin, suljettuihin malleihin.ja tarjoaa Euroopalle – ja kaikille teknologista itsemääräämisoikeutta arvostaville organisaatioille – valikoiman avoimia työkaluja, jotka yhdistävät multimodaalisen rajaseudun mallin useisiin kevyisiin malleihin, jotka pystyvät toimimaan reunalla, offline-tilassa ja joiden räätälöintitaso on vaikea saavuttaa puhtaasti suljetuilla alustoilla.

Aiheeseen liittyvä artikkeli:

Kuinka käyttää tietokonettasi paikallisena tekoälykeskuksena: Käytännönläheinen ja vertaileva opas

Alberto navarro

Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.

Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.