Мистрал 3: новиот бран на отворени модели за дистрибуирана вештачка интелигенција

Францускиот стартап Мистрал АИ Се стави во центарот на дебатата за вештачката интелигенција во Европа со Лансирање на Мистрал 3Ново семејство на отворени модели дизајнирани да работат и во големи центри за податоци и во уреди со многу ограничени ресурси. Далеку од влегување во слепа трка за големината на моделот, компанијата Се залага за дистрибуирана интелигенција што може да се имплементира каде и да е потребно.: во облакот, на работ или дури и без интернет конекција.

Оваа стратегија ги поставува Мистрал како една од ретките европски алтернативи способна да им се спротивстави на гигантите како OpenAI, Google или Anthropic, и понуда алтернативи на ChatGPTНо, од поинаква перспектива: модели со отворена тежина под дозволива лиценцаприлагодлив на потребите на компаниите и јавната администрација, и со силен фокус на европските јазици и суверените распоредувања во рамките на континентот.

Што е Мистрал 3 и зошто е релевантен?

Семејството Мистрал 3 Формирана е од десет модели со отворена тежина објавено под Apache лиценца 2.0Ова овозможува негова комерцијална употреба практично без никакви ограничувања. Вклучува водечки модел од типот Frontier. Мистрал Ларџ 3и линија на компактни модели под брендот Министерски состанок 3кои се достапни во три приближни големини (14.000, 8.000 и 3.000 милиони параметри) и неколку варијанти во зависност од видот на задачата.

Клучната иновација е што големиот модел не е ограничен само на текст: Мистрал Ларџ 3 е мултимодален и повеќејазиченМоже да работи со текст и слики во рамките на истата архитектура и нуди робусна поддршка за европските јазици. За разлика од другите пристапи што комбинираат јазични и визуелни модели одделно, овој се потпира на еден интегриран систем што може да анализира големи документи, да разбира слики и да дејствува како напреден асистент за сложени задачи.

Во исто време, серијата Министерски состанок 3 Дизајниран е да работи во сценарија каде што пристапот до облакот е ограничен или воопшто не постои. Овие модели можат да работат на уреди со само малку 4 GB меморија или на еден графички процесор, што отвора врата за негова употреба во лаптопи, мобилни телефони, роботи, беспилотни летала или вградени системи без да зависите од постојана интернет конекција или надворешни провајдери.

За европскиот екосистем, каде што разговорот за дигитален суверенитет и контрола на податоци Оваа комбинација од модел на отворена граница и локално распоредливи лесни модели е многу присутна и особено релевантна, како за приватните компании, така и за јавните администрации кои бараат алтернативи на големите американски и кинески платформи.

Архитектура, мешавина од експерти и технички пристап

Техничкото срце на Мистрал Ларџ 3 е архитектура на Мешавина на експерти (МО), дизајн во кој моделот Има повеќе внатрешни „експерти“., но активира само дел од нив за да го обработи секој токенВо пракса, системот се справува со 41.000 милијарда активни параметри над вкупно 675.000 милиониОва овозможува комбинирање на висок капацитет за расудување со поконтролирана потрошувачка на енергија и компјутерска обработка отколку еквивалентен густ модел.

Оваа архитектура, во комбинација со контекстен прозорец со до 256.000 токениОва му овозможува на Mistral Large 3 да обработува многу големи количини на информации, како што се долги договори, техничка документација или големи корпоративни бази на знаење. Моделот е насочен кон случаи на употреба како што се анализа на документи, помош при програмирање, креирање содржина, агенти за вештачка интелигенција и автоматизација на работниот процес.

Паралелно, моделите Министерски состанок 3 Тие се нудат во три главни варијанти: База (генерички претходно обучен модел), Инструкции (оптимизирано за разговори и задачи за асистент) и Расудување (Прилагодено за логичко расудување и подлабока анализа). Сите верзии поддржуваат визија и тие ракуваат со широки контексти — помеѓу 128 и 256 токени —, додека одржуваат компатибилност со повеќе јазици.

Основната идеја, како што објасни ко-основачот и главен научник Гијом Лампл, е дека во „повеќе од 90%“ од случаите на употреба во претпријатијата, Мал, добро подесен модел е доволен. и, згора на тоа, поефикасно. Преку техники како што е употребата на синтетички податоци за специфични задачиКомпанијата тврди дека овие модели можат да се приближат или дури и да ги надминат поголемите, затворени опции во многу специфични апликации, а воедно да ги намалат трошоците, латентноста и ризиците за приватноста.

Целиот овој екосистем е интегриран со поширок спектар на производи на компанијата: од API за агенти на Мистралсо конектори за извршување на код, пребарување на интернет или генерирање слики, до Мистрал Код За помош на програмерот, моделот на расудување Мајсторски и платформата Студио за вештачка интелигенција за распоредување апликации, управување со аналитика и одржување на логови на користење.

Соработка со NVIDIA и имплементација во суперкомпјутери и рабно пресметување

Најважниот момент од лансирањето е сојузот помеѓу Мистрал вештачка интелигенција и НВИДИА, што го позиционира Мистрал 3 како семејство модели прецизно подесени за суперкомпјутерските системи и рабните платформи на американскиот производител. Мистрал Ларџ 3во комбинација со инфраструктура како што е NVIDIA GB200 NVL72, според NVIDIA подобрувања на перформансите до десет пати во споредба со претходната генерација базирана на H200 графички процесори, искористувајќи го напредниот паралелизам, споделената меморија преку NVLink и оптимизираните нумерички формати како што се НВФП4.

Соработката не запира само на хардвер од висока класа. Серијата Министерски состанок 3 Оптимизиран е за брзо работење во средини како што се Компјутери и лаптопи со RTX графички процесори, Jetson уреди и edge платформиолеснување на локалните заклучоци во индустриски, роботски или потрошувачки сценарија. Популарни рамки како што се Llama.cpp и Ollama Тие се адаптирани за да ги искористат предностите на овие модели, што го поедноставува нивното распоредување од страна на програмерите и ИТ тимовите.

Понатаму, интеграцијата со екосистемот NVIDIA NeMo —вклучувајќи алатки како што се Data Designer, Guardrails и Agent Toolkit— им овозможува на компаниите да извршуваат фино подесување, контрола на безбедноста, оркестрација на агенти и дизајн на податоци базирано на Мистрал 3. Во исто време, машини за инференција како што се TensorRT-LLM, SGLang и vLLM за да се намали цената по токен и да се подобри енергетската ефикасност.

Моделите „Мистрал 3“ сега се достапни кај поголемите трговци на мало провајдери на услуги во облак и отворени репозиториумии тие исто така ќе пристигнат во форма на NIM микросервиси во каталогот на NVIDIA, нешто особено интересно за европските компании кои веќе работат на стековите на овој производител и сакаат да усвојат генеративна вештачка интелигенција со поголема контрола врз распоредувањето.

Целата оваа рамка му овозможува на Mistral 3 да постои и во големи центри за податоци и на рабни уреди, зајакнувајќи ја неговата нарација за навистина сеприсутна и дистрибуирана вештачка интелигенција, помалку зависни од далечински услуги и повеќе прилагодени на специфичните потреби на секој клиент.

Мали модели, офлајн распоредување и случаи на употреба на рабовите

Еден од столбовите на дискурсот на Мистрал е тоа Повеќето апликации од реалниот свет не бараат најголем можен модел.но таков што добро се вклопува во случајот на употреба и може да се дотерува со специфични податоци. Тука влегуваат во игра деветте модели од серијата. Министерски состанок 3густи, високо-перформансни и достапни во различни големини и варијанти за да одговараат на барањата за цена, брзина или капацитет.

Овие модели се дизајнирани да работат во еден графички процесор или дури и на скромен хардверОва овозможува локално распоредување на внатрешни сервери, лаптопи, индустриски роботи или уреди што работат во оддалечени средини. За компаниите што ракуваат со чувствителни информации - од производители до финансиски институции или владини агенции - можноста за користење на вештачка интелигенција во рамките на сопствената инфраструктура, без испраќање податоци во облакот, е значајна предност.

Компанијата наведува примери како што се Фабрички роботи кои анализираат податоци од сензори во реално време без интернет конекција, дронови за итни случаи и спасувања, возила со целосно функционални асистенти со вештачка интелигенција во области без покриеност или образовни алатки кои нудат офлајн помош на учениците. Со обработка на податоците директно на уредот, приватност и контрола на информации на корисниците.

Лампл инсистира дека пристапноста е централен дел од мисијата на Мистрал: постојат Милијарди луѓе со мобилни телефони или лаптопи, но без сигурен пристап до интернетшто би можело да има корист од модели способни да работат локално. На овој начин, компанијата се обидува да ја отфрли идејата дека напредната вештачка интелигенција секогаш мора да биде поврзана со големи центри за податоци контролирани од мала група компании.

Паралелно, „Мистрал“ започна да работи со меѓународни партнери во областа на она што е познато како Физика на вештачка интелигенцијаМеѓу споменатите соработки се сингапурската агенција за наука и технологија HTX за роботи, сајбер безбедност и противпожарни системи; и германската Хелсинг, фокусирани на одбрана, со модели на визуелен јазик и дејствување за дронови; и производители на автомобили кои бараат Асистенти со вештачка интелигенција во кабината поефикасно и поконтролирано.

Влијание во Европа: дигитален суверенитет и јавно-приватен екосистем

Надвор од техничките аспекти, „Мистрал“ стана репер во дебатата за Дигитален суверенитет во ЕвропаИако компанијата се дефинира себеси како „трансатлантска соработка“ - со тимови и обука на модели распространети помеѓу Европа и САД - нејзината посветеност на отворени модели со силна поддршка за европските јазици е добро прифатена од јавните институции на континентот.

Компанијата има склучено договори со француската армија, француската агенција за јавно вработување, владата на Луксембург и други европски организации заинтересирани за распоредување на вештачката интелигенција под строги регулаторни рамки и одржување на контролата врз податоците во рамките на ЕУ. Паралелно, Европската комисија презентираше стратегија за подобрување на европските алатки за вештачка интелигенција што ја зајакнуваат индустриската конкурентност без да ја жртвуваат безбедноста и отпорноста.

Геополитичкиот контекст, исто така, го поттикнува регионот да реагира. Се признава дека Европа заостанува зад САД и Кина Во трката за модели од следната генерација, додека во земји како Кина се појавуваат отворени алтернативи како што се DeepSeek, Alibaba и Kimi и почнуваат да се натпреваруваат со решенија како ChatGPT во одредени задачи, Mistral се обидува да пополни дел од таа празнина со отворени, разновидни модели усогласени со европските регулаторни барања.

Финансиски, стартапот собра околу 2.700 милијарди долари и се движеше во рамките на проценките блиску до 14.000 милиониОвие бројки се далеку пониски од оние на гигантите како OpenAI или Anthropic, но се значајни за европскиот екосистем. Голем дел од бизнис моделот вклучува нудење, покрај отворените тежини, услуги за прилагодување, алатки за распоредување и производи за претпријатија како што се API-то на Mistral Agents или пакетот Le Chat со корпоративни интеграции.

Позиционирањето е јасно: да се биде добавувач на отворена и флексибилна инфраструктура за вештачка интелигенција што им овозможува на европските (и другите регионални) компании да иновираат без да бидат целосно зависни од американските платформи, додека одржуваат одредена контрола врз тоа каде и како се извршуваат моделите и олеснуваат интеграции со алатки што веќе се имплементирани во нивните системи.

Дебата за вистинска отвореност и претстојни предизвици

И покрај ентузијазмот што Мистрал 3 го генерира кај дел од технолошката заедница, нема недостаток на критички гласови кои го доведуваат во прашање до кој степен овие модели навистина можат да се земат предвид „отворен код“Компанијата се одлучи за пристап отворена тежинаГи ослободува тежините за употреба и адаптација, но не мора да значи дека сите детали за податоците за обука и внатрешните процеси потребни за репродуцирање на моделот од нула.

Истражувачи како што се Андреас Лизенфелд, коосновач на Европскиот индекс на вештачка интелигенција со отворен код, Тие истакнуваат дека главното тесно грло за вештачката интелигенција во Европа не е само пристапот до модели.но да податоци за обука од голем обемОд таа перспектива, „Мистрал 3“ придонесува за подобрување на опсегот на употребливи моделиСепак, тоа не го решава целосно основниот проблем на европскиот екосистем кој продолжува да се бори да генерира и споделува висококвалитетни масивни збирки на податоци.

Самиот Мистрал признава дека неговите модели со отворен план „малку заостануваат“ во однос на понапредните затворени решенија, но Тој инсистира дека јазот брзо се намалува. и дека клучната поента е односот трошок-придобивкаАко малку помалку моќен модел може да се распореди по ниска цена, да се дотера за одредена задача и да се извршува блиску до корисникот, Ова може да биде поинтересно за многу компании отколку врвен модел до кој може да се пристапи само преку далечинско API.

Сепак, предизвиците остануваат: од жестока меѓународна конкуренција Ова се протега на потребата од гарантирање на безбедноста, следливоста и усогласеноста со регулативите во контексти како што се здравствената заштита, финансиите и владата. Рамнотежата помеѓу отвореноста, контролата и одговорноста ќе продолжи да ги води „Мистрал“ и другите европски играчи во наредните години.

Лансирањето на Мистрал 3 Ова ја зајакнува идејата дека најсовремената вештачка интелигенција не мора да биде ограничена на гигантски, затворени модели.и ѝ нуди на Европа - и на секоја организација што го цени технолошкиот суверенитет - палета на отворени алатки што комбинираат мултимодален граничен модел со низа лесни модели способни да работат на работ, офлајн и со ниво на прилагодување што е тешко да се постигне со чисто сопственички платформи.

Поврзана статија:

Како да го користите вашиот компјутер како локален центар за вештачка интелигенција: Практичен и компаративен водич

Алберто Наваро

Јас сум технолошки ентузијаст кој своите „гикови“ интереси ги претвори во професија. Поминав повеќе од 10 години од мојот живот користејќи најсовремена технологија и непречено со сите видови програми од чиста љубопитност. Сега сум специјализиран за компјутерска технологија и видео игри. Тоа е затоа што повеќе од 5 години пишувам за различни веб-локации за технологија и видео игри, создавајќи статии кои се обидуваат да ви ги дадат потребните информации на јазик што е разбирлив за секого.

Ако имате прашања, моето знаење се движи од се што е поврзано со оперативниот систем Виндоус како и Андроид за мобилни телефони. И мојата посветеност е кон вас, јас сум секогаш подготвен да потрошам неколку минути и да ви помогнам да ги решите сите прашања што може да ги имате во овој интернет свет.