Mistral 3: бөлүштүрүлгөн AI үчүн ачык моделдердин жаңы толкуну

Француз стартапы Mistral AI Ал Европадагы жасалма интеллект боюнча талаш-тартыштын чордонуна жайгаштырылган Mistral 3 учурууАчык моделдердин жаңы үй-бүлөсү чоң маалымат борборлорунда жана өтө чектелген ресурстары бар түзмөктөрдө иштөөгө арналган. Модель өлчөмү үчүн сокур жарышка кирүүдөн алыс, компания Ал зарыл болгон жерде ишке ашырыла турган бөлүштүрүлгөн чалгындоону жактайт.: булуттун ичинде, четинде, жада калса интернет байланышы жок.

Бул стратегия орун алган Mistral OpenAI, Google же Anthropic сыяктуу гиганттарга туруштук бере алган бир нече европалык альтернативалардын бири катары, жана сунуш ChatGPTге альтернативаларБирок башка көз караштан: уруксат берилген лицензия боюнча ачык салмактагы моделдеркомпаниялардын жана мамлекеттик башкаруу органдарынын муктаждыктарына ыңгайлашкан жана континенттин ичинде европалык тилдерге жана эгемендүү жайгаштырууга басым жасоо менен.

Mistral 3 деген эмне жана ал эмне үчүн актуалдуу?

үй-бүлө Мистрал 3 тарабынан түзүлгөн он ачык салмак моделдери Apache License 2.0 астында чыгарылганБул дээрлик эч кандай чектөөлөрсүз коммерциялык колдонууга мүмкүндүк берет. Ал флагмандык Frontier тибиндеги моделин камтыйт. Mistral Large 3жана маркасындагы компакттуу моделдердин линиясы Министрлик 3үч болжолдуу өлчөмдө (14 000, 8 000 жана 3 000 миллион параметр) жана тапшырманын түрүнө жараша бир нече вариантта келет.

Негизги инновация чоң модель текст менен эле чектелбейт: Mistral Large 3 мультимодалдык жана көп тилдүүАл бир эле архитектурада текст жана сүрөттөр менен иштөөгө жөндөмдүү жана европалык тилдер үчүн күчтүү колдоону сунуштайт. Тил жана көрүү моделдерин өз-өзүнчө айкалыштырган башка ыкмалардан айырмаланып, бул чоң документтерди талдап, сүрөттөрдү түшүнө алган жана татаал тапшырмалар үчүн өркүндөтүлгөн жардамчы катары иштей ала турган бирдиктүү интеграцияланган системага таянат.

Ошол эле учурда, сериясы Министрлик 3 Ал булуттун мүмкүнчүлүгү чектелген же жок болгон сценарийлерде иштөө үчүн иштелип чыккан. Бул моделдер аз болгон түзмөктөрдө иштей алат 4 ГБ эстутум же бир GPU боюнча, аны колдонууга эшик ачат ноутбуктар, уюлдук телефондор, роботтор, дрондор же камтылган системалар туруктуу интернет байланышына же тышкы провайдерлерге көз каранды болбостон.

Европа экосистемасы үчүн, бул жерде сүйлөшүү санариптик эгемендүүлүк жана маалыматтарды көзөмөлдөө Ачык чек ара моделинин жана жергиликтүү жайгаштырыла турган жеңил моделдердин айкалышы АКШ жана Кытайдын ири платформаларына альтернативаларды издеген жеке компаниялар жана мамлекеттик администрациялар үчүн абдан актуалдуу жана өзгөчө актуалдуу.

Архитектура, эксперттердин аралашмасы жана техникалык мамиле

Техникалык жүрөгү Mistral Large 3 архитектурасы болуп саналат Эксперттердин аралашмасы (ЭМ), модели болгон дизайн Анын бир нече ички "эксперттери" бар.бирок ар бир белгини иштетүү үчүн алардын бир бөлүгүн гана иштететИш жүзүндө, система башкарат 41.000 миллиард активдүү параметрлер жалпысынан ашык 675.000 миллионБул эквиваленттүү жыш моделге караганда көбүрөөк башкарылган энергия жана эсептөө керектөө менен жогорку ой жүгүртүү мүмкүнчүлүгүн айкалыштырууга мүмкүндүк берет.

Бул архитектура менен айкалышкан 256 000 токенге чейин контексттик терезеБул Mistral Large 3ке узак келишимдер, техникалык документтер же ири корпоративдик билим базалары сыяктуу өтө чоң көлөмдөгү маалыматты иштетүүгө мүмкүндүк берет. модели сыяктуу колдонуу учурлары багытталган документтерди талдоо, программалоо боюнча жардам, мазмун түзүү, AI агенттери жана иш процессин автоматташтыруу.

Ошол эле учурда, моделдер Министрлик 3 Алар үч негизги вариантта сунушталат: база (жалпы алдын ала даярдалган модель), Нускама (сүйлөшүү жана жардамчы тапшырмалары үчүн оптималдаштырылган) жана ойлоо (Логикалык ой жүгүртүү жана терең талдоо үчүн туураланган). Бардык версиялар колдойт көрүнүш жана алар бир нече тил менен шайкештикти сактап, 128K жана 256K токендердин ортосундагы кеңири контексттерди иштетишет.

Негиздөөчүсү жана башкы илимпоз Гийом Лампл түшүндүргөндөй, негизги идея, ишканалардын "90% дан ашыгы" колдонуу учурларында, Чакан, жакшы бапталган модель жетиштүү. жана, андан тышкары, кыйла натыйжалуу. пайдалануу сыяктуу техникалар аркылуу конкреттүү тапшырмалар үчүн синтетикалык маалыматтарКомпания бул моделдер чыгашаларды, күтүү убактысын жана купуялык тобокелдиктерин азайтып, өтө спецификалык тиркемелерде чоңураак, жабык варианттарга жакындай алат же андан ашып кетет деп ырастайт.

Бул бүт экосистема компаниянын өнүмдөрүнүн кеңири спектри менен интеграцияланган: тартып Mistral Agents APIчейин кодду аткаруу, желе издөө, же сүрөт түзүү үчүн бириктиргичтери менен Mistral Code Программист жардам үчүн, ой жүгүртүү модели Чеберлик менен жана платформа AI Studio тиркемелерди жайгаштыруу, аналитиканы башкаруу жана колдонуу журналдарын жүргүзүү.

NVIDIA менен кызматташуу жана суперкомпьютингде жана кырдуу эсептөөдө жайылтуу

ишке киргизүүнүн бир өзгөчөлүгү ортосундагы союз болуп саналат Mistral AI жана NVIDIA, бул Mistral 3ти америкалык өндүрүүчүнүн суперкомпьютердик тутумдары жана чет платформалары үчүн жакшы ыңгайлаштырылган моделдердин үй-бүлөсү катары көрсөтөт. Mistral Large 3сыяктуу инфраструктура менен айкалыштырылган NVIDIA GB200 NVL72, NVIDIA боюнча он эсеге чейин натыйжалуулугун жогорулатуу өнүккөн параллелизм, NVLink аркылуу бөлүшүлгөн эстутум жана оптималдаштырылган сан форматтары сыяктуу H200 GPUларына негизделген мурунку муунга салыштырмалуу NVFP4.

Биргелешкен иш жогорку сапаттагы жабдуулар менен токтоп калбайт. сериясы Министрлик 3 сыяктуу чөйрөлөрдө тез иштетүү үчүн оптималдаштырылган RTX GPU, Jetson түзмөктөрү жана чет платформалары бар компьютерлер жана ноутбуктарөнөр жай, робототехника же керектөө сценарийлери боюнча жергиликтүү корутундуларды жеңилдетүү. сыяктуу популярдуу алкактар Llama.cpp жана Ollama Алар бул моделдердин артыкчылыктарын колдонууга ылайыкташтырылган, бул аларды иштеп чыгуучулар жана IT командалары тарабынан жайылтууну жеңилдетет.

Мындан тышкары, экосистема менен интеграция NVIDIA NeMo — анын ичинде Data Designer, Guardrails жана Agent Toolkit сыяктуу куралдар — компанияларга аткарууга мүмкүнчүлүк берет жакшылап жөндөө, коопсуздукту көзөмөлдөө, агентти башкаруу жана маалыматтарды долбоорлоо негизинде Mistral 3. Ошол эле учурда, мисалы, тыянак кыймылдаткычтары TensorRT-LLM, SGLang жана vLLM токендин наркын төмөндөтүү жана энергиянын натыйжалуулугун жогорулатуу.

Mistral 3 моделдери азыр ири сатуучуларда жеткиликтүү булут провайдерлери жана ачык репозиторийлертүрүндө да келишет NIM микросервистери NVIDIA каталогунун ичинде бул өндүрүүчүнүн стектеринде иштеген жана жайылтууну көбүрөөк көзөмөлдөө менен генеративдик AI кабыл алууну каалаган европалык компаниялар үчүн өзгөчө кызыктуу нерсе.

Мунун баары Mistral 3ге чоң маалымат борборлорунда да, эң четки түзмөктөрдө да жашоого мүмкүндүк берет, бул анын баянын бекемдейт. чындап эле бардык жерде жана таратылган AI, алыскы кызматтардан азыраак көз каранды жана ар бир кардардын өзгөчө муктаждыктарына көбүрөөк ылайыкташтырылган.

Кичинекей моделдер, оффлайн режиминде жайгаштыруу жана четтен пайдалануу учурлары

Мистралдын баяндамасынын түркүктөрүнүн бири мына ушунда Көпчүлүк реалдуу тиркемелер эң чоң моделди талап кылбайт.бирок колдонуу учуруна ылайыктуу жана конкреттүү маалыматтар менен жакшылап жөндөөгө болот. Сериядагы тогуз модель дал мына ушунда. Министрлик 3жыш, жогорку өндүрүмдүү жана наркы, ылдамдыгы же кубаттуулугу талаптарын канааттандыруу үчүн ар кандай өлчөмдө жана варианттарда жеткиликтүү.

Бул моделдер иштөө үчүн иштелип чыккан бир GPU же жөнөкөй аппараттыкБул үйдөгү серверлерде, ноутбуктарда, өнөр жай роботторунда же алыскы чөйрөлөрдө иштеген түзмөктөрдө жергиликтүү жайылтууга мүмкүндүк берет. Өндүрүүчүлөрдөн каржы институттарына же мамлекеттик мекемелерге чейин купуя маалыматты иштеткен компаниялар үчүн булутка маалыматтарды жөнөтпөстөн, AIны өз инфраструктурасында иштетүү мүмкүнчүлүгү олуттуу артыкчылык болуп саналат.

сыяктуу мисалдарды компания келтирет Сенсордун маалыматтарын реалдуу убакытта интернетке туташуусуз талдоочу фабрикалык роботтор, өзгөчө кырдаалдар жана куткаруу үчүн дрондор, камтылбаган аймактарда толук иштеген AI жардамчылары бар унаалар же студенттерге оффлайн режиминде жардам берген билим берүү куралдары. Түздөн-түз түзмөктө маалыматтарды иштетүү менен купуялуулук жана маалыматты көзөмөлдөө колдонуучулардын.

Лампл жеткиликтүүлүк Мистралдын миссиясынын борбордук бөлүгү экенин ырастайт: бар Миллиарддаган адамдар уюлдук телефондору же ноутбуктары бар, бирок ишенимдүү интернетке кирүү мүмкүнчүлүгү жокжергиликтүү иштөөгө жөндөмдүү моделдерден пайда ала турган. Ошентип, компания өнүккөн AI ар дайым компаниялардын чакан тобу тарабынан көзөмөлдөнгөн чоң маалымат борборлору менен байланышта болушу керек деген түшүнүктү жокко чыгарууга аракет кылууда.

Буга катар эле, Mistral эл аралык өнөктөштөр менен белгилүү болгон аймакта иштей баштады AI физикасыБелгиленген кызматташуулардын арасында роботтор, киберкоопсуздук жана өрткө каршы системалар боюнча Сингапурдун HTX илимий жана технологиялык агенттиги; жана немецтик Хельсинг, коргонууга багытталган, пилотсуз учактар ​​үчүн көрүнүш-тил-аракет моделдери менен; жана автомобиль өндүрүүчүлөр издеп жатышат Кабинада AI жардамчылары натыйжалуураак жана башкарылуучу.

Европадагы таасири: санариптик эгемендүүлүк жана мамлекеттик-жеке экосистема

Техникалык аспектилерден тышкары, Mistral дебаттарда эталон болуп калды Европадагы санариптик суверенитетКомпания өзүн "трансатлантикалык кызматташуу" катары аныктаса да - командалар жана Европа менен Америка Кошмо Штаттарынын ортосунда жайылган моделдик окутуу - анын европалык тилдерге күчтүү колдоосу менен моделдерди ачуу милдеттенмеси континенттеги мамлекеттик мекемелер тарабынан жакшы кабыл алынган.

Компания менен келишимдер түзүлгөн француз армиясы, Франциянын мамлекеттик иш менен камсыз кылуу агенттиги, Люксембург өкмөтү жана башка европалык уюмдар AIны катуу ченемдик-укуктук базанын алкагында жайылтууга жана ЕБ ичиндеги маалыматтарды көзөмөлдөөгө кызыкдар. Буга катар эле Еврокомиссия а Европанын AI куралдарын өркүндөтүү стратегиясы коопсуздукту жана туруктуулукту жоготпостон, өнөр жайлык атаандаштыкты чыңдоо.

Геосаясий контекст да аймакты реакцияга түртүүдө. Бул таанылат Европа АКШ менен Кытайдан артта калды Кийинки муундагы моделдер үчүн жарышта, Кытай сыяктуу өлкөлөрдө DeepSeek, Alibaba жана Kimi сыяктуу ачык альтернативалар пайда болуп, белгилүү бир милдеттерде ChatGPT сыяктуу чечимдер менен атаандаша баштаганда, Mistral бул боштуктун бир бөлүгүн европалык ченемдик талаптарга шайкеш келген ачык, ар тараптуу моделдер менен толтурууга аракет кылууда.

Каржылык жактан алганда, стартап айланасында көтөрүлдү 2.700 миллион жана жакын баалардын чегинде жылып кетти 14.000 миллионБул көрсөткүчтөр OpenAI же Anthropic сыяктуу гиганттарга караганда алда канча төмөн, бирок Европанын экосистемасы үчүн маанилүү. Бизнес моделдин чоң бөлүгү ачык салмактан тышкары сунуштарды камтыйт, ыңгайлаштыруу кызматтары, жайылтуу куралдары жана ишкана өнүмдөрү мисалы, Mistral Agents API же корпоративдик интеграциясы бар Le Chat топтому.

жайгаштыруу ачык-айкын: болуу а ачык жана ийкемдүү AI инфраструктурасын камсыздоочу бул европалык (жана башка аймактык) компанияларга АКШнын платформаларынан толук көз каранды болбостон инновацияларды киргизүүгө мүмкүндүк берет, ошол эле учурда моделдер кайда жана кантип иштетилип жатканын бир аз көзөмөлгө алып, алардын тутумдарында мурунтан эле ишке ашырылган куралдар менен интеграцияны жеңилдетет.

Чыныгы ачыктык жана күтүлүп жаткан көйгөйлөр боюнча дебат

Mistral 3 технологиялык коомдоштуктун бир бөлүгүн жаратып жаткан энтузиазмга карабастан, бул суроого сын үндөр жетишсиз. бул моделдер канчалык деңгээлде чындап каралышы мүмкүн "ачык булак"Компания бир ыкманы тандап алды ачык салмакАл колдонуу жана адаптациялоо үчүн салмактарды чыгарат, бирок моделди нөлдөн баштап кайра чыгаруу үчүн зарыл болгон окутуу маалыматтары жана ички процесстер жөнүндө бардык деталдарды камтыбайт.

сыяктуу изилдөөчүлөр Андреас Лизенфельд, European Open Source AI Indexтин тең негиздөөчүсү, Алар Европадагы AI үчүн негизги тоскоолдук моделдерге жетүү гана эмес экенин белгилешет, чейин масштабдуу окутуу маалыматтарыБул жагынан алып караганда, Mistral 3 салым кошот колдонууга жарамдуу моделдердин ассортиментин жакшыртууБирок, бул жогорку сапаттагы массалык маалымат топтомдорун түзүү жана бөлүшүү үчүн күрөшүүнү улантып жаткан европалык экосистеманын негизги көйгөйүн толук чече албайт.

Mistral өзү ачык пландуу моделдери өнүккөн жабык чечимдерден "бир аз артта калганын" моюнга алат, бирок Ал ажырым тездик менен кыскарып баратат деп ырастайт. жана негизги пункт болуп саналат чыгаша-пайда катышыЭгер бир аз күчтүүрөөк моделди арзан баада жайгаштырса, белгилүү бир тапшырма үчүн жакшылап жөндөсө жана колдонуучуга жакын иштетсе, Бул топ моделге караганда көптөгөн компаниялар үчүн кызыктуу болушу мүмкүн алыскы API аркылуу гана кирүүгө болот.

Ошого карабастан, кыйынчылыктар бойдон калууда: тартып катуу эл аралык атаандаштык Бул саламаттыкты сактоо, каржы жана өкмөт сыяктуу контексттерде коопсуздукту, байкоо жүргүзүүнү жана ченемдик укуктук актыларды сактоону кепилдөө зарылчылыгын камтыйт. Ачыктык, көзөмөлдөө жана жоопкерчилик ортосундагы тең салмактуулук жакынкы жылдарда Mistral жана башка европалык оюнчуларды жетектейт.

Ишке киргизүү Мистрал 3 Ал заманбап AI гигант, жабык моделдер менен чектелбеши керек деген идеяны бекемдейт.жана Европага жана технологиялык эгемендүүлүктү баалаган ар кандай уюмга – ачык инструменттердин палитрасын сунуштайт, алар мультимодалдык чек ара моделин четинде, оффлайн режиминде иштей ала турган жеңил салмактагы моделдер менен айкалыштырат жана таза менчик платформаларына дал келүү кыйын болгон ыңгайлаштыруу деңгээли менен.

Окшош макала:

Компьютериңизди жергиликтүү AI борбору катары кантип колдонсо болот: Практикалык жана Салыштырмалуу колдонмо

Alberto navarro

Мен өзүмдүн «геек» кызыкчылыктарын кесипке айландырган технология ышкыбозумун. Өмүрүмдүн 10 жылдан ашуунун эң алдыңкы технологияларды колдонууга жана ар кандай программалар менен иштөөгө жумшадым. Азыр мен компьютердик технологиялар жана видео оюндар боюнча адистешкен. Себеби, мен 5 жылдан ашык убакыттан бери технология жана видео оюндар боюнча ар кандай веб-сайттарга жазып, сизге керектүү маалыматты баарына түшүнүктүү тилде берүүгө умтулган макалаларды түзүп келем.

Эгерде сизде кандайдыр бир суроолор болсо, менин билимим Windows операциялык тутумуна, ошондой эле уюлдук телефондор үчүн Android менен байланыштуу. Жана менин милдеттенмем сизге, мен ар дайым бир нече мүнөт бөлүп, бул интернет дүйнөсүндө сизди кызыктырган бардык суроолорду чечүүгө жардам берүүгө даярмын.