Mistral 3: таратылған AI үшін ашық үлгілердің жаңа толқыны

Француздық стартап Mistral AI Ол Еуропадағы жасанды интеллект туралы пікірталастың орталығында болды Mistral 3 ұшыруҮлкен деректер орталықтарында да, ресурстары өте шектеулі құрылғыларда да жұмыс істеуге арналған ашық үлгілердің жаңа тобы. Модельдік өлшем үшін соқыр жарысқа кіруден алыс, компания Ол қажет жерде іске асырылуы мүмкін таратылған интеллектті жақтайды.: бұлтта, шетте немесе тіпті интернет қосылымынсыз.

Бұл стратегия орын алады Mistral OpenAI, Google немесе Anthropic сияқты алыптарға қарсы тұруға қабілетті бірнеше еуропалық баламалардың бірі ретіндежәне ұсыныс ChatGPT баламаларыБірақ басқа көзқараспен: рұқсат етілген лицензия бойынша ашық салмақты үлгілеркомпаниялар мен мемлекеттік әкімшіліктердің қажеттіліктеріне бейімделген және еуропалық тілдерге және континенттегі егеменді орналастыруға ерекше назар аудара отырып.

Mistral 3 дегеніміз не және ол не үшін маңызды?

Отбасы Мистраль 3 Ол арқылы қалыптасады он ашық салмақ үлгісі Apache 2.0 лицензиясы бойынша шығарылдыБұл оны іс жүзінде ешқандай шектеусіз коммерциялық пайдалануға мүмкіндік береді. Оның құрамына Frontier типті флагмандық үлгі кіреді. Mistral Large 3және брендтің ықшам үлгілерінің желісі Министрлік 3олар шамамен үш өлшемде (14 000, 8 000 және 3 000 миллион параметрлер) және тапсырма түріне байланысты бірнеше нұсқада келеді.

Негізгі жаңалық - бұл үлкен модель тек мәтінмен шектелмейді: Mistral Large 3 мультимодальды және көптілдіОл бір архитектурада мәтінмен және кескіндермен жұмыс істей алады және еуропалық тілдерге сенімді қолдауды ұсынады. Тіл мен көру үлгілерін бөлек біріктіретін басқа тәсілдерден айырмашылығы, бұл үлкен құжаттарды талдай алатын, кескіндерді түсінетін және күрделі тапсырмалар үшін кеңейтілген көмекші ретінде әрекет ете алатын бірыңғай біріктірілген жүйеге негізделген.

Сонымен қатар, серия Министрлік 3 Ол бұлтқа кіру шектеулі немесе жоқ сценарийлерде жұмыс істеуге арналған. Бұл модельдер аз құрылғыларда жұмыс істей алады 4 ГБ жады немесе оны пайдалануға есік ашатын жалғыз GPU-да ноутбуктер, ұялы телефондар, роботтар, дрондар немесе ендірілген жүйелер тұрақты интернет қосылымына немесе сыртқы провайдерлерге тәуелді болмай.

Еуропалық экожүйе үшін, онда әңгіме туралы цифрлық егемендік және деректерді бақылау Ашық шекара моделі мен жергілікті түрде орналастырылатын жеңіл салмақты модельдердің бұл үйлесімі АҚШ пен Қытайдың ірі платформаларына балама іздейтін жеке компаниялар үшін де, мемлекеттік әкімшіліктер үшін де өте көп және әсіресе өзекті.

Архитектура, сарапшылар қоспасы және техникалық тәсіл

Техникалық жүрегі Mistral Large 3 Бұл сәулет Сарапшылар қоспасы (ММ), үлгі болатын дизайн Оның бірнеше ішкі «сарапшылары» бар., бірақ әрбір белгіні өңдеу үшін олардың бір бөлігін ғана белсендіредіІс жүзінде жүйе өңдейді 41.000 миллиард белсенді параметрлер жалпысынан 675.000 миллиардБұл балама тығыз модельге қарағанда жоғары ойлау қабілетін басқарылатын энергиямен және есептеуді тұтынумен біріктіруге мүмкіндік береді.

Бұл архитектура, а 256 000 токенге дейінгі контекст терезесіБұл Mistral Large 3-ке ұзақ келісімшарттар, техникалық құжаттама немесе үлкен корпоративтік білім базалары сияқты өте үлкен көлемдегі ақпаратты өңдеуге мүмкіндік береді. Модель сияқты пайдалану жағдайларына арналған құжаттарды талдау, бағдарламалау бойынша көмек, мазмұнды жасау, AI агенттері және жұмыс процесін автоматтандыру.

Сонымен қатар, модельдер Министрлік 3 Олар үш негізгі нұсқада ұсынылады: База (жалпы алдын ала дайындалған үлгі), Нұсқаулық беру (әңгімелесу және көмекші тапсырмалары үшін оңтайландырылған) және Ойлау (Логикалық пайымдау және тереңірек талдау үшін түзетілген). Барлық нұсқаларды қолдайды көру және олар бірнеше тілмен үйлесімділікті сақтай отырып, 128K және 256K таңбалауыштар арасындағы кең контексттерді өңдейді.

Негізгі идея, негізін қалаушы және бас ғалым Гийом Лампл түсіндіргендей, кәсіпорынды пайдалану жағдайларының «90%-дан астамында» Шағын, жақсы бапталған модель жеткілікті. және оның үстіне тиімдірек. пайдалану сияқты тәсілдер арқылы нақты тапсырмалар үшін синтетикалық деректерКомпания бұл модельдер шығындарды, кешіктіруді және құпиялылық тәуекелдерін азайта отырып, өте нақты қолданбалардағы үлкенірек, жабық опцияларға жақындай алады немесе одан асып түседі деп сендіреді.

Бұл бүкіл экожүйе компания өнімдерінің кең спектрімен біріктірілген: бастап Mistral Agents APIдейін кодты орындау, веб-іздеу немесе кескінді жасау үшін қосқыштары бар Мистральды код Бағдарламашыға көмектесу үшін дәлелдеу үлгісі Шеберлікпен және платформа Жасанды интеллект студиясы қолданбаларды орналастыру, аналитиканы басқару және пайдалану журналдарын жүргізу.

NVIDIA-мен ынтымақтасу және суперкомпьютерлерде және шеткі есептеулерде қолдану

Іске қосудың маңызды сәті арасындағы одақ Mistral AI және NVIDIA, ол Mistral 3-ті американдық өндірушінің суперкомпьютерлік жүйелері мен шеткі платформалары үшін дәл бапталған модельдер тобы ретінде орналастырады. Mistral Large 3сияқты инфрақұрылыммен біріктірілген NVIDIA GB200 NVL72, NVIDIA мәліметтері бойынша өнімділікті он есеге дейін жақсарту алдыңғы буынмен салыстырғанда H200 графикалық процессорларына негізделген, жетілдірілген параллелизмнің, NVLink арқылы ортақ жадтың және оңтайландырылған сандық пішімдердің артықшылығы бар. NVFP4.

Бірлескен жұмыс жоғары сапалы жабдықта тоқтамайды. Серия Министрлік 3 сияқты орталарда жылдам жұмыс істеу үшін оңтайландырылған RTX GPU, Jetson құрылғылары және шеткі платформалары бар компьютерлер мен ноутбуктерөнеркәсіптік, робототехника немесе тұтынушылық сценарийлердегі жергілікті қорытындыларды жеңілдету. сияқты танымал фреймворктер Llama.cpp және Ollama Олар осы үлгілердің артықшылығын пайдалануға бейімделген, бұл оларды әзірлеушілер мен АТ командаларымен орналастыруды жеңілдетеді.

Сонымен қатар, экожүйемен интеграция NVIDIA NeMo — соның ішінде Data Designer, Guardrails және Agent Toolkit сияқты құралдар — компанияларға орындауға мүмкіндік береді дәл реттеу, қауіпсіздікті бақылау, агентті ұйымдастыру және деректерді жобалау негізінде Mistral 3. Сонымен қатар, сияқты қорытынды қозғалтқыштар TensorRT-LLM, SGLang және vLLM токеннің құнын төмендету және энергия тиімділігін арттыру.

Mistral 3 модельдері енді ірі сатушыларда қол жетімді бұлттық провайдерлер және ашық репозиторийлержәне олар да түрінде келеді NIM микросервистері NVIDIA каталогында бұл өндірушінің стектерінде жұмыс істейтін және орналастыруды көбірек басқара отырып, генеративті AI қабылдағысы келетін еуропалық компаниялар үшін әсіресе қызықты нәрсе.

Барлық осы құрылым Mistral 3-ке үлкен деректер орталықтарында да, шеткі құрылғыларда да өмір сүруге мүмкіндік береді, бұл оның баяндауын күшейтеді. шын мәнінде барлық жерде және таралған AI, қашықтағы қызметтерге аз тәуелді және әрбір клиенттің нақты қажеттіліктеріне көбірек бейімделген.

Шағын үлгілер, желіден тыс орналастыру және шеткі пайдалану жағдайлары

Мистральдің дискурсының бір тірегі – бұл Нақты әлемдегі қолданбалардың көпшілігі мүмкін болатын ең үлкен үлгіні қажет етпейді.бірақ пайдалану жағдайына жақсы сәйкес келетін және нақты деректермен дәл бапталуы мүмкін. Сериядағы тоғыз модель дәл осы жерде. Министрлік 3тығыз, өнімділігі жоғары және құны, жылдамдығы немесе сыйымдылығы талаптарына сәйкес келетін әртүрлі өлшемдер мен нұсқаларда қол жетімді.

Бұл модельдер жұмыс істеуге арналған бір GPU немесе тіпті қарапайым аппараттық құралдаБұл үйдегі серверлерде, ноутбуктерде, өнеркәсіптік роботтарда немесе қашықтағы орталарда жұмыс істейтін құрылғыларда жергілікті орналастыруға мүмкіндік береді. Өндірушілерден қаржы институттарына немесе мемлекеттік мекемелерге дейін құпия ақпаратты өңдейтін компаниялар үшін деректерді бұлтқа жібермей, AI-ны өз инфрақұрылымында іске қосу мүмкіндігі маңызды артықшылық болып табылады.

сияқты компания мысалдар келтіреді Сенсор деректерін нақты уақыт режимінде интернетке қосылмай талдайтын зауыттық роботтар, төтенше жағдайлар мен құтқаруға арналған дрондар, қамтусыз аймақтарда толық жұмыс істейтін AI көмекшілері бар көліктер немесе студенттерге желіден тыс көмек ұсынатын білім беру құралдары. Деректерді тікелей құрылғыда өңдеу арқылы құпиялылық және ақпаратты бақылау пайдаланушылардың.

Лампл қол жетімділік Mistral миссиясының орталық бөлігі екенін айтады: бар Миллиардтаған адамдар ұялы телефондары немесе ноутбуктері бар, бірақ сенімді интернетке қол жеткізе алмайдыжергілікті түрде жұмыс істей алатын үлгілерден пайда көре алады. Осылайша, компания озық AI әрқашан шағын компаниялар тобы басқаратын үлкен деректер орталықтарына байланысты болуы керек деген түсінікті жоюға тырысады.

Сонымен қатар, Mistral халықаралық серіктестермен белгілі салада жұмыс істей бастады AI физикасыАталған ынтымақтастықтардың арасында роботтар, киберқауіпсіздік және өртке қарсы жүйелер бойынша Сингапурдың HTX ғылым және технология агенттігі; және неміс Хельсинг, қорғанысқа бағытталған, ұшқышсыз ұшақтарға арналған көру тілі-әрекет үлгілерімен; және автомобиль өндірушілері іздейді Салондағы AI көмекшілері тиімдірек және басқарылатын.

Еуропадағы әсер: цифрлық егемендік және мемлекеттік-жекеменшік экожүйе

Техникалық аспектілерден басқа, Mistral пікірталастың эталоны болды Еуропадағы цифрлық егемендікКомпания өзін «трансатлантикалық ынтымақтастық» ретінде анықтағанымен - командалармен және Еуропа мен Америка Құрама Штаттары арасында таралған модельдік оқытумен - оның еуропалық тілдерге күшті қолдау көрсететін үлгілерді ашуға деген ұмтылысын континенттегі мемлекеттік мекемелер жақсы қабылдады.

Компания мәмілелер жасады француз армиясы, француздық жұмыспен қамту агенттігі, Люксембург үкіметі және басқа да еуропалық ұйымдар AI-ны қатаң нормативтік базалар аясында орналастыруға және ЕО аумағындағы деректерді бақылауға мүдделі. Сонымен қатар, Еуропалық комиссия а еуропалық AI құралдарын арттыру стратегиясы қауіпсіздік пен тұрақтылықты жоғалтпай өнеркәсіптік бәсекеге қабілеттілікті күшейтеді.

Геосаяси контекст де аймақты әрекет етуге итермелеп отыр. Бұл танылады Еуропа АҚШ пен Қытайдан артта қалды Жаңа буын үлгілері үшін жарыста Қытай сияқты елдерде DeepSeek, Alibaba және Kimi сияқты ашық баламалар пайда болып, белгілі бір тапсырмаларда ChatGPT сияқты шешімдермен бәсекеге түсе бастағанда, Mistral бұл олқылықтың бір бөлігін еуропалық реттеу талаптарына сәйкес келетін ашық, жан-жақты модельдермен толтыруға тырысады.

Қаржылық тұрғыдан алғанда, стартап айналасында көтерілді 2.700 миллиард доллар және жақын бағалар шегінде жылжыды 14.000 миллиардБұл көрсеткіштер OpenAI немесе Anthropic сияқты алыптардың көрсеткіштерінен әлдеқайда төмен, бірақ еуропалық экожүйе үшін маңызды. Бизнес-модельдің үлкен бөлігі ашық салмақтан тыс ұсыныстарды қамтиды, теңшеу қызметтері, орналастыру құралдары және кәсіпорын өнімдері мысалы, Mistral Agents API немесе корпоративтік интеграциясы бар Le Chat жиынтығы.

Орналасу анық: a ашық және икемді AI инфрақұрылымының провайдері бұл еуропалық (және басқа аймақтық) компанияларға АҚШ платформаларына толығымен тәуелді болмай, модельдердің қайда және қалай іске қосылатынын біршама бақылауды сақтай отырып және олардың жүйелерінде бұрыннан енгізілген құралдармен интеграцияны жеңілдету арқылы инновацияларды енгізуге мүмкіндік береді.

Нақты ашықтық және күтілетін міндеттер туралы пікірталас

Технологиялық қауымдастықтың бір бөлігінде Mistral 3 тудыратын ынта-жігерге қарамастан, бұл сұраққа сыни дауыстар жетіспейді. бұл модельдерді қаншалықты шын мәнінде қарастыруға болады «ашық дереккөз»Компания әдісті таңдады ашық салмақОл пайдалану және бейімдеу үшін салмақтарды шығарады, бірақ үлгіні нөлден бастап ойнату үшін қажетті оқу деректері мен ішкі процестер туралы барлық мәліметтерді міндетті емес.

сияқты зерттеушілер Андреас Лизенфельд, European Open Source AI индексінің негізін қалаушы, Олар Еуропадағы AI үшін басты кедергі тек үлгілерге қол жеткізу емес екенін атап көрсетедібірақ ауқымды оқыту деректеріОсы тұрғыдан алғанда, Mistral 3 өз үлесін қосады қолдануға болатын үлгілердің ауқымын жақсартуДегенмен, ол жоғары сапалы ауқымды деректер жиынын жасау және бөлісу үшін күресуді жалғастыратын еуропалық экожүйенің негізгі мәселесін толық шеше алмайды.

Mistral өзі ашық жоспарлы модельдері неғұрлым жетілдірілген жабық шешімдерден «сәл артта» екенін мойындайды, бірақ Ол алшақтықтың тез тарылып бара жатқанын алға тартады. және бұл негізгі нүкте шығын-пайда қатынасыСәл қуаттырақ модельді төмен бағамен орналастыру, белгілі бір тапсырма үшін дәл баптау және пайдаланушыға жақын жұмыс істеу мүмкін болса, Бұл топ модельден гөрі көптеген компаниялар үшін қызықты болуы мүмкін қашықтағы API арқылы ғана қол жеткізуге болады.

Осыған қарамастан, қиындықтар әлі де бар: бастап қызу халықаралық бәсекелестік Бұл денсаулық сақтау, қаржы және үкімет сияқты контексттерде қауіпсіздікке, бақылауға және нормативтік сәйкестікке кепілдік беру қажеттілігін қамтиды. Ашықтық, бақылау және жауапкершілік арасындағы тепе-теңдік алдағы жылдарда Mistral және басқа еуропалық ойыншыларға бағыт береді.

Іске қосу Мистраль 3 Бұл алдыңғы қатарлы AI алып, жабық модельдермен шектелудің қажеті жоқ деген идеяны нығайтады.және Еуропаға – және технологиялық егемендікті бағалайтын кез келген ұйымға – мультимодальды шекаралық модельді шетте, офлайн режимде жұмыс істей алатын жеңіл салмақты модельдер ауқымымен біріктіретін ашық құралдар палитрасын және таза меншікті платформаларға сәйкес келтіру қиын теңшеу деңгейін ұсынады.

Ұқсас мақала:

Компьютеріңізді жергілікті AI хабы ретінде қалай пайдалануға болады: практикалық және салыстырмалы нұсқаулық

Альберто Наварро

Мен өзінің «геек» қызығушылығын кәсіпке айналдырған технология әуесқойымын. Мен өмірімнің 10 жылдан астам уақытын ең озық технологияны қолданумен және барлық бағдарламалармен таза қызығушылықпен айналысуға арнадым. Қазір мен компьютерлік технологиялар мен бейне ойындарға мамандандым. Себебі, 5 жылдан астам уақыт бойы мен әртүрлі веб-сайттарға технология мен бейне ойындарға арналған мақалалар жазып, сізге қажетті ақпаратты бәріне түсінікті тілде беруге тырысатын мақалалар жасап келемін.

Егер сізде сұрақтар туындаса, менің білімім Windows операциялық жүйесіне, сондай-ақ ұялы телефондарға арналған Android-ге қатысты барлық нәрселерден тұрады. Менің сізге міндеттемемін, мен әрқашан бірнеше минут жұмсауға және осы интернет әлеміндегі кез келген сұрақтарды шешуге көмектесуге дайынмын.