Mistral 3: paylanmış süni intellekt üçün açıq modellərin yeni dalğası

Fransız startapı Mistral AI O, Avropada süni intellektlə bağlı müzakirələrin mərkəzinə düşüb Mistral 3 buraxılışıHəm böyük məlumat mərkəzlərində, həm də çox məhdud resurslara malik cihazlarda işləmək üçün nəzərdə tutulmuş yeni açıq modellər ailəsi. Model ölçüsü üçün kor bir yarışa girməkdən uzaq, şirkət O, lazım olan yerdə tətbiq oluna bilən paylanmış kəşfiyyatın tərəfdarıdır.: buludda, kənarda və ya hətta internet bağlantısı olmadan.

Bu strategiya yerləri Mistral, OpenAI, Google və ya Anthropic kimi nəhənglərə qarşı dura bilən bir neçə Avropa alternativindən biri kimivə təklif ChatGPT-yə alternativlərAncaq fərqli bir baxımdan: icazə verilən lisenziya altında açıq çəki modellərişirkətlərin və dövlət idarələrinin ehtiyaclarına uyğunlaşa bilən və Avropa dillərinə və qitə daxilində suveren yerləşdirmələrə güclü diqqət yetirməklə.

Mistral 3 nədir və niyə aktualdır?

La familia Mistral 3 -dən ibarətdir on açıq çəki modeli Apache License 2.0 altında buraxılmışdırBu, praktiki olaraq heç bir məhdudiyyət olmadan kommersiya istifadəsinə imkan verir. Buraya Frontier tipli flaqman modeli daxildir. Mistral Böyük 3və marka altında kompakt modellər xətti Nazirlik 3üç təxmini ölçüdə (14.000, 8.000 və 3.000 milyon parametr) və tapşırığın növündən asılı olaraq bir neçə variantda gəlir.

Əsas yenilik ondan ibarətdir ki, böyük model mətnlə məhdudlaşmır: Mistral Large 3 multimodal və çoxdillidirEyni arxitektura daxilində mətn və şəkillərlə işləmək qabiliyyətinə malikdir və Avropa dilləri üçün möhkəm dəstək təklif edir. Dil və görmə modellərini ayrı-ayrılıqda birləşdirən digər yanaşmalardan fərqli olaraq, bu, böyük sənədləri təhlil edə, şəkilləri başa düşə və mürəkkəb tapşırıqlar üçün qabaqcıl köməkçi kimi çıxış edə bilən vahid inteqrasiya edilmiş sistemə əsaslanır.

Eyni zamanda serial Nazirlik 3 O, bulud girişinin məhdud olduğu və ya mövcud olmadığı ssenarilərdə işləmək üçün nəzərdə tutulmuşdur. Bu modellər az olan cihazlarda işləyə bilər 4 GB yaddaş və ya istifadəsinə qapı açan tək GPU-da noutbuklar, mobil telefonlar, robotlar, dronlar və ya quraşdırılmış sistemlər daimi internet bağlantısı və ya xarici provayderlərdən asılı olmadan.

Söhbətin getdiyi Avropa ekosistemi üçün rəqəmsal suverenlik və məlumatlara nəzarət Açıq sərhəd modelinin və yerli olaraq tətbiq oluna bilən yüngül modellərin bu birləşməsi böyük ABŞ və Çin platformalarına alternativ axtaran həm özəl şirkətlər, həm də dövlət idarələri üçün çox aktualdır və xüsusilə aktualdır.

Memarlıq, Ekspertlərin Qarışığı və Texniki Yanaşma

Texniki ürəyi Mistral Böyük 3 nin memarlığıdır Ekspertlərin Qarışığı (MN), modeli olan bir dizayn Onun çoxsaylı daxili “mütəxəssisləri” var.Lakin hər bir tokeni emal etmək üçün onların yalnız bir hissəsini aktivləşdirirPraktikada sistem idarə edir 41.000 milyard aktiv parametr cəmindən 675.000 milyonBu, yüksək düşünmə qabiliyyətini ekvivalent sıx modeldən daha çox idarə olunan enerji və hesablama istehlakı ilə birləşdirməyə imkan verir.

Bu memarlıq, a 256.000 tokenə qədər kontekst pəncərəsiBu, Mistral Large 3-ə uzunmüddətli müqavilələr, texniki sənədlər və ya böyük korporativ bilik bazaları kimi çox böyük həcmdə məlumatı emal etməyə imkan verir. Model kimi istifadə halları üçün nəzərdə tutulub sənəd təhlili, proqramlaşdırma yardımı, məzmunun yaradılması, AI agentləri və iş axınının avtomatlaşdırılması.

Paralel olaraq, modellər Nazirlik 3 Onlar üç əsas variantda təklif olunur: Baza (ümumi əvvəlcədən hazırlanmış model), Təlimatlandırmaq (söhbət və köməkçi tapşırıqları üçün optimallaşdırılmışdır) və Əsaslandırır (Məntiqi əsaslandırma və daha dərin təhlil üçün düzəliş edilmişdir). Bütün versiyaları dəstəkləyir görmə və onlar bir çox dillərlə uyğunluğu qoruyaraq, geniş kontekstləri - 128K və 256K tokenləri - idarə edir.

Həmtəsisçi və baş alim Guillaume Lample tərəfindən izah edildiyi kimi əsas ideya ondan ibarətdir ki, müəssisələrdən istifadə hallarının "90%-dən çoxunda" Kiçik, yaxşı qurulmuş bir model kifayətdir. və üstəlik, daha səmərəlidir. istifadə kimi texnikalar vasitəsilə xüsusi tapşırıqlar üçün sintetik məlumatlarŞirkət iddia edir ki, bu modellər çox spesifik tətbiqlərdə daha böyük, qapalı variantlara yaxınlaşa və ya onları keçə bilər, eyni zamanda xərcləri, gecikməni və məxfilik risklərini azaldır.

Bütün bu ekosistem şirkətin məhsullarının daha geniş çeşidi ilə inteqrasiya olunub: from Mistral Agents APIkodun icrası, veb axtarışı və ya təsvirin yaradılması üçün birləşdiricilərlə Mistral Kod Proqramçı yardımı üçün əsaslandırma modeli Ustacasına və platforma AI Studio tətbiqləri yerləşdirmək, analitikləri idarə etmək və istifadə qeydlərini saxlamaq üçün.

NVIDIA ilə əməkdaşlıq və super hesablama və kənar hesablamada yerləşdirmə

Başlanğıcın bir məqamı arasında ittifaq var Mistral AI və NVIDIA, Mistral 3-ü Amerika istehsalçısının super hesablama sistemləri və kənar platformaları üçün dəqiq tənzimlənmiş modellər ailəsi kimi yerləşdirir. Mistral Böyük 3kimi infrastrukturla birləşir NVIDIA GB200 NVL72, NVIDIA-ya görə performansın on dəfəyə qədər təkmilləşdirilməsi qabaqcıl paralellik, NVLink vasitəsilə paylaşılan yaddaş və optimallaşdırılmış ədədi formatlardan istifadə edərək, H200 GPU-lara əsaslanan əvvəlki nəsillə müqayisədə NVFP4.

Birgə iş yüksək səviyyəli avadanlıqlarda dayanmır. Serial Nazirlik 3 kimi mühitlərdə tez işləmək üçün optimallaşdırılıb RTX GPU-ları, Jetson cihazları və kənar platformaları olan kompüterlər və noutbuklarsənaye, robototexnika və ya istehlakçı ssenarilərində yerli nəticələr çıxarmağı asanlaşdırmaq. kimi məşhur çərçivələr Llama.cpp və Ollama Onlar bu modellərdən faydalanmaq üçün uyğunlaşdırılmışdır ki, bu da onların tərtibatçılar və İT komandaları tərəfindən yerləşdirilməsini asanlaşdırır.

Bundan əlavə, ekosistemlə inteqrasiya NVIDIA NeMo Data Designer, Guardrails və Agent Toolbar kimi alətlər daxil olmaqla, şirkətlərə fəaliyyət göstərməyə imkan verir incə tənzimləmə, təhlükəsizlik nəzarəti, agent orkestrasiyası və məlumat dizaynı Mistral 3 əsasında. Eyni zamanda çıxarış mühərrikləri kimi TensorRT-LLM, SGLang və vLLM token üzrə xərcləri azaltmaq və enerji səmərəliliyini artırmaq.

Mistral 3 modelləri indi böyük pərakəndə satış mağazalarında mövcuddur bulud provayderləri və açıq depolarşəklində də gələcəklər NIM mikroxidmətləri NVIDIA kataloqu daxilində, bu istehsalçının yığınlarında artıq işləyən və yerləşdirmə üzərində daha çox nəzarəti olan generativ AI qəbul etmək istəyən Avropa şirkətləri üçün xüsusilə maraqlı bir şey.

Bütün bu çərçivə Mistral 3-ə həm böyük məlumat mərkəzlərində, həm də kənar cihazlarda yaşamağa imkan verir və bu, öz hekayəsini gücləndirir. həqiqətən hər yerdə yayılmış və yayılmış AI, uzaq xidmətlərdən daha az asılı və hər bir müştərinin xüsusi ehtiyaclarına daha çox uyğunlaşdırılmışdır.

Kiçik modellər, oflayn yerləşdirmə və kənar istifadə halları

Mistralın çıxışının sütunlarından biri də budur Əksər real dünya tətbiqləri mümkün olan ən böyük modeli tələb etmir.lakin istifadə vəziyyətinə yaxşı uyğun gələn və xüsusi məlumatlarla dəqiq tənzimlənə bilən biri. Serialdakı doqquz modelin gəldiyi yer budur. Nazirlik 3sıx, yüksək performanslı və qiymət, sürət və ya tutum tələblərinə uyğun müxtəlif ölçülərdə və variantlarda mövcuddur.

Bu modellər işləmək üçün nəzərdə tutulmuşdur tək GPU və ya hətta təvazökar aparatdaBu, daxili serverlərdə, noutbuklarda, sənaye robotlarında və ya uzaq mühitlərdə işləyən cihazlarda yerli yerləşdirməyə imkan verir. İstehsalçılardan tutmuş maliyyə institutlarına və ya dövlət qurumlarına qədər həssas məlumatlarla məşğul olan şirkətlər üçün məlumatları buludlara göndərmədən öz infrastrukturları daxilində süni intellektlə işləmək imkanı əhəmiyyətli üstünlükdür.

kimi şirkət misallar gətirir İnternet bağlantısı olmadan real vaxt rejimində sensor məlumatlarını təhlil edən zavod robotları, fövqəladə hallar və xilasetmə işləri üçün dronlar, əhatə dairəsi olmayan ərazilərdə tam funksional AI köməkçiləri olan avtomobillər və ya tələbələrə oflayn kömək təklif edən təhsil alətləri. Məlumatları birbaşa cihazda emal etməklə məxfilik və məlumatlara nəzarət istifadəçilərin.

Lample israr edir ki, əlçatanlıq Mistralın missiyasının mərkəzi hissəsidir: var Cib telefonu və ya noutbuku olan, lakin etibarlı internetə çıxışı olmayan milyardlarla insanyerli olaraq işləyə bilən modellərdən faydalana bilər. Bu yolla şirkət qabaqcıl AI-nin həmişə kiçik şirkətlər qrupu tərəfindən idarə olunan böyük məlumat mərkəzlərinə bağlı olması fikrini dağıtmağa çalışır.

Paralel olaraq, Mistral adı ilə tanınan sahədə beynəlxalq tərəfdaşlarla işləməyə başladı AI fizikasıQeyd edilən əməkdaşlıqlar arasında robotlar, kibertəhlükəsizlik və yanğından mühafizə sistemləri üzrə Sinqapurun HTX elm və texnologiya agentliyi; və alman Salam, dronlar üçün görmə-dil-hərəkət modelləri ilə müdafiəyə yönəldilmiş; və avtomobil istehsalçıları axtarır Kabinədə AI köməkçiləri daha səmərəli və idarə oluna bilir.

Avropaya təsir: rəqəmsal suverenlik və dövlət-özəl ekosistem

Texniki aspektlərdən əlavə, Mistral müzakirələrdə bir meyar halına gəldi Avropada rəqəmsal suverenlikŞirkət özünü Avropa və ABŞ arasında yayılmış komandalar və model təlimləri ilə "transatlantik əməkdaşlıq" kimi təyin etsə də, onun Avropa dillərinə güclü dəstəyi olan modellər açmaq öhdəliyi qitədəki dövlət qurumları tərəfindən yaxşı qarşılanıb.

Şirkət ilə sövdələşmələr bağlanıb Fransa ordusu, Fransanın ictimai məşğulluq agentliyi, Lüksemburq hökuməti və digər Avropa təşkilatları AI-ni ciddi tənzimləyici çərçivələr altında yerləşdirməkdə və Aİ daxilində məlumatlara nəzarəti saxlamaqda maraqlıdır. Paralel olaraq, Avropa Komissiyası a Avropa AI alətlərini artırmaq strategiyası təhlükəsizlik və möhkəmlikdən ödün vermədən sənaye rəqabət qabiliyyətini gücləndirən.

Geosiyasi kontekst də regionu reaksiya verməyə sövq edir. Etiraf olunur ki Avropa ABŞ və Çindən geri qalıb Yeni nəsil modellər üçün yarışda, Çin kimi ölkələrdə DeepSeek, Alibaba və Kimi kimi açıq alternativlər ortaya çıxdıqda və müəyyən vəzifələrdə ChatGPT kimi həllər ilə rəqabət aparmağa başlayanda, Mistral bu boşluğun bir hissəsini Avropa tənzimləmə tələblərinə uyğun açıq, çox yönlü modellərlə doldurmağa çalışır.

Maliyyə baxımından, startap ətrafında yüksəldi 2.700 milyon və yaxın qiymətləndirmələr daxilində hərəkət etmişdir 14.000 milyonBu rəqəmlər OpenAI və ya Anthropic kimi nəhənglərinkindən çox aşağıdır, lakin Avropa ekosistemi üçün əhəmiyyətlidir. Biznes modelinin böyük bir hissəsi açıq çəkilərdən kənar təklifləri əhatə edir, fərdiləşdirmə xidmətləri, yerləşdirmə alətləri və müəssisə məhsulları Mistral Agents API və ya korporativ inteqrasiya ilə Le Chat dəsti kimi.

Yerləşdirmə aydındır: olmaq açıq və çevik AI infrastrukturunun təminatçısı bu, Avropa (və digər regional) şirkətlərə ABŞ platformalarından tamamilə asılı olmadan yeniliklər etməyə imkan verir, eyni zamanda modellərin harada və necə işlədilməsinə müəyyən nəzarəti saxlayır və sistemlərində artıq tətbiq edilmiş alətlərlə inteqrasiyanı asanlaşdırır.

Həqiqi açıqlıq və gözlənilən problemlər haqqında debat

Mistral 3-ün texnoloji cəmiyyətin bir hissəsində yaratdığı həvəsə baxmayaraq, sual verən tənqidi səslərin çatışmazlığı yoxdur. bu modelləri nə dərəcədə həqiqətən hesab etmək olar "açıq mənbə"Şirkət bir yanaşma seçdi açıq çəkiO, istifadə və uyğunlaşma üçün çəkiləri buraxır, lakin modeli sıfırdan yaratmaq üçün lazım olan təlim məlumatları və daxili proseslərlə bağlı bütün təfərrüatlar mütləq deyil.

kimi tədqiqatçılar Andreas Lizenfeld, Avropa Açıq Mənbəli AI İndeksinin həmtəsisçisi, Onlar qeyd edirlər ki, Avropada süni intellekt üçün əsas darboğaz təkcə modellərə çıxış deyilamma geniş miqyaslı təlim məlumatlarıBu baxımdan, Mistral 3 öz töhfəsini verir istifadə edilə bilən modellərin çeşidini təkmilləşdirməkBununla belə, yüksək keyfiyyətli kütləvi məlumat dəstləri yaratmaq və paylaşmaq üçün mübarizə aparan Avropa ekosisteminin əsas problemini tam həll etmir.

Mistral özü etiraf edir ki, onun açıq planlı modelləri daha qabaqcıl qapalı həllərdən "bir az geridədir", lakin O, fərqin sürətlə daraldığını təkid edir. və əsas məqam budur xərc-fayda nisbətiBir az daha az güclü model aşağı qiymətə tətbiq oluna bilərsə, müəyyən bir tapşırıq üçün dəqiq tənzimlənə bilər və istifadəçiyə yaxın işləyə bilərsə, Bu, bir çox şirkətlər üçün top modeldən daha maraqlı ola bilər yalnız uzaqdan API vasitəsilə əldə edilə bilər.

Buna baxmayaraq, problemlər qalır: dən şiddətli beynəlxalq rəqabət Bu, səhiyyə, maliyyə və hökumət kimi kontekstlərdə təhlükəsizliyə, izlənilə bilənliyə və tənzimləmə uyğunluğuna zəmanət vermək ehtiyacını əhatə edir. Açıqlıq, nəzarət və məsuliyyət arasındakı tarazlıq qarşıdakı illərdə Mistral və digər Avropa oyunçularına rəhbərlik etməyə davam edəcək.

Başlanğıc Mistral 3 Bu, qabaqcıl AI-nin nəhəng, qapalı modellərlə məhdudlaşmaması fikrini gücləndirir.və Avropaya - və texnoloji suverenliyi qiymətləndirən hər hansı bir təşkilata - multimodal sərhəd modelini kənarda, oflayn rejimdə işləyə bilən və sırf mülkiyyət platformaları tərəfindən uyğunlaşdırılması çətin olan fərdiləşdirmə səviyyəsi ilə bir sıra yüngül modelləri birləşdirən açıq alətlər palitrasını təklif edir.

Əlaqədar məqalə:

Yerli süni intellekt mərkəzi kimi kompüterinizdən necə istifadə etməli: Praktik və müqayisəli bələdçi

Alberto navarro

Mən öz "geek" maraqlarını peşəyə çevirmiş texnologiya həvəskarıyam. Mən həyatımın 10 ilindən çoxunu qabaqcıl texnologiyadan istifadə edərək və hər cür proqramlarla maraqlanaraq sərf etmişəm. İndi mən kompüter texnologiyası və video oyunları üzrə ixtisaslaşmışam. Bunun səbəbi, 5 ildən artıqdır ki, texnologiya və video oyunlarla bağlı müxtəlif saytlar üçün yazılar yazıram, sizə lazım olan məlumatları hamı üçün başa düşülən dildə verməyə çalışan məqalələr hazırlayıram.

Hər hansı bir sualınız varsa, mənim biliklərim Windows əməliyyat sistemi, eləcə də mobil telefonlar üçün Android ilə əlaqəli hər şeyi əhatə edir. Və mənim öhdəliyim sizədir, mən həmişə bir neçə dəqiqə sərf etməyə və bu internet dünyasında yarana biləcək bütün suallarınızı həll etməyə kömək etməyə hazıram.