Mistral 3: tarqatilgan AI uchun ochiq modellarning yangi to'lqini

Fransuz startapi Mistral AI U o'zini Evropada sun'iy intellekt bo'yicha munozaralarning markaziga qo'ydi Mistral 3 ishga tushirildiKatta ma'lumotlar markazlarida ham, juda cheklangan resurslarga ega qurilmalarda ham ishlashga mo'ljallangan ochiq modellarning yangi oilasi. Model hajmi uchun ko'r poygaga kirishdan uzoqda, kompaniya U kerak bo'lganda amalga oshirilishi mumkin bo'lgan taqsimlangan razvedka ma'lumotlarini himoya qiladi.: bulutda, chekkada yoki hatto internetga ulanmasdan ham.

Bu strategiya joylashtiradi Mistral - OpenAI, Google yoki Anthropic kabi gigantlarga qarshi tura oladigan kam sonli Evropa alternativalaridan biri.va taklif ChatGPT-ga alternativaAmmo boshqa nuqtai nazardan: ruxsat beruvchi litsenziya ostida ochiq vaznli modellarkompaniyalar va davlat ma'muriyatlarining ehtiyojlariga moslashtiriladi va Evropa tillariga va qit'ada suveren joylashtirishga katta e'tibor beradi.

Mistral 3 nima va u nima uchun tegishli?

Oila Mistral 3 Undan tashkil topgan o'nta ochiq vaznli modellar Apache litsenziyasi 2.0 ostida chiqarilganBu deyarli hech qanday cheklovlarsiz tijorat maqsadlarida foydalanish imkonini beradi. U Frontier tipidagi flagman modelni o'z ichiga oladi. Mistral Large 3va brend ostida ixcham modellar qatori Vazirlik 3ular uchta taxminiy o'lchamda (14 000, 8 000 va 3 000 million parametrlar) va vazifa turiga qarab bir nechta variantlarda keladi.

Asosiy yangilik shundaki, katta model matn bilan cheklanmaydi: Mistral Large 3 multimodal va ko'p tilliU bir xil arxitekturada matn va tasvirlar bilan ishlashga qodir va Yevropa tillari uchun mustahkam yordamni taklif etadi. Til va ko'rish modellarini alohida birlashtirgan boshqa yondashuvlardan farqli o'laroq, bu yagona integratsiyalashgan tizimga tayanadi, u katta hujjatlarni tahlil qiladi, tasvirlarni tushunadi va murakkab vazifalar uchun ilg'or yordamchi sifatida ishlaydi.

Shu bilan birga, seriya Vazirlik 3 U bulutga kirish cheklangan yoki mavjud bo'lmagan stsenariylarda ishlash uchun mo'ljallangan. Ushbu modellar kamroq quvvatga ega qurilmalarda ishlashi mumkin 4 GB xotira yoki undan foydalanish uchun eshikni ochadigan bitta GPUda noutbuklar, mobil telefonlar, robotlar, dronlar yoki o'rnatilgan tizimlar doimiy internet aloqasi yoki tashqi provayderlarga bog'liq holda.

Yevropa ekotizim uchun, qaerda haqida suhbat raqamli suverenitet va ma'lumotlarni nazorat qilish Ochiq chegara modeli va mahalliy o'rnatish mumkin bo'lgan engil modellarning bu kombinatsiyasi AQSh va Xitoyning yirik platformalariga alternativalarni qidirayotgan xususiy kompaniyalar va davlat ma'muriyatlari uchun juda dolzarb va ayniqsa dolzarbdir.

Arxitektura, ekspertlar aralashmasi va texnik yondashuv

Texnik yuragi Mistral Large 3 ning arxitekturasidir Ekspertlar aralashmasi (VV), modeli bo'lgan dizayn Uning bir nechta ichki "mutaxassislari" mavjud., lekin har bir tokenni qayta ishlash uchun ularning faqat bir qismini faollashtiradiAmalda, tizim boshqaradi 41.000 milliard faol parametrlar jamidan 675.000 milliardBu yuqori fikrlash qobiliyatini ekvivalent zich modelga qaraganda ko'proq boshqariladigan energiya va hisoblash iste'moli bilan birlashtirishga imkon beradi.

Ushbu arxitektura, a bilan birlashtirilgan 256 000 tagacha tokenlardan iborat kontekst oynasiBu Mistral Large 3 ga uzoq muddatli shartnomalar, texnik hujjatlar yoki yirik korporativ bilim bazalari kabi juda katta hajmdagi ma'lumotlarni qayta ishlash imkonini beradi. Model kabi foydalanish holatlariga qaratilgan hujjatlar tahlili, dasturiy yordam, kontent yaratish, AI agentlari va ish jarayonini avtomatlashtirish.

Bunga parallel ravishda modellar Vazirlik 3 Ular uchta asosiy variantda taqdim etiladi: Baza (umumiy oldindan tayyorlangan model), Ko'rsatma bering (suhbat va yordamchi vazifalar uchun optimallashtirilgan) va Fikrlash (Mantiqiy fikrlash va chuqurroq tahlil qilish uchun tuzatilgan). Barcha versiyalar qo'llab-quvvatlanadi ko'rish va ular 128K va 256K tokenlar orasidagi keng kontekstlarni boshqaradi, shu bilan birga bir nechta tillar bilan mos keladi.

Hammuassisi va bosh olim Guillaume Lample tushuntirganidek, asosiy g'oya shundan iboratki, korxonalardan foydalanish holatlarining "90% dan ko'prog'ida" Kichkina, yaxshi sozlangan model etarli. va bundan tashqari, yanada samarali. dan foydalanish kabi texnikalar orqali muayyan vazifalar uchun sintetik ma'lumotlarKompaniyaning ta'kidlashicha, ushbu modellar juda aniq ilovalarda kattaroq, yopiq variantlarga yaqinlashishi yoki hatto undan oshib ketishi mumkin, shu bilan birga xarajatlar, kechikishlar va maxfiylik xavflarini kamaytiradi.

Bu butun ekotizim kompaniya mahsulotlarining kengroq assortimenti bilan birlashtirilgan: dan Mistral Agents APIgacha kodni bajarish, veb-qidiruv yoki tasvir yaratish uchun ulagichlar bilan Mistral kod Dasturchi yordami uchun fikrlash modeli Ustalik bilan va platforma AI studiyasi ilovalarni joylashtirish, tahlillarni boshqarish va foydalanish jurnallarini yuritish uchun.

NVIDIA bilan hamkorlik va super-kompyuterlar va chekka hisoblashlarni qo'llash

Ishga tushirishning asosiy jihati o'rtasidagi ittifoqdir Mistral AI va NVIDIA, bu Mistral 3-ni amerikalik ishlab chiqaruvchining super-kompyuter tizimlari va chekka platformalari uchun nozik sozlangan modellar oilasi sifatida joylashtiradi. Mistral Large 3kabi infratuzilmalar bilan birlashtirilgan NVIDIA GB200 NVL72, NVIDIA ma'lumotlariga ko'ra unumdorlikni o'n barobarga oshirish H200 GPU-larga asoslangan oldingi avlod bilan solishtirganda, rivojlangan parallellik, NVLink orqali umumiy xotira va optimallashtirilgan raqamli formatlardan foydalangan holda NVFP4.

Hamkorlikdagi ish yuqori darajadagi uskunada to'xtamaydi. Seriya Vazirlik 3 kabi muhitlarda tez ishlash uchun optimallashtirilgan RTX GPU, Jetson qurilmalari va chekka platformalarga ega shaxsiy kompyuterlar va noutbuklarsanoat, robototexnika yoki iste'molchi stsenariylarida mahalliy xulosalarni osonlashtirish. Kabi mashhur ramkalar Llama.cpp va Ollama Ular ushbu modellardan foydalanish uchun moslashtirilgan, bu esa ularni ishlab chiquvchilar va IT guruhlari tomonidan joylashtirishni osonlashtiradi.

Bundan tashqari, ekotizim bilan integratsiya NVIDIA NeMo - Data Designer, Guardrails va Agent Toolkit kabi vositalar - kompaniyalarga ishlashga imkon beradi nozik sozlash, xavfsizlik nazorati, agent orkestratsiyasi va ma'lumotlarni loyihalash asosida Mistral 3. Shu bilan birga, kabi xulosa dvigatellari TensorRT-LLM, SGLang va vLLM token narxini kamaytirish va energiya samaradorligini oshirish.

Mistral 3 modellari endi yirik sotuvchilarda mavjud bulutli provayderlar va ochiq omborlarva ular ham shaklida keladi NIM mikroxizmatlari NVIDIA katalogida, ayniqsa, ushbu ishlab chiqaruvchining steklarida ishlayotgan va joylashtirishni ko'proq nazorat qiluvchi generativ AIni qabul qilishni xohlaydigan Evropa kompaniyalari uchun qiziqarli narsa.

Bularning barchasi Mistral 3-ga katta ma'lumotlar markazlarida ham, chekka qurilmalarda ham yashashga imkon beradi va bu uning hikoyasini mustahkamlaydi. haqiqatan ham hamma joyda va tarqatilgan AI, masofaviy xizmatlarga kamroq bog'liq va har bir mijozning o'ziga xos ehtiyojlariga moslashtirilgan.

Kichik modellar, oflayn tarqatish va chekka foydalanish holatlari

Mistral nutqining ustunlaridan biri shu Aksariyat real ilovalar eng katta modelni talab qilmaydi.lekin foydalanish holatiga mos keladigan va aniq ma'lumotlar bilan yaxshi sozlanishi mumkin. Seriyadagi to'qqizta model aynan shu erda paydo bo'ladi. Vazirlik 3zich, yuqori unumdor va har xil o'lcham va variantlarda mavjud bo'lib, harajat, tezlik yoki sig'im talablariga mos keladi.

Ushbu modellar ishlash uchun mo'ljallangan bitta GPU yoki hatto oddiy uskunadaBu mahalliy serverlarda, noutbuklarda, sanoat robotlarida yoki uzoq muhitda ishlaydigan qurilmalarda mahalliy joylashtirish imkonini beradi. Ishlab chiqaruvchilardan tortib moliya institutlari yoki davlat idoralarigacha bo'lgan nozik ma'lumotlar bilan shug'ullanadigan kompaniyalar uchun bulutga ma'lumotlarni jo'natmasdan AIni o'z infratuzilmasi doirasida boshqarish qobiliyati muhim afzallik hisoblanadi.

Kompaniya kabi misollarni keltiradi Sensor ma'lumotlarini real vaqtda internetga ulanmasdan tahlil qiladigan zavod robotlari, favqulodda vaziyatlar va qutqaruvlar uchun dronlar, qamrovsiz hududlarda to'liq ishlaydigan AI yordamchilari bo'lgan transport vositalari yoki talabalarga oflayn yordam taklif qiladigan ta'lim vositalari. Ma'lumotlarni to'g'ridan-to'g'ri qurilmada qayta ishlash orqali maxfiylik va axborotni nazorat qilish foydalanuvchilarning.

Lample, foydalanish imkoniyati Mistral missiyasining markaziy qismi ekanligini ta'kidlaydi: bor Mobil telefonlari yoki noutbuklari bor, lekin ishonchli internetga ega bo'lmagan milliardlab odamlarmahalliy miqyosda ishlashga qodir modellar foyda keltirishi mumkin. Shu tariqa kompaniya ilg‘or sun’iy intellekt har doim kichik kompaniyalar guruhi tomonidan boshqariladigan yirik ma’lumotlar markazlari bilan bog‘langan bo‘lishi kerak degan tushunchani yo‘q qilishga harakat qilmoqda.

Bunga parallel ravishda, Mistral xalqaro hamkorlar bilan mashhur bo'lgan sohada ishlay boshladi AI fizikasiSingapurning robotlar, kiberxavfsizlik va yong'indan himoya qilish tizimlari bo'yicha HTX fan va texnologiya agentligi tilga olingan hamkorliklar orasida; va nemis Helsing, mudofaaga qaratilgan, dronlar uchun ko'rish-til-harakat modellari bilan; va avtomobil ishlab chiqaruvchilari qidirmoqda Salonda AI yordamchilari samaraliroq va boshqariladigan.

Evropaga ta'siri: raqamli suverenitet va davlat-xususiy ekotizim

Texnik jihatlardan tashqari, Mistral munozarada mezonga aylandi Evropada raqamli suverenitetGarchi kompaniya o'zini Evropa va Qo'shma Shtatlar o'rtasida tarqalgan jamoalar va namunaviy treninglar bilan "transatlantik hamkorlik" deb hisoblasa-da, uning Evropa tillarini kuchli qo'llab-quvvatlaydigan modellarni ochish majburiyati qit'adagi davlat muassasalari tomonidan yaxshi qabul qilindi.

Kompaniya bilan shartnomalar tuzildi frantsuz armiyasi, frantsuz ish bilan ta'minlash agentligi, Lyuksemburg hukumati va boshqa Evropa tashkilotlari qat'iy me'yoriy-huquqiy bazalar ostida sun'iy intellektni qo'llash va Evropa Ittifoqidagi ma'lumotlar nazoratini saqlab qolishdan manfaatdor. Bunga parallel ravishda Yevropa Komissiyasi a Evropa AI vositalarini oshirish strategiyasi xavfsizlik va chidamlilikni yo'qotmasdan sanoat raqobatbardoshligini kuchaytirish.

Geosiyosiy kontekst ham mintaqani reaksiyaga undamoqda. Bu tan olinadi Yevropa AQSh va Xitoydan orqada qoldi Yangi avlod modellari uchun poygada, Xitoy kabi mamlakatlarda DeepSeek, Alibaba va Kimi kabi ochiq alternativalar paydo bo'layotgan va muayyan vazifalarda ChatGPT kabi echimlar bilan raqobatlasha boshlagan bir paytda, Mistral bu bo'shliqning bir qismini Yevropa tartibga solish talablariga mos keladigan ochiq, ko'p qirrali modellar bilan to'ldirishga harakat qilmoqda.

Moliyaviy jihatdan, startap atrofida ko'tarildi 2.700 milliard dollar ga yaqin baholar ichida harakat qildi 14.000 milliardBu raqamlar OpenAI yoki Anthropic kabi gigantlarga qaraganda ancha past, ammo Yevropa ekotizimlari uchun ahamiyatli. Biznes modelining katta qismi ochiq vazndan tashqari takliflarni o'z ichiga oladi, moslashtirish xizmatlari, joylashtirish vositalari va korporativ mahsulotlar Mistral Agents API yoki korporativ integratsiyaga ega Le Chat to'plami kabi.

Joylashuv aniq: to be a ochiq va moslashuvchan AI infratuzilmasi provayderi Bu Yevropa (va boshqa mintaqaviy) kompaniyalarga AQSh platformalariga toʻliq qaram boʻlmasdan innovatsiyalar yaratish, shu bilan birga modellar qayerda va qanday ishga tushirilishi ustidan maʼlum bir nazoratni saqlab qolish hamda ularning tizimlarida allaqachon joriy qilingan vositalar bilan integratsiyalashuvni osonlashtirish imkonini beradi.

Haqiqiy ochiqlik va kutilayotgan muammolar haqida bahs

Mistral 3 texnologik hamjamiyatning bir qismida yaratayotgan ishtiyoqiga qaramay, bu savolga tanqidiy ovozlar kam emas. bu modellarni qay darajada haqiqatdan ham ko'rib chiqish mumkin "ochiq manba"Kompaniya yondashuvni tanladi ochiq vaznU foydalanish va moslashtirish uchun og'irliklarni chiqaradi, lekin modelni noldan qayta ishlab chiqarish uchun zarur bo'lgan o'quv ma'lumotlari va ichki jarayonlar haqidagi barcha tafsilotlarni ko'rsatish shart emas.

Tadqiqotchilar kabi Andreas Lizenfeld, European Open Source AI Index asoschilaridan biri, Ularning ta'kidlashicha, Evropada sun'iy intellektning asosiy to'siqlari faqat modellarga kirish emaslekin uchun keng ko'lamli ta'lim ma'lumotlariShu nuqtai nazardan, Mistral 3 hissa qo'shadi foydalanish mumkin bo'lgan modellar assortimentini yaxshilashBiroq, bu yuqori sifatli ommaviy ma'lumotlar to'plamini yaratish va almashish uchun kurashda davom etayotgan Evropa ekotizimining asosiy muammosini to'liq hal qilmaydi.

Mistralning o'zi tan oladiki, uning ochiq rejali modellari yanada ilg'or yopiq echimlardan "bir oz orqada", lekin Uning ta'kidlashicha, tafovut tez sur'atlar bilan qisqarib bormoqda. va bu asosiy nuqta xarajat-foyda nisbatiAgar biroz kamroq kuchli modelni arzon narxlarda joylashtirish mumkin bo'lsa, ma'lum bir vazifa uchun sozlangan va foydalanuvchiga yaqin ishlasa, Bu ko'plab kompaniyalar uchun top modeldan ko'ra qiziqroq bo'lishi mumkin unga faqat masofaviy API orqali kirish mumkin.

Shunga qaramay, qiyinchiliklar saqlanib qolmoqda: dan shiddatli xalqaro raqobat Bu sog'liqni saqlash, moliya va hukumat kabi kontekstlarda xavfsizlik, kuzatuv va me'yoriy hujjatlarga muvofiqlikni kafolatlash zaruriyatiga taalluqlidir. Ochiqlik, nazorat va mas'uliyat o'rtasidagi muvozanat kelgusi yillarda Mistral va boshqa evropalik o'yinchilarni boshqarishda davom etadi.

Ishga tushirilishi Mistral 3 Bu ilg‘or sun’iy intellekt gigant, yopiq modellar bilan cheklanishi shart emas degan fikrni mustahkamlaydi.va Evropaga va texnologik suverenitetni qadrlaydigan har qanday tashkilotga - multimodal chegara modelini chekka, oflayn rejimda ishlashga qodir engil modellar qatori va sof mulkiy platformalar bilan moslashtirish qiyin bo'lgan sozlash darajasi bilan birlashtirgan ochiq vositalar palitrasini taklif qiladi.

Tegishli maqola:

Shaxsiy kompyuteringizdan mahalliy AI markazi sifatida qanday foydalanish kerak: amaliy va qiyosiy qo'llanma

Alberto Navarro

Men o'zining "geek" qiziqishlarini kasbga aylantirgan texnologiya ishqiboziman. Men hayotimning 10 yildan ko'prog'ini ilg'or texnologiyalardan foydalanish va qiziquvchanlik tufayli har xil dasturlar bilan shug'ullanishga sarfladim. Hozir men kompyuter texnologiyalari va video o'yinlarga ixtisoslashganman. Buning sababi, 5 yildan ortiq vaqt davomida men texnologiya va video o'yinlar bo'yicha turli veb-saytlar uchun yozaman, sizga kerakli ma'lumotlarni hamma uchun tushunarli tilda berishga intiladigan maqolalar yarataman.

Agar sizda biron bir savol bo'lsa, mening bilimlarim Windows operatsion tizimiga, shuningdek, mobil telefonlar uchun Androidga tegishli. Va mening majburiyatim sizga, men har doim bir necha daqiqa sarflashga va ushbu internet olamidagi barcha savollaringizni hal qilishga yordam berishga tayyorman.