Mistral 3: тархсан хиймэл оюун ухаанд зориулсан нээлттэй загваруудын шинэ давалгаа

Францын стартап Mistral AI Энэ нь Европ дахь хиймэл оюун ухааны талаархи маргааны төвд өөрийгөө байрлуулсан Mistral 3 хөөргөхНээлттэй загваруудын шинэ гэр бүл нь маш хязгаарлагдмал нөөцтэй томоохон мэдээллийн төвүүд болон төхөөрөмжүүдэд хоёуланд нь ажиллахад зориулагдсан. Загварын хэмжээний хувьд сохор уралдаанд орохоос хол, компани Энэ нь шаардлагатай үед хэрэгжих боломжтой тархсан тагнуулын мэдээллийг дэмждэг.: үүлэн дотор, захад эсвэл интернет холболтгүй ч гэсэн.

Энэхүү стратеги нь Mistral бол OpenAI, Google эсвэл Anthropic зэрэг аварга том компаниудыг даван туулах чадвартай Европын цөөхөн хувилбаруудын нэг юм.мөн санал болгож байна ChatGPT-н өөр хувилбаруудГэхдээ өөр өнцгөөс: зөвшөөрөлтэй лицензийн дагуу нээлттэй жинтэй загваруудкомпаниуд болон төрийн захиргааны хэрэгцээнд дасан зохицох чадвартай, Европын хэл, тив дэх бүрэн эрхт байршилд онцгой анхаарал хандуулдаг.

Mistral 3 гэж юу вэ, энэ нь яагаад хамааралтай вэ?

Гэр бүл Мистрал 3 Энэ нь бүрддэг арван нээлттэй жинтэй загвар Apache лицензийн 2.0 дагуу гаргасанЭнэ нь түүнийг бараг ямар ч хязгаарлалтгүйгээр арилжааны зориулалтаар ашиглах боломжийг олгодог. Үүнд Frontier төрлийн тэргүүлэх загвар багтсан. Mistral Large 3болон брэндийн дор авсаархан загваруудын шугам Сайд 3Эдгээр нь ойролцоогоор гурван хэмжээтэй (14.000, 8.000, 3.000 сая параметрүүд) бөгөөд ажлын төрлөөс хамааран хэд хэдэн хувилбартай.

Гол шинэлэг зүйл бол том загвар нь зөвхөн текстээр хязгаарлагдахгүй. Mistral Large 3 нь олон төрлийн, олон хэлээр ярьдагЭнэ нь ижил архитектурын доторх текст болон зурагтай ажиллах чадвартай бөгөөд Европын хэлэнд найдвартай дэмжлэг үзүүлдэг. Хэл болон харааны загварыг тусад нь хослуулсан бусад аргуудаас ялгаатай нь энэ нь том баримт бичгүүдэд дүн шинжилгээ хийх, дүрсийг ойлгох, нарийн төвөгтэй ажлуудад туслах туслахын үүргийг гүйцэтгэх нэг нэгдсэн системд тулгуурладаг.

Үүний зэрэгцээ цуврал Сайд 3 Энэ нь үүлэн хандалт хязгаарлагдмал эсвэл огт байхгүй тохиолдолд ажиллахад зориулагдсан. Эдгээр загварууд нь хамгийн бага хүчин чадалтай төхөөрөмжүүд дээр ажиллах боломжтой 4 ГБ санах ой эсвэл нэг GPU дээр ашиглах боломжийг нээж өгдөг зөөврийн компьютер, гар утас, робот, дрон эсвэл суулгагдсан систем байнгын интернет холболт эсвэл гадны үйлчилгээ үзүүлэгчээс хамааралгүйгээр.

Европын экосистемийн хувьд, хаана тухай яриа дижитал бүрэн эрхт байдал, мэдээллийн хяналт Нээлттэй хилийн загвар ба орон нутагт ашиглах боломжтой хөнгөн загваруудын энэхүү хослол нь АНУ, Хятадын томоохон платформоос өөр хувилбар хайж буй хувийн компаниуд болон төрийн захиргааны аль алинд нь маш их хамааралтай бөгөөд ялангуяа хамааралтай юм.

Архитектур, мэргэжилтнүүдийн холимог, техникийн арга барил

-ийн техникийн зүрх Mistral Large 3 Энэ нь архитектур юм Мэргэжилтнүүдийн холимог (МЭ), загвар нь загвар Энэ нь олон дотоод "мэргэжилтнүүд"-тэй.гэхдээ жетон бүрийг боловсруулахын тулд тэдгээрийн зөвхөн нэг хэсгийг идэвхжүүлдэгПрактикт систем нь зохицуулдаг 41.000 тэрбум идэвхтэй параметрүүд нийт дүнгээс 675.000 саяЭнэ нь ижил төстэй нягт загвараас илүү өндөр үндэслэлтэй хүчин чадлыг илүү хяналттай эрчим хүч, тооцоолох хэрэглээтэй хослуулах боломжийг олгодог.

Энэхүү архитектур нь a 256.000 токен хүртэлх контекст цонхЭнэ нь Mistral Large 3-д урт хугацааны гэрээ, техникийн баримт бичиг эсвэл томоохон корпорацийн мэдлэгийн сан зэрэг маш том хэмжээний мэдээллийг боловсруулах боломжийг олгодог. зэрэг хэрэглээний тохиолдлуудад зориулагдсан загвар юм баримт бичгийн дүн шинжилгээ, програмчлалын тусламж, контент үүсгэх, AI агентууд, ажлын урсгалын автоматжуулалт.

Үүний зэрэгцээ загварууд Сайд 3 Тэдгээрийг гурван үндсэн хувилбараар санал болгож байна: үндсэн (ерөнхий урьдчилан бэлтгэгдсэн загвар), Зааварчил (харилцан яриа болон туслах ажилд оновчтой болгосон) болон Шалтгаан (Логик үндэслэл, гүнзгий дүн шинжилгээ хийх зорилгоор тохируулсан). Бүх хувилбаруудыг дэмждэг алсын хараа мөн тэдгээр нь 128К-аас 256К хүртэлх токенуудын хооронд өргөн хүрээний контекстийг зохицуулж, олон хэлтэй нийцтэй байдлыг хадгалдаг.

Хамтран үүсгэн байгуулагч, ахлах эрдэмтэн Гийом Ламплийн тайлбарласнаар үндсэн санаа нь аж ахуйн нэгжийн ашиглалтын тохиолдлын "90 гаруй хувьд" Жижигхэн, сайн тохируулсан загвар хангалттай. үүнээс гадна илүү үр дүнтэй. ашиглах зэрэг техникээр дамжуулан тодорхой даалгаварт зориулсан синтетик өгөгдөлЭдгээр загварууд нь маш тодорхой хэрэглээнд илүү том, хаалттай сонголтуудад ойртож эсвэл бүр давж гарахын зэрэгцээ зардал, хоцрогдол, нууцлалын эрсдлийг бууруулж чадна гэж тус компани үзэж байна.

Энэхүү экосистемийг бүхэлд нь компанийн өргөн хүрээний бүтээгдэхүүнүүдтэй нэгтгэсэн болно: from Mistral Agents APIхүртэл код гүйцэтгэх, вэб хайлт эсвэл зураг үүсгэх холбогчтой Мистрал код Програмистын тусламжийн хувьд үндэслэлийн загвар Мастер ба платформ AI Studio програмуудыг байрлуулах, аналитик удирдах, ашиглалтын бүртгэл хөтлөх.

NVIDIA-тай хамтран ажиллаж, суперкомпьютер болон захын тооцоололд ашиглах

Энэхүү хөөргөлтийн онцлох зүйл бол хоорондын холбоо юм Mistral AI ба NVIDIA, энэ нь Mistral 3-ыг Америкийн үйлдвэрлэгчийн суперкомпьютерийн систем болон захын платформд зориулан нарийн тохируулсан загваруудын гэр бүл гэж үздэг. Mistral Large 3зэрэг дэд бүтэцтэй хослуулсан NVIDIA GB200 NVL72, NVIDIA-ийн дагуу гүйцэтгэлийг арав дахин нэмэгдүүлсэн H200 GPU дээр суурилсан өмнөх үеийнхтэй харьцуулахад дэвшилтэт параллелизм, NVLink-ээр хуваалцсан санах ой, оновчтой тоон формат зэрэг давуу талуудтай. NVFP4.

Хамтын ажил нь өндөр чанартай техник хангамж дээр зогсдоггүй. Цуврал Сайд 3 гэх мэт орчинд хурдан ажиллахаар оновчтой болгосон RTX GPU, Jetson төхөөрөмж, захын платформ бүхий компьютер болон зөөврийн компьютеруудаж үйлдвэр, робот техник эсвэл хэрэглэгчийн хувилбарт орон нутгийн дүгнэлтийг хөнгөвчлөх. зэрэг алдартай хүрээнүүд Llama.cpp болон Ollama Тэдгээрийг эдгээр загваруудын давуу талыг ашиглахаар тохируулсан бөгөөд энэ нь хөгжүүлэгчид болон мэдээллийн технологийн багуудын байршуулалтыг хялбаршуулдаг.

Цаашилбал, экосистемтэй нэгтгэх NVIDIA NeMo Өгөгдлийн дизайнер, Guardrails, Agent Toolkit зэрэг хэрэгслүүд багтаж компаниудад гүйцэтгэх боломжийг олгодог нарийн тааруулах, аюулгүй байдлын хяналт, агентын зохион байгуулалт, өгөгдлийн дизайн үндэслэсэн Mistral 3. Үүний зэрэгцээ дүгнэлтийн хөдөлгүүр зэрэг TensorRT-LLM, SGLang болон vLLM нэг жетон зардлыг бууруулж, эрчим хүчний үр ашгийг дээшлүүлэх.

Mistral 3 загваруудыг одоо томоохон жижиглэн худалдаачид худалдаалж байна үүлэн үйлчилгээ үзүүлэгчид болон нээлттэй хадгалах газруудмөн тэд мөн хэлбэрээр ирэх болно NIM бичил үйлчилгээ NVIDIA каталогийн дотор энэ үйлдвэрлэгчийн стек дээр аль хэдийн ажиллаж байгаа Европын компаниудын хувьд ялангуяа сонирхолтой зүйл бөгөөд байршуулалтад илүү хяналт тавих үүсмэл AI-г нэвтрүүлэхийг хүсч байна.

Энэ бүх хүрээ нь Mistral 3-д томоохон мэдээллийн төвүүд болон захын төхөөрөмжүүдэд хоёуланд нь амьдрах боломжийг олгодог бөгөөд энэ нь түүний түүхийг бэхжүүлдэг. үнэхээр хаа сайгүй тархсан хиймэл оюун ухаан, алсын үйлчилгээнээс бага хамааралтай, үйлчлүүлэгч бүрийн онцлог хэрэгцээнд илүү зохицсон.

Жижиг загварууд, офлайн байршуулалт, захын хэрэглээний тохиолдлууд

Мистралын ярианы нэг тулгуур нь энэ юм Бодит хэрэглээний ихэнх програмууд нь хамгийн том загварыг шаарддаггүй.гэхдээ ашиглалтын нөхцөлд сайн тохирдог бөгөөд тодорхой өгөгдөлд тохируулж болно. Цувралын есөн загвар энд л орж ирдэг. Сайд 3нягт, өндөр гүйцэтгэлтэй, өртөг, хурд, хүчин чадлын шаардлагад нийцүүлэн өөр өөр хэмжээ, хувилбараар авах боломжтой.

Эдгээр загварууд нь ажиллахад зориулагдсан нэг GPU эсвэл бүр даруухан техник хангамж дээрЭнэ нь дотоод серверүүд, зөөврийн компьютерууд, үйлдвэрлэлийн роботууд эсвэл алслагдсан орчинд ажилладаг төхөөрөмжүүдэд орон нутгийн байршуулалт хийх боломжийг олгодог. Үйлдвэрлэгчээс эхлээд санхүүгийн байгууллага эсвэл засгийн газрын агентлаг хүртэл нууц мэдээлэлтэй ажилладаг компаниудын хувьд үүлэн рүү өгөгдөл илгээхгүйгээр хиймэл оюун ухаанаа өөрийн дэд бүтцээр ажиллуулах чадвар нь чухал давуу тал юм.

гэх мэт жишээг тус компани иш татдаг Интернэт холболтгүйгээр мэдрэгчийн өгөгдөлд бодит цаг хугацаанд дүн шинжилгээ хийдэг үйлдвэрийн роботууд, онцгой байдлын үед болон аврах ажиллагаанд зориулсан дронууд, хамрах хүрээгүй газруудад бүрэн ажиллагаатай хиймэл оюун ухааны туслахуудтай автомашинууд эсвэл оюутнуудад офлайн тусламж үзүүлэх боловсролын хэрэгслүүд. Өгөгдлийг шууд төхөөрөмж дээр боловсруулснаар нууцлал ба мэдээллийн хяналт хэрэглэгчдийн.

Лампл хүртээмжтэй байх нь Мистралын эрхэм зорилгын гол хэсэг гэдгийг онцолжээ Гар утас эсвэл зөөврийн компьютертэй боловч найдвартай интернет холболтгүй олон тэрбум хүмүүсорон нутагт ажиллах чадвартай загваруудаас ашиг тус хүртэх боломжтой. Ийнхүү компани дэвшилтэт хиймэл оюун ухаан нь жижиг групп компаниудын хяналтанд байдаг томоохон мэдээллийн төвүүдтэй үргэлж холбоотой байх ёстой гэсэн ойлголтыг арилгахыг хичээж байна.

Үүний зэрэгцээ Mistral олон улсын түншүүдтэй хамтран ажиллаж эхэлсэн AI физикСанагдсан хамтын ажиллагааны дунд робот, кибер аюулгүй байдал, галын хамгаалалтын системд зориулсан Сингапурын HTX шинжлэх ухаан, технологийн агентлаг; мөн Герман Хелсинг, батлан ​​хамгаалахад чиглэсэн, нисгэгчгүй онгоцонд зориулсан алсын хараа-хэл-үйл ажиллагааны загвартай; болон автомашин үйлдвэрлэгчид хайж байна Бүхээгт AI туслахууд илүү үр дүнтэй, хянах боломжтой.

Европ дахь нөлөө: дижитал бүрэн эрхт байдал ба төр, хувийн хэвшлийн экосистем

Техникийн талаас гадна Mistral нь мэтгэлцээний жишиг болсон Европ дахь дижитал бүрэн эрхт байдалТус компани нь өөрийгөө Европ, АНУ-ын хооронд баг, загварчлалын сургалтаар дамжсан хамтын ажиллагаа гэж тодорхойлсон хэдий ч Европын хэлийг хүчтэй дэмждэг загваруудыг нээх амлалт нь тивийн олон нийтийн байгууллагуудад сайнаар хүлээн зөвшөөрөгдсөн.

Тус компанитай гэрээ байгуулсан Францын арми, Францын хөдөлмөр эрхлэлтийн агентлаг, Люксембургийн засгийн газар болон бусад Европын байгууллагууд ЕХ-ны хүрээнд нарийн зохицуулалтын хүрээнд хиймэл оюун ухааныг ашиглах, өгөгдөлд хяналт тавих сонирхолтой байна. Үүнтэй зэрэгцэн Европын Комисс танилцуулсан Европын хиймэл оюун ухааны хэрэгслийг сайжруулах стратеги аюулгүй байдал, уян хатан чанарыг алдагдуулахгүйгээр үйлдвэрлэлийн өрсөлдөх чадварыг бэхжүүлэх.

Геополитикийн нөхцөл байдал ч бүс нутгийг хариу үйлдэл үзүүлэхэд түлхэж байна. Үүнийг хүлээн зөвшөөрч байна Европ АНУ, БНХАУ-ын ард хоцорчээ Дараагийн үеийн загваруудын төлөөх уралдаанд Хятад зэрэг орнуудад DeepSeek, Alibaba, Kimi зэрэг нээлттэй хувилбарууд гарч ирж, ChatGPT зэрэг шийдлүүдтэй тодорхой ажлуудад өрсөлдөж эхэлж байхад Mistral Европын зохицуулалтын шаардлагад нийцсэн нээлттэй, олон талт загваруудаар энэ цоорхойг нөхөхийг хичээж байна.

Санхүүгийн хувьд стартап эргэн тойронд өссөн 2.700 сая доллар ойролцоо үнэлгээний дотор шилжсэн байна 14.000 саяЭдгээр тоо нь OpenAI эсвэл Anthropic зэрэг аварга том компаниудынхаас хамаагүй бага боловч Европын экосистемд чухал ач холбогдолтой юм. Бизнес загварын томоохон хэсэг нь нээлттэй жингээс гадна санал болгох, тохируулах үйлчилгээ, байршуулах хэрэгсэл, байгууллагын бүтээгдэхүүн Mistral Agents API эсвэл корпорацийн интеграцчилал бүхий Le Chat иж бүрдэл гэх мэт.

Байршил нь тодорхой байна: to be a нээлттэй, уян хатан хиймэл оюун ухааны дэд бүтцийн үйлчилгээ үзүүлэгч Энэ нь Европын (болон бусад бүс нутгийн) компаниудад АНУ-ын платформоос бүрэн хамааралгүйгээр шинийг санаачлах боломжийг олгож, загвараа хаана, хэрхэн ажиллуулж байгаа талаар тодорхой хяналт тавьж, системдээ аль хэдийн хэрэгжсэн хэрэглүүрүүдийг нэгтгэх боломжийг олгодог.

Жинхэнэ нээлттэй байдал, хүлээгдэж буй сорилтуудын талаар мэтгэлцэх

Технологийн нийгэмлэгийн нэг хэсэг Mistral 3-ыг бий болгож байгаа урам зоригийг үл харгалзан энэ асуултыг шүүмжилсэн дуу хоолой дутахгүй. Эдгээр загваруудыг хэр зэрэг авч үзэж болох вэ? "нээлттэй эх сурвалж"Компани арга барилыг сонгосон нээлттэй жинЭнэ нь ашиглах болон дасан зохицох жинг гаргадаг боловч загварыг эхнээс нь хуулбарлахад шаардлагатай сургалтын өгөгдөл, дотоод үйл явцын талаархи бүх нарийн ширийн зүйл биш юм.

зэрэг судлаачид Андреас Лизенфельд, Европын нээлттэй эх сурвалжийн AI индексийг үүсгэн байгуулагч, Европ дахь хиймэл оюун ухаанд тулгардаг гол бэрхшээл нь зөвхөн загварт нэвтрэх боломж биш гэдгийг тэд онцолж байнахарин тулд томоохон хэмжээний сургалтын мэдээлэлЭнэ үүднээс Mistral 3 хувь нэмрээ оруулж байна ашиглах боломжтой загваруудын хүрээг сайжруулахГэсэн хэдий ч энэ нь өндөр чанартай асар том мэдээллийн багц үүсгэх, хуваалцахын төлөө тэмцсээр байгаа Европын экосистемийн үндсэн асуудлыг бүрэн шийдэж чадахгүй байна.

Mistral өөрөө нээлттэй төлөвлөгөөтэй загварууд нь илүү дэвшилтэт хаалттай шийдлүүдээс "бага зэрэг хоцорсон" гэдгийг хүлээн зөвшөөрдөг боловч Тэр зөрүү хурдацтай багасч байна гэж тэр хэллээ. бөгөөд энэ нь гол цэг юм зардал-үр ашгийн харьцааХэрэв арай бага хүчин чадалтай загварыг бага зардлаар байрлуулж, тодорхой даалгаварт зориулж нарийн тааруулж, хэрэглэгчтэй ойрхон ажиллуулж чадвал, Энэ нь олон компаниудын хувьд топ загвараас илүү сонирхолтой байж болох юм Зөвхөн алсын API-ээр дамжуулан хандах боломжтой.

Гэсэн хэдий ч сорилтууд хэвээр байна: -аас олон улсын ширүүн өрсөлдөөн Энэ нь эрүүл мэнд, санхүү, засгийн газар гэх мэт нөхцөл байдалд аюулгүй байдал, хяналт шалгалт, зохицуулалтын нийцлийг баталгаажуулах хэрэгцээг хамардаг. Нээлттэй байдал, хяналт, хариуцлагын тэнцвэрт байдал нь Мистрал болон Европын бусад тоглогчдыг ойрын жилүүдэд чиглүүлэх болно.

Нээлтийн ажиллагаа Мистрал 3 Энэ нь хамгийн сүүлийн үеийн хиймэл оюун ухаан нь зөвхөн аварга том, хаалттай загвараар хязгаарлагдах шаардлагагүй гэсэн санааг бататгаж байна.Европт болон технологийн бүрэн эрхт байдлыг эрхэмлэдэг аливаа байгууллагад олон талт хилийн загварыг захад, офлайнаар ажиллах чадвартай хөнгөн жинтэй загваруудтай хослуулсан нээлттэй хэрэгслүүдийн палитрыг санал болгож байна, мөн цэвэр өмчийн платформд тааруулахад хэцүү тохируулгатай.

Холбоотой нийтлэл:

Компьютерээ орон нутгийн AI төв болгон хэрхэн ашиглах вэ: Практик ба харьцуулсан гарын авлага

Альберто Наварро

Би өөрийн "геек" сонирхлоо мэргэжил болгож чадсан технологи сонирхогч хүн. Би амьдралынхаа 10 гаруй жилийг хамгийн сүүлийн үеийн технологи ашиглан, бүх төрлийн программыг сониуч зандаа зориулж өнгөрүүлсэн. Одоо би компьютерийн технологи, видео тоглоомоор мэргэшсэн. Учир нь би 5-аас дээш жил технологи, видео тоглоомын талаар янз бүрийн вэб сайтуудад зориулж, танд хэрэгтэй мэдээллийг хүн бүрт ойлгомжтой хэлээр өгөхийг зорьсон нийтлэлүүдийг бүтээж байна.

Хэрэв танд асуулт байгаа бол миний мэдлэг Windows үйлдлийн систем, гар утсанд зориулсан Android-тай холбоотой бүх зүйлээс хамаарна. Мөн миний амлалт бол таны өмнө, би үргэлж хэдэн минут зарцуулж, энэ интернет ертөнцөд байгаа бүх асуултыг шийдвэрлэхэд тань туслахад бэлэн байна.