- Mu, Microsoft-un yeni kiçik dil modelidir və NPU-ları olan Windows 11 cihazlarında yerli olaraq işləmək üçün optimallaşdırılmışdır.
- Onun ilkin inteqrasiyası təbii dildən istifadə edərək düzəlişlərə imkan verən Windows 11 Konfiqurasiya agentində həyata keçirilir.
- Mu, 100 milyon parametri sayəsində saniyədə 330-dən çox tokenə çatan səmərəliliyi və sürəti ilə seçilir.
- Buraya Dual LayerNorm, RoPE və GQA kimi yeniliklər daxildir və qabaqcıl proseslərdən və yüksək keyfiyyətli təhsil məlumatlarından istifadə etməklə təlim keçmişdir.
Gəlişi Mu, tərəfindən təqdim olunan ən son kiçik dil modeli Microsoft, süni intellektin bilavasitə istifadəçilərin cihazlarında yerləşdirilməsi üzrə mövcud tendensiyada əhəmiyyətli bir addımdır. niyyəti ilə buluddan asılılığı azaldır və potensialından istifadə edin Sinir emal vahidləri (NPU), Mu ilə inteqrasiya olunur Copilot+ kompüterləri qaçış Windows 11, əvvəlcə diqqət mərkəzindədir Ayarlar tətbiqi sadəcə təbii dildən istifadə edərək sistem parametrlərinə girişi və modifikasiyasını asanlaşdırmaq.
Bu avans o deməkdir ki, xarici serverlərə sorğu göndərmək əvəzinə, emal və cavablar cihazın özündə yaradılır, daha çox məxfilik, çeviklik və səmərəliliyin təmin edilməsi. Bu an üçün Yayım Copilot+ kompüterləri olan Windows Insider Proqramı iştirakçılarına yönəlib., baxmayaraq ki, gözlənti bu texnologiyanın gələcək yeniləmələrdə daha çox istifadəçi və funksiyaya genişlənəcəyidir.
Mu həqiqətən nədir və onu nə ilə fərqləndirir?
Mu bu bir kiçik dil modeli (SLM(İngilis dilində qısaltması üçün), 330 milyon parametrlə təlim keçmişdirOnun yığcam ölçüsü performansda fədakarlıq demək deyil, çünki Microsoft-a görə o, daha böyük modellərə çox yaxın rəqəmlərə nail olur. Phip-3.5-minikimi texnikaları ehtiva edən ciddi bir məşq prosesi sayəsində bu balans əldə edilmişdir İkiqat LayerNorm, Dönər Mövqe Yerləşdirmələri (RoPE) y Qruplaşdırılmış Sorğu Diqqəti (GQA) xüsusilə məhdud resursları olan cihazlarda səmərəlilik və dəqiqliyi təmin edən.
Model bir üstünlükdən istifadə edir kodlayıcı-dekoder arxitekturası istifadəçi girişini emal edə və onu sistem daxilində hərəkətlərə çevirə bilən transformator tipli. Bu quruluş sayəsində Mu giriş və çıxış emalını ayırır, hansı ki gecikmə və yaddaş istehlakını azaldır, hamar, gözləmədən istifadəçi təcrübəsini təmin etmək üçün əsas məqamlar.
Rəsmi testlərdə və məlumatlarda Mu bacardığını sübut etdi saniyədə 100-dən çox tokenə cavab verin və 500 millisaniyədən az müddətdə cavab verirBu nömrələr, hətta parametrlərin dəyişdirilməsinə və ya gündəlik dildə uzun və müxtəlif sorğuların şərhinə gəldikdə belə, faktiki olaraq ani qarşılıqlı əlaqə yaratmağa imkan verir. Bu modellərin necə işlədiyini daha dərindən öyrənmək istəyirsinizsə, yoxlaya bilərsiniz PC-də dil modelləri arasında müqayisələr.
Konfiqurasiya Agentinə və praktik funksiyalara inteqrasiya
Mu-nun ilkin enişi onun mərkəzindədir Windows 11 Konfiqurasiya Agenti, istifadəçilərə imkan verən bir xüsusiyyət sadəcə yazaraq və ya onlara lazım olanı söyləyərək sistem parametrlərini tənzimləyin. Məsələn, sadəcə soruşun "Qaranlıq rejimi necə aktivləşdirə bilərəm?" o "Mən parlaqlığı artırmaq istəyirəm" belə ki, Mu həmin təlimatı sistem daxilində müvafiq texniki hərəkətə çevirə bilsin.
Microsoft, AI-nin uyğunlaşdığını vurğuladı on minlərlə müxtəlif kontekstlər və sorğularƏslində, 100.000-dən çox istifadə edilmişdir. 3,6 milyon təlim nümunəsi dilin dəyişdirilməsi və ya Wi-Fi şəbəkələrinin idarə edilməsi kimi ən ümumi sorğulardan tutmuş daha mürəkkəb tapşırıqlara qədər hər şeyi əhatə etmək. Çox qısa və ya birmənalı olmayan suallar üçün sistem istifadə edir ənənəvi axtarış funksiyaları, lakin təlimat aydın və ətraflı olduqda, Mu avtomatik olaraq hərəkət edir və ya istifadəçini addım-addım istiqamətləndirir.
Yeni nəsil avadanlıqlara uyğunlaşdırılmış texnologiya və optimallaşdırma
La Optimallaşdırma inkişafı zamanı ən diqqətlə düşünülmüş məqamlardan biri olmuşdur. Microsoft silisium tərəfdaşları ilə əməkdaşlıqda çalışmışdır AMD, Intel və Qualcomm onu Copilot+ kompüterlərində mövcud olan yeni NPU-ların xüsusiyyətlərinə uyğunlaşdırmaqBu birgə iş təqdim etməyə imkan verdi təlimdən sonrakı kəmiyyətləşdirmə üsulları, model çəkilərini və aktivləşdirmələrini 8 və 16 bitlik tam ədədlərə çevirən, beləliklə, yaddaş istehlakını azaldır və bütün modeli yenidən öyrətmək ehtiyacının qarşısını alır.
Mu'nun məşq prosesi yüksək performanslı mühitlərdə istifadə edərək həyata keçirildi NVIDIA A100 qrafik prosessorları içində Azure Maşın ÖyrənməsiMəlumat dəsti daxildir yüz milyardlarla təhsil nişanı və kimi texnikalar Phi modellərindən distillə bilikləri ötürmək və modeli xüsusi tapşırıqlara dəqiqləşdirmək üçün Aşağı Menzilli Uyğunlaşma (LoRA). Son nəticə müasir portativ avadanlıqların resurslarına və məhdudiyyətlərinə xüsusi uyğunlaşdırılmış kiçik, çevik modeldir. Siz həmçinin necə araşdıra bilərsiniz kompüterinizi yerli AI mərkəzinə çevirin sisteminizin imkanlarını genişləndirmək üçün.
Cari problemlər, mövcudluq və gələcək perspektivlər
Mu-nun üzləşdiyi ən böyük problemlərdən biri də budur qeyri-müəyyən və ya çox qısa sorğuların şərhi, təbii dilə əsaslanan sistemlərdə ümumi problem. Bunu etmək üçün, Microsoft hibrid məntiq tətbiq etdiQısa sorğular ənənəvi axtarış nəticələrini işə salsa da, daha ətraflı təlimatlar ya istifadəçini istiqamətləndirmək, ya da avtomatlaşdırılmış hərəkətləri yerinə yetirmək üçün AI müdaxiləsini işə salır.
Hələlik, Mu yalnız ingilis dilində və Insider kanalı vasitəsilə Copilot+ cihazlarında mövcuddur., baxmayaraq ki, AMD və Intel prosessorları da daxil olmaqla, yaxın aylarda daha çox dil və digər cihazlara genişləndiriləcəyi gözlənilir. məxfilik və təhlükəsizlik Onlar həmçinin emalın yerli xarakterini nəzərə alaraq fundamental rol oynayırlar.
Mu-nun tətbiqi Microsoft-un birləşdirmək üçün daha geniş strategiyasının başlanğıcıdır Yerli AI və səmərəli dil modelləri əməliyyat sisteminin daha çox tətbiqi və aspektlərində performans və məxfilikdən ödün vermədən təcrübəni və əlçatanlığı təkmilləşdirir.
Mən öz "geek" maraqlarını peşəyə çevirmiş texnologiya həvəskarıyam. Mən həyatımın 10 ilindən çoxunu qabaqcıl texnologiyadan istifadə edərək və hər cür proqramlarla maraqlanaraq sərf etmişəm. İndi mən kompüter texnologiyası və video oyunları üzrə ixtisaslaşmışam. Bunun səbəbi, 5 ildən artıqdır ki, texnologiya və video oyunlarla bağlı müxtəlif saytlar üçün yazılar yazıram, sizə lazım olan məlumatları hamı üçün başa düşülən dildə verməyə çalışan məqalələr hazırlayıram.
Hər hansı bir sualınız varsa, mənim biliklərim Windows əməliyyat sistemi, eləcə də mobil telefonlar üçün Android ilə əlaqəli hər şeyi əhatə edir. Və mənim öhdəliyim sizədir, mən həmişə bir neçə dəqiqə sərf etməyə və bu internet dünyasında yarana biləcək bütün suallarınızı həll etməyə kömək etməyə hazıram.