- Mu është modeli i ri i gjuhës së vogël i Microsoft-it, i optimizuar për t'u ekzekutuar lokalisht në pajisjet Windows 11 me NPU.
- Integrimi i tij fillestar bëhet në agjentin e konfigurimit të Windows 11, duke lejuar rregullime duke përdorur gjuhën natyrore.
- Mu dallohet për efikasitetin dhe shpejtësinë e tij, duke arritur më shumë se 100 tokena në sekondë falë 330 milionë parametrave të tij.
- Ai përfshin inovacione të tilla si Dual LayerNorm, RoPE dhe GQA, dhe është trajnuar duke përdorur procese të përparuara dhe të dhëna arsimore me cilësi të lartë.
Ardhja e Mu, modeli më i fundit i gjuhës së vogël i prezantuar nga microsoft, shënon një hap të rëndësishëm në trendin aktual të vendosjes së inteligjencës artificiale direkt në pajisjet e përdoruesve. Me qëllim që zvogëloni varësinë nga cloud-i dhe të shfrytëzojë potencialin e Njësitë e Përpunimit Neural (NPU), Mu është i integruar në Kompjuterë Copilot+ duke vrapuar Dritaret 11, duke u përqendruar fillimisht në Aplikacioni i cilësimeve për të lehtësuar aksesin dhe modifikimin e parametrave të sistemit duke përdorur thjesht gjuhë natyrore.
Ky përparim do të thotë që, në vend që të dërgohen pyetje në servera të jashtëm, përpunimi dhe përgjigjet gjenerohen në vetë pajisjen, duke siguruar privatësi, shkathtësi dhe efikasitet më të madh. Për momentin, Ky lançim është i synuar për pjesëmarrësit e Programit Windows Insider me kompjuterë Copilot+., megjithëse pritet që kjo teknologji të zgjerohet për më shumë përdorues dhe funksione në përditësimet e ardhshme.
Çfarë është në të vërtetë Mu dhe çfarë e bën atë të dallohet?
Mu është një model i gjuhës së vogël (SLM, për akronimin e saj në anglisht), i trajnuar me 330 milionë parametraMadhësia e tij kompakte nuk do të thotë një sakrificë në performancë, pasi sipas Microsoft arrin shifra shumë afër modeleve shumë më të mëdha si p.sh. Phip-3.5-miniKy ekuilibër është arritur falë një procesi rigoroz trajnimi që ka përfshirë teknika të tilla si Dy Shtresa Norm, Mbushje pozicionale rrotulluese (RoPE) y Vëmendje e Pyetjeve të Grupuara (GQA) që ofrojnë efikasitet dhe saktësi, veçanërisht në pajisjet me burime të kufizuara.
Modeli shfrytëzon një arkitekturë kodues-dekodues të tipit transformator, i aftë të përpunojë të dhënat e përdoruesit dhe t'i transformojë ato në veprime brenda sistemit. Falë kësaj strukture, Mu ndan përpunimin e hyrjes dhe daljes, çfarë zvogëlon latencën dhe konsumin e kujtesës, pika kyçe për të siguruar një përvojë përdoruesi të qetë dhe pa pritje.
Në testet dhe të dhënat zyrtare, Mu ka provuar të jetë e aftë të përgjigjuni më shumë se 100 shenjave në sekondë dhe të japë përgjigje në më pak se 500 milisekondaKëto numra lejojnë ndërveprime praktikisht të menjëhershme, edhe kur bëhet fjalë për modifikimin e cilësimeve ose interpretimin e pyetjeve të gjata dhe të larmishme në gjuhën e përditshme. Nëse dëshironi të gërmoni më thellë se si funksionojnë këto modele, mund të shikoni Krahasime midis modeleve gjuhësore në PC.
Integrimi në Agjentin e Konfigurimit dhe funksionet praktike
Ulja fillestare e Mu-së është e përqendruar në Agjenti i Konfigurimit të Windows 11, një veçori që u lejon përdoruesve rregulloni parametrat e sistemit thjesht duke shkruar ose duke thënë atë që u nevojitetPër shembull, thjesht pyet "Si ta aktivizoj modalitetin e errët?" o "Dua të rris shkëlqimin" në mënyrë që Mu të mund ta përkthejë atë udhëzim në veprimin teknik përkatës brenda sistemit.
Microsoft ka theksuar se inteligjenca artificiale përshtatet me dhjetëra mijëra kontekste dhe pyetje të ndryshmeNë fakt, janë përdorur më shumë se 100,000. 3,6 milionë mostra trajnimi për të mbuluar gjithçka, nga kërkesat më të zakonshme - siç është ndryshimi i gjuhës ose menaxhimi i rrjeteve Wi-Fi - deri te detyrat më komplekse. Për pyetjet që janë shumë të shkurtra ose të paqarta, sistemi përdor funksionet tradicionale të kërkimit, por kur udhëzimi është i qartë dhe i detajuar, Mu vepron automatikisht ose e udhëzon përdoruesin hap pas hapi.
Teknologjia dhe optimizimi i përshtatur për gjeneratat e reja të pajisjeve
La Optimizimi i Mu-së ka qenë një nga pikat më të shqyrtuara me kujdes gjatë zhvillimit të tij. Microsoft ka punuar në bashkëpunim me partnerë silikoni si p.sh. AMD, Intel dhe Qualcomm për ta përshtatur atë me specifikat e NPU-ve të reja të pranishme në PC-të Copilot+Kjo punë e përbashkët ka bërë të mundur prezantimin e teknikat e kuantifikimit pas trajnimit, të cilat konvertojnë peshat dhe aktivizimet e modelit në numra të plotë 8 dhe 16-bitësh, duke zvogëluar kështu konsumin e memories dhe duke shmangur nevojën për të ritrajnuar të gjithë modelin.
Procesi i trajnimit të Mu-së u krye në mjedise me performancë të lartë, duke përdorur GPU-të NVIDIA A100 brenda Mësimi i Makinës AzureSeti i të dhënave përfshinte qindra miliarda tokena edukative dhe teknika të tilla si distilimi nga modelet Phi dhe Përshtatja me Rreze të Ulët (LoRA) për të transferuar njohuritë dhe për të përmirësuar modelin në detyra specifike. Rezultati përfundimtar është një model i vogël dhe i shkathët, i përshtatur posaçërisht për burimet dhe kufizimet e pajisjeve moderne portative. Gjithashtu mund të eksploroni se si shndërroni PC-në tuaj në një qendër lokale të inteligjencës artificiale për të zgjeruar kapacitetet e sistemit tuaj.
Sfidat aktuale, disponueshmëria dhe perspektivat e ardhshme
Një nga sfidat më të mëdha me të cilat përballet Mu është interpretim i pyetjeve të paqarta ose shumë të shkurtra, një problem i zakonshëm në sistemet e bazuara në gjuhë natyrore. Për ta bërë këtë, Microsoft ka zbatuar një logjikë hibrideNdërsa pyetjet e shkurtra shkaktojnë rezultate tradicionale të kërkimit, udhëzimet më të detajuara shkaktojnë ndërhyrjen e inteligjencës artificiale, qoftë për të udhëzuar përdoruesin ose për të kryer veprime të automatizuara.
Për tani, Mu është i disponueshëm vetëm në anglisht dhe në pajisjet Copilot+ përmes kanalit Insider., megjithëse pritet të zgjerohet në më shumë gjuhë dhe pajisje të tjera në muajt në vijim, duke përfshirë ato me procesorë AMD dhe Intel. privatësia dhe siguria Ato gjithashtu luajnë një rol themelor, duke pasur parasysh natyrën lokale të përpunimit.
Vendosja e Mu është vetëm fillimi i një strategjie më të gjerë nga Microsoft për të përfshirë IA lokale dhe modele efikase gjuhësore në edhe më shumë aplikacione dhe aspekte të sistemit operativ, duke përmirësuar përvojën dhe aksesueshmërinë pa sakrifikuar performancën ose privatësinë.
Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.
Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.