- Mu huwa l-mudell il-ġdid ta' lingwa żgħira ta' Microsoft, ottimizzat biex jaħdem lokalment fuq apparati Windows 11 b'NPUs.
- L-integrazzjoni inizjali tagħha ssir fl-aġent tal-Konfigurazzjoni tal-Windows 11, li jippermetti aġġustamenti bl-użu ta' lingwa naturali.
- Mu tispikka għall-effiċjenza u l-veloċità tagħha, u tilħaq aktar minn 100 token kull sekonda grazzi għat-330 miljun parametru tagħha.
- Jinkludi innovazzjonijiet bħal Dual LayerNorm, RoPE, u GQA, u ġie mħarreġ bl-użu ta' proċessi avvanzati u dejta edukattiva ta' kwalità għolja.
Il-wasla ta ' Mu, l-aħħar mudell ta' lingwa żgħira ppreżentat minn Microsoft, jimmarka pass sinifikanti fix-xejra attwali li titqiegħed l-intelliġenza artifiċjali direttament fuq l-apparati tal-utenti. Bl-intenzjoni li tnaqqas id-dipendenza fuq is-sħab u jisfrutta l-potenzjal ta' Unitajiet tal-Ipproċessar Newrali (NPU), Mu huwa integrat fil- Copilot+ PCs ġiri Windows 11, inizjalment iffokat fuq App tas-settings biex tiffaċilita l-aċċess u l-modifika tal-parametri tas-sistema bl-użu ta' lingwaġġ naturali sempliċi.
Dan l-avvanz ifisser li, minflok ma jintbagħtu mistoqsijiet lil servers esterni, l-ipproċessar u r-risposti huma ġġenerati fuq l-apparat innifsu, u b'hekk jiġi żgurat aktar privatezza, aġilità u effiċjenza. Għalissa, l- It-tnedija hija mmirata lejn il-parteċipanti tal-Programm Windows Insider b'kompjuters Copilot+., għalkemm l-istennija hi li din it-teknoloġija tiġi estiża għal aktar utenti u funzjonijiet f'aġġornamenti futuri.
X'inhu Mu verament u x'jagħmilha tispikka?
Mu hija mudell żgħir tal-lingwa (SLM, għall-akronimu tiegħu bl-Ingliż), imħarreġ bi 330 miljun parametruId-daqs kompatt tiegħu ma jfissirx sagrifiċċju fil-prestazzjoni, għax skont Microsoft jikseb figuri qrib ħafna ta’ mudelli ferm akbar bħal Phip-3.5-miniDan il-bilanċ inkiseb grazzi għal proċess ta’ taħriġ rigoruż li inkluda tekniki bħal Norm ta' Saff Doppju, Inkorporazzjonijiet Pożizzjonali Rotatorji (RoPE) y Attenzjoni għal Mistoqsijiet fi Grupp (GQA) li jipprovdu effiċjenza u preċiżjoni, speċjalment f'apparati b'riżorsi limitati.
Il-mudell jieħu vantaġġ minn arkitettura ta' enkoder-dekoder tat-tip transformer, kapaċi jipproċessa l-input tal-utent u jittrasformah f'azzjonijiet fis-sistema. Bis-saħħa ta' din l-istruttura, Mu jissepara l-ipproċessar tad-dħul u tal-ħruġ, xiex inaqqas il-latenza u l-konsum tal-memorja, punti ewlenin biex tiġi żgurata esperjenza tal-utent bla xkiel u mingħajr stennija.
Fit-testijiet u d-dejta uffiċjali, Mu wera li kapaċi tirrispondi għal aktar minn 100 token kull sekonda u jipprovdu tweġibiet f'inqas minn 500 millisekondaDawn in-numri jippermettu interazzjonijiet kważi istantanji, anke meta niġu għall-modifika tas-settings jew l-interpretazzjoni ta' mistoqsijiet twal u varjati fil-lingwaġġ ta' kuljum. Jekk tixtieq tinvestiga aktar fil-fond kif jaħdmu dawn il-mudelli, tista' tagħti ħarsa lejn Paraguni bejn mudelli lingwistiċi fuq il-PC.
Integrazzjoni fl-Aġent tal-Konfigurazzjoni u funzjonijiet prattiċi
L-inżul inizjali ta' Mu huwa ċċentrat fuq Aġent tal-Konfigurazzjoni tal-Windows 11, karatteristika li tippermetti lill-utenti aġġusta l-parametri tas-sistema billi sempliċement tittajpja jew tgħid dak li jeħtieġuPereżempju, staqsi biss "Kif nattiva l-modalità mudlama?" o "Irrid inżid il-luminożità" sabiex Mu jkun jista' jittraduċi dik l-istruzzjoni fl-azzjoni teknika korrispondenti fis-sistema.
Microsoft enfasizzat li l-AI tadatta għal għexieren ta' eluf ta' kuntesti u mistoqsijiet differentiFil-fatt, intużaw aktar minn 100,000. 3,6 miljun kampjun ta' taħriġ biex tkopri kollox mill-aktar talbiet komuni – bħall-bdil tal-lingwa jew il-ġestjoni tan-netwerks Wi-Fi – għal kompiti aktar kumplessi. Għal mistoqsijiet li huma qosra wisq jew ambigwi, is-sistema tuża l- funzjonijiet ta' tiftix tradizzjonali, iżda meta l-istruzzjoni tkun ċara u dettaljata, Mu jaġixxi awtomatikament jew jiggwida lill-utent pass pass.
Teknoloġija u ottimizzazzjoni adattati għal ġenerazzjonijiet ġodda ta' ħardwer
La Ottimizzazzjoni Mu kien wieħed mill-aktar punti kkunsidrati bir-reqqa matul l-iżvilupp tiegħu. Microsoft ħadmet f'kollaborazzjoni ma' msieħba tas-silikon bħal AMD, Intel u Qualcomm biex tadattah għall-ispeċifiċitajiet tal-NPUs il-ġodda preżenti fil-PCs Copilot+Dan ix-xogħol konġunt ippermetta li jiġu introdotti tekniki ta' kwantifikazzjoni wara t-taħriġ, li jikkonvertu l-piżijiet u l-attivazzjonijiet tal-mudell għal numri sħaħ ta' 8 u 16-il bit, u b'hekk inaqqsu l-konsum tal-memorja u jevitaw il-ħtieġa li l-mudell kollu jiġi mħarreġ mill-ġdid.
Il-proċess ta' taħriġ ta' Mu twettaq f'ambjenti ta' prestazzjoni għolja, bl-użu ta' GPUs NVIDIA A100 ġewwa Tagħlim Azure MachineIs-sett tad-dejta inkluż mijiet ta’ biljuni ta’ tokens edukattivi u tekniki bħal distillazzjoni minn mudelli Phi u Adattament ta' Firxa Baxxa (LoRA) biex jiġi trasferit l-għarfien u jiġi rfinat il-mudell għal kompiti speċifiċi. Ir-riżultat aħħari huwa mudell żgħir u aġli li huwa adattat b'mod uniku għar-riżorsi u l-limitazzjonijiet tal-ħardwer li jintlibes modern. Tista' wkoll tesplora kif ibdel il-PC tiegħek f'ċentru lokali tal-AI biex tespandi l-kapaċitajiet tas-sistema tiegħek.
Sfidi attwali, disponibbiltà u prospetti futuri
Waħda mill-akbar sfidi li qed tiffaċċja Mu hija l- interpretazzjoni ta' mistoqsijiet ambigwi jew qosra ħafna, problema komuni f'sistemi bbażati fuq lingwa naturali. Biex tagħmel dan, Microsoft implimentat loġika ibridaFilwaqt li mistoqsijiet qosra jattivaw riżultati ta' tiftix tradizzjonali, struzzjonijiet aktar dettaljati jattivaw intervent tal-AI, jew biex tiggwida lill-utent jew biex twettaq azzjonijiet awtomatizzati.
Għalissa, Mu huwa disponibbli biss bl-Ingliż u fuq apparati Copilot+ permezz tal-kanal Insider., għalkemm huwa mistenni li jiġi estiż għal aktar lingwi u apparati oħra fix-xhur li ġejjin, inklużi dawk bi proċessuri AMD u Intel. privatezza u sigurtà Huma għandhom ukoll rwol fundamentali, minħabba n-natura lokali tal-ipproċessar.
L-iskjerament ta' Mu huwa biss il-bidu ta' strateġija usa' minn Microsoft biex tinkorpora AI lokali u mudelli lingwistiċi effiċjenti f'aktar applikazzjonijiet u aspetti tas-sistema operattiva, u b'hekk tittejjeb l-esperjenza u l-aċċessibbiltà mingħajr ma tiġi ssagrifikata l-prestazzjoni jew il-privatezza.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.