- Ang Mu mao ang bag-ong modelo sa gamay nga lengguwahe sa Microsoft, nga gi-optimize aron magamit sa lokal Windows 11 mga aparato nga adunay mga NPU.
- Ang una nga panagsama gihimo sa Windows 11 Configuration agent, nga nagtugot sa mga pag-adjust gamit ang natural nga pinulongan.
- Ang Mu nagbarug alang sa kahusayan ug katulin niini, nga nakaabot sa labaw sa 100 nga mga token matag segundo salamat sa 330 milyon nga mga parameter niini.
- Naglakip kini sa mga inobasyon sama sa Dual LayerNorm, RoPE, ug GQA, ug gibansay gamit ang mga advanced nga proseso ug taas nga kalidad nga datos sa edukasyon.
Ang pag-abot sa Mu, ang pinakabag-o nga modelo sa gamay nga pinulongan nga gipresentar ni Microsoft, nagtimaan sa usa ka hinungdanon nga lakang sa karon nga uso sa pagbutang sa artipisyal nga paniktik direkta sa mga aparato sa mga tiggamit. Uban sa tuyo sa pagpakunhod sa pagsalig sa panganod ug gamita ang potensyal sa Mga Yunit sa Pagproseso sa Neural (NPU), Mu gisagol sa Copilot+ nga mga PC pagdagan Windows 11, sa sinugdan nagtutok sa Settings app aron mapadali ang pag-access ug pagbag-o sa mga parameter sa sistema gamit ang natural nga sinultian.
Kini nga pag-uswag nagpasabut nga, imbis nga magpadala mga pangutana sa mga eksternal nga server, ang pagproseso ug mga tubag gihimo sa aparato mismo, pagsiguro sa mas dako nga pribasiya, agility ug efficiency. Sa pagkakaron, ang Ang rollout gipunting sa mga partisipante sa Windows Insider Program nga adunay Copilot+ nga mga kompyuter., bisan kung ang gipaabut mao nga kini nga teknolohiya ipaabot sa daghang mga tiggamit ug mga gimbuhaton sa umaabot nga mga update.
Unsa man gyud ang Mu ug unsa ang nakapahimo niini?
Mu mao ang usa ka gamay nga modelo sa pinulongan (slm, alang sa acronym niini sa English), gibansay nga adunay 330 milyon nga mga parameterAng gamay nga gidak-on niini wala magpasabot nga usa ka sakripisyo sa pasundayag, tungod kay sumala sa Microsoft nakab-ot niini ang mga numero nga duol kaayo sa mas dagkong mga modelo sama sa Phi-3.5-miniKini nga balanse nakab-ot salamat sa usa ka higpit nga proseso sa pagbansay nga naglakip sa mga teknik sama sa Dual LayerNorm, Rotary Positional Embeddings (RoPE) y Gigrupo-Query Attention (GQA) nga naghatag kaepektibo ug katukma, labi na sa mga aparato nga adunay limitado nga mga kapanguhaan.
Ang modelo nagpahimulos sa usa ka encoder-decoder nga arkitektura sa matang sa transformer, nga makahimo sa pagproseso sa input sa user ug pagbag-o niini ngadto sa mga aksyon sulod sa sistema. Salamat sa kini nga istruktura, Mu nagbulag sa pagproseso sa input ug output, Unsa makapamenos sa latency ug memory consumption, mahinungdanong mga punto aron maseguro ang hapsay, walay paghulat nga kasinatian sa user.
Sa opisyal nga mga pagsulay ug datos, si Mu napamatud-an nga makahimo pagtubag sa labaw pa sa 100 nga mga token matag segundo ug paghatag og mga tubag sa ubos sa 500 millisecondsKini nga mga numero nagtugot alang sa halos dihadiha nga mga interaksyon, bisan kung bahin sa pagbag-o sa mga setting o paghubad sa taas ug lainlain nga mga pangutana sa adlaw-adlaw nga sinultian. Kung gusto nimo nga magkalot og lawom kung giunsa kini nga mga modelo, mahimo nimong susihon Mga pagtandi tali sa mga modelo sa pinulongan sa PC.
Paghiusa sa Configuration Agent ug praktikal nga mga gimbuhaton
Ang inisyal nga landing ni Mu nasentro sa Ahente sa Pag-configure sa Windows 11, usa ka bahin nga nagtugot sa mga tiggamit i-adjust ang mga parameter sa sistema pinaagi lang sa pag-type o pagsulti sa ilang gikinahanglan. Pananglitan, pangutana lang "Unsaon nako pag-activate ang dark mode?" o "Gusto nakong dugangan ang kahayag" aron mahubad ni Mu ang maong instruksyon ngadto sa katugbang nga teknikal nga aksyon sulod sa sistema.
Gipasiugda sa Microsoft nga ang AI mopahiangay sa napulo ka libo nga lainlain nga konteksto ug pangutanaSa pagkatinuod, kapin sa 100,000 ang gigamit. 3,6 milyon nga mga sample sa pagbansay aron matabonan ang tanan gikan sa kasagarang mga hangyo – sama sa pag-ilis sa pinulongan o pagdumala sa mga Wi-Fi network – ngadto sa mas komplikadong mga buluhaton. Para sa mga pangutana nga mubo ra kaayo o dili klaro, ang sistema naggamit sa tradisyonal nga mga gimbuhaton sa pagpangita, pero kung klaro ug detalyado ang instruksyon, awtomatik nga molihok o mogiya si Mu sa tiggamit.
Ang teknolohiya ug pag-optimize gipahaum sa bag-ong henerasyon sa hardware
La Mu optimization mao ang usa sa labing gikonsiderar nga mga punto sa panahon sa pag-uswag niini. Ang Microsoft nagtrabaho sa kolaborasyon sa mga kasosyo sa silicon sama sa AMD, Intel ug Qualcomm aron ipahiangay kini sa mga detalye sa bag-ong mga NPU nga naa sa Copilot + PCsKini nga hiniusang buhat nagpaposible sa pagpaila post-training quantification techniques, nga nag-convert sa mga gibug-aton sa modelo ug mga pagpaaktibo ngadto sa 8- ug 16-bit nga mga integer, sa ingon nagpamenos sa konsumo sa panumduman ug naglikay sa panginahanglan sa pagbansay pag-usab sa tibuok nga modelo.
Ang proseso sa pagbansay ni Mu gihimo sa mga high-performance nga palibot, gamit NVIDIA A100 GPUs sa sulod Pagkat-on sa Azure MachineAng data set naglakip gatusan ka bilyon nga mga token sa edukasyon ug mga teknik sama sa distillation gikan sa mga modelo sa Phi ug Low-Range Adaptation (LoRA) sa pagbalhin sa kahibalo ug pag-ayo sa modelo alang sa piho nga mga buluhaton. Ang katapusan nga resulta usa ka gamay, abtik nga modelo nga talagsaon nga haum sa mga kahinguhaan ug mga limitasyon sa modernong masul-ob nga hardware. Mahimo usab nimo masusi kung giunsa himoa ang imong PC nga usa ka lokal nga AI hub aron mapalapad ang mga kapabilidad sa imong sistema.
Mga hagit karon, pagkaanaa ug umaabot nga mga palaaboton
Usa sa pinakadakong hagit nga giatubang ni Mu mao ang interpretasyon sa dili klaro o mubo kaayo nga mga pangutana, usa ka kasagarang problema sa natural nga mga sistema nga gibase sa pinulongan. Aron mahimo kini, Gipatuman sa Microsoft ang usa ka hybrid nga lohikaSamtang ang mugbo nga mga pangutana nag-aghat sa tradisyonal nga mga resulta sa pagpangita, ang mas detalyado nga mga instruksyon nagpalihok sa AI interbensyon, bisan sa paggiya sa tiggamit o paghimo sa mga automated nga aksyon.
Sa karon, Magamit ra ang Mu sa English ug sa Copilot+ nga mga aparato pinaagi sa Insider channel., bisan kung gilauman nga mapalapad kini sa daghang mga sinultian ug uban pang mga aparato sa umaabot nga mga bulan, lakip ang adunay mga processor sa AMD ug Intel. privacy ug seguridad Nagdula usab sila usa ka sukaranan nga papel, tungod sa lokal nga kinaiya sa pagproseso.
Ang deployment sa Mu mao lamang ang sinugdanan sa usa ka mas lapad nga estratehiya sa Microsoft nga ilakip Lokal nga AI ug episyente nga mga modelo sa pinulongan sa mas daghang aplikasyon ug aspeto sa operating system, pagpaayo sa kasinatian ug accessibility nga walay pagsakripisyo sa performance o privacy.
Usa ako ka mahiligon sa teknolohiya nga naghimo sa iyang "geek" nga interes nga usa ka propesyon. Gigugol nako ang sobra sa 10 ka tuig sa akong kinabuhi gamit ang labing bag-ong teknolohiya ug pag-usisa sa tanan nga mga klase sa mga programa tungod sa putli nga pagkamausisaon. Karon espesyalista na ako sa teknolohiya sa kompyuter ug mga dula sa video. Kini tungod kay sa sobra sa 5 ka tuig nagsulat ako alang sa lainlaing mga website sa teknolohiya ug mga dula sa video, nagmugna og mga artikulo nga nagtinguha sa paghatag kanimo sa impormasyon nga imong gikinahanglan sa usa ka pinulongan nga masabtan sa tanan.
Kung naa kay mga pangutana, ang akong kahibalo gikan sa tanan nga may kalabotan sa operating system sa Windows ingon man sa Android para sa mga mobile phone. Ug ang akong pasalig kanimo, andam ako kanunay nga mogahin og pipila ka minuto ug tabangan ka nga masulbad ang bisan unsang mga pangutana nga mahimo nimo sa niining kalibutan sa internet.