Microsoft Mu: Nouvo modèl lang ki pote IA lokal nan Windows 11

Arive a Mu, dènye modèl ti lang ki prezante pa microsoft, make yon etap enpòtan nan tandans aktyèl la pou mete entèlijans atifisyèl dirèkteman sou aparèy itilizatè yo. Avèk entansyon pou diminye depandans sou nwaj la epi eksplwate potansyèl la Inite Pwosesis Neyron (NPU), Mu entegre nan la Copilot + PC yo kouri Fenèt 11, okòmansman konsantre sou la Anviwònman aplikasyon an pou fasilite aksè ak modifikasyon paramèt sistèm yo lè l sèvi avèk langaj natirèl tou senpleman.

Avansman sa a vle di ke, olye pou voye demann bay sèvè ekstèn yo, pwosesis la ak repons yo pwodui sou aparèy la li menm, asire plis vi prive, ajilite ak efikasite. Pou kounye a, la Lanpman an vize patisipan Pwogram Windows Insider ki gen òdinatè Copilot+., byenke yo prevwa ke teknoloji sa a pral disponib pou plis itilizatè ak fonksyon nan mizajou kap vini yo.

Atik ki gen rapò ak:

Foundry Local ak Windows AI Foundry: Microsoft ap parye sou IA lokal ak yon nouvo ekosistèm devlopè.

Ki sa Mu ye vrèman e ki sa ki fè l diferan?

Mu se yon ti modèl langaj (Slm, pou akwonim li an Anglè), antrene avèk 330 milyon paramètGwosè kontra enfòmèl ant li pa vle di yon sakrifis nan pèfòmans, paske dapre Microsoft li rive nan chif ki trè pre modèl ki pi gwo tankou Phip-3.5-miniYo rive nan balans sa a gras a yon pwosesis fòmasyon solid ki te gen ladan teknik tankou Nòmal Doub Kouch, Enkòporasyon Pozisyonèl Rotary (RoPE) y Atansyon pou Rechèch Gwoupe (GQA) ki bay efikasite ak presizyon, sitou nan aparèy ki gen resous limite.

Modèl la pwofite de yon achitekti kodè-dekodè nan kalite transfòmatè a, ki kapab trete done itilizatè yo epi transfòme yo an aksyon nan sistèm nan. Gras a estrikti sa a, Mu separe pwosesis antre ak sòti, Kisa diminye latans ak konsomasyon memwa, pwen kle pou asire yon eksperyans itilizatè ki san pwoblèm, san datant.

Nan tès ak done ofisyèl yo, Mu pwouve li kapab reponn a plis pase 100 jeton pa segonn epi bay repons nan mwens pase 500 milisgondChif sa yo pèmèt entèraksyon prèske enstantane, menm lè li rive modifye paramèt oswa entèprete demann long ak varye nan langaj chak jou. Si ou ta renmen fouye pi fon nan fason modèl sa yo fonksyone, ou ka tcheke Konparezon ant modèl lang sou PC.

Entegrasyon nan Ajan Konfigirasyon an ak fonksyon pratik yo

Premye aterisaj Mu a santre sou la Ajan Konfigirasyon Windows 11, yon karakteristik ki pèmèt itilizatè yo ajiste paramèt sistèm yo tou senpleman lè w tape oswa di sa yo bezwenPa egzanp, jis mande "Kijan pou m aktive mòd nwa a?" o "Mwen vle ogmante klète a" pou Mu ka tradui enstriksyon sa a an aksyon teknik ki koresponn lan nan sistèm nan.

Microsoft ensiste ke IA adapte ak plizyè dizèn milye diferan kontèks ak demannAnfèt, yo te itilize plis pase 100,000. 3,6 milyon echantiyon antrènman pou kouvri tout bagay, depi demann ki pi komen yo – tankou chanje lang lan oswa jere rezo Wi-Fi – rive nan travay ki pi konplèks. Pou kesyon ki twò kout oswa ki twò anbigi, sistèm nan itilize fonksyon rechèch tradisyonèl yo, men lè enstriksyon an klè e detaye, Mu aji otomatikman oswa gide itilizatè a etap pa etap.

Teknoloji ak optimize adapte ak nouvo jenerasyon pyès ki nan konpitè

La Optimizasyon Mu te youn nan pwen ki te pi byen konsidere pandan devlopman li. Microsoft te travay an kolaborasyon avèk patnè silikon tankou AMD, Intel ak Qualcomm pou adapte li ak espesifikasyon nouvo NPU ki prezan nan PC Copilot+ yoTravay ansanm sa a pèmèt nou prezante teknik kantifikasyon apre fòmasyon, ki konvèti pwa modèl la ak aktivasyon yo an nonm antye 8 ak 16 bit, kidonk diminye konsomasyon memwa epi evite nesesite pou antrene tout modèl la ankò.

Pwosesis fòmasyon Mu a te fèt nan anviwònman pèfòmans segondè, lè l sèvi avèk GPU NVIDIA A100 yo nan Ble aprantisaj machinAnsanm done yo te enkli plizyè santèn milya jeton edikasyonèl ak teknik tankou distilasyon soti nan modèl Phi yo ak Adaptasyon Low-Range (LoRA) pou transfere konesans epi amelyore modèl la pou travay espesifik. Rezilta final la se yon ti modèl ajil ki adapte inikman ak resous ak limitasyon pyès ki nan konpitè modèn yo. Ou kapab tou eksplore kijan transfòme òdinatè w la an yon sant entèlijans atifisyèl lokal pou elaji kapasite sistèm ou an.

Atik ki gen rapò ak:

Phi-4 mini IA sou Edge: Lavni IA lokal la nan navigatè w la

Defi aktyèl yo, disponiblite ak pèspektiv pou lavni

Youn nan pi gwo defi Mu ap fè fas a se entèpretasyon kesyon anbigi oswa trè kout, yon pwoblèm komen nan sistèm ki baze sou lang natirèl. Pou fè sa, Microsoft aplike yon lojik ibridPandan ke rechèch kout deklanche rezilta rechèch tradisyonèl yo, enstriksyon ki pi detaye deklanche entèvansyon IA, swa pou gide itilizatè a oswa pou fè aksyon otomatik.

Pou kounye a, Mu disponib sèlman an Angle ak sou aparèy Copilot+ atravè chanèl Insider la., byenke li espere elaji nan plis lang ak lòt aparèy nan mwa kap vini yo, tankou sa yo ki gen processeur AMD ak Intel. vi prive ak sekirite Yo jwe yon wòl fondamantal tou, etandone nati lokal pwosesis la.

Deplwaman Mu a se jis kòmansman yon estrateji pi laj pa Microsoft pou enkòpore IA lokal ak modèl lang efikas nan plis aplikasyon ak aspè sistèm operasyon an, amelyore eksperyans ak aksè san sakrifye pèfòmans oswa vi prive.

Alberto navarro

Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.

Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.