- Model iaith fach newydd Microsoft yw Mu, wedi'i optimeiddio i redeg yn lleol ar ddyfeisiau Windows 11 gydag NPUs.
- Gwneir ei integreiddio cychwynnol yn asiant Ffurfweddu Windows 11, gan ganiatáu addasiadau gan ddefnyddio iaith naturiol.
- Mae Mu yn sefyll allan am ei effeithlonrwydd a'i gyflymder, gan gyrraedd mwy na 100 tocyn yr eiliad diolch i'w 330 miliwn o baramedrau.
- Mae'n cynnwys arloesiadau fel Dual LayerNorm, RoPE, a GQA, ac mae wedi'i hyfforddi gan ddefnyddio prosesau uwch a data addysgol o ansawdd uchel.
Cyrhaeddiad Mu, y model iaith fach diweddaraf a gyflwynwyd gan microsoft, yn nodi cam arwyddocaol yn y duedd gyfredol o osod deallusrwydd artiffisial yn uniongyrchol ar ddyfeisiau defnyddwyr. Gyda'r bwriad o lleihau dibyniaeth ar y cwmwl a manteisio ar botensial Unedau Prosesu Niwral (NPU), Mae Mu wedi'i integreiddio i'r Copilot+ Cyfrifiaduron Personol rhedeg Ffenestri 11, gan ganolbwyntio i ddechrau ar y Ap gosodiadau i hwyluso mynediad ac addasu paramedrau system gan ddefnyddio iaith naturiol yn unig.
Mae'r datblygiad hwn yn golygu, yn lle anfon ymholiadau at weinyddion allanol, mae prosesu ac ymatebion yn cael eu cynhyrchu ar y ddyfais ei hun, gan sicrhau mwy o breifatrwydd, hyblygrwydd ac effeithlonrwydd. Am y tro, y Mae'r cyflwyniad wedi'i dargedu at gyfranogwyr Rhaglen Windows Insider sydd â chyfrifiaduron Copilot+., er bod disgwyl y bydd y dechnoleg hon yn cael ei hymestyn i fwy o ddefnyddwyr a swyddogaethau mewn diweddariadau yn y dyfodol.
Beth yw Mu mewn gwirionedd a beth sy'n ei wneud yn sefyll allan?
Mu yn model iaith fach (SLM, am ei acronym yn Saesneg), wedi'i hyfforddi gyda 330 miliwn o baramedrauNid yw ei faint cryno yn golygu aberth o ran perfformiad, gan ei fod yn cyflawni ffigurau sy'n agos iawn at fodelau llawer mwy fel yn ôl Microsoft. Phip-3.5-miniMae'r cydbwysedd hwn wedi'i gyflawni diolch i broses hyfforddi drylwyr sydd wedi cynnwys technegau fel Haen DdeuolNorm, Ymgorfforiadau Safle Rotari (RoPE) y Sylw Ymholiad Grwpiedig (GQA) sy'n darparu effeithlonrwydd a chywirdeb, yn enwedig mewn dyfeisiau ag adnoddau cyfyngedig.
Mae'r model yn manteisio ar a pensaernïaeth amgodiwr-dadgodiwr o'r math trawsnewidydd, sy'n gallu prosesu mewnbwn defnyddwyr a'i drawsnewid yn gamau gweithredu o fewn y system. Diolch i'r strwythur hwn, Mu yn gwahanu prosesu mewnbwn ac allbwn, beth yn lleihau oedi a defnydd cof, pwyntiau allweddol i sicrhau profiad defnyddiwr llyfn, heb aros.
Mewn profion a data swyddogol, mae Mu wedi profi ei fod yn gallu ymateb i fwy na 100 o docynnau yr eiliad a darparu ymatebion mewn llai na 500 milieiliadMae'r niferoedd hyn yn caniatáu rhyngweithiadau bron ar unwaith, hyd yn oed o ran addasu gosodiadau neu ddehongli ymholiadau hir ac amrywiol mewn iaith bob dydd. Os hoffech ymchwilio'n ddyfnach i sut mae'r modelau hyn yn gweithio, gallwch edrych ar Cymhariaethau rhwng modelau iaith ar gyfrifiadur personol.
Integreiddio i'r Asiant Ffurfweddu a swyddogaethau ymarferol
Mae glaniad cychwynnol Mu wedi'i ganoli ar y Asiant Ffurfweddu Windows 11, nodwedd sy'n caniatáu i ddefnyddwyr addasu paramedrau'r system trwy deipio neu ddweud yr hyn sydd ei angen arnyntEr enghraifft, gofynnwch "Sut ydw i'n actifadu modd tywyll?" o "Rwyf am gynyddu'r disgleirdeb" fel y gall Mu gyfieithu'r cyfarwyddyd hwnnw i'r weithred dechnegol gyfatebol o fewn y system.
Mae Microsoft wedi pwysleisio bod deallusrwydd artiffisial yn addasu i degau o filoedd o gyd-destunau ac ymholiadau gwahanolMewn gwirionedd, mae mwy na 100,000 wedi cael eu defnyddio. 3,6 miliwn o samplau hyfforddi i gwmpasu popeth o'r ceisiadau mwyaf cyffredin – fel newid yr iaith neu reoli rhwydweithiau Wi-Fi – i dasgau mwy cymhleth. Ar gyfer cwestiynau sy'n rhy fyr neu'n amwys, mae'r system yn defnyddio'r swyddogaethau chwilio traddodiadol, ond pan fydd y cyfarwyddyd yn glir ac yn fanwl, mae Mu yn gweithredu'n awtomatig neu'n tywys y defnyddiwr gam wrth gam.
Technoleg ac optimeiddio wedi'u haddasu i genedlaethau newydd o galedwedd
La Optimeiddio Mu wedi bod yn un o'r pwyntiau a ystyriwyd fwyaf gofalus yn ystod ei ddatblygiad. Mae Microsoft wedi gweithio mewn cydweithrediad â phartneriaid silicon fel AMD, Intel a Qualcomm i'w addasu i benodolrwydd yr NPUs newydd sydd yn bresennol yn y cyfrifiaduron personol Copilot+Mae'r gwaith ar y cyd hwn wedi ei gwneud hi'n bosibl cyflwyno technegau meintioli ar ôl hyfforddi, sy'n trosi pwysau ac actifadiadau'r model yn gyfanrifau 8 a 16 bit, gan leihau'r defnydd o gof ac osgoi'r angen i ailhyfforddi'r model cyfan.
Cynhaliwyd proses hyfforddi Mu mewn amgylcheddau perfformiad uchel, gan ddefnyddio GPUs NVIDIA A100 mewn Dysgu Peiriant AzureRoedd y set ddata wedi'i chynnwys cannoedd o biliynau o docynnau addysgol a thechnegau fel distyllu o fodelau Phi ac Addasu Ystod Isel (LoRA) i drosglwyddo gwybodaeth a mireinio'r model ar gyfer tasgau penodol. Y canlyniad terfynol yw model bach, ystwyth sy'n addas yn unigryw i adnoddau a chyfyngiadau caledwedd gwisgadwy modern. Gallwch hefyd archwilio sut trowch eich cyfrifiadur personol yn ganolfan AI leol i ehangu galluoedd eich system.
Heriau cyfredol, argaeledd a rhagolygon y dyfodol
Un o'r heriau mwyaf sy'n wynebu Mu yw'r dehongli ymholiadau amwys neu fyr iawn, problem gyffredin mewn systemau sy'n seiliedig ar iaith naturiol. I wneud hyn, Mae Microsoft wedi gweithredu rhesymeg hybridEr bod ymholiadau byr yn sbarduno canlyniadau chwilio traddodiadol, mae cyfarwyddiadau mwy manwl yn sbarduno ymyrraeth AI, naill ai i arwain y defnyddiwr neu i gyflawni gweithredoedd awtomataidd.
Am nawr, Dim ond yn Saesneg ac ar ddyfeisiau Copilot+ drwy sianel Insider y mae Mu ar gael., er y disgwylir iddo gael ei ehangu i fwy o ieithoedd a dyfeisiau eraill yn y misoedd nesaf, gan gynnwys y rhai sydd â phroseswyr AMD ac Intel. preifatrwydd a diogelwch Maent hefyd yn chwarae rhan sylfaenol, o ystyried natur leol y prosesu.
Dim ond dechrau strategaeth ehangach gan Microsoft i ymgorffori yw defnyddio Mu Deallusrwydd Artiffisial lleol a modelau iaith effeithlon mewn hyd yn oed mwy o gymwysiadau ac agweddau ar y system weithredu, gan wella'r profiad a'r hygyrchedd heb aberthu perfformiad na phreifatrwydd.
Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.
Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.