Microsoft Mu: Muundo mpya wa lugha ambao huleta AI ya ndani kwa Windows 11

Kufika kwa Mu, modeli ya hivi punde ya lugha ndogo iliyotolewa na Microsoft, inaashiria hatua muhimu katika mwelekeo wa sasa wa kuweka akili bandia moja kwa moja kwenye vifaa vya watumiaji. Kwa nia ya kupunguza utegemezi wa wingu na kutumia uwezo wa Vitengo vya Usindikaji wa Neural (NPU), Mu imeunganishwa kwenye Kopilot+ Kompyuta kukimbia Windows 11, awali kuzingatia Programu ya mipangilio kuwezesha ufikiaji na urekebishaji wa vigezo vya mfumo kwa kutumia lugha asilia tu.

Mapema hii inamaanisha kuwa, badala ya kutuma maswali kwa seva za nje, usindikaji na majibu hutolewa kwenye kifaa yenyewe, kuhakikisha faragha zaidi, wepesi na ufanisi. Kwa sasa, Utoaji unalengwa kwa washiriki wa Windows Insider Program walio na kompyuta za Copilot+., ingawa matarajio ni kwamba teknolojia hii itapanuliwa kwa watumiaji na utendaji zaidi katika masasisho yajayo.

Makala inayohusiana:

Foundry Local na Windows AI Foundry: Microsoft inaweka kamari kwenye AI ya ndani na mfumo mpya wa ikolojia.

Mu ni nini hasa na ni nini kinachoifanya iwe ya kipekee?

Mu ni mfano wa lugha ndogo (SLM(kwa kifupi chake kwa Kiingereza), mafunzo na vigezo milioni 330Saizi yake ya kompakt haimaanishi kujitolea katika utendaji, kwani kulingana na Microsoft inapata takwimu karibu sana na aina kubwa zaidi kama vile. Phip-3.5-miniUsawa huu umepatikana kutokana na mchakato mkali wa mafunzo ambao umejumuisha mbinu kama vile Kiwango cha Tabaka Mbili, Upachikaji wa Nafasi za Mzunguko (RoPE) y Uangalifu wa Maswali ya Kikundi (GQA) ambayo hutoa ufanisi na usahihi, hasa katika vifaa vilivyo na rasilimali ndogo.

Mfano huchukua faida ya a usanifu wa encoder-decoder ya aina ya transformer, yenye uwezo wa kusindika pembejeo ya mtumiaji na kuibadilisha kuwa vitendo ndani ya mfumo. Shukrani kwa muundo huu, Mu hutenganisha usindikaji wa pembejeo na pato, ambayo hupunguza latency na matumizi ya kumbukumbu, mambo muhimu ili kuhakikisha utumiaji laini na bila kusubiri.

Katika vipimo na data rasmi, Mu imethibitisha kuwa na uwezo wa jibu kwa zaidi ya tokeni 100 kwa sekunde na kutoa majibu chini ya milisekunde 500Nambari hizi huruhusu mwingiliano wa papo hapo, hata linapokuja suala la kurekebisha mipangilio au kutafsiri maswali marefu na tofauti katika lugha ya kila siku. Ikiwa ungependa kuchimba zaidi katika jinsi mifano hii inavyofanya kazi, unaweza kuangalia Ulinganisho kati ya mifano ya lugha kwenye PC.

Ujumuishaji katika Wakala wa Usanidi na utendakazi wa vitendo

Kutua kwa awali kwa Mu kumejikita kwenye Wakala wa Usanidi wa Windows 11, kipengele kinachoruhusu watumiaji rekebisha vigezo vya mfumo kwa kuandika tu au kusema wanachohitaji. Kwa mfano, uliza tu "Ninawezaje kuwezesha hali ya giza?" o "Nataka kuongeza mwangaza" ili Mu aweze kutafsiri maagizo hayo katika hatua ya kiufundi inayolingana ndani ya mfumo.

Microsoft imesisitiza kuwa AI inabadilika makumi ya maelfu ya miktadha na maswali tofautiKwa kweli, zaidi ya 100,000 zimetumika. Sampuli za mafunzo milioni 3,6 kushughulikia kila kitu kutoka kwa maombi ya kawaida - kama vile kubadilisha lugha au kudhibiti mitandao ya Wi-Fi - hadi kazi ngumu zaidi. Kwa maswali ambayo ni mafupi sana au yenye utata, mfumo hutumia kazi za jadi za utafutaji, lakini maagizo yakiwa wazi na ya kina, Mu hutenda kiotomatiki au humwongoza mtumiaji hatua kwa hatua.

Teknolojia na uboreshaji ilichukuliwa na vizazi vipya vya maunzi

La Uboreshaji wa Mu imekuwa moja ya mambo yaliyozingatiwa kwa uangalifu wakati wa maendeleo yake. Microsoft imefanya kazi kwa ushirikiano na washirika wa silicon kama vile AMD, Intel na Qualcomm ili kuirekebisha kulingana na ubainifu wa NPU mpya zilizopo kwenye Kompyuta za Copilot+Kazi hii ya pamoja imefanya iwezekanavyo kuanzisha mbinu za quantification baada ya mafunzo, ambayo hubadilisha uzani wa mfano na uanzishaji hadi nambari kamili za 8- na 16, na hivyo kupunguza utumiaji wa kumbukumbu na kuzuia hitaji la kufunza tena muundo mzima.

Mchakato wa mafunzo wa Mu ulifanyika katika mazingira ya utendaji wa juu, kwa kutumia GPU za NVIDIA A100 ndani Kujifunza kwa Mashine ya AzureSeti ya data imejumuishwa mamia ya mabilioni ya ishara za elimu na mbinu kama vile kunereka kutoka kwa mifano ya Phi na Urekebishaji wa Kiwango cha Chini (LoRA) ili kuhamisha maarifa na kurekebisha muundo kwa ajili ya kazi mahususi. Matokeo yake ni muundo mdogo, mwepesi ambao unafaa kipekee kwa rasilimali na mapungufu ya maunzi ya kisasa yanayoweza kuvaliwa. Unaweza pia kuchunguza jinsi geuza Kompyuta yako kuwa kitovu cha AI cha ndani kupanua uwezo wa mfumo wako.

Makala inayohusiana:

Phi-4 mini AI kwenye Edge: Mustakabali wa AI ya ndani kwenye kivinjari chako

Changamoto za sasa, upatikanaji na matarajio ya siku zijazo

Moja ya changamoto kubwa inayomkabili Mu ni tafsiri ya maswali yenye utata au mafupi sana, tatizo la kawaida katika mifumo ya lugha asilia. Kufanya hivi, Microsoft imetekeleza mantiki ya msetoIngawa hoja fupi huanzisha matokeo ya kawaida ya utafutaji, maagizo ya kina zaidi huchochea uingiliaji kati wa AI, ama kumwongoza mtumiaji au kufanya vitendo vya kiotomatiki.

Kwa sasa, Mu inapatikana kwa Kiingereza na kwenye vifaa vya Copilot+ pekee kupitia chaneli ya Insider., ingawa inatarajiwa kupanuliwa kwa lugha zaidi na vifaa vingine katika miezi ijayo, pamoja na vile vilivyo na vichakataji vya AMD na Intel. faragha na usalama Pia zina jukumu la msingi, kwa kuzingatia asili ya ndani ya usindikaji.

Kutumwa kwa Mu ni mwanzo tu wa mkakati mpana wa Microsoft kujumuisha AI ya ndani na mifano ya lugha inayofaa katika programu na vipengele vingi zaidi vya mfumo wa uendeshaji, kuboresha hali ya utumiaji na ufikiaji bila kuacha utendakazi au faragha.

Alberto Navarro

Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.

Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.