- Mu is Microsoft se nuwe klein taalmodel, geoptimaliseer om plaaslik op Windows 11-toestelle met NPU's te loop.
- Die aanvanklike integrasie daarvan word in die Windows 11-konfigurasieagent gedoen, wat aanpassings met behulp van natuurlike taal moontlik maak.
- Mu staan uit vir sy doeltreffendheid en spoed, en bereik meer as 100 tokens per sekonde danksy sy 330 miljoen parameters.
- Dit sluit innovasies soos Dual LayerNorm, RoPE en GQA in, en is opgelei met behulp van gevorderde prosesse en hoëgehalte-opvoedkundige data.
Die aankoms van Mu, die nuutste klein taalmodel aangebied deur Microsoft, merk 'n belangrike stap in die huidige tendens om kunsmatige intelligensie direk op gebruikers se toestelle te plaas. Met die doel om verminder wolkafhanklikheid en benut die potensiaal van Neurale Verwerkingseenhede (NPU), Mu is geïntegreer in die Copilot+ rekenaars hardloop Windows 11, aanvanklik gefokus op die Instellings-toepassing om toegang tot en wysiging van stelselparameters te vergemaklik deur bloot natuurlike taal te gebruik.
Hierdie vooruitgang beteken dat, in plaas daarvan om navrae na eksterne bedieners te stuur, verwerking en reaksies word op die toestel self gegenereer, wat groter privaatheid, ratsheid en doeltreffendheid verseker. Vir die oomblik, die Die bekendstelling is gemik op deelnemers aan die Windows Insider-program met Copilot+ rekenaars., hoewel die verwagting is dat hierdie tegnologie in toekomstige opdaterings na meer gebruikers en funksies uitgebrei sal word.
Wat is Mu werklik en wat maak dit besonders?
Mu is 'n klein taalmodel (SLM, volgens hul Engelse handtekeninge), opgelei met 330 miljoen parametersSy kompakte grootte beteken nie 'n opoffering in werkverrigting nie, aangesien dit volgens Microsoft syfers behaal wat baie naby aan veel groter modelle soos ... is. Phip-3.5-miniHierdie balans is bereik danksy 'n streng opleidingsproses wat tegnieke soos Dubbele LaagNorm, Roterende Posisionele Inbeddings (RoPE) y Gegroepeerde Navraag Aandag (GQA) wat doeltreffendheid en presisie bied, veral in toestelle met beperkte hulpbronne.
Die model maak gebruik van 'n kodeerder-dekodeerder argitektuur van die transformatortipe, in staat om gebruikersinvoer te verwerk en dit in aksies binne die stelsel te omskep. Danksy hierdie struktuur, Mu skei invoer- en uitvoerverwerking, wat verminder latensie en geheueverbruik, sleutelpunte om 'n gladde, wagtydvrye gebruikerservaring te verseker.
In amptelike toetse en data het Mu bewys dat hy in staat is om reageer op meer as 100 tekens per sekonde en verskaf antwoorde in minder as 500 millisekondesHierdie getalle maak voorsiening vir feitlik oombliklike interaksies, selfs wanneer dit kom by die wysiging van instellings of die interpretasie van lang en uiteenlopende navrae in alledaagse taal. As jy dieper wil delf in hoe hierdie modelle werk, kan jy kyk na Vergelykings tussen taalmodelle op rekenaar.
Integrasie in die Konfigurasie-agent en praktiese funksies
Mu se aanvanklike landing is gesentreer op die Windows 11 Konfigurasie Agent, 'n kenmerk wat gebruikers toelaat pas stelselparameters aan deur eenvoudig te tik of te sê wat hulle benodigVra byvoorbeeld net "Hoe aktiveer ek donker modus?" o "Ek wil die helderheid verhoog" sodat Mu daardie instruksie in die ooreenstemmende tegniese aksie binne die stelsel kan vertaal.
Microsoft het beklemtoon dat KI aanpas by tienduisende verskillende kontekste en navraeTrouens, meer as 100 000 is al gebruik. 3,6 miljoen opleidingsmonsters om alles te dek, van die mees algemene versoeke – soos om die taal te verander of Wi-Fi-netwerke te bestuur – tot meer komplekse take. Vir vrae wat te kort of dubbelsinnig is, gebruik die stelsel die tradisionele soekfunksies, maar wanneer die instruksie duidelik en gedetailleerd is, tree Mu outomaties op of lei die gebruiker stap vir stap.
Tegnologie en optimalisering aangepas vir nuwe generasies hardeware
La Mu-optimalisering was een van die mees deeglik oorweegde punte tydens die ontwikkeling daarvan. Microsoft het in samewerking met silikonvennote soos AMD, Intel en Qualcomm om dit aan te pas by die spesifisiteite van die nuwe NPU's wat in die Copilot+ rekenaars teenwoordig isHierdie gesamentlike werk het dit moontlik gemaak om bekend te stel kwantifiseringstegnieke na opleiding, wat die modelgewigte en aktiverings na 8- en 16-bis heelgetalle omskakel, wat geheueverbruik verminder en die behoefte om die hele model herop te lei, vermy.
Mu se opleidingsproses is in hoëprestasie-omgewings uitgevoer, met behulp van NVIDIA A100 GPU's binne Azure-masjienleerDie datastel ingesluit honderde miljarde opvoedkundige tokens en tegnieke soos distillasie van Phi-modelle en Lae-afstand-aanpassing (LoRA) om kennis oor te dra en die model vir spesifieke take te verfyn. Die eindresultaat is 'n klein, rats model wat uniek geskik is vir die hulpbronne en beperkings van moderne draagbare hardeware. Jy kan ook verken hoe Verander jou rekenaar in 'n plaaslike KI-sentrum om die vermoëns van jou stelsel uit te brei.
Huidige uitdagings, beskikbaarheid en toekomsvooruitsigte
Een van die grootste uitdagings waarmee Mu te kampe het, is die interpretasie van dubbelsinnige of baie kort navrae, 'n algemene probleem in natuurlike taalgebaseerde stelsels. Om dit te doen, Microsoft het 'n hibriede logika geïmplementeerTerwyl kort navrae tradisionele soekresultate veroorsaak, veroorsaak meer gedetailleerde instruksies KI-intervensie, óf om die gebruiker te lei óf outomatiese aksies uit te voer.
Vir nou, Mu is slegs beskikbaar in Engels en op Copilot+-toestelle deur die Insider-kanaal., hoewel dit na verwagting in die komende maande na meer tale en ander toestelle uitgebrei sal word, insluitend dié met AMD- en Intel-verwerkers. privaatheid en sekuriteit Hulle speel ook 'n fundamentele rol, gegewe die plaaslike aard van die verwerking.
Die ontplooiing van Mu is maar net die begin van 'n breër strategie deur Microsoft om dit in te sluit Plaaslike KI en doeltreffende taalmodelle in selfs meer toepassings en aspekte van die bedryfstelsel, wat die ervaring en toeganklikheid verbeter sonder om werkverrigting of privaatheid in te boet.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.