- Mu is het nieuwe kleine taalmodel van Microsoft, geoptimaliseerd om lokaal te draaien op Windows 11-apparaten met NPU's.
- De eerste integratie vindt plaats in de Windows 11-configuratieagent, waardoor aanpassingen in natuurlijke taal mogelijk zijn.
- Mu onderscheidt zich door zijn efficiëntie en snelheid: dankzij de 100 miljoen parameters bereikt Mu meer dan 330 tokens per seconde.
- Het omvat innovaties zoals Dual LayerNorm, RoPE en GQA en is getraind met behulp van geavanceerde processen en hoogwaardige educatieve gegevens.
aankomst van Mu, het nieuwste kleine taalmodel gepresenteerd door Microsoft, markeert een belangrijke stap in de huidige trend om kunstmatige intelligentie rechtstreeks op de apparaten van gebruikers te plaatsen. Met de bedoeling om verminder cloudafhankelijkheid en het potentieel van Neurale verwerkingseenheden (NPU), Mu is geïntegreerd in de Copilot+ pc's rennen Windows 11, aanvankelijk gericht op de Instellingen-app om de toegang tot en wijziging van systeemparameters te vergemakkelijken met behulp van natuurlijke taal.
Deze vooruitgang betekent dat u in plaats van het sturen van vragen naar externe servers, verwerking en reacties worden op het apparaat zelf gegenereerd, wat zorgt voor meer privacy, flexibiliteit en efficiëntie. Op dit moment is de De uitrol is gericht op deelnemers aan het Windows Insider-programma met Copilot+-computers., hoewel de verwachting is dat deze technologie in toekomstige updates naar meer gebruikers en functies zal worden uitgebreid.
Wat is Mu eigenlijk en wat maakt het zo bijzonder?
Mu is een klein taalmodel (SLM(voor uw Engelse handtekeningen), getraind met 330 miljoen parametersZijn compacte formaat betekent niet dat er op prestaties wordt ingeboet, want volgens Microsoft haalt hij cijfers die heel dicht in de buurt komen van veel grotere modellen zoals Phip-3.5-miniDit evenwicht is bereikt dankzij een rigoureus trainingsproces dat technieken omvatte zoals Dubbele laagnorm, Roterende positionele inbeddingen (RoPE) y Gegroepeerde-Query Aandacht (GQA) die efficiëntie en precisie bieden, vooral in apparaten met beperkte middelen.
Het model maakt gebruik van een encoder-decoderarchitectuur van het transformatortype, dat gebruikersinvoer kan verwerken en omzetten in acties binnen het systeem. Dankzij deze structuur kan Mu scheidt invoer- en uitvoerverwerking, wat vermindert latentie en geheugenverbruik, belangrijke punten om een soepele gebruikerservaring zonder wachttijd te garanderen.
Uit officiële tests en gegevens blijkt dat Mu in staat is om: reageren op meer dan 100 tokens per seconde en antwoorden geven in minder dan 500 millisecondenDeze cijfers maken vrijwel onmiddellijke interacties mogelijk, zelfs bij het aanpassen van instellingen of het interpreteren van lange en gevarieerde zoekopdrachten in alledaagse taal. Als je dieper wilt ingaan op hoe deze modellen werken, kun je hier terecht. Vergelijkingen tussen taalmodellen op de pc.
Integratie in de configuratieagent en praktische functies
Mu's eerste landing is gecentreerd op de Windows 11-configuratieagent, een functie waarmee gebruikers Pas systeemparameters aan door simpelweg te typen of te zeggen wat ze nodig hebben. Vraag bijvoorbeeld gewoon "Hoe activeer ik de donkere modus?" o "Ik wil de helderheid verhogen" zodat Mu die instructie kan vertalen naar de overeenkomstige technische actie binnen het systeem.
Microsoft heeft benadrukt dat AI zich aanpast aan tienduizenden verschillende contexten en zoekopdrachtenEr zijn er in feite meer dan 100.000 gebruikt. 3,6 miljoen trainingsmonsters om alles te behandelen, van de meest voorkomende vragen – zoals het wijzigen van de taal of het beheren van wifi-netwerken – tot complexere taken. Voor vragen die te kort of te dubbelzinnig zijn, gebruikt het systeem de traditionele zoekfuncties, maar wanneer de instructie duidelijk en gedetailleerd is, handelt Mu automatisch of begeleidt de gebruiker stap voor stap.
Technologie en optimalisatie aangepast aan nieuwe generaties hardware
La Mu-optimalisatie is een van de meest zorgvuldig overwogen punten geweest tijdens de ontwikkeling. Microsoft heeft samengewerkt met siliciumpartners zoals AMD, Intel en Qualcomm om het aan te passen aan de specifieke kenmerken van de nieuwe NPU's die aanwezig zijn in de Copilot+ pc'sDoor dit gezamenlijke werk is het mogelijk geworden om post-training kwantificeringstechnieken, die de modelgewichten en activeringen omzetten in 8- en 16-bits gehele getallen, waardoor het geheugengebruik wordt verminderd en de noodzaak om het hele model opnieuw te trainen wordt vermeden.
Het trainingsproces van Mu werd uitgevoerd in omgevingen met hoge prestaties, met behulp van NVIDIA A100 GPU's binnen Azure-machine learningDe dataset omvatte honderden miljarden educatieve tokens en technieken zoals destillatie uit Phi-modellen en Low-Range Adaptation (LoRA) om kennis over te dragen en het model te verfijnen voor specifieke taken. Het eindresultaat is een klein, flexibel model dat uniek geschikt is voor de mogelijkheden en beperkingen van moderne draagbare hardware. U kunt ook ontdekken hoe Verander uw pc in een lokale AI-hub om de mogelijkheden van uw systeem uit te breiden.
Huidige uitdagingen, beschikbaarheid en toekomstperspectieven
Een van de grootste uitdagingen waar Mu voor staat is de interpretatie van dubbelzinnige of zeer korte vragen, een veelvoorkomend probleem in systemen gebaseerd op natuurlijke taal. Om dit te doen, Microsoft heeft een hybride logica geïmplementeerdTerwijl korte zoekopdrachten leiden tot traditionele zoekresultaten, activeren gedetailleerdere instructies AI-interventie om de gebruiker te begeleiden of geautomatiseerde acties uit te voeren.
Voor nu Mu is alleen beschikbaar in het Engels en op Copilot+-apparaten via het Insider-kanaal., hoewel verwacht wordt dat het in de komende maanden wordt uitgebreid naar meer talen en andere apparaten, waaronder die met AMD- en Intel-processors. privacy en veiligheid Ze spelen ook een fundamentele rol, gezien het lokale karakter van de verwerking.
De inzet van Mu is slechts het begin van een bredere strategie van Microsoft om Lokale AI en efficiënte taalmodellen in nog meer toepassingen en aspecten van het besturingssysteem, waardoor de ervaring en toegankelijkheid worden verbeterd zonder dat dit ten koste gaat van de prestaties of privacy.
Ik ben een technologieliefhebber die van zijn 'nerd'-interesses zijn beroep heeft gemaakt. Ik heb meer dan 10 jaar van mijn leven doorgebracht met het gebruik van de allernieuwste technologie en het sleutelen aan allerlei programma's uit pure nieuwsgierigheid. Nu heb ik mij gespecialiseerd in computertechnologie en videogames. Dit komt omdat ik al meer dan vijf jaar voor verschillende websites over technologie en videogames schrijf en artikelen heb gemaakt die proberen u de informatie te geven die u nodig heeft in een taal die voor iedereen begrijpelijk is.
Als je vragen hebt, mijn kennis strekt zich uit van alles wat te maken heeft met het Windows-besturingssysteem tot Android voor mobiele telefoons. En mijn toewijding is aan jou, ik ben altijd bereid om een paar minuten te besteden en je te helpen bij het oplossen van eventuele vragen die je hebt in deze internetwereld.