- Mu je nový model malých jazyků od společnosti Microsoft, optimalizovaný pro lokální běh na zařízeních s Windows 11 s NPU.
- Jeho počáteční integrace se provádí v konfiguračním agentu systému Windows 11, což umožňuje úpravy pomocí přirozeného jazyka.
- Mu vyniká svou efektivitou a rychlostí a díky 100 milionům parametrů dosahuje více než 330 tokenů za sekundu.
- Zahrnuje inovace jako Dual LayerNorm, RoPE a GQA a je proškolen s využitím pokročilých procesů a vysoce kvalitních vzdělávacích dat.
Příchod Mu, nejnovější model malého jazyka prezentovaný Microsoft, představuje významný krok v současném trendu umisťování umělé inteligence přímo do uživatelských zařízení. S úmyslem snížit závislost na cloudu a využít potenciál Neurální procesorové jednotky (NPU), Mu je integrován do Počítače Copilot+ běh Windows 11, zpočátku se zaměřující na aplikace Nastavení usnadnit přístup a úpravu systémových parametrů pomocí jednoduchého přirozeného jazyka.
Tato vylepšení znamená, že místo odesílání dotazů na externí servery, zpracování a odpovědi jsou generovány na samotném zařízení, což zajišťuje větší soukromí, agilitu a efektivitu. Prozatím Zavádění je zaměřeno na účastníky programu Windows Insider s počítači Copilot+., ačkoli se očekává, že tato technologie bude v budoucích aktualizacích rozšířena na více uživatelů a funkcí.
Co je vlastně Mu a čím se odlišuje?
Mu je model malého jazyka (SLM, podle vašich anglických podpisů), trénováno s 330 miliony parametrůJeho kompaktní velikost neznamená obětování výkonu, protože podle Microsoftu dosahuje hodnot velmi blízkých mnohem větším modelům, jako je např. Phip-3.5-miniTéto rovnováhy bylo dosaženo díky přísnému tréninkovému procesu, který zahrnoval techniky jako například DvouvrstváNormální, Rotační poziční zapuštění (RoPE) y Pozornost seskupených dotazů (GQA) které poskytují efektivitu a přesnost, zejména u zařízení s omezenými zdroji.
Model využívá výhodu architektura kodéru a dekodéru transformátorového typu, schopného zpracovávat uživatelské vstupy a transformovat je do akcí v rámci systému. Díky této struktuře Mu odděluje vstupní a výstupní zpracování, co snižuje latenci a spotřebu paměti, klíčové body pro zajištění plynulého a bezproblémového uživatelského prostředí.
V oficiálních testech a datech se Mu prokázala jako schopná reagovat na více než 100 tokenů za sekundu a poskytují odpovědi za méně než 500 milisekundTato čísla umožňují prakticky okamžitou interakci, a to i v případě úpravy nastavení nebo interpretace dlouhých a rozmanitých dotazů v běžném jazyce. Pokud byste se chtěli hlouběji ponořit do fungování těchto modelů, můžete se podívat na Porovnání jazykových modelů na PC.
Integrace do konfiguračního agenta a praktické funkce
Muovo počáteční přistání je soustředěno na Konfigurační agent Windows 11, funkce, která uživatelům umožňuje upravte parametry systému pouhým napsáním nebo vyslovením potřebyNapříklad se zeptejte "Jak aktivuji tmavý režim?" o "Chci zvýšit jas" aby Mu mohl tuto instrukci přeložit do odpovídající technické akce v rámci systému.
Microsoft zdůraznil, že se umělá inteligence přizpůsobuje desítky tisíc různých kontextů a dotazůVe skutečnosti jich bylo použito více než 100 000. 3,6 milionu trénovacích vzorků aby pokryl vše od nejběžnějších požadavků – jako je změna jazyka nebo správa Wi-Fi sítí – až po složitější úkoly. U příliš krátkých nebo nejednoznačných otázek systém používá tradiční vyhledávací funkce, ale když je instrukce jasná a podrobná, Mu jedná automaticky nebo vede uživatele krok za krokem.
Technologie a optimalizace přizpůsobené novým generacím hardwaru
La Optimalizace Mu byl jedním z nejpečlivěji zvažovaných bodů během jeho vývoje. Microsoft spolupracoval s partnery v oblasti křemíku, jako například AMD, Intel a Qualcomm přizpůsobit jej specifikám nových NPU přítomných v počítačích Copilot+Tato společná práce umožnila zavést techniky kvantifikace po tréninku, které převádějí váhy a aktivace modelu na 8- a 16bitová celá čísla, čímž snižují spotřebu paměti a odstraňují nutnost přetrénovat celý model.
Tréninkový proces Mu probíhal ve vysoce výkonném prostředí s využitím Grafické procesory NVIDIA A100 v Azure Machine LearningSoučástí datové sady byly stovky miliard vzdělávacích tokenů a techniky jako například destilace z modelů Phi a adaptace v nízkém rozsahu (LoRA) pro přenos znalostí a doladění modelu pro specifické úkoly. Konečným výsledkem je malý, agilní model, který je jedinečně přizpůsoben zdrojům a omezením moderního nositelného hardwaru. Můžete si také prohlédnout, jak proměňte svůj počítač v místní centrum umělé inteligence pro rozšíření možností vašeho systému.
Aktuální výzvy, dostupnost a budoucí vyhlídky
Jednou z největších výzev, kterým Mu čelí, je interpretace nejednoznačných nebo velmi stručných dotazů, což je běžný problém v systémech založených na přirozeném jazyce. Aby toho bylo možné dosáhnout, Microsoft implementoval hybridní logikuZatímco krátké dotazy spouštějí tradiční výsledky vyhledávání, podrobnější pokyny spouštějí zásah umělé inteligence, ať už k vedení uživatele nebo k provedení automatizovaných akcí.
Prozatím Mu je k dispozici pouze v angličtině a na zařízeních Copilot+ prostřednictvím kanálu Insider., ačkoli se očekává, že v nadcházejících měsících bude rozšířena na více jazyků a další zařízení, včetně těch s procesory AMD a Intel. soukromí a bezpečnost Hrají také zásadní roli vzhledem k lokální povaze zpracování.
Nasazení Mu je pouze začátkem širší strategie společnosti Microsoft, která má za cíl začlenit Lokální umělá inteligence a efektivní jazykové modely v ještě více aplikacích a aspektech operačního systému, což zlepšuje uživatelský zážitek a přístupnost bez kompromisů v oblasti výkonu nebo soukromí.
Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.
Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.