- Mu to nowy, prosty model językowy firmy Microsoft, zoptymalizowany do uruchamiania lokalnego na urządzeniach z systemem Windows 11 wyposażonych w jednostki NPU.
- Jego początkowa integracja odbywa się w agencie konfiguracji systemu Windows 11, co umożliwia wprowadzanie zmian przy użyciu języka naturalnego.
- Mu wyróżnia się wydajnością i szybkością, osiągając ponad 100 tokenów na sekundę dzięki 330 milionom parametrów.
- Obejmuje on takie innowacje, jak Dual LayerNorm, RoPE i GQA, a do jego szkolenia wykorzystano zaawansowane procesy i wysokiej jakości dane edukacyjne.
Przybycie Mu, najnowszy model małego języka przedstawiony przez Microsoft, oznacza znaczący krok w obecnym trendzie umieszczania sztucznej inteligencji bezpośrednio na urządzeniach użytkowników. Z zamiarem zmniejszyć zależność od chmury i wykorzystać potencjał Jednostki przetwarzania neuronowego (NPU), Mu jest zintegrowany z Komputery Copilot+ bieganie Windows 11, początkowo skupiając się na Aplikacja Ustawienia ułatwia dostęp i modyfikację parametrów systemu, wykorzystując wyłącznie język naturalny.
Ten postęp oznacza, że zamiast wysyłać zapytania do serwerów zewnętrznych, przetwarzanie i odpowiedzi są generowane na samym urządzeniu, zapewniając większą prywatność, zwinność i wydajność. Na chwilę obecną, Wdrożenie jest skierowane do uczestników programu Windows Insider Program posiadających komputery Copilot+.Choć oczekuje się, że technologia ta zostanie rozszerzona na większą liczbę użytkowników i funkcji w przyszłych aktualizacjach.
Czym naprawdę jest Mu i co go wyróżnia?
Mu jest mały model językowy (SLM(od jego skrótu w języku angielskim), wyszkolony przy użyciu 330 milionów parametrówKompaktowy rozmiar nie oznacza utraty wydajności, gdyż według Microsoftu osiąga parametry bardzo zbliżone do znacznie większych modeli, takich jak Phip-3.5-miniRównowagę tę udało się osiągnąć dzięki rygorystycznemu procesowi szkoleniowemu, który obejmował takie techniki, jak: Podwójna warstwaNorma, Osadzanie obrotowe pozycyjne (RoPE) y Uwaga dotycząca grupowanych zapytań (GQA) które zapewniają wydajność i precyzję, zwłaszcza w urządzeniach o ograniczonych zasobach.
Model wykorzystuje zalety architektura kodera-dekodera typu transformatorowego, zdolnego do przetwarzania danych wejściowych użytkownika i przekształcania ich w działania w systemie. Dzięki tej strukturze Mu oddziela przetwarzanie wejściowe i wyjściowe, co zmniejsza opóźnienia i zużycie pamięci, kluczowe punkty zapewniające płynne i bezproblemowe korzystanie z urządzenia.
W oficjalnych testach i danych Mu udowodnił, że jest w stanie odpowiadaj na ponad 100 tokenów na sekundę i udzielaj odpowiedzi w czasie krótszym niż 500 milisekundLiczby te umożliwiają niemal natychmiastowe interakcje, nawet jeśli chodzi o modyfikowanie ustawień lub interpretowanie długich i zróżnicowanych zapytań w języku codziennym. Jeśli chcesz dowiedzieć się więcej o tym, jak działają te modele, możesz sprawdzić Porównania modeli językowych na komputerach PC.
Integracja z Agentem Konfiguracji i praktyczne funkcje
Pierwsze lądowanie Mu koncentruje się na Agent konfiguracji systemu Windows 11, funkcja umożliwiająca użytkownikom dostosuj parametry systemu, po prostu wpisując lub mówiąc, co jest potrzebneNa przykład po prostu zapytaj „Jak aktywować tryb ciemny?” o „Chcę zwiększyć jasność” tak aby Mu mógł przełożyć tę instrukcję na odpowiednią czynność techniczną w systemie.
Microsoft podkreślił, że sztuczna inteligencja dostosowuje się do dziesiątki tysięcy różnych kontekstów i zapytańW rzeczywistości wykorzystano ich ponad 100 000. 3,6 miliona próbek szkoleniowych aby objąć wszystko, od najczęstszych próśb – takich jak zmiana języka lub zarządzanie sieciami Wi-Fi – po bardziej złożone zadania. W przypadku pytań, które są zbyt krótkie lub niejednoznaczne, system używa tradycyjne funkcje wyszukiwaniaale gdy instrukcja jest jasna i szczegółowa, Mu działa automatycznie lub prowadzi użytkownika krok po kroku.
Technologia i optymalizacja dostosowana do nowych generacji sprzętu
La Optymalizacja Mu był jednym z najbardziej starannie rozważonych punktów podczas jego rozwoju. Microsoft współpracował z partnerami krzemowymi, takimi jak AMD, Intel i Qualcomm aby dostosować go do specyfiki nowych jednostek NPU obecnych w komputerach Copilot+Wspólna praca pozwoliła na wprowadzenie techniki kwantyfikacji po treningu, które konwertują wagi i aktywacje modelu na liczby całkowite 8- i 16-bitowe, zmniejszając w ten sposób zużycie pamięci i eliminując potrzebę ponownego trenowania całego modelu.
Proces szkoleniowy Mu odbywał się w środowiskach o wysokiej wydajności, przy użyciu Procesory graficzne NVIDIA A100 w ciągu Uczenie maszynowe AzureZestaw danych zawierał setki miliardów tokenów edukacyjnych i techniki takie jak destylacja z modeli Phi i Low-Range Adaptation (LoRA) w celu transferu wiedzy i dostrojenia modelu do konkretnych zadań. Końcowym rezultatem jest mały, zwinny model, który jest wyjątkowo dostosowany do zasobów i ograniczeń nowoczesnego sprzętu do noszenia. Możesz również zbadać, jak zmień swój komputer w lokalne centrum sztucznej inteligencji aby rozszerzyć możliwości swojego systemu.
Obecne wyzwania, dostępność i przyszłe perspektywy
Jednym z największych wyzwań stojących przed Mu jest interpretacja niejednoznacznych lub bardzo krótkich zapytań, powszechny problem w systemach opartych na języku naturalnym. Aby to zrobić, Microsoft wdrożył logikę hybrydowąKrótkie zapytania generują tradycyjne wyniki wyszukiwania, natomiast bardziej szczegółowe instrukcje uruchamiają interwencję sztucznej inteligencji, która albo pokieruje użytkownikiem, albo wykona zautomatyzowane działania.
Na razie, Aplikacja Mu jest dostępna wyłącznie w języku angielskim na urządzeniach Copilot+ za pośrednictwem kanału Insider.Choć w najbliższych miesiącach można się spodziewać rozszerzenia jej na większą liczbę języków i urządzeń, w tym także tych z procesorami AMD i Intel. prywatność i ochrona Odgrywają one również zasadniczą rolę, biorąc pod uwagę lokalny charakter przetwarzania.
Wdrożenie Mu to dopiero początek szerszej strategii firmy Microsoft, mającej na celu włączenie Lokalna sztuczna inteligencja i wydajne modele językowe w jeszcze większej liczbie aplikacji i aspektów systemu operacyjnego, zwiększając komfort użytkowania i dostępność bez poświęcania wydajności i prywatności.
Jestem entuzjastą technologii, który swoje „geekowskie” zainteresowania przekształcił w zawód. Spędziłem ponad 10 lat mojego życia, korzystając z najnowocześniejszych technologii i majsterkując przy wszelkiego rodzaju programach z czystej ciekawości. Teraz specjalizuję się w technologii komputerowej i grach wideo. Dzieje się tak dlatego, że od ponad 5 lat piszę dla różnych serwisów poświęconych technologii i grom wideo, tworząc artykuły, których celem jest dostarczenie potrzebnych informacji w języku zrozumiałym dla każdego.
Jeśli masz jakieś pytania, moja wiedza obejmuje wszystko, co jest związane z systemem operacyjnym Windows, a także Androidem dla telefonów komórkowych. Moje zaangażowanie jest wobec Ciebie. Zawsze jestem gotowy poświęcić kilka minut i pomóc Ci rozwiązać wszelkie pytania, jakie możesz mieć w tym internetowym świecie.