- Το Mu είναι το νέο μοντέλο μικρής γλώσσας της Microsoft, βελτιστοποιημένο για τοπική εκτέλεση σε συσκευές Windows 11 με NPU.
- Η αρχική ενσωμάτωσή του γίνεται στον παράγοντα διαμόρφωσης των Windows 11, επιτρέποντας προσαρμογές χρησιμοποιώντας φυσική γλώσσα.
- Το Mu ξεχωρίζει για την αποτελεσματικότητα και την ταχύτητά του, φτάνοντας τα 100 tokens ανά δευτερόλεπτο χάρη στα 330 εκατομμύρια παραμέτρους του.
- Περιλαμβάνει καινοτομίες όπως το Dual LayerNorm, το RoPE και το GQA, και έχει εκπαιδευτεί χρησιμοποιώντας προηγμένες διαδικασίες και εκπαιδευτικά δεδομένα υψηλής ποιότητας.
Η άφιξη του Mu, το τελευταίο μοντέλο μικρής γλώσσας που παρουσιάζεται από Microsoft, σηματοδοτεί ένα σημαντικό βήμα στην τρέχουσα τάση τοποθέτησης τεχνητής νοημοσύνης απευθείας στις συσκευές των χρηστών. Με σκοπό την μείωση της εξάρτησης από το cloud και να αξιοποιήσουν τις δυνατότητες του Μονάδες Νευρωνικής Επεξεργασίας (NPU), η Mu είναι ενσωματωμένη στο Υπολογιστές Copilot+ τρέξιμο Windows 11, εστιάζοντας αρχικά στο Εφαρμογή ρυθμίσεων για να διευκολύνουν την πρόσβαση και την τροποποίηση των παραμέτρων του συστήματος χρησιμοποιώντας απλώς φυσική γλώσσα.
Αυτή η πρόοδος σημαίνει ότι, αντί να στέλνονται ερωτήματα σε εξωτερικούς διακομιστές, η επεξεργασία και οι απαντήσεις παράγονται στην ίδια τη συσκευή, εξασφαλίζοντας μεγαλύτερη ιδιωτικότητα, ευελιξία και αποτελεσματικότητα. Προς το παρόν, το Η κυκλοφορία απευθύνεται σε συμμετέχοντες στο πρόγραμμα Windows Insider με υπολογιστές Copilot+., αν και η προσδοκία είναι ότι αυτή η τεχνολογία θα επεκταθεί σε περισσότερους χρήστες και λειτουργίες σε μελλοντικές ενημερώσεις.
Τι είναι πραγματικά η Mu και τι την κάνει να ξεχωρίζει;
Mu είναι ένα μικρό γλωσσικό μοντέλο (SLM, από τα κείμενά του στα Αγγλικά), εκπαιδευμένο με 330 εκατομμύρια παραμέτρουςΤο μικρό του μέγεθος δεν σημαίνει θυσία στην απόδοση, καθώς σύμφωνα με τη Microsoft επιτυγχάνει στοιχεία πολύ κοντά σε πολύ μεγαλύτερα μοντέλα όπως π.χ. Phip-3.5-miniΑυτή η ισορροπία έχει επιτευχθεί χάρη σε μια αυστηρή διαδικασία εκπαίδευσης που περιλαμβάνει τεχνικές όπως Διπλή ΕπίστρωσηNorm, Περιστροφικές ενσωματώσεις θέσης (RoPE) y Προσοχή Ομαδοποιημένων Ερωτημάτων (GQA) που παρέχουν αποτελεσματικότητα και ακρίβεια, ειδικά σε συσκευές με περιορισμένους πόρους.
Το μοντέλο εκμεταλλεύεται ένα αρχιτεκτονική κωδικοποιητή-αποκωδικοποιητή τύπου μετασχηματιστή, ικανό να επεξεργάζεται δεδομένα εισόδου χρήστη και να τα μετατρέπει σε ενέργειες εντός του συστήματος. Χάρη σε αυτή τη δομή, το Mu διαχωρίζει την επεξεργασία εισόδου και εξόδου, τι μειώνει την καθυστέρηση και την κατανάλωση μνήμης, βασικά σημεία για να διασφαλιστεί μια ομαλή εμπειρία χρήστη χωρίς αναμονή.
Σε επίσημες δοκιμές και δεδομένα, η Mu έχει αποδειχθεί ικανή να απαντά σε περισσότερα από 100 διακριτικά ανά δευτερόλεπτο και παρέχουν απαντήσεις σε λιγότερο από 500 χιλιοστά του δευτερολέπτουΑυτοί οι αριθμοί επιτρέπουν σχεδόν άμεσες αλληλεπιδράσεις, ακόμη και όταν πρόκειται για τροποποίηση ρυθμίσεων ή ερμηνεία μακροσκελών και ποικίλων ερωτημάτων σε καθημερινή γλώσσα. Αν θέλετε να εμβαθύνετε στον τρόπο λειτουργίας αυτών των μοντέλων, μπορείτε να ρίξετε μια ματιά στο Συγκρίσεις μεταξύ γλωσσικών μοντέλων σε υπολογιστή.
Ενσωμάτωση στον Παράγοντα Ρύθμισης Παραμέτρων και πρακτικές λειτουργίες
Η αρχική προσγείωση του Mu επικεντρώνεται στο Παράγοντας ρύθμισης παραμέτρων των Windows 11, μια λειτουργία που επιτρέπει στους χρήστες προσαρμόστε τις παραμέτρους του συστήματος απλώς πληκτρολογώντας ή λέγοντας τι χρειάζονταιΓια παράδειγμα, απλώς ρωτήστε "Πώς μπορώ να ενεργοποιήσω τη σκοτεινή λειτουργία;" o «Θέλω να αυξήσω τη φωτεινότητα» έτσι ώστε η Mu να μπορεί να μεταφράσει αυτήν την εντολή στην αντίστοιχη τεχνική ενέργεια εντός του συστήματος.
Η Microsoft έχει τονίσει ότι η Τεχνητή Νοημοσύνη προσαρμόζεται δεκάδες χιλιάδες διαφορετικά συμφραζόμενα και ερωτήματαΣτην πραγματικότητα, έχουν χρησιμοποιηθεί περισσότερες από 100.000. 3,6 εκατομμύρια δείγματα εκπαίδευσης για να καλύψει τα πάντα, από τα πιο συνηθισμένα αιτήματα – όπως η αλλαγή γλώσσας ή η διαχείριση δικτύων Wi-Fi – έως πιο σύνθετες εργασίες. Για ερωτήσεις που είναι πολύ σύντομες ή ασαφείς, το σύστημα χρησιμοποιεί το παραδοσιακές λειτουργίες αναζήτησης, αλλά όταν η οδηγία είναι σαφής και λεπτομερής, το Mu ενεργεί αυτόματα ή καθοδηγεί τον χρήστη βήμα προς βήμα.
Τεχνολογία και βελτιστοποίηση προσαρμοσμένες στις νέες γενιές υλικού
La Βελτιστοποίηση Mu ήταν ένα από τα πιο προσεκτικά εξετασμένα σημεία κατά την ανάπτυξή του. Η Microsoft συνεργάστηκε με συνεργάτες πυριτίου όπως οι AMD, Intel και Qualcomm για να το προσαρμόσουμε στις ιδιαιτερότητες των νέων NPU που υπάρχουν στους υπολογιστές Copilot+Αυτή η κοινή εργασία κατέστησε δυνατή την εισαγωγή τεχνικές ποσοτικοποίησης μετά την εκπαίδευση, τα οποία μετατρέπουν τα βάρη και τις ενεργοποιήσεις του μοντέλου σε ακέραιους αριθμούς 8 και 16 bit, μειώνοντας έτσι την κατανάλωση μνήμης και αποφεύγοντας την ανάγκη επανεκπαίδευσης ολόκληρου του μοντέλου.
Η διαδικασία εκπαίδευσης του Mu πραγματοποιήθηκε σε περιβάλλοντα υψηλής απόδοσης, χρησιμοποιώντας GPU NVIDIA A100 Dentro de Azure Machine LearningΤο σύνολο δεδομένων που περιλάμβανε εκατοντάδες δισεκατομμύρια εκπαιδευτικά tokens και τεχνικές όπως απόσταξη από μοντέλα Phi και Προσαρμογή Χαμηλού Εύρους (LoRA) για τη μεταφορά γνώσης και τη βελτίωση του μοντέλου για συγκεκριμένες εργασίες. Το τελικό αποτέλεσμα είναι ένα μικρό, ευέλικτο μοντέλο που είναι μοναδικά προσαρμοσμένο στους πόρους και τους περιορισμούς του σύγχρονου φορητού υλικού. Μπορείτε επίσης να εξερευνήσετε πώς Μετατρέψτε τον υπολογιστή σας σε τοπικό κόμβο τεχνητής νοημοσύνης για να επεκτείνετε τις δυνατότητες του συστήματός σας.
Τρέχουσες προκλήσεις, διαθεσιμότητα και μελλοντικές προοπτικές
Μία από τις μεγαλύτερες προκλήσεις που αντιμετωπίζει η Mu είναι η ερμηνεία διφορούμενων ή πολύ σύντομων ερωτημάτων, ένα κοινό πρόβλημα σε συστήματα που βασίζονται σε φυσική γλώσσα. Για να γίνει αυτό, Η Microsoft έχει εφαρμόσει μια υβριδική λογικήΕνώ τα σύντομα ερωτήματα ενεργοποιούν τα παραδοσιακά αποτελέσματα αναζήτησης, οι πιο λεπτομερείς οδηγίες ενεργοποιούν την παρέμβαση της Τεχνητής Νοημοσύνης, είτε για να καθοδηγήσουν τον χρήστη είτε για να εκτελέσουν αυτοματοποιημένες ενέργειες.
Προς το παρόν, Το Mu είναι διαθέσιμο μόνο στα Αγγλικά και σε συσκευές Copilot+ μέσω του καναλιού Insider., αν και αναμένεται να επεκταθεί σε περισσότερες γλώσσες και άλλες συσκευές τους επόμενους μήνες, συμπεριλαμβανομένων εκείνων με επεξεργαστές AMD και Intel. ιδιωτικότητα και ασφάλεια Διαδραματίζουν επίσης θεμελιώδη ρόλο, δεδομένου του τοπικού χαρακτήρα της επεξεργασίας.
Η ανάπτυξη του Mu είναι μόνο η αρχή μιας ευρύτερης στρατηγικής της Microsoft για την ενσωμάτωση Τοπική Τεχνητή Νοημοσύνη και αποτελεσματικά γλωσσικά μοντέλα σε ακόμη περισσότερες εφαρμογές και πτυχές του λειτουργικού συστήματος, βελτιώνοντας την εμπειρία και την προσβασιμότητα χωρίς να θυσιάζεται η απόδοση ή το απόρρητο.
Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.
Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.