- Mu ialah model bahasa kecil baharu Microsoft, dioptimumkan untuk dijalankan secara tempatan pada peranti Windows 11 dengan NPU.
- Penyepaduan awalnya dilakukan dalam ejen Konfigurasi Windows 11, membenarkan pelarasan menggunakan bahasa semula jadi.
- Mu menonjol kerana kecekapan dan kelajuannya, mencapai lebih daripada 100 token sesaat berkat 330 juta parameternya.
- Ia termasuk inovasi seperti Dual LayerNorm, RoPE dan GQA, dan telah dilatih menggunakan proses lanjutan dan data pendidikan berkualiti tinggi.
Ketibaan Mu, model bahasa kecil terkini yang dipersembahkan oleh microsoft, menandakan satu langkah penting dalam trend semasa meletakkan kecerdasan buatan secara langsung pada peranti pengguna. Dengan niat mengurangkan pergantungan awan dan memanfaatkan potensi Unit Pemprosesan Neural (NPU), Mu disepadukan ke dalam Copilot+ PC berlari Windows 11, pada mulanya memberi tumpuan kepada Apl tetapan untuk memudahkan capaian dan pengubahsuaian parameter sistem hanya menggunakan bahasa semula jadi.
Pendahuluan ini bermakna, bukannya menghantar pertanyaan kepada pelayan luaran, pemprosesan dan respons dijana pada peranti itu sendiri, memastikan privasi, ketangkasan dan kecekapan yang lebih tinggi. Buat masa ini, pihak Pelancaran disasarkan kepada peserta Program Windows Insider dengan komputer Copilot+., walaupun jangkaan teknologi ini akan diperluaskan kepada lebih ramai pengguna dan fungsi dalam kemas kini masa hadapan.
Apakah Mu sebenarnya dan apakah yang membuatnya menonjol?
Mu ialah model bahasa kecil (SLM, por sus siglas en inglés), dilatih dengan 330 juta parameterSaiznya yang padat tidak bermakna pengorbanan dalam prestasi, kerana menurut Microsoft ia mencapai angka yang sangat hampir dengan model yang lebih besar seperti Phip-3.5-miniKeseimbangan ini telah dicapai berkat proses latihan yang ketat yang merangkumi teknik seperti Dual LayerNorm, Pembenaman Kedudukan Putar (RoPE) y Perhatian Pertanyaan Berkumpulan (GQA) yang memberikan kecekapan dan ketepatan, terutamanya dalam peranti dengan sumber terhad.
Model mengambil kesempatan daripada a seni bina pengekod-penyahkod daripada jenis pengubah, mampu memproses input pengguna dan mengubahnya menjadi tindakan dalam sistem. Terima kasih kepada struktur ini, Mu memisahkan pemprosesan input dan output, apa mengurangkan kependaman dan penggunaan memori, perkara utama untuk memastikan pengalaman pengguna yang lancar dan tanpa menunggu.
Dalam ujian dan data rasmi, Mu telah terbukti mampu bertindak balas kepada lebih daripada 100 token sesaat dan memberikan respons dalam masa kurang daripada 500 milisaatNombor-nombor ini membenarkan interaksi yang hampir serta-merta, walaupun dalam hal mengubah suai tetapan atau mentafsir pertanyaan yang panjang dan pelbagai dalam bahasa seharian. Jika anda ingin mendalami cara model ini berfungsi, anda boleh menyemaknya Perbandingan antara model bahasa pada PC.
Integrasi ke dalam Agen Konfigurasi dan fungsi praktikal
Pendaratan awal Mu tertumpu pada Ejen Konfigurasi Windows 11, ciri yang membolehkan pengguna laraskan parameter sistem dengan hanya menaip atau menyebut perkara yang mereka perlukan. Sebagai contoh, tanya sahaja "Bagaimana cara saya mengaktifkan mod gelap?" o "Saya mahu meningkatkan kecerahan" supaya Mu boleh menterjemah arahan itu ke dalam tindakan teknikal yang sepadan dalam sistem.
Microsoft telah menekankan bahawa AI menyesuaikan diri dengan berpuluh-puluh ribu konteks dan pertanyaan yang berbezaMalah, lebih daripada 100,000 telah digunakan. 3,6 juta sampel latihan untuk merangkumi segala-galanya daripada permintaan yang paling biasa – seperti menukar bahasa atau mengurus rangkaian Wi-Fi – kepada tugas yang lebih kompleks. Untuk soalan yang terlalu pendek atau samar-samar, sistem menggunakan fungsi carian tradisional, tetapi apabila arahan itu jelas dan terperinci, Mu bertindak secara automatik atau membimbing pengguna langkah demi langkah.
Teknologi dan pengoptimuman disesuaikan dengan perkakasan generasi baharu
La Pengoptimuman Mu telah menjadi salah satu perkara yang paling dipertimbangkan dengan teliti semasa pembangunannya. Microsoft telah bekerjasama dengan rakan kongsi silikon seperti AMD, Intel dan Qualcomm untuk menyesuaikannya dengan kekhususan NPU baharu yang terdapat dalam Copilot+ PCKerjasama ini telah memungkinkan untuk memperkenalkan teknik kuantifikasi selepas latihan, yang menukar berat dan pengaktifan model kepada integer 8- dan 16-bit, sekali gus mengurangkan penggunaan memori dan mengelakkan keperluan untuk melatih semula keseluruhan model.
Proses latihan Mu telah dijalankan dalam persekitaran berprestasi tinggi, menggunakan GPU NVIDIA A100 dalam Pembelajaran Mesin AzureSet data disertakan ratusan bilion token pendidikan dan teknik seperti penyulingan daripada model Phi dan Penyesuaian Julat Rendah (LoRA) untuk memindahkan pengetahuan dan memperhalusi model kepada tugasan tertentu. Hasil akhirnya ialah model kecil yang tangkas yang disesuaikan khas dengan sumber dan had perkakasan mudah alih moden. Anda juga boleh meneroka bagaimana jadikan PC anda sebagai hab AI tempatan untuk mengembangkan keupayaan sistem anda.
Cabaran semasa, ketersediaan dan prospek masa depan
Salah satu cabaran terbesar yang dihadapi Mu ialah tafsiran pertanyaan yang samar-samar atau sangat ringkas, masalah biasa dalam sistem berasaskan bahasa semula jadi. Untuk melakukan ini, Microsoft telah melaksanakan logik hibridWalaupun pertanyaan ringkas mencetuskan hasil carian tradisional, arahan yang lebih terperinci mencetuskan campur tangan AI, sama ada untuk membimbing pengguna atau melakukan tindakan automatik.
Untuk sekarang, Mu hanya tersedia dalam bahasa Inggeris dan pada peranti Copilot+ melalui saluran Insider., walaupun ia dijangka akan dikembangkan kepada lebih banyak bahasa dan peranti lain dalam beberapa bulan akan datang, termasuk yang mempunyai pemproses AMD dan Intel. privasi dan keselamatan Mereka juga memainkan peranan asas, memandangkan sifat tempatan pemprosesan.
Penggunaan Mu hanyalah permulaan strategi yang lebih luas oleh Microsoft untuk digabungkan AI tempatan dan model bahasa yang cekap dalam lebih banyak aplikasi dan aspek sistem pengendalian, meningkatkan pengalaman dan kebolehcapaian tanpa mengorbankan prestasi atau privasi.
Saya seorang peminat teknologi yang telah menjadikan minat "geek"nya sebagai satu profesion. Saya telah menghabiskan lebih daripada 10 tahun hidup saya menggunakan teknologi canggih dan bermain-main dengan semua jenis program kerana rasa ingin tahu yang tulen. Sekarang saya mempunyai pakar dalam teknologi komputer dan permainan video. Ini kerana selama lebih daripada 5 tahun saya telah menulis untuk pelbagai laman web mengenai teknologi dan permainan video, mencipta artikel yang bertujuan untuk memberi anda maklumat yang anda perlukan dalam bahasa yang boleh difahami oleh semua orang.
Jika anda mempunyai sebarang soalan, pengetahuan saya merangkumi semua perkara yang berkaitan dengan sistem pengendalian Windows serta Android untuk telefon mudah alih. Dan komitmen saya adalah kepada anda, saya sentiasa bersedia untuk meluangkan masa beberapa minit dan membantu anda menyelesaikan sebarang soalan yang mungkin anda ada dalam dunia internet ini.