- Mu adalah model bahasa kecil baru Microsoft, yang dioptimalkan untuk berjalan secara lokal pada perangkat Windows 11 dengan NPU.
- Integrasi awalnya dilakukan di agen Konfigurasi Windows 11, yang memungkinkan penyesuaian menggunakan bahasa alami.
- Mu menonjol karena efisiensinya dan kecepatannya, mencapai lebih dari 100 token per detik berkat 330 juta parameternya.
- Ini mencakup inovasi seperti Dual LayerNorm, RoPE, dan GQA, dan telah dilatih menggunakan proses canggih dan data pendidikan berkualitas tinggi.
Kedatangan Mu, model bahasa kecil terbaru yang disajikan oleh Microsoft, menandai langkah signifikan dalam tren saat ini untuk menempatkan kecerdasan buatan langsung pada perangkat pengguna. Dengan tujuan mengurangi ketergantungan cloud dan memanfaatkan potensi Unit Pemrosesan Saraf (NPU), Mu terintegrasi ke dalam Kopilot+ PC berlari Windows 11, awalnya berfokus pada aplikasi pengaturan untuk memfasilitasi akses dan modifikasi parameter sistem menggunakan bahasa alami yang sederhana.
Kemajuan ini berarti bahwa, alih-alih mengirim pertanyaan ke server eksternal, pemrosesan dan respons dihasilkan di perangkat itu sendiri, memastikan privasi, kelincahan, dan efisiensi yang lebih baik. Untuk saat ini, Peluncuran ini ditujukan pada peserta Program Windows Insider dengan komputer Copilot+., meskipun harapannya adalah bahwa teknologi ini akan diperluas ke lebih banyak pengguna dan fungsi dalam pembaruan mendatang.
Apa sebenarnya Mu dan apa yang membuatnya menonjol?
Mu adalah model bahasa kecil (SLM, karena tandanya dalam bahasa Inggris), dilatih dengan 330 juta parameterUkurannya yang ringkas tidak berarti mengorbankan kinerja, karena menurut Microsoft ia mencapai angka yang sangat mendekati model yang jauh lebih besar seperti Phip-3.5-miniKeseimbangan ini tercapai berkat proses pelatihan ketat yang mencakup teknik-teknik seperti Norma Lapisan Ganda, Penanaman Posisi Putar (RoPE) y Perhatian Kueri Terkelompok (GQA) yang memberikan efisiensi dan ketepatan, terutama pada perangkat dengan sumber daya terbatas.
Model ini memanfaatkan arsitektur encoder-decoder dari jenis transformator, yang mampu memproses masukan pengguna dan mengubahnya menjadi tindakan dalam sistem. Berkat struktur ini, Mu memisahkan pemrosesan input dan output, apa mengurangi latensi dan konsumsi memori, poin-poin utama untuk memastikan pengalaman pengguna yang lancar dan tanpa menunggu.
Dalam tes dan data resmi, Mu telah terbukti mampu menanggapi lebih dari 100 token per detik dan memberikan respons dalam waktu kurang dari 500 milidetikAngka-angka ini memungkinkan interaksi yang hampir instan, bahkan saat harus mengubah pengaturan atau menafsirkan pertanyaan yang panjang dan beragam dalam bahasa sehari-hari. Jika Anda ingin mempelajari lebih lanjut tentang cara kerja model ini, Anda dapat melihat Perbandingan antara model bahasa di PC.
Integrasi ke Agen Konfigurasi dan fungsi praktis
Pendaratan awal Mu berpusat di Agen Konfigurasi Windows 11, sebuah fitur yang memungkinkan pengguna Sesuaikan parameter sistem hanya dengan mengetik atau mengucapkan apa yang mereka butuhkanMisalnya saja tanyakan saja "Bagaimana cara mengaktifkan mode gelap?" o "Saya ingin meningkatkan kecerahan" sehingga Mu dapat menerjemahkan instruksi tersebut ke dalam tindakan teknis yang sesuai dalam sistem.
Microsoft telah menekankan bahwa AI beradaptasi dengan puluhan ribu konteks dan pertanyaan yang berbedaFaktanya, lebih dari 100.000 telah digunakan. 3,6 juta sampel pelatihan untuk mencakup segala hal mulai dari permintaan yang paling umum – seperti mengubah bahasa atau mengelola jaringan Wi-Fi – hingga tugas yang lebih rumit. Untuk pertanyaan yang terlalu pendek atau ambigu, sistem menggunakan fungsi pencarian tradisional, tetapi ketika instruksinya jelas dan terperinci, Mu bertindak otomatis atau memandu pengguna langkah demi langkah.
Teknologi dan pengoptimalan disesuaikan dengan perangkat keras generasi baru
La Optimasi Mu telah menjadi salah satu poin yang paling dipertimbangkan dengan cermat selama pengembangannya. Microsoft telah bekerja sama dengan mitra silikon seperti AMD, Intel dan Qualcomm untuk menyesuaikannya dengan kekhususan NPU baru yang ada di PC Copilot+Kerja sama ini memungkinkan untuk memperkenalkan teknik kuantifikasi pasca pelatihan, yang mengubah bobot dan aktivasi model menjadi bilangan bulat 8 dan 16 bit, sehingga mengurangi konsumsi memori dan menghindari kebutuhan untuk melatih ulang seluruh model.
Proses pelatihan Mu dilakukan di lingkungan berkinerja tinggi, menggunakan GPU NVIDIA A100 dalam Pembelajaran Mesin AzureSet data termasuk ratusan miliar token pendidikan dan teknik seperti distilasi dari model Phi dan Adaptasi Jangkauan Rendah (LoRA) untuk mentransfer pengetahuan dan menyempurnakan model untuk tugas-tugas tertentu. Hasil akhirnya adalah model kecil dan gesit yang secara unik disesuaikan dengan sumber daya dan keterbatasan perangkat keras yang dapat dikenakan modern. Anda juga dapat menjelajahi bagaimana ubah PC Anda menjadi hub AI lokal untuk memperluas kemampuan sistem Anda.
Tantangan saat ini, ketersediaan dan prospek masa depan
Salah satu tantangan terbesar yang dihadapi Mu adalah interpretasi pertanyaan yang ambigu atau sangat singkat, masalah umum dalam sistem berbasis bahasa alami. Untuk melakukan ini, Microsoft telah menerapkan logika hybridSementara pertanyaan singkat memicu hasil pencarian tradisional, instruksi yang lebih rinci memicu intervensi AI, baik untuk memandu pengguna atau melakukan tindakan otomatis.
Untuk sekarang, Mu hanya tersedia dalam bahasa Inggris dan pada perangkat Copilot+ melalui saluran Insider., meskipun diharapkan akan diperluas ke lebih banyak bahasa dan perangkat lain dalam beberapa bulan mendatang, termasuk yang menggunakan prosesor AMD dan Intel. privasi dan keamanan Mereka juga memainkan peranan penting, mengingat sifat lokal dari pengolahannya.
Penerapan Mu hanyalah awal dari strategi yang lebih luas oleh Microsoft untuk menggabungkan AI lokal dan model bahasa yang efisien di lebih banyak aplikasi dan aspek sistem operasi, meningkatkan pengalaman dan aksesibilitas tanpa mengorbankan kinerja atau privasi.
Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.
Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.