- Mu ແມ່ນຕົວແບບພາສາຂະຫນາດນ້ອຍໃຫມ່ຂອງ Microsoft, ທີ່ເຫມາະສົມເພື່ອດໍາເນີນການໃນທ້ອງຖິ່ນກ່ຽວກັບ Windows 11 ອຸປະກອນທີ່ມີ NPUs.
- ການເຊື່ອມໂຍງເບື້ອງຕົ້ນຂອງມັນແມ່ນເຮັດຢູ່ໃນ Windows 11 Configuration agent, ອະນຸຍາດໃຫ້ມີການປັບຕົວໂດຍໃຊ້ພາສາທໍາມະຊາດ.
- Mu ຢືນອອກສໍາລັບປະສິດທິພາບແລະຄວາມໄວຂອງຕົນ, ບັນລຸຫຼາຍກ່ວາ 100 tokens ຕໍ່ວິນາທີຂໍຂອບໃຈກັບ 330 ລ້ານຕົວກໍານົດການຂອງຕົນ.
- ມັນປະກອບມີການປະດິດສ້າງເຊັ່ນ Dual LayerNorm, RoPE, ແລະ GQA, ແລະໄດ້ຮັບການຝຶກອົບຮົມໂດຍໃຊ້ຂະບວນການຂັ້ນສູງແລະຂໍ້ມູນການສຶກສາທີ່ມີຄຸນນະພາບສູງ.

ການມາເຖິງຂອງ Mu, ຮູບແບບພາສາຂະຫນາດນ້ອຍຫລ້າສຸດທີ່ນໍາສະເຫນີໂດຍ Microsoft, ເປັນບາດກ້າວທີ່ສໍາຄັນໃນທ່າອ່ຽງໃນປະຈຸບັນຂອງການວາງປັນຍາປະດິດໂດຍກົງໃນອຸປະກອນຂອງຜູ້ໃຊ້. ດ້ວຍຄວາມຕັ້ງໃຈ ຫຼຸດຜ່ອນການເອື່ອຍອີງຟັງ ແລະ harness ທ່າແຮງຂອງ ໜ່ວຍປະມວນຜົນປະສາດ (NPU), Mu ແມ່ນປະສົມປະສານເຂົ້າໄປໃນ Copilot+ PCs ແລ່ນ Windows 11, ໃນເບື້ອງຕົ້ນໄດ້ສຸມໃສ່ການ ແອັບການຕັ້ງຄ່າ ເພື່ອອໍານວຍຄວາມສະດວກໃນການເຂົ້າເຖິງແລະດັດແປງຕົວກໍານົດການຂອງລະບົບໂດຍໃຊ້ພາສາທໍາມະຊາດທີ່ງ່າຍດາຍ.
ຄວາມກ້າວຫນ້ານີ້ຫມາຍຄວາມວ່າ, ແທນທີ່ຈະສົ່ງຄໍາຖາມໄປຫາເຄື່ອງແມ່ຂ່າຍພາຍນອກ, ການປະມວນຜົນແລະການຕອບສະຫນອງແມ່ນຖືກສ້າງຂຶ້ນໃນອຸປະກອນຕົວມັນເອງ, ຮັບປະກັນຄວາມເປັນສ່ວນຕົວຫຼາຍກວ່າເກົ່າ, ວ່ອງໄວແລະປະສິດທິພາບ. ສໍາລັບໃນປັດຈຸບັນ, ໄດ້ ການເປີດຕົວແມ່ນແນໃສ່ຜູ້ເຂົ້າຮ່ວມໂຄງການ Windows Insider ທີ່ມີຄອມພິວເຕີ Copilot+., ເຖິງແມ່ນວ່າຄວາມຄາດຫວັງແມ່ນວ່າເທກໂນໂລຍີນີ້ຈະຖືກຂະຫຍາຍໄປສູ່ຜູ້ໃຊ້ແລະຫນ້າທີ່ເພີ່ມເຕີມໃນການປັບປຸງໃນອະນາຄົດ.
Mu ແມ່ນຫຍັງແທ້ໆແລະສິ່ງທີ່ເຮັດໃຫ້ມັນໂດດເດັ່ນ?

Mu ເປັນ ຮູບແບບພາສາຂະຫນາດນ້ອຍ (SLM, ສໍາລັບຕົວຫຍໍ້ຂອງມັນຢູ່ໃນພາສາອັງກິດ), ການຝຶກອົບຮົມທີ່ມີ 330 ລ້ານຕົວກໍານົດການຂະຫນາດກະທັດຮັດຂອງມັນບໍ່ໄດ້ຫມາຍເຖິງການເສຍສະລະໃນການປະຕິບັດ, ອີງຕາມການ Microsoft ມັນບັນລຸຕົວເລກທີ່ໃກ້ຄຽງກັບຮູບແບບຂະຫນາດໃຫຍ່ຫຼາຍເຊັ່ນ: Phi-3.5-miniການດຸ່ນດ່ຽງນີ້ໄດ້ຖືກບັນລຸໄດ້ຍ້ອນຂະບວນການຝຶກອົບຮົມຢ່າງເຂັ້ມງວດທີ່ປະກອບມີເຕັກນິກເຊັ່ນ: Dual LayerNorm, ການຝັງຕົວແບບ Rotary (RoPE) y ຄວາມສົນໃຈແບບສອບຖາມເປັນກຸ່ມ (GQA) ທີ່ສະຫນອງປະສິດທິພາບແລະຄວາມຊັດເຈນ, ໂດຍສະເພາະໃນອຸປະກອນທີ່ມີຊັບພະຍາກອນຈໍາກັດ.
ຮູບແບບໃຊ້ປະໂຫຍດຈາກ a ສະຖາປັດຕະຍະກໍາ encoder-decoder ຂອງປະເພດການຫັນປ່ຽນ, ມີຄວາມສາມາດປຸງແຕ່ງການປ້ອນຂໍ້ມູນຂອງຜູ້ໃຊ້ແລະການຫັນເປັນການປະຕິບັດໃນລະບົບ. ຂໍຂອບໃຈກັບໂຄງສ້າງນີ້, Mu ແຍກການປະມວນຜົນການປ້ອນຂໍ້ມູນ ແລະຜົນຜະລິດ, ແມ່ນຫຍັງ ຫຼຸດຜ່ອນເວລາ latency ແລະການບໍລິໂພກຄວາມຊົງຈໍາ, ຈຸດສໍາຄັນເພື່ອຮັບປະກັນປະສົບການຜູ້ໃຊ້ທີ່ລຽບງ່າຍ, ບໍ່ຕ້ອງລໍຖ້າ.
ໃນການທົດສອບຢ່າງເປັນທາງການແລະຂໍ້ມູນ, Mu ໄດ້ພິສູດຄວາມສາມາດ ຕອບສະຫນອງຫຼາຍກ່ວາ 100 tokens ຕໍ່ວິນາທີ ແລະສະຫນອງການຕອບສະຫນອງໃນຫນ້ອຍກວ່າ 500 millisecondsຕົວເລກເຫຼົ່ານີ້ອະນຸຍາດໃຫ້ມີການໂຕ້ຕອບເກືອບທັນທີ, ເຖິງແມ່ນວ່າໃນເວລາທີ່ມັນມາກັບການດັດແກ້ການຕັ້ງຄ່າຫຼືການຕີຄວາມຄໍາຖາມທີ່ຍາວແລະແຕກຕ່າງກັນໃນພາສາປະຈໍາວັນ. ຖ້າທ່ານຕ້ອງການຂຸດຄົ້ນໃຫ້ເລິກເຊິ່ງກວ່າວິທີການເຮັດວຽກແບບຈໍາລອງເຫຼົ່ານີ້, ທ່ານສາມາດກວດສອບໄດ້ ການປຽບທຽບລະຫວ່າງຕົວແບບພາສາໃນ PC.
ການລວມເຂົ້າກັບຕົວກໍານົດການກໍາຫນົດຄ່າແລະຫນ້າທີ່ປະຕິບັດ
ການລົງຈອດໃນເບື້ອງຕົ້ນຂອງ Mu ແມ່ນຈຸດໃຈກາງຂອງ Windows 11 Configuration Agent, ຄຸນນະສົມບັດທີ່ອະນຸຍາດໃຫ້ຜູ້ໃຊ້ ປັບຕົວກໍານົດການຂອງລະບົບໂດຍການພິມຫຼືເວົ້າສິ່ງທີ່ເຂົາເຈົ້າຕ້ອງການ. ຕົວຢ່າງ, ພຽງແຕ່ຖາມ "ຂ້ອຍຈະເປີດໃຊ້ໂໝດມືດໄດ້ແນວໃດ?" o "ຂ້ອຍຕ້ອງການເພີ່ມຄວາມສະຫວ່າງ" ເພື່ອໃຫ້ Mu ສາມາດແປຄໍາແນະນໍານັ້ນເຂົ້າໄປໃນການປະຕິບັດດ້ານວິຊາການທີ່ສອດຄ້ອງກັນພາຍໃນລະບົບ.
Microsoft ໄດ້ເນັ້ນຫນັກວ່າ AI ປັບຕົວເຂົ້າກັບ ຫລາຍສິບພັນຄົນຂອງສະພາບການແລະການສອບຖາມທີ່ແຕກຕ່າງກັນໃນຄວາມເປັນຈິງ, ຫຼາຍກວ່າ 100,000 ໄດ້ຖືກນໍາໃຊ້. 3,6 ລ້ານຕົວຢ່າງການຝຶກອົບຮົມ ເພື່ອຄອບຄຸມທຸກສິ່ງທຸກຢ່າງຈາກການຮ້ອງຂໍທົ່ວໄປທີ່ສຸດ - ເຊັ່ນ: ການປ່ຽນພາສາຫຼືການຄຸ້ມຄອງເຄືອຂ່າຍ Wi-Fi - ໄປຫາວຽກງານທີ່ສັບສົນຫຼາຍ. ສໍາລັບຄໍາຖາມທີ່ສັ້ນເກີນໄປຫຼືບໍ່ຊັດເຈນ, ລະບົບຈະໃຊ້ ຫນ້າທີ່ຄົ້ນຫາແບບດັ້ງເດີມ, ແຕ່ເມື່ອຄໍາແນະນໍາແມ່ນຈະແຈ້ງແລະລາຍລະອຽດ, Mu ປະຕິບັດອັດຕະໂນມັດຫຼືນໍາພາຜູ້ໃຊ້ເທື່ອລະກ້າວ.
ເທັກໂນໂລຍີ ແລະການເພີ່ມປະສິດທິພາບທີ່ປັບຕົວເຂົ້າກັບຮາດແວລຸ້ນໃໝ່

La ການເພີ່ມປະສິດທິພາບຂອງ Mu ແມ່ນຫນຶ່ງໃນບັນດາຈຸດທີ່ພິຈາລະນາຢ່າງລະມັດລະວັງທີ່ສຸດໃນລະຫວ່າງການພັດທະນາຂອງມັນ. Microsoft ໄດ້ເຮັດວຽກໃນການຮ່ວມມືກັບຄູ່ຮ່ວມງານຂອງຊິລິໂຄນເຊັ່ນ: AMD, Intel ແລະ Qualcomm ເພື່ອປັບມັນໃຫ້ເຂົ້າກັບສະເພາະຂອງ NPUs ໃໝ່ທີ່ມີຢູ່ໃນ Copilot+ PCsວຽກງານຮ່ວມນີ້ໄດ້ເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະແນະນໍາ ເຕັກນິກການວັດແທກປະລິມານຫຼັງການຝຶກອົບຮົມ, ເຊິ່ງປ່ຽນນ້ໍາຫນັກຕົວແບບແລະການເປີດໃຊ້ງານເປັນຈໍານວນ 8- ແລະ 16-bit, ດັ່ງນັ້ນການຫຼຸດຜ່ອນການບໍລິໂພກຫນ່ວຍຄວາມຈໍາແລະຫຼີກເວັ້ນຄວາມຕ້ອງການທີ່ຈະ retrain ຮູບແບບທັງຫມົດ.
ຂະບວນການຝຶກອົບຮົມ Mu ໄດ້ປະຕິບັດໃນສະພາບແວດລ້ອມທີ່ມີປະສິດທິພາບສູງ, ການນໍາໃຊ້ NVIDIA A100 GPUs ພາຍໃນ ການຮຽນຮູ້ເຄື່ອງ Azureຊຸດຂໍ້ມູນລວມ ຫຼາຍຮ້ອຍຕື້ຂອງ token ການສຶກສາ ແລະເຕັກນິກເຊັ່ນ: ການກັ່ນຈາກຮູບແບບ Phi ແລະການປັບຕົວແບບລະດັບຕໍ່າ (LoRA) ເພື່ອຖ່າຍທອດຄວາມຮູ້ ແລະປັບຕົວແບບໃຫ້ເໝາະສົມກັບວຽກງານສະເພາະ. ຜົນໄດ້ຮັບທີ່ສຸດແມ່ນຮູບແບບຂະຫນາດນ້ອຍ, ວ່ອງໄວທີ່ເປັນເອກະລັກທີ່ເຫມາະສົມກັບຊັບພະຍາກອນແລະຂໍ້ຈໍາກັດຂອງຮາດແວ wearable ທີ່ທັນສະໄຫມ. ນອກນັ້ນທ່ານຍັງສາມາດຄົ້ນຫາວິທີການ ປ່ຽນ PC ຂອງທ່ານໃຫ້ເປັນສູນ AI ທ້ອງຖິ່ນ ເພື່ອຂະຫຍາຍຄວາມສາມາດຂອງລະບົບຂອງທ່ານ.
ສິ່ງທ້າທາຍໃນປະຈຸບັນ, ຄວາມພ້ອມແລະຄວາມສົດໃສດ້ານໃນອະນາຄົດ
ຫນຶ່ງໃນສິ່ງທ້າທາຍທີ່ໃຫຍ່ທີ່ສຸດທີ່ Mu ກໍາລັງປະເຊີນແມ່ນ ການຕີຄວາມໝາຍຂອງການສອບຖາມທີ່ບໍ່ຊັດເຈນ ຫຼືສັ້ນໆຫຼາຍ, ເປັນບັນຫາທົ່ວໄປໃນລະບົບພາສາທໍາມະຊາດ. ເພື່ອເຮັດສິ່ງນີ້, Microsoft ໄດ້ປະຕິບັດເຫດຜົນປະສົມໃນຂະນະທີ່ການສອບຖາມສັ້ນເຮັດໃຫ້ຜົນການຄົ້ນຫາແບບດັ້ງເດີມ, ຄໍາແນະນໍາລາຍລະອຽດເພີ່ມເຕີມກະຕຸ້ນໃຫ້ມີການແຊກແຊງ AI, ບໍ່ວ່າຈະເປັນການຊີ້ນໍາຜູ້ໃຊ້ຫຼືດໍາເນີນການອັດຕະໂນມັດ.
ສໍາລັບດຽວນີ້, Mu ສາມາດໃຊ້ໄດ້ເປັນພາສາອັງກິດ ແລະໃນອຸປະກອນ Copilot+ ຜ່ານຊ່ອງ Insider ເທົ່ານັ້ນ., ເຖິງແມ່ນວ່າມັນຄາດວ່າຈະຂະຫຍາຍໄປສູ່ພາສາແລະອຸປະກອນອື່ນໆຫຼາຍໃນເດືອນຂ້າງຫນ້າ, ລວມທັງໂປເຊດເຊີ AMD ແລະ Intel. ຄວາມເປັນສ່ວນຕົວແລະຄວາມປອດໄພ ເຂົາເຈົ້າຍັງມີບົດບາດພື້ນຖານ, ຍ້ອນລັກສະນະທ້ອງຖິ່ນຂອງການປຸງແຕ່ງ.
ການໃຊ້ Mu ແມ່ນພຽງແຕ່ການເລີ່ມຕົ້ນຂອງຍຸດທະສາດທີ່ກວ້າງຂວາງໂດຍ Microsoft ທີ່ຈະລວມເອົາ AI ທ້ອງຖິ່ນແລະຮູບແບບພາສາທີ່ມີປະສິດທິພາບ ໃນແອັບພລິເຄຊັນ ແລະລັກສະນະຕ່າງໆຂອງລະບົບປະຕິບັດການ, ປັບປຸງປະສົບການ ແລະການເຂົ້າເຖິງໂດຍບໍ່ຕ້ອງເສຍສະລະປະສິດທິພາບ ຫຼືຄວາມເປັນສ່ວນຕົວ.
ຂ້ອຍເປັນນັກເທັກໂນໂລຍີທີ່ກະຕືລືລົ້ນທີ່ໄດ້ຫັນຄວາມສົນໃຈ "geek" ຂອງລາວໄປສູ່ອາຊີບ. ຂ້າພະເຈົ້າໄດ້ໃຊ້ເວລາຫຼາຍກ່ວາ 10 ປີຂອງຊີວິດຂອງຂ້າພະເຈົ້າໂດຍການນໍາໃຊ້ເຕັກໂນໂລຊີທີ່ທັນສະໄຫມແລະ tinkering ກັບທຸກປະເພດຂອງໂຄງການອອກຈາກ curiosity ອັນບໍລິສຸດ. ຕອນນີ້ຂ້ອຍມີຄວາມຊ່ຽວຊານດ້ານເທັກໂນໂລຍີຄອມພິວເຕີ ແລະເກມວີດີໂອ. ນີ້ແມ່ນຍ້ອນວ່າຫຼາຍກວ່າ 5 ປີທີ່ຂ້ອຍໄດ້ຂຽນສໍາລັບເວັບໄຊທ໌ຕ່າງໆກ່ຽວກັບເຕັກໂນໂລຢີແລະວິດີໂອເກມ, ການສ້າງບົດຄວາມທີ່ຊອກຫາເພື່ອໃຫ້ທ່ານມີຂໍ້ມູນທີ່ທ່ານຕ້ອງການໃນພາສາທີ່ທຸກຄົນເຂົ້າໃຈໄດ້.
ຖ້າທ່ານມີຄໍາຖາມໃດໆ, ຄວາມຮູ້ຂອງຂ້ອຍແມ່ນມາຈາກທຸກສິ່ງທຸກຢ່າງທີ່ກ່ຽວຂ້ອງກັບລະບົບປະຕິບັດການ Windows ເຊັ່ນດຽວກັນກັບ Android ສໍາລັບໂທລະສັບມືຖື. ແລະຄໍາຫມັ້ນສັນຍາຂອງຂ້າພະເຈົ້າແມ່ນກັບທ່ານ, ຂ້າພະເຈົ້າສະເຫມີເຕັມໃຈທີ່ຈະໃຊ້ເວລາສອງສາມນາທີແລະຊ່ວຍທ່ານແກ້ໄຂຄໍາຖາມໃດໆທີ່ທ່ານອາດຈະມີຢູ່ໃນໂລກອິນເຕີເນັດນີ້.

