- Mu คือโมเดลภาษาขนาดเล็กใหม่ของ Microsoft ที่ปรับให้เหมาะสมเพื่อรันในเครื่องบนอุปกรณ์ Windows 11 ที่มี NPU
- การบูรณาการเริ่มต้นจะทำในตัวแทนการกำหนดค่า Windows 11 โดยอนุญาตให้ปรับเปลี่ยนโดยใช้ภาษาธรรมชาติ
- Mu โดดเด่นในเรื่องประสิทธิภาพและความเร็ว โดยสามารถเข้าถึงโทเค็นมากกว่า 100 โทเค็นต่อวินาทีได้ด้วยพารามิเตอร์ 330 ล้านรายการ
- ประกอบไปด้วยนวัตกรรมต่างๆ เช่น Dual LayerNorm, RoPE และ GQA และได้รับการฝึกอบรมโดยใช้กระบวนการขั้นสูงและข้อมูลการศึกษาที่มีคุณภาพสูง
การมาถึงของ Muโมเดลภาษาขนาดเล็กล่าสุดที่นำเสนอโดย ไมโครซอฟท์ถือเป็นก้าวสำคัญในกระแสปัจจุบันของการนำปัญญาประดิษฐ์มาใช้กับอุปกรณ์ของผู้ใช้โดยตรง ด้วยความตั้งใจที่จะ ลดการพึ่งพาคลาวด์ และใช้ประโยชน์จากศักยภาพของ หน่วยประมวลผลประสาท (NPU), Mu ถูกรวมเข้าเป็น Copilot+ พีซี วิ่ง หน้าต่าง 11โดยมุ่งเน้นในเบื้องต้นไปที่ แอพตั้งค่า เพื่ออำนวยความสะดวกในการเข้าถึงและปรับเปลี่ยนพารามิเตอร์ของระบบโดยใช้ภาษาธรรมชาติอย่างเรียบง่าย
ความก้าวหน้าครั้งนี้หมายถึง แทนที่จะส่งแบบสอบถามไปยังเซิร์ฟเวอร์ภายนอก การประมวลผลและการตอบสนองจะถูกสร้างขึ้นบนอุปกรณ์นั้นเองเพื่อให้มีความเป็นส่วนตัว ความคล่องตัว และประสิทธิภาพที่มากขึ้น ในขณะนี้ การเปิดตัวนี้มุ่งเป้าไปที่ผู้เข้าร่วมโปรแกรม Windows Insider ที่ใช้คอมพิวเตอร์ Copilot+แม้ว่าคาดหวังว่าเทคโนโลยีนี้จะขยายไปยังผู้ใช้และฟังก์ชันอื่นๆ เพิ่มเติมในการอัปเดตในอนาคต
Mu คืออะไรจริงๆ และอะไรทำให้มันโดดเด่น?
Mu เป็น แบบจำลองภาษาขนาดเล็ก (SLM, โดยเครื่องหมายภาษาอังกฤษ) ฝึกอบรมด้วยพารามิเตอร์ 330 ล้านรายการขนาดที่กะทัดรัดไม่ได้หมายความว่าจะต้องแลกมาด้วยประสิทธิภาพการทำงาน เนื่องจากตามที่ Microsoft ระบุว่ามีขนาดที่ใกล้เคียงกับรุ่นที่มีขนาดใหญ่กว่ามาก เช่น ฟิป-3.5-มินิความสมดุลดังกล่าวเกิดขึ้นได้เนื่องมาจากกระบวนการฝึกฝนอันเข้มงวดซึ่งรวมถึงเทคนิคต่างๆ เช่น Dual LayerNorm, การฝังแบบหมุนตามตำแหน่ง (RoPE) y ความสนใจแบบสอบถามแบบจัดกลุ่ม (GQA) ที่ให้ประสิทธิภาพและความแม่นยำโดยเฉพาะในอุปกรณ์ที่มีทรัพยากรจำกัด
แบบจำลองนี้ใช้ประโยชน์จาก สถาปัตยกรรมตัวเข้ารหัส-ตัวถอดรหัส ของประเภทหม้อแปลงที่สามารถประมวลผลอินพุตของผู้ใช้และแปลงเป็นการกระทำภายในระบบ ด้วยโครงสร้างนี้ Mu แยกการประมวลผลอินพุตและเอาต์พุต, อะไร ลดความล่าช้าและการใช้หน่วยความจำจุดสำคัญเพื่อให้แน่ใจว่าผู้ใช้จะได้รับประสบการณ์ที่ราบรื่นและไม่มีการรอคอย
ในการทดสอบอย่างเป็นทางการและข้อมูล Mu ได้พิสูจน์แล้วว่าสามารถทำได้ ตอบสนองมากกว่า 100 โทเค็นต่อวินาที และให้การตอบสนองภายในเวลาไม่ถึง 500 มิลลิวินาทีตัวเลขเหล่านี้ช่วยให้สามารถโต้ตอบกันได้แทบจะทันที แม้กระทั่งเมื่อต้องแก้ไขการตั้งค่าหรือตีความแบบสอบถามที่ยาวและหลากหลายในภาษาที่ใช้ในชีวิตประจำวัน หากคุณต้องการเจาะลึกลงไปว่าโมเดลเหล่านี้ทำงานอย่างไร คุณสามารถดูได้ที่ การเปรียบเทียบระหว่างโมเดลภาษาบนพีซี.
การบูรณาการเข้ากับตัวแทนการกำหนดค่าและฟังก์ชันการใช้งานจริง
การลงจอดครั้งแรกของมูมีศูนย์กลางอยู่ที่ ตัวแทนการกำหนดค่า Windows 11ซึ่งเป็นฟีเจอร์ที่ให้ผู้ใช้งาน ปรับพารามิเตอร์ระบบได้อย่างง่ายดายเพียงพิมพ์หรือพูดสิ่งที่ต้องการ. เช่น เพียงแค่ถาม ฉันจะเปิดใช้งานโหมดมืดได้อย่างไร o “ผมอยากเพิ่มความสว่างสดใส” เพื่อให้ Mu สามารถแปลคำสั่งดังกล่าวเป็นการดำเนินการทางเทคนิคที่สอดคล้องกันภายในระบบได้
Microsoft ได้เน้นย้ำว่า AI จะปรับตัวให้เข้ากับ บริบทและคำถามที่แตกต่างกันนับหมื่นในความเป็นจริง มีการใช้มากกว่า 100,000 รายการ ตัวอย่างการฝึกอบรม 3,6 ล้านรายการ เพื่อครอบคลุมทุกอย่างตั้งแต่คำขอทั่วไป เช่น การเปลี่ยนภาษาหรือการจัดการเครือข่าย Wi-Fi ไปจนถึงงานที่ซับซ้อนมากขึ้น สำหรับคำถามที่สั้นเกินไปหรือคลุมเครือ ระบบจะใช้ ฟังก์ชั่นการค้นหาแบบดั้งเดิมแต่เมื่อคำแนะนำชัดเจนและละเอียด Mu ก็จะดำเนินการโดยอัตโนมัติหรือแนะนำผู้ใช้ทีละขั้นตอน
เทคโนโลยีและการเพิ่มประสิทธิภาพให้เหมาะกับฮาร์ดแวร์รุ่นใหม่
La การเพิ่มประสิทธิภาพ Mu ถือเป็นจุดหนึ่งที่ได้รับการพิจารณาอย่างรอบคอบที่สุดระหว่างการพัฒนา Microsoft ได้ทำงานร่วมกับพันธมิตรซิลิคอน เช่น AMD, Intel และ Qualcomm เพื่อปรับให้เข้ากับคุณลักษณะเฉพาะของ NPU ใหม่ที่มีอยู่ใน Copilot+ PCการทำงานร่วมกันนี้ทำให้สามารถแนะนำ เทคนิคการวัดปริมาณหลังการฝึกอบรมซึ่งจะแปลงน้ำหนักและการเปิดใช้งานโมเดลให้เป็นจำนวนเต็มขนาด 8 และ 16 บิต ซึ่งจะช่วยลดการใช้หน่วยความจำและหลีกเลี่ยงความจำเป็นในการฝึกโมเดลใหม่ทั้งหมด
กระบวนการฝึกอบรมของ Mu ดำเนินการในสภาพแวดล้อมที่มีประสิทธิภาพสูงโดยใช้ จีพียู NVIDIA A100 ภายใน การเรียนรู้ของเครื่อง Azureชุดข้อมูลประกอบด้วย โทเค็นการศึกษาจำนวนหลายร้อยพันล้าน และเทคนิคต่างๆ เช่น การกลั่นจากแบบจำลอง Phi และการปรับตัวช่วงต่ำ (LoRA) เพื่อถ่ายโอนความรู้และปรับแต่งโมเดลให้เหมาะกับงานเฉพาะ ผลลัพธ์สุดท้ายคือโมเดลขนาดเล็กที่คล่องตัวซึ่งเหมาะสมกับทรัพยากรและข้อจำกัดของฮาร์ดแวร์ที่สวมใส่ได้ในปัจจุบันโดยเฉพาะ คุณยังสามารถสำรวจวิธีการ เปลี่ยนพีซีของคุณให้กลายเป็นศูนย์กลาง AI ในพื้นที่ เพื่อขยายความสามารถของระบบของคุณ
ความท้าทายในปัจจุบัน ความพร้อม และแนวโน้มในอนาคต
ความท้าทายที่ใหญ่ที่สุดประการหนึ่งที่ Mu ต้องเผชิญคือ การตีความคำถามที่คลุมเครือหรือสั้นมากซึ่งเป็นปัญหาทั่วไปในระบบที่ใช้ภาษาธรรมชาติ ในการทำเช่นนี้ Microsoft ได้นำตรรกะไฮบริดมาใช้ในขณะที่แบบสอบถามสั้นๆ กระตุ้นผลการค้นหาแบบเดิม คำแนะนำที่มีรายละเอียดมากขึ้นจะกระตุ้นการแทรกแซงของ AI ไม่ว่าจะเพื่อแนะนำผู้ใช้หรือดำเนินการอัตโนมัติ
สำหรับตอนนี้, Mu มีให้บริการเฉพาะภาษาอังกฤษและบนอุปกรณ์ Copilot+ ผ่านช่อง Insiderแม้ว่าคาดว่าจะมีการขยายไปยังภาษาและอุปกรณ์อื่นๆ เพิ่มเติมในอีกไม่กี่เดือนข้างหน้านี้ รวมถึงอุปกรณ์ที่มีโปรเซสเซอร์ AMD และ Intel ความเป็นส่วนตัวและความปลอดภัย นอกจากนี้ยังมีบทบาทพื้นฐานอีกด้วย เนื่องจากลักษณะของการประมวลผลในท้องถิ่น
การใช้งาน Mu เป็นเพียงจุดเริ่มต้นของกลยุทธ์ที่กว้างขึ้นของ Microsoft เพื่อรวมเข้าไว้ด้วยกัน AI ท้องถิ่นและโมเดลภาษาที่มีประสิทธิภาพ ในแอปพลิเคชันและด้านต่างๆ มากยิ่งขึ้นของระบบปฏิบัติการ ปรับปรุงประสบการณ์และการเข้าถึงโดยไม่กระทบต่อประสิทธิภาพการทำงานหรือความเป็นส่วนตัว
ฉันเป็นผู้ชื่นชอบเทคโนโลยีที่เปลี่ยนความสนใจ "เกินบรรยาย" ของเขาให้กลายเป็นอาชีพ ฉันใช้เวลามากกว่า 10 ปีในชีวิตไปกับเทคโนโลยีล้ำสมัยและปรับแต่งโปรแกรมทุกประเภทด้วยความอยากรู้อยากเห็น ตอนนี้ฉันมีความเชี่ยวชาญในด้านเทคโนโลยีคอมพิวเตอร์และวิดีโอเกม เนื่องจากเป็นเวลากว่า 5 ปีแล้วที่ฉันเขียนให้กับเว็บไซต์ต่างๆ เกี่ยวกับเทคโนโลยีและวิดีโอเกม โดยสร้างบทความที่พยายามให้ข้อมูลที่คุณต้องการในภาษาที่ทุกคนเข้าใจได้
หากคุณมีคำถามใดๆ ความรู้ของฉันมีตั้งแต่ทุกอย่างที่เกี่ยวข้องกับระบบปฏิบัติการ Windows รวมถึง Android สำหรับโทรศัพท์มือถือ และความมุ่งมั่นของฉันคือคุณ ฉันยินดีสละเวลาสักครู่เสมอและช่วยคุณแก้ไขคำถามใดๆ ที่คุณอาจมีในโลกอินเทอร์เน็ตนี้