माइक्रोसफ्ट मु: विन्डोज ११ मा स्थानीय एआई ल्याउने नयाँ भाषा मोडेल

आगमनको Mu, द्वारा प्रस्तुत गरिएको पछिल्लो सानो भाषा मोडेल माइक्रोसफ्ट, प्रयोगकर्ताहरूको उपकरणहरूमा सिधै कृत्रिम बुद्धिमत्ता राख्ने वर्तमान प्रवृत्तिमा एक महत्त्वपूर्ण कदम हो। को उद्देश्यले क्लाउड निर्भरता कम गर्नुहोस् र सम्भावनाको सदुपयोग गर्नुहोस् स्नायु प्रशोधन एकाइहरू (NPU), Mu मा एकीकृत छ Copilot+ PCs चल्दै विन्डोज 11, सुरुमा ध्यान केन्द्रित गर्दै सेटिङ एप केवल प्राकृतिक भाषा प्रयोग गरेर प्रणाली प्यारामिटरहरूको पहुँच र परिमार्जनलाई सहज बनाउन।

यो अग्रिमको अर्थ बाह्य सर्भरहरूमा प्रश्नहरू पठाउनुको सट्टा, प्रशोधन र प्रतिक्रियाहरू उपकरणमा नै उत्पन्न हुन्छन्, अझ बढी गोपनीयता, चपलता र दक्षता सुनिश्चित गर्दै। अहिलेको लागि, यो रोलआउट कोपाइलट+ कम्प्युटर भएका विन्डोज इनसाइडर प्रोग्राम सहभागीहरूलाई लक्षित गरी गरिएको हो।, यद्यपि अपेक्षा यो छ कि यो प्रविधि भविष्यका अपडेटहरूमा धेरै प्रयोगकर्ताहरूमा विस्तार गरिनेछ र कार्य गर्नेछ।

सम्बन्धित लेख:

फाउन्ड्री लोकल र विन्डोज एआई फाउन्ड्री: माइक्रोसफ्टले नयाँ विकासकर्ता इकोसिस्टमको साथ स्थानीय एआईमा दांव लगाइरहेको छ।

वास्तवमा Mu के हो र यसलाई के ले अलग बनाउँछ?

Mu एक छ सानो भाषा मोडेल (SLM, अंग्रेजीमा यसको संक्षिप्त रूपको लागि), ३३ करोड प्यारामिटरहरूसँग प्रशिक्षितयसको कम्प्याक्ट साइजको अर्थ प्रदर्शनमा त्याग गर्नुपर्दैन, किनकि माइक्रोसफ्टका अनुसार यसले धेरै ठूला मोडेलहरू जस्तै धेरै नजिकको तथ्याङ्कहरू प्राप्त गर्दछ। फिप-३.५-मिनीयो सन्तुलन कठोर प्रशिक्षण प्रक्रियाको कारण प्राप्त भएको हो जसमा प्रविधिहरू समावेश छन् जस्तै दोहोरो तहको नर्म, रोटरी पोजिसनल इम्बेडिङ (RoPE) y समूहीकृत-प्रश्न ध्यान (GQA) जसले दक्षता र शुद्धता प्रदान गर्दछ, विशेष गरी सीमित स्रोतहरू भएका उपकरणहरूमा।

मोडेलले a को फाइदा लिन्छ एन्कोडर-डिकोडर वास्तुकला ट्रान्सफर्मर प्रकारको, प्रयोगकर्ता इनपुट प्रशोधन गर्न र प्रणाली भित्र कार्यहरूमा रूपान्तरण गर्न सक्षम। यस संरचनाको लागि धन्यवाद, Mu इनपुट र आउटपुट प्रशोधन अलग गर्दछ, के विलम्बता र मेमोरी खपत कम गर्छ, सहज, पर्खाइ-मुक्त प्रयोगकर्ता अनुभव सुनिश्चित गर्न मुख्य बुँदाहरू।

आधिकारिक परीक्षण र तथ्याङ्कमा, Mu ले सक्षम साबित गरेको छ प्रति सेकेन्ड १०० भन्दा बढी टोकनहरूमा प्रतिक्रिया दिनुहोस् र ५०० मिलिसेकेन्ड भन्दा कममा प्रतिक्रियाहरू प्रदान गर्नुहोस्यी संख्याहरूले लगभग तुरुन्तै अन्तर्क्रियाको लागि अनुमति दिन्छ, जब यो सेटिङहरू परिमार्जन गर्ने वा दैनिक भाषामा लामो र विविध प्रश्नहरूको व्याख्या गर्ने कुरा आउँछ। यदि तपाईं यी मोडेलहरूले कसरी काम गर्छन् भन्ने बारे गहिरो जान चाहनुहुन्छ भने, तपाईं जाँच गर्न सक्नुहुन्छ पीसीमा भाषा मोडेलहरू बीच तुलना.

कन्फिगरेसन एजेन्ट र व्यावहारिक कार्यहरूमा एकीकरण

मुको प्रारम्भिक अवतरण केन्द्रित छ विन्डोज ११ कन्फिगरेसन एजेन्ट, प्रयोगकर्ताहरूलाई अनुमति दिने सुविधा प्रणाली प्यारामिटरहरू केवल टाइप गरेर वा तिनीहरूलाई के चाहिन्छ भनेर समायोजन गर्नुहोस्। उदाहरणका लागि, सोध्नुहोस् "म कसरी डार्क मोड सक्रिय गर्ने?" o "म चमक बढाउन चाहन्छु" ताकि Mu ले त्यो निर्देशनलाई प्रणाली भित्र सम्बन्धित प्राविधिक कार्यमा अनुवाद गर्न सकोस्।

माइक्रोसफ्टले जोड दिएको छ कि एआईले अनुकूलन गर्छ हजारौं विभिन्न सन्दर्भ र प्रश्नहरूवास्तवमा, १,००,००० भन्दा बढी प्रयोग भइसकेको छ। ३६ लाख तालिम नमूनाहरू भाषा परिवर्तन गर्ने वा Wi-Fi नेटवर्कहरू व्यवस्थापन गर्ने जस्ता सामान्य अनुरोधहरूदेखि लिएर थप जटिल कार्यहरूसम्म सबै कुरा समेट्न। धेरै छोटो वा अस्पष्ट प्रश्नहरूको लागि, प्रणालीले परम्परागत खोज कार्यहरू, तर जब निर्देशन स्पष्ट र विस्तृत हुन्छ, Mu ले स्वचालित रूपमा कार्य गर्दछ वा प्रयोगकर्तालाई चरणबद्ध रूपमा मार्गदर्शन गर्दछ।

नयाँ पुस्ताको हार्डवेयरमा अनुकूलित प्रविधि र अनुकूलन

La Mu अप्टिमाइजेसन यसको विकासको क्रममा सबैभन्दा ध्यानपूर्वक विचार गरिएको बुँदाहरू मध्ये एक हो। माइक्रोसफ्टले सिलिकन साझेदारहरूसँग सहकार्यमा काम गरेको छ जस्तै एएमडी, इन्टेल र क्वालकम कोपाइलट+ पीसीहरूमा उपस्थित नयाँ एनपीयूहरूको विशिष्टताहरूमा यसलाई अनुकूलन गर्नयो संयुक्त कार्यले परिचय गराउन सम्भव बनाएको छ तालिमपछिको परिमाण निर्धारण प्रविधिहरू, जसले मोडेलको तौल र सक्रियतालाई ८- र १६-बिट पूर्णांकमा रूपान्तरण गर्छ, जसले गर्दा मेमोरी खपत कम हुन्छ र सम्पूर्ण मोडेललाई पुन: तालिम दिनुपर्ने आवश्यकताबाट बच्न सकिन्छ।

Mu को प्रशिक्षण प्रक्रिया उच्च-प्रदर्शन वातावरणमा सञ्चालन गरिएको थियो, प्रयोग गरेर NVIDIA A100 GPU हरू भित्र Azure मेशिन शिक्षाडेटा सेट समावेश गरिएको थियो सयौं अर्ब शैक्षिक टोकनहरू र प्रविधिहरू जस्तै फि मोडेलहरूबाट आसवन र कम-दायरा अनुकूलन (LoRA) ज्ञान स्थानान्तरण गर्न र मोडेललाई विशिष्ट कार्यहरूमा फाइन-ट्यून गर्न। अन्तिम परिणाम भनेको आधुनिक पोर्टेबल हार्डवेयरको स्रोतहरू र सीमितताहरूमा विशेष रूपमा अनुकूलित सानो, चुस्त मोडेल हो। तपाईं कसरी अन्वेषण गर्न सक्नुहुन्छ भनेर पनि अन्वेषण गर्न सक्नुहुन्छ। आफ्नो पीसीलाई स्थानीय एआई हबमा परिणत गर्नुहोस् तपाईंको प्रणालीको क्षमताहरू विस्तार गर्न।

सम्बन्धित लेख:

Phi-4 mini AI on Edge: तपाईंको ब्राउजरमा स्थानीय AI को भविष्य

वर्तमान चुनौतीहरू, उपलब्धता र भविष्यका सम्भावनाहरू

मुले सामना गरिरहेको सबैभन्दा ठूलो चुनौती भनेको अस्पष्ट वा धेरै छोटो प्रश्नहरूको व्याख्या, प्राकृतिक भाषा-आधारित प्रणालीहरूमा एक सामान्य समस्या। यो गर्न, माइक्रोसफ्टले हाइब्रिड तर्क लागू गरेको छछोटो प्रश्नहरूले परम्परागत खोज परिणामहरूलाई ट्रिगर गर्दा, थप विस्तृत निर्देशनहरूले प्रयोगकर्तालाई मार्गदर्शन गर्न वा स्वचालित कार्यहरू गर्न AI हस्तक्षेपलाई ट्रिगर गर्दछ।

अहिलेको लागी, Mu अङ्ग्रेजीमा र इनसाइडर च्यानल मार्फत Copilot+ उपकरणहरूमा मात्र उपलब्ध छ।, यद्यपि आगामी महिनाहरूमा यसलाई AMD र Intel प्रोसेसर भएकाहरू सहित धेरै भाषाहरू र अन्य उपकरणहरूमा विस्तार गरिने अपेक्षा गरिएको छ। गोपनीयता र सुरक्षा प्रशोधनको स्थानीय प्रकृतिलाई ध्यानमा राख्दै, तिनीहरूले पनि आधारभूत भूमिका खेल्छन्।

Mu को तैनाती माइक्रोसफ्ट द्वारा समावेश गर्ने बृहत् रणनीतिको सुरुवात मात्र हो स्थानीय एआई र कुशल भाषा मोडेलहरू अपरेटिङ सिस्टमका अझ धेरै अनुप्रयोगहरू र पक्षहरूमा, कार्यसम्पादन वा गोपनीयतालाई त्याग नगरी अनुभव र पहुँचयोग्यतामा सुधार गर्दै।

अल्बर्टो नावारो

म एक टेक्नोलोजी उत्साही हुँ जसले आफ्नो "गीक" रुचिहरूलाई पेशामा परिणत गरेको छ। मैले मेरो जीवनको 10 भन्दा बढी वर्ष अत्याधुनिक प्रविधिको प्रयोग गरेर र शुद्ध जिज्ञासाका सबै प्रकारका कार्यक्रमहरूसँग टिंकरिङ गर्दै बिताएको छु। अब मैले कम्प्युटर प्रविधि र भिडियो गेमहरूमा विशेषज्ञता हासिल गरेको छु। यो किनभने 5 वर्ष भन्दा बढी समय देखि मैले टेक्नोलोजी र भिडियो गेमहरूमा विभिन्न वेबसाइटहरूको लागि लेख्दै आएको छु, सबैले बुझ्न सक्ने भाषामा तपाईंलाई आवश्यक जानकारी दिन खोज्ने लेखहरू सिर्जना गर्दैछु।

यदि तपाइँसँग कुनै प्रश्नहरू छन् भने, मेरो ज्ञान विन्डोज अपरेटिङ सिस्टम र मोबाइल फोनहरूको लागि एन्ड्रोइडसँग सम्बन्धित सबै कुराबाट दायरा हो। र मेरो प्रतिबद्धता तपाईंप्रति छ, म सधैं केही मिनेटहरू खर्च गर्न र तपाईंलाई यस इन्टरनेट संसारमा हुन सक्ने कुनै पनि प्रश्नहरूको समाधान गर्न मद्दत गर्न तयार छु।