- Mu అనేది Microsoft యొక్క కొత్త చిన్న భాషా మోడల్, NPUలతో Windows 11 పరికరాల్లో స్థానికంగా అమలు చేయడానికి ఆప్టిమైజ్ చేయబడింది.
- దీని ప్రారంభ ఏకీకరణ Windows 11 కాన్ఫిగరేషన్ ఏజెంట్‌లో జరుగుతుంది, ఇది సహజ భాషను ఉపయోగించి సర్దుబాట్లను అనుమతిస్తుంది.
- Mu దాని సామర్థ్యం మరియు వేగం కోసం ప్రత్యేకంగా నిలుస్తుంది, దాని 100 మిలియన్ పారామితులకు ధన్యవాదాలు సెకనుకు 330 కంటే ఎక్కువ టోకెన్లను చేరుకుంటుంది.
- ఇందులో డ్యూయల్ లేయర్‌నార్మ్, RoPE మరియు GQA వంటి ఆవిష్కరణలు ఉన్నాయి మరియు అధునాతన ప్రక్రియలు మరియు అధిక-నాణ్యత విద్యా డేటాను ఉపయోగించి శిక్షణ పొందాయి.
రాక Mu, సమర్పించిన తాజా చిన్న భాషా నమూనా మైక్రోసాఫ్ట్, కృత్రిమ మేధస్సును నేరుగా వినియోగదారుల పరికరాల్లో ఉంచే ప్రస్తుత ధోరణిలో ఒక ముఖ్యమైన అడుగును సూచిస్తుంది. ఉద్దేశ్యంతో క్లౌడ్ ఆధారపడటాన్ని తగ్గించండి మరియు సామర్థ్యాన్ని ఉపయోగించుకోండి న్యూరల్ ప్రాసెసింగ్ యూనిట్లు (NPU), Mu లో విలీనం చేయబడింది కోపైలట్+ PCలు నడుస్తోంది విండోస్ 11, మొదట్లో దీనిపై దృష్టి సారించడం సెట్టింగ్‌ల యాప్ సహజ భాషను ఉపయోగించి సిస్టమ్ పారామితుల యాక్సెస్ మరియు మార్పును సులభతరం చేయడానికి.
ఈ పురోగతి అంటే, బాహ్య సర్వర్లకు ప్రశ్నలను పంపే బదులు, ప్రాసెసింగ్ మరియు ప్రతిస్పందనలు పరికరంలోనే ఉత్పత్తి అవుతాయి, ఎక్కువ గోప్యత, చురుకుదనం మరియు సామర్థ్యాన్ని నిర్ధారిస్తుంది. ప్రస్తుతానికి, ఈ విడుదల కోపైలట్+ కంప్యూటర్‌లతో విండోస్ ఇన్‌సైడర్ ప్రోగ్రామ్ పాల్గొనేవారిని లక్ష్యంగా చేసుకుంది., అయితే ఈ సాంకేతికత భవిష్యత్ నవీకరణలలో మరింత మంది వినియోగదారులకు మరియు ఫంక్షన్లకు విస్తరించబడుతుందని అంచనా.
ము అంటే నిజంగా ఏమిటి మరియు దానిని ప్రత్యేకంగా నిలబెట్టేది ఏమిటి?
Mu a చిన్న భాషా నమూనా (SLM, ఆంగ్లంలో దాని సంక్షిప్త రూపం కోసం), 330 మిలియన్ పారామితులతో శిక్షణ పొందారుదీని కాంపాక్ట్ సైజు పనితీరులో త్యాగం అని అర్థం కాదు, మైక్రోసాఫ్ట్ ప్రకారం ఇది చాలా పెద్ద మోడళ్లకు చాలా దగ్గరగా ఉన్న గణాంకాలను సాధిస్తుంది, ఉదాహరణకు ఫిప్-3.5-మినీవంటి పద్ధతులను కలిగి ఉన్న కఠినమైన శిక్షణా ప్రక్రియ ద్వారా ఈ సమతుల్యత సాధించబడింది డ్యూయల్ లేయర్ నార్మ్, రోటరీ పొజిషనల్ ఎంబెడ్డింగ్స్ (RoPE) y సమూహ-ప్రశ్న శ్రద్ధ (GQA) ముఖ్యంగా పరిమిత వనరులు ఉన్న పరికరాల్లో సామర్థ్యం మరియు ఖచ్చితత్వాన్ని అందిస్తాయి.
ఈ మోడల్ ఒక ప్రయోజనాన్ని పొందుతుంది ఎన్కోడర్-డీకోడర్ ఆర్కిటెక్చర్ ట్రాన్స్‌ఫార్మర్ రకం, వినియోగదారు ఇన్‌పుట్‌ను ప్రాసెస్ చేయగలదు మరియు దానిని సిస్టమ్‌లోని చర్యలుగా మార్చగలదు. ఈ నిర్మాణం కారణంగా, Mu ఇన్‌పుట్ మరియు అవుట్‌పుట్ ప్రాసెసింగ్‌ను వేరు చేస్తుంది, ఏమిటి జాప్యం మరియు మెమరీ వినియోగాన్ని తగ్గిస్తుంది, సున్నితమైన, వేచి ఉండాల్సిన అవసరం లేని వినియోగదారు అనుభవాన్ని నిర్ధారించడానికి కీలక అంశాలు.
అధికారిక పరీక్షలు మరియు డేటాలో, Mu సామర్థ్యం ఉన్నట్లు నిరూపించబడింది సెకనుకు 100 కంటే ఎక్కువ టోకెన్‌లకు ప్రతిస్పందించండి మరియు 500 మిల్లీసెకన్ల కంటే తక్కువ సమయంలో ప్రతిస్పందనలను అందించండిఈ సంఖ్యలు వాస్తవంగా తక్షణ పరస్పర చర్యలకు అనుమతిస్తాయి, సెట్టింగులను సవరించడం లేదా రోజువారీ భాషలో దీర్ఘమైన మరియు వైవిధ్యమైన ప్రశ్నలను వివరించడం వంటివి వచ్చినప్పుడు కూడా. ఈ నమూనాలు ఎలా పనిచేస్తాయో మీరు లోతుగా తెలుసుకోవాలనుకుంటే, మీరు తనిఖీ చేయవచ్చు PCలోని భాషా నమూనాల మధ్య పోలికలు.
కాన్ఫిగరేషన్ ఏజెంట్ మరియు ఆచరణాత్మక విధుల్లో ఏకీకరణ
ము యొక్క ప్రారంభ ల్యాండింగ్ కేంద్రీకృతమై ఉంది Windows 11 కాన్ఫిగరేషన్ ఏజెంట్, వినియోగదారులను అనుమతించే లక్షణం సిస్టమ్ పారామితులను వారికి అవసరమైన వాటిని టైప్ చేయడం లేదా చెప్పడం ద్వారా సర్దుబాటు చేయండి. ఉదాహరణకు, అడగండి "డార్క్ మోడ్‌ని ఎలా యాక్టివేట్ చేయాలి?" o "నేను ప్రకాశాన్ని పెంచాలనుకుంటున్నాను" తద్వారా Mu ఆ సూచనను వ్యవస్థలోని సంబంధిత సాంకేతిక చర్యలోకి అనువదించగలదు.
మైక్రోసాఫ్ట్ AI దీనికి అనుగుణంగా ఉంటుందని నొక్కి చెప్పింది వేలాది విభిన్న సందర్భాలు మరియు ప్రశ్నలునిజానికి, 100,000 కంటే ఎక్కువ ఉపయోగించబడ్డాయి. 3,6 మిలియన్ శిక్షణ నమూనాలు భాషను మార్చడం లేదా Wi-Fi నెట్‌వర్క్‌లను నిర్వహించడం వంటి అత్యంత సాధారణ అభ్యర్థనల నుండి మరింత క్లిష్టమైన పనుల వరకు ప్రతిదీ కవర్ చేయడానికి. చాలా చిన్నదిగా లేదా అస్పష్టంగా ఉన్న ప్రశ్నల కోసం, సిస్టమ్ సాంప్రదాయ శోధన విధులు, కానీ సూచన స్పష్టంగా మరియు వివరంగా ఉన్నప్పుడు, Mu స్వయంచాలకంగా పనిచేస్తుంది లేదా వినియోగదారుని దశలవారీగా మార్గనిర్దేశం చేస్తుంది.
కొత్త తరాల హార్డ్‌వేర్‌కు అనుగుణంగా సాంకేతికత మరియు ఆప్టిమైజేషన్
La ము ఆప్టిమైజేషన్ దాని అభివృద్ధి సమయంలో అత్యంత జాగ్రత్తగా పరిగణించబడిన అంశాలలో ఒకటి. మైక్రోసాఫ్ట్ సిలికాన్ భాగస్వాములతో కలిసి పనిచేసింది, ఉదాహరణకు AMD, ఇంటెల్ మరియు క్వాల్కమ్ కోపిలట్+ PCలలో ఉన్న కొత్త NPUల ప్రత్యేకతలకు అనుగుణంగా దానిని రూపొందించడానికిఈ ఉమ్మడి పని పరిచయం చేయడం సాధ్యం చేసింది శిక్షణ తర్వాత పరిమాణీకరణ పద్ధతులు, ఇది మోడల్ బరువులు మరియు క్రియాశీలతలను 8- మరియు 16-బిట్ పూర్ణాంకాలుగా మారుస్తుంది, తద్వారా మెమరీ వినియోగాన్ని తగ్గిస్తుంది మరియు మొత్తం మోడల్‌ను తిరిగి శిక్షణ ఇవ్వవలసిన అవసరాన్ని నివారిస్తుంది.
ము యొక్క శిక్షణ ప్రక్రియ అధిక-పనితీరు గల వాతావరణాలలో నిర్వహించబడింది, వీటిని ఉపయోగించి NVIDIA A100 GPUలు లోపల అజూర్ మెషిన్ లెర్నింగ్డేటా సెట్‌లో చేర్చబడింది వందల బిలియన్ల విద్యా టోకెన్లు మరియు వంటి పద్ధతులు ఫై నమూనాల నుండి స్వేదనం మరియు జ్ఞానాన్ని బదిలీ చేయడానికి మరియు నిర్దిష్ట పనుల కోసం మోడల్‌ను చక్కగా ట్యూన్ చేయడానికి తక్కువ-శ్రేణి అడాప్టేషన్ (LoRA). తుది ఫలితం ఆధునిక ధరించగలిగే హార్డ్‌వేర్ యొక్క వనరులు మరియు పరిమితులకు ప్రత్యేకంగా సరిపోయే చిన్న, చురుకైన మోడల్. మీరు ఎలాగో కూడా అన్వేషించవచ్చు మీ PC ని స్థానిక AI హబ్‌గా మార్చండి మీ సిస్టమ్ సామర్థ్యాలను విస్తరించడానికి.
ప్రస్తుత సవాళ్లు, లభ్యత మరియు భవిష్యత్తు అవకాశాలు
ము ఎదుర్కొంటున్న అతిపెద్ద సవాళ్లలో ఒకటి అస్పష్టమైన లేదా చాలా క్లుప్తమైన ప్రశ్నల వివరణ, సహజ భాష-ఆధారిత వ్యవస్థలలో ఒక సాధారణ సమస్య. దీన్ని చేయడానికి, మైక్రోసాఫ్ట్ ఒక హైబ్రిడ్ లాజిక్‌ను అమలు చేసిందిచిన్న ప్రశ్నలు సాంప్రదాయ శోధన ఫలితాలను ప్రేరేపిస్తే, మరింత వివరణాత్మక సూచనలు వినియోగదారుని మార్గనిర్దేశం చేయడానికి లేదా స్వయంచాలక చర్యలను నిర్వహించడానికి AI జోక్యాన్ని ప్రేరేపిస్తాయి.
ఇప్పటికి, Mu అనేది ఇన్‌సైడర్ ఛానెల్ ద్వారా ఇంగ్లీషులో మరియు Copilot+ పరికరాల్లో మాత్రమే అందుబాటులో ఉంటుంది., అయితే ఇది రాబోయే నెలల్లో AMD మరియు ఇంటెల్ ప్రాసెసర్‌లతో సహా మరిన్ని భాషలు మరియు ఇతర పరికరాలకు విస్తరించబడుతుందని భావిస్తున్నారు. గోప్యత మరియు భద్రత ప్రాసెసింగ్ యొక్క స్థానిక స్వభావాన్ని బట్టి అవి కూడా ప్రాథమిక పాత్ర పోషిస్తాయి.
Mu ని విస్తరించడం అనేది మైక్రోసాఫ్ట్ యొక్క విస్తృత వ్యూహానికి ప్రారంభం మాత్రమే, దీనిని స్థానిక AI మరియు సమర్థవంతమైన భాషా నమూనాలు ఆపరేటింగ్ సిస్టమ్ యొక్క మరిన్ని అప్లికేషన్లు మరియు అంశాలలో, పనితీరు లేదా గోప్యతను త్యాగం చేయకుండా అనుభవం మరియు ప్రాప్యతను మెరుగుపరుస్తుంది.
నేను తన "గీక్" అభిరుచులను వృత్తిగా మార్చుకున్న సాంకేతికత ప్రియుడిని. నేను నా జీవితంలో 10 సంవత్సరాలకు పైగా అత్యాధునిక సాంకేతిక పరిజ్ఞానాన్ని ఉపయోగించి మరియు స్వచ్ఛమైన ఉత్సుకతతో అన్ని రకాల ప్రోగ్రామ్‌లతో గడిపాను. ఇప్పుడు నేను కంప్యూటర్ టెక్నాలజీ మరియు వీడియో గేమ్‌లలో నైపుణ్యం సాధించాను. ఎందుకంటే నేను 5 సంవత్సరాలకు పైగా సాంకేతికత మరియు వీడియో గేమ్‌లపై వివిధ వెబ్‌సైట్‌ల కోసం వ్రాస్తూ పని చేస్తున్నాను, అందరికీ అర్థమయ్యే భాషలో మీకు అవసరమైన సమాచారాన్ని అందించడానికి ప్రయత్నిస్తున్న కథనాలను రూపొందించాను.
మీకు ఏవైనా ప్రశ్నలు ఉంటే, నా పరిజ్ఞానం Windows ఆపరేటింగ్ సిస్టమ్‌తో పాటు మొబైల్ ఫోన్‌ల కోసం Androidకి సంబంధించిన ప్రతిదాని నుండి ఉంటుంది. మరియు నా నిబద్ధత మీకు, నేను ఎల్లప్పుడూ కొన్ని నిమిషాలు గడపడానికి సిద్ధంగా ఉన్నాను మరియు ఈ ఇంటర్నెట్ ప్రపంచంలో మీకు ఏవైనా సందేహాలు ఉంటే వాటిని పరిష్కరించడంలో మీకు సహాయపడతాను.