निमोट्रॉन ३: मल्टी-एजंट एआयसाठी एनव्हीआयडीएचा मोठा खुला पैज

कृत्रिम बुद्धिमत्तेची शर्यत साध्या, वेगळ्या चॅटबॉट्सपासून एजंट सिस्टमकडे सरकत आहे जी एकमेकांशी सहयोग करतात, दीर्घ कार्यप्रवाह व्यवस्थापित करतात आणि ऑडिट करण्यायोग्य असणे आवश्यक आहे. या नवीन परिस्थितीत, NVIDIA ने एक स्पष्ट पाऊल उचलण्याचा निर्णय घेतला आहे: केवळ मॉडेल्सच नाही तर डेटा आणि साधने देखील उघडण्यासाठीजेणेकरून कंपन्या, सार्वजनिक प्रशासन आणि संशोधन केंद्रे अधिक नियंत्रणासह त्यांचे स्वतःचे एआय प्लॅटफॉर्म तयार करू शकतील.

ती चळवळ प्रत्यक्षात येते निमोट्रॉन ३, मल्टी-एजंट एआयसाठी सज्ज असलेल्या खुल्या मॉडेल्सचा एक परिवार हे उच्च कार्यक्षमता, कमी अनुमान खर्च आणि पारदर्शकता एकत्रित करण्याचा प्रयत्न करते. हा प्रस्ताव फक्त दुसऱ्या सामान्य-उद्देशीय चॅटबॉट म्हणून नाही तर नियमन केलेल्या क्षेत्रांमध्ये गुंतागुंतीची कामे तर्कशुद्धपणे मांडणारे, नियोजन करणारे आणि अंमलात आणणारे एजंट नेमण्याचा आधारहे विशेषतः युरोप आणि स्पेनमध्ये प्रासंगिक आहे, जिथे डेटा सार्वभौमत्व आणि नियामक अनुपालन महत्वाचे आहे.

एजंटिक आणि सार्वभौम एआयसाठी मॉडेल्सचा एक खुला परिवार

निमोट्रॉन ३ असे सादर केले आहे एक संपूर्ण परिसंस्था: मॉडेल्स, डेटासेट, ग्रंथालये आणि प्रशिक्षण पाककृती खुल्या परवान्याखाली. NVIDIA ची कल्पना अशी आहे की संस्था केवळ AI ला एक अपारदर्शक सेवा म्हणून वापरत नाहीत तर आत काय आहे ते तपासू शकतात, मॉडेल्सना त्यांच्या डोमेनशी जुळवून घेऊ शकतात आणि क्लाउडमध्ये असो किंवा स्थानिक डेटा सेंटरमध्ये, त्यांच्या स्वतःच्या पायाभूत सुविधांवर ते तैनात करू शकतात.

कंपनी तिच्या वचनबद्धतेनुसार ही रणनीती आखते सार्वभौम AIयुरोप, दक्षिण कोरिया आणि इतर प्रदेशांमधील सरकारे आणि कंपन्या बंद किंवा परदेशी प्रणालींसाठी खुले पर्याय शोधत आहेत, जे बहुतेकदा त्यांच्या डेटा संरक्षण कायद्यांशी किंवा ऑडिट आवश्यकतांशी सुसंगत नसतात. निमोट्रॉन 3 चा उद्देश अधिक दृश्यमानता आणि नियंत्रणासह राष्ट्रीय, क्षेत्रीय किंवा कॉर्पोरेट मॉडेल तयार करण्यासाठी तांत्रिक पाया बनणे आहे.

समांतर, हार्डवेअरच्या पलीकडे जाऊन NVIDIA आपले स्थान मजबूत करतेआतापर्यंत, ते प्रामुख्याने एक संदर्भ GPU प्रदाता होते; नेमोट्रॉन 3 सह, ते मॉडेलिंग आणि प्रशिक्षण साधनांच्या थरात देखील स्वतःचे स्थान निर्माण करते, ओपनएआय, गुगल, अँथ्रोपिक किंवा अगदी मेटा सारख्या खेळाडूंशी थेट स्पर्धा करते आणि प्रीमियम मॉडेल्स सारख्या विरुद्ध करते. सुपरग्रोक हेवीलामाच्या अलिकडच्या पिढ्यांमध्ये मेटा ओपन सोर्सबद्दलची आपली वचनबद्धता कमी करत आहे.

युरोपियन संशोधन आणि स्टार्टअप इकोसिस्टमसाठी - हगिंग फेस सारख्या प्लॅटफॉर्मवर होस्ट केलेल्या ओपन मॉडेल्सवर मोठ्या प्रमाणात अवलंबून - ओपन लायसन्स अंतर्गत वजन, सिंथेटिक डेटा आणि लायब्ररीची उपलब्धता हा एक शक्तिशाली पर्याय आहे. चिनी मॉडेल्स आणि लोकप्रियता आणि बेंचमार्क रँकिंगमध्ये वर्चस्व गाजवणारे अमेरिकन.

हायब्रिड एमओई आर्किटेक्चर: मोठ्या प्रमाणावरील एजंट्ससाठी कार्यक्षमता

निमोट्रॉन ३ चे मध्यवर्ती तांत्रिक वैशिष्ट्य म्हणजे तज्ञांच्या सुप्त मिश्रणाची संकरित रचना (MoE)प्रत्येक अनुमानात मॉडेलचे सर्व पॅरामीटर्स सक्रिय करण्याऐवजी, त्यापैकी फक्त एक अंश चालू केला जातो, जो कार्याशी किंवा प्रश्नातील टोकनशी सर्वात संबंधित तज्ञांचा उपसंच असतो.

हा दृष्टिकोन परवानगी देतो संगणकीय खर्च आणि मेमरीचा वापर लक्षणीयरीत्या कमी करायामुळे टोकन थ्रूपुट देखील वाढतो. मल्टी-एजंट आर्किटेक्चरसाठी, जिथे डझनभर किंवा शेकडो एजंट सतत संदेशांची देवाणघेवाण करतात, ही कार्यक्षमता GPU आणि क्लाउड खर्चाच्या बाबतीत सिस्टमला टिकाऊ होण्यापासून रोखण्यासाठी महत्त्वाची आहे.

NVIDIA आणि स्वतंत्र बेंचमार्कने शेअर केलेल्या डेटानुसार, निमोट्रॉन 3 नॅनोने साध्य केले आहे प्रति सेकंद चार पट जास्त टोकन त्याच्या पूर्ववर्ती, नेमोट्रॉन २ नॅनोच्या तुलनेत, ते अनावश्यक तर्क टोकनची निर्मिती सुमारे ६०% कमी करते. प्रत्यक्षात, याचा अर्थ समान किंवा त्याहूनही अधिक अचूक उत्तरे, परंतु कमी "शब्दार्थ" आणि प्रति क्वेरी कमी खर्चासह.

विशिष्ट प्रशिक्षण तंत्रांसह एकत्रित केलेल्या हायब्रिड एमओई आर्किटेक्चरमुळे अनेक प्रगत खुल्या मॉडेल्स तज्ञ योजनांचा अवलंब करतात.निमोट्रॉन ३ या ट्रेंडमध्ये सामील आहे, परंतु विशेषतः एजंटिक एआयवर लक्ष केंद्रित करते: एजंट्समधील समन्वय, साधनांचा वापर, दीर्घ अवस्था हाताळणे आणि चरण-दर-चरण नियोजन यासाठी डिझाइन केलेले अंतर्गत मार्ग.

तीन आकार: वेगवेगळ्या वर्कलोडसाठी नॅनो, सुपर आणि अल्ट्रा

निमोट्रॉन ३ कुटुंब खालील प्रकारांमध्ये संघटित आहे: MoE मॉडेलचे तीन मुख्य आकार, तज्ञ आर्किटेक्चरमुळे ते सर्व उघडे आहेत आणि कमी सक्रिय पॅरामीटर्ससह:

• निमोट्रॉन ३ नॅनो: सुमारे ३० अब्ज एकूण पॅरामीटर्स, सुमारे प्रति टोकन ५० अब्ज मालमत्ताहे अशा लक्ष्यित कार्यांसाठी डिझाइन केले आहे जिथे कार्यक्षमता महत्त्वाची असते: सॉफ्टवेअर डीबगिंग, दस्तऐवज सारांशीकरण, माहिती पुनर्प्राप्ती, सिस्टम मॉनिटरिंग किंवा विशेष एआय सहाय्यक.
• निमोट्रॉन ३ सुपर: अंदाजे १०० अब्ज पॅरामीटर्स, सह १० अब्ज डॉलर्सची मालमत्ता प्रत्येक पावलावर. ते दिशेने सज्ज आहे मल्टी-एजंट आर्किटेक्चरमध्ये प्रगत तर्कगुंतागुंतीच्या प्रवाहांचे निराकरण करण्यासाठी अनेक एजंट सहकार्य करतात तरीही कमी विलंबतेसह.
• निमोट्रॉन ३ अल्ट्रा: वरचा स्तर, अंदाजे ५०० अब्ज पॅरामीटर्ससह आणि त्याहून अधिक प्रति टोकन ५० अब्ज मालमत्ताहे संशोधन, धोरणात्मक नियोजन, उच्च-स्तरीय निर्णय समर्थन आणि विशेषतः मागणी असलेल्या एआय प्रणालींसाठी एक शक्तिशाली तर्क इंजिन म्हणून काम करते.

प्रत्यक्षात, हे संस्थांना अनुमती देते तुमच्या बजेट आणि गरजांनुसार मॉडेलचा आकार निवडा.प्रचंड, गहन कामाचा ताण आणि कमी खर्चासाठी नॅनो; अनेक सहयोगी एजंट्ससह अधिक सखोल तर्कशक्तीची आवश्यकता असल्यास सुपर; आणि गुणवत्ता आणि दीर्घ संदर्भ GPU खर्चापेक्षा जास्त असलेल्या प्रकरणांमध्ये अल्ट्रा.

आत्ता पुरते फक्त निमोट्रॉन ३ नॅनो तात्काळ वापरासाठी उपलब्ध आहे.२०२६ च्या पहिल्या सहामाहीत सुपर आणि अल्ट्रा प्रकारांची योजना आखण्यात आली आहे, ज्यामुळे युरोपियन कंपन्या आणि प्रयोगशाळांना प्रथम नॅनोसह प्रयोग करण्यासाठी, पाइपलाइन स्थापित करण्यासाठी आणि नंतर जास्त क्षमतेची आवश्यकता असलेल्या केसेस स्थलांतरित करण्यासाठी वेळ मिळेल.

निमोट्रॉन ३ नॅनो: १ दशलक्ष टोकन विंडो आणि समाविष्ट किंमत

निमोट्रॉन ३ नॅनो आजच्या घडीला, कुटुंबाचा व्यावहारिक नेताNVIDIA त्याचे वर्णन श्रेणीतील सर्वात संगणकीयदृष्ट्या किफायतशीर मॉडेल म्हणून करते, जे मल्टी-एजंट वर्कफ्लो आणि गहन परंतु पुनरावृत्ती होणाऱ्या कार्यांमध्ये जास्तीत जास्त कामगिरी देण्यासाठी ऑप्टिमाइझ केलेले आहे.

त्याच्या तांत्रिक वैशिष्ट्यांपैकी, खालील गोष्टी ठळकपणे दिसून येतात: दहा लाख टोकनपर्यंतची संदर्भ विंडोहे विस्तृत दस्तऐवज, संपूर्ण कोड रिपॉझिटरीज किंवा बहु-चरण व्यवसाय प्रक्रियांसाठी मेमरी टिकवून ठेवण्यास अनुमती देते. बँकिंग, आरोग्यसेवा किंवा सार्वजनिक प्रशासनातील युरोपियन अनुप्रयोगांसाठी, जिथे रेकॉर्ड मोठ्या प्रमाणात असू शकतात, ही दीर्घकालीन संदर्भ क्षमता विशेषतः मौल्यवान आहे.

स्वतंत्र संस्थेचे निकष कृत्रिम विश्लेषण निमोट्रॉन ३ नॅनोला सर्वात संतुलित ओपन-सोर्स मॉडेलपैकी एक म्हणून ठेवते. हे बुद्धिमत्ता, अचूकता आणि वेग यांचे संयोजन करते, ज्यामध्ये प्रति सेकंद शेकडो टोकन थ्रूपुट दर आहेत. हे संयोजन स्पेनमधील एआय इंटिग्रेटर्स आणि सेवा प्रदात्यांना आकर्षक बनवते ज्यांना गगनाला भिडणाऱ्या पायाभूत सुविधांच्या खर्चाशिवाय चांगला वापरकर्ता अनुभव हवा आहे.

वापराच्या बाबतीत, NVIDIA नॅनोला येथे लक्ष्य करत आहे सामग्री सारांश, सॉफ्टवेअर डीबगिंग, माहिती पुनर्प्राप्ती आणि एंटरप्राइझ एआय सहाय्यकअनावश्यक तर्क टोकन कमी केल्यामुळे, अनुमान बिल गगनाला भिडल्याशिवाय वापरकर्ते किंवा सिस्टमशी दीर्घ संभाषणे राखणारे एजंट चालवणे शक्य आहे.

डेटा आणि लायब्ररी उघडा: NeMo Gym, NeMo RL आणि Evaluator

निमोट्रॉन ३ च्या सर्वात विशिष्ट वैशिष्ट्यांपैकी एक म्हणजे हे मॉडेल वजने सोडण्यापुरते मर्यादित नाही.एनव्हीआयडीए कुटुंबासोबत प्रशिक्षण, ट्यूनिंग आणि एजंट्सचे मूल्यांकन करण्यासाठी खुल्या संसाधनांचा एक व्यापक संच घेऊन येते.

एकीकडे, ते कृत्रिम निधी उपलब्ध करून देते प्रशिक्षणपूर्व, प्रशिक्षणोत्तर आणि मजबुतीकरण डेटाचे अनेक ट्रिलियन टोकनतर्क, कोडिंग आणि बहु-चरण कार्यप्रवाहांवर लक्ष केंद्रित करणारे हे डेटासेट कंपन्या आणि संशोधन केंद्रांना निमोट्रॉनचे स्वतःचे डोमेन-विशिष्ट प्रकार (उदा. कायदेशीर, आरोग्यसेवा किंवा औद्योगिक) सुरवातीपासून सुरुवात न करता निर्माण करण्यास अनुमती देतात.

या संसाधनांमध्ये, खालील गोष्टी ठळकपणे दिसून येतात: निमोट्रॉन एजंटिक सेफ्टी डेटासेटहे वास्तविक जगातील परिस्थितींमध्ये एजंटच्या वर्तनावर टेलिमेट्री डेटा गोळा करते. त्याचे उद्दिष्ट संघांना जटिल स्वायत्त प्रणालींची सुरक्षा मोजण्यास आणि मजबूत करण्यास मदत करणे आहे: संवेदनशील डेटा आढळल्यावर एजंट कोणत्या कृती करतो ते, अस्पष्ट किंवा संभाव्य हानिकारक आदेशांवर तो कसा प्रतिक्रिया देतो ते.

टूल्स सेक्शनबद्दल, NVIDIA लाँच होत आहे ओपन सोर्स लायब्ररी म्हणून निमो जिम आणि निमो आरएल सुरक्षितता आणि कामगिरीचे मूल्यांकन करण्यासाठी NeMo Evaluator सोबत मजबुतीकरण प्रशिक्षण आणि प्रशिक्षणोत्तर प्रशिक्षणासाठी. ही लायब्ररी निमोट्रॉन कुटुंबासह वापरण्यास तयार सिम्युलेशन वातावरण आणि पाइपलाइन प्रदान करतात, परंतु इतर मॉडेल्समध्ये वाढवता येतात.

हे सर्व साहित्य—वजन, डेटासेट आणि कोड—याद्वारे वितरित केले जाते गिटहब आणि हगिंग फेस हे एनव्हीआयडीए ओपन मॉडेल लायसन्स अंतर्गत परवानाकृत आहेत.जेणेकरून युरोपियन संघ ते त्यांच्या स्वतःच्या MLO मध्ये अखंडपणे एकत्रित करू शकतील. प्राइम इंटेलेक्ट आणि अनस्लोथ सारख्या कंपन्या नेमोट्रॉनवर रीइन्फोर्समेंट लर्निंग सुलभ करण्यासाठी आधीच NeMo जिमला त्यांच्या वर्कफ्लोमध्ये थेट समाविष्ट करत आहेत.

सार्वजनिक ढगांमध्ये आणि युरोपियन परिसंस्थेत उपलब्धता

निमोट्रॉन ३ नॅनो आता येथे उपलब्ध आहे मिठी मारणारा चेहरा y GitHubतसेच बेसटेन, डीपइन्फ्रा, फायरवर्क्स, फ्रेंडलीएआय, ओपनराउटर आणि टुगेदर एआय सारख्या अनुमान प्रदात्यांद्वारे. यामुळे स्पेनमधील विकास संघांना API द्वारे मॉडेलची चाचणी घेण्यासाठी किंवा जास्त गुंतागुंतीशिवाय त्यांच्या स्वतःच्या पायाभूत सुविधांवर ते तैनात करण्यासाठी दार उघडते.

ढगांच्या समोर, निमोट्रॉन ३ नॅनो अमेझॉन बेडरॉक द्वारे AWS मध्ये सामील झाले सर्व्हरलेस इन्फरन्ससाठी, आणि गुगल क्लाउड, कोअरवीव्ह, क्रूसो, मायक्रोसॉफ्ट फाउंड्री, नेबियस, एनस्केल आणि योट्टा यांना समर्थन देण्याची घोषणा केली आहे. या प्लॅटफॉर्मवर आधीच काम करणाऱ्या युरोपियन संस्थांसाठी, त्यांच्या आर्किटेक्चरमध्ये कठोर बदल न करता निमोट्रॉन स्वीकारणे सोपे होते.

सार्वजनिक क्लाउड व्यतिरिक्त, NVIDIA नेमोट्रॉन 3 नॅनोचा वापर करण्यास प्रोत्साहन दिले आहे कोणत्याही NVIDIA-त्वरित पायाभूत सुविधांवर तैनात करण्यायोग्य NIM मायक्रोसर्व्हिसहे हायब्रिड परिस्थितींना अनुमती देते: आंतरराष्ट्रीय क्लाउडमधील भाराचा काही भाग आणि स्थानिक डेटा सेंटरमध्ये किंवा युरोपियन क्लाउडमध्ये जे EU मध्ये डेटा रेसिडेन्सीला प्राधान्य देतात.

आवृत्त्या निमोट्रॉन ३ सुपर आणि अल्ट्रा, अत्यंत तर्कसंगत वर्कलोड आणि मोठ्या प्रमाणात मल्टी-एजंट सिस्टमसाठी सज्ज आहेत, २०२६ च्या पहिल्या सहामाहीसाठी नियोजितया वेळेमुळे युरोपियन संशोधन आणि व्यवसाय परिसंस्थांना नॅनोसह प्रयोग करण्यासाठी, वापर प्रकरणे सत्यापित करण्यासाठी आणि आवश्यकतेनुसार मोठ्या मॉडेल्समध्ये स्थलांतर धोरणे डिझाइन करण्यासाठी वेळ मिळतो.

निमोट्रॉन ३ ने NVIDIA ला आघाडीच्या प्रदात्यांपैकी एक म्हणून स्थान दिले आहे एजंटिक एआयसाठी सज्ज असलेले उच्च दर्जाचे खुले मॉडेल्सतांत्रिक कार्यक्षमता (हायब्रिड एमओई, एनव्हीएफपी४, प्रचंड संदर्भ), मोकळेपणा (वजन, डेटासेट आणि उपलब्ध लायब्ररी) आणि डेटा सार्वभौमत्व आणि पारदर्शकतेवर स्पष्ट लक्ष केंद्रित करणाऱ्या प्रस्तावासह, स्पेन आणि उर्वरित युरोपमध्ये विशेषतः संवेदनशील पैलू, जिथे एआय ऑडिट करण्यासाठी नियमन आणि दबाव वाढत आहे, ते अधिकाधिक संवेदनशील आहेत.

संबंधित लेख:

मायक्रोसॉफ्ट डिस्कव्हरी एआय वैयक्तिकृत कृत्रिम बुद्धिमत्तेसह वैज्ञानिक आणि शैक्षणिक प्रगती साधते

अल्बर्टो नावारो

मी एक तंत्रज्ञान उत्साही आहे ज्याने त्याच्या "गीक" आवडींना व्यवसायात बदलले आहे. मी माझ्या आयुष्यातील 10 वर्षांहून अधिक काळ अत्याधुनिक तंत्रज्ञानाचा वापर करून आणि सर्व प्रकारच्या कार्यक्रमांना निव्वळ उत्सुकतेपोटी घालवले आहे. आता मी कॉम्प्युटर टेक्नॉलॉजी आणि व्हिडिओ गेम्समध्ये स्पेशलायझेशन केले आहे. याचे कारण असे की, मी 5 वर्षांहून अधिक काळ तंत्रज्ञान आणि व्हिडिओ गेमवरील विविध वेबसाइट्ससाठी लिहित आहे, प्रत्येकाला समजेल अशा भाषेत तुम्हाला आवश्यक असलेली माहिती देण्यासाठी लेख तयार करत आहे.

तुम्हाला काही प्रश्न असल्यास, माझे ज्ञान विंडोज ऑपरेटिंग सिस्टीम तसेच मोबाइल फोनसाठी अँड्रॉइडशी संबंधित सर्व गोष्टींपासून आहे. आणि माझी वचनबद्धता तुमच्याशी आहे, मी नेहमी काही मिनिटे घालवण्यास तयार आहे आणि या इंटरनेटच्या जगात तुम्हाला पडणाऱ्या कोणत्याही प्रश्नांचे निराकरण करण्यात मदत करण्यास तयार आहे.