निमोट्रोन ३: बहु-एजेन्ट एआईको लागि NVIDIA को ठूलो खुला शर्त

कृत्रिम बुद्धिमत्ताको दौड सरल, पृथक च्याटबटहरूबाट एजेन्ट प्रणालीहरूमा सर्दैछ जुन एकअर्कासँग सहकार्य गर्छन्, लामो कार्यप्रवाहहरू व्यवस्थापन गर्छन्, र लेखा परीक्षण योग्य हुन आवश्यक छ। यो नयाँ परिदृश्यमा, NVIDIA ले एकदम स्पष्ट कदम चाल्ने निर्णय गरेको छ: मोडेलहरू मात्र नभई डेटा र उपकरणहरू पनि खोल्न।ताकि कम्पनीहरू, सार्वजनिक प्रशासन र अनुसन्धान केन्द्रहरूले थप नियन्त्रणका साथ आफ्नै एआई प्लेटफर्महरू निर्माण गर्न सकून्।

त्यो आन्दोलन साकार हुन्छ बहु-एजेन्ट एआई तर्फ लक्षित खुला मोडेलहरूको परिवार, नेमोट्रोन ३ यसले उच्च प्रदर्शन, कम अनुमान लागत, र पारदर्शितालाई संयोजन गर्न खोज्छ। यो प्रस्ताव केवल अर्को सामान्य-उद्देश्य च्याटबोटको रूपमा होइन, तर नियमन गरिएका क्षेत्रहरूमा जटिल कार्यहरूको तर्क गर्ने, योजना बनाउने र कार्यान्वयन गर्ने एजेन्टहरूलाई तैनाथ गर्ने आधारयो विशेष गरी युरोप र स्पेनमा सान्दर्भिक छ, जहाँ डेटा सार्वभौमिकता र नियामक अनुपालन महत्त्वपूर्ण छन्।

एजेन्टिक र सार्वभौम एआईका लागि मोडेलहरूको खुला परिवार

निमोट्रोन ३ लाई निम्न रूपमा प्रस्तुत गरिएको छ: पूर्ण पारिस्थितिक प्रणाली: मोडेल, डेटासेट, पुस्तकालय, र प्रशिक्षण रेसिपीहरू खुला इजाजतपत्र अन्तर्गत। NVIDIA को विचार यो हो कि संस्थाहरूले AI लाई अपारदर्शी सेवाको रूपमा मात्र उपभोग गर्दैनन्, तर भित्र के छ भनेर निरीक्षण गर्न सक्छन्, मोडेलहरूलाई तिनीहरूको डोमेनमा अनुकूलन गर्न सक्छन्, र तिनीहरूलाई क्लाउडमा होस् वा स्थानीय डेटा केन्द्रहरूमा, आफ्नै पूर्वाधारमा तैनाथ गर्न सक्छन्।

कम्पनीले आफ्नो प्रतिबद्धता भित्र यो रणनीति तयार गर्दछ सार्वभौम एआईयुरोप, दक्षिण कोरिया र अन्य क्षेत्रका सरकारहरू र कम्पनीहरूले बन्द वा विदेशी प्रणालीहरूको खुला विकल्पहरू खोजिरहेका छन्, जुन प्रायः तिनीहरूको डेटा सुरक्षा कानून वा लेखा परीक्षण आवश्यकताहरूसँग राम्रोसँग मेल खाँदैनन्। Nemotron 3 ले राष्ट्रिय, क्षेत्रीय, वा कर्पोरेट मोडेलहरू अझ बढी दृश्यता र नियन्त्रणको साथ निर्माण गर्ने प्राविधिक आधार बन्ने लक्ष्य राख्छ।

समानान्तरमा, NVIDIA ले हार्डवेयरभन्दा बाहिर आफ्नो स्थिति बलियो बनाउँछअहिलेसम्म, यो मुख्यतया एक सन्दर्भ GPU प्रदायक थियो; Nemotron 3 को साथ, यसले मोडेलिङ र प्रशिक्षण उपकरण तहमा पनि आफूलाई स्थान दिन्छ, OpenAI, Google, Anthropic, वा Meta जस्ता खेलाडीहरूसँग प्रत्यक्ष प्रतिस्पर्धा गर्दछ, र प्रिमियम मोडेलहरू जस्तै विरुद्ध। सुपरग्रोक हेभीमेटाले लामाको पछिल्ला पुस्ताहरूमा खुला स्रोतप्रतिको आफ्नो प्रतिबद्धता घटाउँदै आएको छ।

युरोपेली अनुसन्धान र स्टार्टअप इकोसिस्टमको लागि - हगिङ फेस जस्ता प्लेटफर्महरूमा होस्ट गरिएका खुला मोडेलहरूमा धेरै निर्भर - खुला इजाजतपत्र अन्तर्गत तौल, सिंथेटिक डेटा र पुस्तकालयहरूको उपलब्धताले एक शक्तिशाली विकल्पको प्रतिनिधित्व गर्दछ। चिनियाँ मोडेलहरू र लोकप्रियता र बेन्चमार्क श्रेणीकरणमा हावी अमेरिकीहरू।

हाइब्रिड MoE वास्तुकला: ठूला-स्तरीय एजेन्टहरूको लागि दक्षता

नेमोट्रोन ३ को केन्द्रीय प्राविधिक विशेषता भनेको विशेषज्ञहरूको अव्यक्त मिश्रण (MoE) को हाइब्रिड वास्तुकलाप्रत्येक अनुमानमा सबै मोडेलका प्यारामिटरहरू सक्रिय गर्नुको सट्टा, तिनीहरूको एक अंश मात्र सक्रिय गरिन्छ, जुन कार्य वा प्रश्नमा रहेको टोकनसँग सबैभन्दा सान्दर्भिक विशेषज्ञहरूको उपसमूह हो।

यो दृष्टिकोणले अनुमति दिन्छ कम्प्युटेशनल लागत र मेमोरी खपतमा उल्लेखनीय कमी ल्याउनुहोस्यसले टोकन थ्रुपुट पनि बढाउँछ। बहु-एजेन्ट आर्किटेक्चरहरूको लागि, जहाँ दर्जनौं वा सयौं एजेन्टहरूले निरन्तर सन्देशहरू आदानप्रदान गर्छन्, यो दक्षता GPU र क्लाउड लागतको सन्दर्भमा प्रणालीलाई दिगो हुनबाट रोक्नको लागि महत्वपूर्ण छ।

NVIDIA र स्वतन्त्र बेन्चमार्कहरू द्वारा साझा गरिएको तथ्याङ्क अनुसार, Nemotron 3 Nano ले हासिल गर्दछ प्रति सेकेन्ड चार गुणा बढी टोकनहरू यसको पूर्ववर्ती, Nemotron 2 Nano को तुलनामा, यसले अनावश्यक तर्क टोकनहरूको उत्पादनलाई लगभग ६०% ले घटाउँछ। व्यवहारमा, यसको अर्थ समान रूपमा वा अझ बढी सटीक उत्तरहरू हुन्, तर कम "शब्दप्रधानता" र प्रति प्रश्न कम लागतको साथ।

विशिष्ट प्रशिक्षण प्रविधिहरूसँग मिलेर हाइब्रिड MoE वास्तुकलाले नेतृत्व गरेको छ धेरैजसो उन्नत खुला मोडेलहरूले विशेषज्ञ योजनाहरू अपनाउँछन्।निमोट्रोन ३ यस प्रवृत्तिमा सामेल हुन्छ, तर विशेष गरी एजेन्टिक एआईमा केन्द्रित हुन्छ: एजेन्टहरू बीच समन्वय, उपकरणहरूको प्रयोग, लामो अवस्थाहरूको ह्यान्डलिङ, र चरण-दर-चरण योजनाको लागि डिजाइन गरिएको आन्तरिक मार्गहरू।

तीन आकारहरू: फरक कार्यभारहरूको लागि नानो, सुपर, र अल्ट्रा

निमोट्रोन ३ परिवार निम्नमा संगठित छ: MoE मोडेलका तीन मुख्य आकारहरू, ती सबै खुला छन् र कम सक्रिय प्यारामिटरहरू सहित विशेषज्ञ वास्तुकलाको कारण:

• निमोट्रोन ३ नानो: लगभग ३० अर्ब कुल प्यारामिटरहरू, लगभग प्रति टोकन ५० अर्ब सम्पत्तियो लक्षित कार्यहरूको लागि डिजाइन गरिएको हो जहाँ दक्षता महत्त्वपूर्ण हुन्छ: सफ्टवेयर डिबगिङ, कागजात सारांश, जानकारी पुन: प्राप्ति, प्रणाली अनुगमन, वा विशेष एआई सहायकहरू।
• निमोट्रोन ३ सुपर: लगभग १०० अर्ब प्यारामिटरहरू, सहित १० अर्ब सम्पत्ति हरेक पाइलामा। यो तर्फ लक्षित छ बहु-एजेन्ट आर्किटेक्चरमा उन्नत तर्कधेरै एजेन्टहरूले जटिल प्रवाहहरू समाधान गर्न सहयोग गर्दा पनि कम विलम्बताका साथ।
• निमोट्रोन ३ अल्ट्रा: माथिल्लो तह, लगभग ५०० बिलियन प्यारामिटरहरू र माथिसम्म प्रति टोकन ५० अर्ब सम्पत्तियो अनुसन्धान, रणनीतिक योजना, उच्च-स्तरीय निर्णय समर्थन, र विशेष गरी माग गर्ने एआई प्रणालीहरूको लागि एक शक्तिशाली तर्क इन्जिनको रूपमा काम गर्दछ।

व्यवहारमा, यसले संस्थाहरूलाई अनुमति दिन्छ आफ्नो बजेट र आवश्यकता अनुसार मोडेलको आकार छनौट गर्नुहोस्विशाल, गहन कार्यभार र कम लागतको लागि नानो; धेरै सहयोगी एजेन्टहरूसँग तर्कको गहिराइ आवश्यक पर्दा सुपर; र गुणस्तर र लामो सन्दर्भ GPU लागतभन्दा बढी भएका केसहरूको लागि अल्ट्रा।

अहिलेको लागी तत्काल प्रयोगको लागि केवल निमोट्रोन ३ नानो मात्र उपलब्ध छ।सुपर र अल्ट्रा भेरियन्टहरू २०२६ को पहिलो आधाको लागि योजना गरिएको छ, जसले युरोपेली कम्पनीहरू र प्रयोगशालाहरूलाई पहिले नानोसँग प्रयोग गर्न, पाइपलाइनहरू स्थापना गर्न र पछि, बढी क्षमता चाहिने केसहरू स्थानान्तरण गर्न समय दिनेछ।

निमोट्रोन ३ नानो: १० लाख टोकन विन्डो र नियन्त्रित लागत

निमोट्रोन ३ नानो आजको मितिमा, परिवारको व्यावहारिक नेतृत्वकर्ताNVIDIA ले यसलाई दायरामा सबैभन्दा कम्प्युटेसनली लागत-कुशल मोडेलको रूपमा वर्णन गर्दछ, बहु-एजेन्ट कार्यप्रवाह र गहन तर दोहोरिने कार्यहरूमा अधिकतम प्रदर्शन प्रदान गर्न अनुकूलित।

यसको प्राविधिक विशेषताहरू मध्ये, निम्न कुराहरू उल्लेखनीय छन्: दस लाख टोकन सम्मको सन्दर्भ विन्डोयसले व्यापक कागजातहरू, सम्पूर्ण कोड भण्डारहरू, वा बहु-चरण व्यापार प्रक्रियाहरूको लागि मेमोरीको अवधारणको लागि अनुमति दिन्छ। बैंकिङ, स्वास्थ्य सेवा, वा सार्वजनिक प्रशासनमा युरोपेली अनुप्रयोगहरूको लागि, जहाँ रेकर्डहरू विशाल हुन सक्छन्, यो दीर्घकालीन सन्दर्भ क्षमता विशेष गरी मूल्यवान छ।

स्वतन्त्र संस्थाको मापदण्डहरू कृत्रिम विश्लेषणले निमोट्रोन ३ नानोलाई सबैभन्दा सन्तुलित खुला स्रोत मोडेलहरू मध्ये एकको रूपमा राख्छ। यसले बुद्धिमत्ता, शुद्धता र गतिलाई संयोजन गर्दछ, प्रति सेकेन्ड सयौं टोकनहरूमा थ्रुपुट दरहरू सहित। यो संयोजनले यसलाई स्पेनका एआई इन्टिग्रेटरहरू र सेवा प्रदायकहरूका लागि आकर्षक बनाउँछ जसलाई आकाश छोएको पूर्वाधार लागत बिना राम्रो प्रयोगकर्ता अनुभव चाहिन्छ।

प्रयोगको सन्दर्भमा, NVIDIA ले नानोलाई लक्षित गर्दैछ सामग्री सारांश, सफ्टवेयर डिबगिङ, जानकारी पुन: प्राप्ति, र उद्यम एआई सहायकहरूअनावश्यक तर्क टोकनहरूको कमीको लागि धन्यवाद, अनुमान बिल आकाश छोए बिना प्रयोगकर्ताहरू वा प्रणालीहरूसँग लामो कुराकानी कायम राख्ने एजेन्टहरू चलाउन सम्भव छ।

डेटा र पुस्तकालयहरू खोल्नुहोस्: NeMo Gym, NeMo RL र Evaluator

निमोट्रोन ३ को सबैभन्दा विशिष्ट विशेषताहरू मध्ये एक यो हो कि यो मोडेल तौलहरू जारी गर्नमा सीमित छैन।NVIDIA ले परिवारलाई तालिम, ट्युनिङ र एजेन्टहरूको मूल्याङ्कनका लागि खुला स्रोतहरूको विस्तृत सुइट प्रदान गर्दछ।

एकातिर, यसले कृत्रिम कोर्पस उपलब्ध गराउँछ पूर्व-प्रशिक्षण, तालिम पछि, र सुदृढीकरण डेटाको धेरै ट्रिलियन टोकनहरूतर्क, कोडिङ, र बहु-चरण कार्यप्रवाहमा केन्द्रित यी डेटासेटहरूले कम्पनीहरू र अनुसन्धान केन्द्रहरूलाई स्क्र्याचबाट सुरु नगरी नै निमोट्रोनको आफ्नै डोमेन-विशिष्ट भेरियन्टहरू (जस्तै, कानुनी, स्वास्थ्य सेवा, वा औद्योगिक) उत्पन्न गर्न अनुमति दिन्छन्।

यी स्रोतहरू मध्ये, निम्न कुराहरू उल्लेखनीय छन्: निमोट्रोन एजेन्टिक सुरक्षा डेटासेटयसले वास्तविक-विश्व परिदृश्यहरूमा एजेन्ट व्यवहारमा टेलिमेट्री डेटा सङ्कलन गर्दछ। यसको लक्ष्य टोलीहरूलाई जटिल स्वायत्त प्रणालीहरूको सुरक्षा मापन र बलियो बनाउन मद्दत गर्नु हो: संवेदनशील डेटाको सामना गर्दा एजेन्टले के कार्यहरू गर्छ, अस्पष्ट वा सम्भावित रूपमा हानिकारक आदेशहरूमा कसरी प्रतिक्रिया दिन्छ भन्ने सम्म।

उपकरण खण्डको सन्दर्भमा, NVIDIA सुरु हुँदैछ खुला स्रोत पुस्तकालयको रूपमा NeMo Gym र NeMo RL सुदृढीकरण प्रशिक्षण र तालिम पछिको लागि, सुरक्षा र कार्यसम्पादन मूल्याङ्कन गर्न NeMo Evaluator सँगसँगै। यी पुस्तकालयहरूले Nemotron परिवारसँग प्रयोग गर्न तयार सिमुलेशन वातावरण र पाइपलाइनहरू प्रदान गर्छन्, तर अन्य मोडेलहरूमा विस्तार गर्न सकिन्छ।

यो सबै सामग्री - तौल, डेटासेट, र कोड - मार्फत वितरण गरिन्छ GitHub र Hugging Face लाई NVIDIA Open Model License अन्तर्गत इजाजतपत्र दिइएको छ।ताकि युरोपेली टोलीहरूले यसलाई निर्बाध रूपमा आफ्नै MLOp मा एकीकृत गर्न सकून्। प्राइम इन्टेलेक्ट र अनस्लोथ जस्ता कम्पनीहरूले पहिले नै नेमोट्रोनमा सुदृढीकरण सिकाइलाई सरल बनाउन आफ्नो कार्यप्रवाहमा NeMo जिमलाई सिधै समावेश गर्दैछन्।

सार्वजनिक क्लाउड र युरोपेली पारिस्थितिक प्रणालीमा उपलब्धता

निमोट्रोन ३ नानो अब यहाँ उपलब्ध छ अनुहार अँध्यारो अनुहार y GitHubसाथै बेसटेन, डीपइन्फ्रा, फायरवर्क्स, फ्रेन्डलीएआई, ओपनराउटर, र टुगेदर एआई जस्ता अनुमान प्रदायकहरू मार्फत। यसले स्पेनका विकास टोलीहरूलाई एपीआई मार्फत मोडेल परीक्षण गर्न वा अत्यधिक जटिलता बिना आफ्नै पूर्वाधारहरूमा तैनाथ गर्न ढोका खोल्छ।

बादलको अगाडि, निमोट्रोन ३ नानो अमेजन बेडरोक मार्फत AWS मा सामेल हुन्छ सर्भरलेस इन्फरन्सको लागि, र गुगल क्लाउड, कोरवीभ, क्रुसो, माइक्रोसफ्ट फाउन्ड्री, नेबियस, एनस्केल र योट्टाको लागि समर्थन घोषणा गरेको छ। यी प्लेटफर्महरूमा पहिले नै काम गरिरहेका युरोपेली संस्थाहरूका लागि, यसले तिनीहरूको वास्तुकलामा ठूलो परिवर्तन बिना नै निमोट्रोन अपनाउन सजिलो बनाउँछ।

सार्वजनिक क्लाउडको अतिरिक्त, NVIDIA ले Nemotron 3 Nano को प्रयोगलाई प्रवर्द्धन गरिरहेको छ कुनै पनि NVIDIA-त्वरित पूर्वाधारमा तैनाथ गर्न सकिने NIM माइक्रोसर्भिसयसले हाइब्रिड परिदृश्यहरूको लागि अनुमति दिन्छ: अन्तर्राष्ट्रिय क्लाउडहरूमा लोडको अंश र स्थानीय डेटा केन्द्रहरूमा वा युरोपेली क्लाउडहरूमा जसले EU मा डेटा रेसिडेन्सीलाई प्राथमिकता दिन्छ।

संस्करणहरू निमोट्रोन ३ सुपर र अल्ट्रा, अत्यधिक तर्क कार्यभार र ठूला-स्तरीय बहु-एजेन्ट प्रणालीहरू तर्फ तयार छन्, २०२६ को पहिलो आधाको लागि योजना गरिएकोयो समयरेखाले युरोपेली अनुसन्धान र व्यापारिक इकोसिस्टमलाई नानोसँग प्रयोग गर्न, प्रयोगका केसहरू प्रमाणित गर्न, र आवश्यक पर्दा ठूला मोडेलहरूमा माइग्रेसन रणनीतिहरू डिजाइन गर्न समय दिन्छ।

निमोट्रोन ३ ले NVIDIA लाई अग्रणी प्रदायकहरू मध्ये एकको रूपमा स्थान दिन्छ एजेन्टिक एआई तर्फ लक्षित उच्च-अन्त खुला मोडेलहरूप्राविधिक दक्षता (हाइब्रिड MoE, NVFP4, विशाल सन्दर्भ), खुलापन (भार, डेटासेट र उपलब्ध पुस्तकालयहरू) र डेटा सार्वभौमिकता र पारदर्शितामा स्पष्ट ध्यान केन्द्रित गर्ने प्रस्तावको साथ, स्पेन र बाँकी युरोपमा विशेष गरी संवेदनशील पक्षहरू, जहाँ AI लेखा परीक्षण गर्न नियमन र दबाब बढ्दो रूपमा बढिरहेको छ।

सम्बन्धित लेख:

माइक्रोसफ्ट डिस्कभरी एआईले व्यक्तिगत कृत्रिम बुद्धिमत्ताको साथ वैज्ञानिक र शैक्षिक सफलताहरू हासिल गर्दछ

अल्बर्टो नावारो

म एक टेक्नोलोजी उत्साही हुँ जसले आफ्नो "गीक" रुचिहरूलाई पेशामा परिणत गरेको छ। मैले मेरो जीवनको 10 भन्दा बढी वर्ष अत्याधुनिक प्रविधिको प्रयोग गरेर र शुद्ध जिज्ञासाका सबै प्रकारका कार्यक्रमहरूसँग टिंकरिङ गर्दै बिताएको छु। अब मैले कम्प्युटर प्रविधि र भिडियो गेमहरूमा विशेषज्ञता हासिल गरेको छु। यो किनभने 5 वर्ष भन्दा बढी समय देखि मैले टेक्नोलोजी र भिडियो गेमहरूमा विभिन्न वेबसाइटहरूको लागि लेख्दै आएको छु, सबैले बुझ्न सक्ने भाषामा तपाईंलाई आवश्यक जानकारी दिन खोज्ने लेखहरू सिर्जना गर्दैछु।

यदि तपाइँसँग कुनै प्रश्नहरू छन् भने, मेरो ज्ञान विन्डोज अपरेटिङ सिस्टम र मोबाइल फोनहरूको लागि एन्ड्रोइडसँग सम्बन्धित सबै कुराबाट दायरा हो। र मेरो प्रतिबद्धता तपाईंप्रति छ, म सधैं केही मिनेटहरू खर्च गर्न र तपाईंलाई यस इन्टरनेट संसारमा हुन सक्ने कुनै पनि प्रश्नहरूको समाधान गर्न मद्दत गर्न तयार छु।