Nemotron 3: L-imħatra miftuħa kbira ta' NVIDIA għall-AI b'aġenti multipli

It-tellieqa għall-intelliġenza artifiċjali qed timxi minn chatbots sempliċi u iżolati għal sistemi ta' aġenti li jikkollaboraw ma' xulxin, jimmaniġġjaw flussi tax-xogħol twal, u jeħtieġ li jkunu verifikabbli. F'dan ix-xenarju ġdid, NVIDIA ddeċidiet li tieħu pass pjuttost ċar: li tiftaħ mhux biss mudelli, iżda wkoll dejta u għododsabiex il-kumpaniji, l-amministrazzjonijiet pubbliċi u ċ-ċentri ta' riċerka jkunu jistgħu jibnu l-pjattaformi tal-IA tagħhom stess b'aktar kontroll.

Dak il-moviment jimmaterjalizza ruħu fi Nemotron 3, familja ta' mudelli miftuħa mmirati lejn AI b'aġenti multipli Tfittex li tgħaqqad prestazzjoni għolja, spejjeż baxxi ta' inferenza, u trasparenza. Il-proposta mhijiex maħsuba bħala sempliċiment chatbot ieħor għal skop ġenerali, iżda bħala bażi li fuqha jistgħu jiġu skjerati aġenti li jirraġunaw, jippjanaw u jwettqu kompiti kumplessi f'setturi regolatiDan huwa speċjalment rilevanti fl-Ewropa u fi Spanja, fejn is-sovranità tad-dejta u l-konformità regolatorja huma importanti.

Familja miftuħa ta' mudelli għal IA aġentika u sovrana

Nemotron 3 huwa ppreżentat bħala ekosistema kompluta: mudelli, settijiet ta' dejta, libreriji, u riċetti ta' taħriġ taħt liċenzji miftuħa. L-idea ta' NVIDIA hija li l-organizzazzjonijiet mhux biss jikkunsmaw l-AI bħala servizz opak, iżda jistgħu jispezzjonaw x'hemm ġewwa, jadattaw il-mudelli għad-dominji tagħhom, u jużawhom fuq l-infrastruttura tagħhom stess, kemm jekk fil-cloud kif ukoll f'ċentri tad-dejta lokali.

Il-kumpanija tfassal din l-istrateġija fi ħdan l-impenn tagħha li AI SovranaGvernijiet u kumpaniji fl-Ewropa, il-Korea t'Isfel, u reġjuni oħra qed ifittxu alternattivi miftuħa għal sistemi magħluqa jew barranin, li ħafna drabi ma jikkonformawx sew mal-liġijiet tagħhom dwar il-protezzjoni tad-dejta jew mar-rekwiżiti tal-awditjar. Nemotron 3 għandu l-għan li jkun il-pedament tekniku li fuqu jinbnew mudelli nazzjonali, settorjali, jew korporattivi b'viżibilità u kontroll akbar.

B'mod parallel, NVIDIA ssaħħaħ il-pożizzjoni tagħha lil hinn mill-hardwareSa issa, kien primarjament fornitur ta' GPU ta' referenza; b'Nemotron 3, pożizzjona ruħu wkoll fis-saff tal-għodod tal-immudellar u t-taħriġ, u jikkompeti aktar direttament ma' atturi bħal OpenAI, Google, Anthropic, jew saħansitra Meta, u kontra mudelli premium bħal SuperGrok TqilMeta ilha tnaqqas l-impenn tagħha lejn is-sors miftuħ fl-aħħar ġenerazzjonijiet ta' Llama.

Għall-ekosistema Ewropea tar-riċerka u l-istartups—li tiddependi ħafna fuq mudelli miftuħa ospitati fuq pjattaformi bħal Hugging Face—id-disponibbiltà ta' piżijiet, dejta sintetika, u libreriji taħt liċenzji miftuħa tirrappreżenta alternattiva qawwija għall- Mudelli Ċiniżi u Amerikani li jiddominaw il-klassifiki tal-popolarità u tal-parametri referenzjarji.

Arkitettura ibrida tal-MoE: effiċjenza għal aġenti fuq skala kbira

Il-karatteristika teknika ċentrali ta' Nemotron 3 hija Arkitettura ibrida ta' taħlita latenti ta' esperti (MoE)Minflok ma jiġu attivati ​​l-parametri kollha tal-mudell f'kull inferenza, frazzjoni minnhom biss tiġi mixgħula, is-subsett ta' esperti l-aktar rilevanti għall-kompitu jew it-token inkwistjoni.

Dan l-approċċ jippermetti tnaqqas drastikament l-ispiża komputazzjonali u l-konsum tal-memorjaDan iżid ukoll ir-rata tat-tokens. Għal arkitetturi b'ħafna aġenti, fejn għexieren jew mijiet ta' aġenti jiskambjaw messaġġi kontinwament, din l-effiċjenza hija essenzjali biex tipprevjeni li s-sistema ssir insostenibbli f'termini ta' spejjeż tal-GPU u tal-cloud.

Skont id-dejta kondiviża minn NVIDIA u parametri referenzjarji indipendenti, in-Nemotron 3 Nano jikseb sa erba’ darbiet aktar tokens kull sekonda Meta mqabbel mal-predeċessur tiegħu, in-Nemotron 2 Nano, dan inaqqas il-ġenerazzjoni ta' tokens ta' raġunament bla bżonn b'madwar 60%. Fil-prattika, dan ifisser tweġibiet ugwalment preċiżi jew saħansitra aktar preċiżi, iżda b'inqas "verbalità" u spiża aktar baxxa għal kull mistoqsija.

L-arkitettura ibrida tal-MoE, flimkien ma’ tekniki speċifiċi ta’ taħriġ, wasslet għal Ħafna mill-aktar mudelli miftuħa avvanzati jadottaw skemi ta' espertiNemotron 3 jingħaqad ma' din ix-xejra, iżda jiffoka speċifikament fuq l-AI aġentika: rotot interni ddisinjati għall-koordinazzjoni bejn l-aġenti, l-użu ta' għodod, l-immaniġġjar ta' stati twal, u l-ippjanar pass pass.

Tliet daqsijiet: Nano, Super, u Ultra għal tagħbijiet tax-xogħol differenti

Il-familja Nemotron 3 hija organizzata fi tliet daqsijiet ewlenin tal-mudell tal-MoE, kollha miftuħa u b'parametri attivi mnaqqsa grazzi għall-arkitettura esperta:

• Nemotron 3 Nanomadwar 30.000 biljun parametru totali, b'madwar 3.000 biljun assi għal kull tokenHuwa ddisinjat għal kompiti mmirati fejn l-effiċjenza hija importanti: debugging tas-softwer, sommarju ta' dokumenti, irkupru ta' informazzjoni, monitoraġġ tas-sistema, jew assistenti speċjalizzati tal-AI.
• Nemotron 3 Supermadwar 100.000 biljun parametru, b' 10.000 biljuni f'assi f'kull pass. Huwa mmirat lejn Raġunar avvanzat f'arkitetturi b'ħafna aġentib'latenza baxxa anke meta aġenti multipli jikkooperaw biex isolvu flussi kumplessi.
• Nemotron 3 Ultra: il-livell ta' fuq, b'madwar 500.000 biljun parametru u sa 50.000 biljun assi għal kull tokenJopera bħala magna ta' raġunament qawwija għar-riċerka, l-ippjanar strateġiku, l-appoġġ għad-deċiżjonijiet ta' livell għoli, u sistemi tal-IA partikolarment impenjattivi.

Fil-prattika, dan jippermetti lill-organizzazzjonijiet Agħżel id-daqs tal-mudell skont il-baġit u r-rekwiżiti tiegħekNano għal tagħbijiet tax-xogħol massivi u intensivi u spejjeż stretti; Super meta jkun meħtieġ aktar fond ta' raġunament b'ħafna aġenti li jikkollaboraw; u Ultra għal każijiet fejn il-kwalità u l-kuntest twil jegħlbu l-ispiża tal-GPU.

Għalissa, In-Nemotron 3 Nano biss huwa disponibbli għall-użu immedjat.Il-varjanti Super u Ultra huma ppjanati għall-ewwel nofs tal-2026, u dan jagħti ħin lill-kumpaniji u l-laboratorji Ewropej biex jesperimentaw l-ewwel bin-Nano, jistabbilixxu pipelines u, aktar tard, jemigraw każijiet li jeħtieġu kapaċità akbar.

Nemotron 3 Nano: tieqa ta' miljun token u spiża kkontrollata

Nemotron 3 Nano, mil-lum, il-ponta prattika tal-familjaNVIDIA tiddeskrivih bħala l-mudell l-aktar kosteffiċjenti f'termini ta' komputazzjonali fil-firxa, ottimizzat biex jagħti l-massimu ta' prestazzjoni f'flussi tax-xogħol b'ħafna aġenti u kompiti intensivi iżda ripetittivi.

Fost il-karatteristiċi tekniċi tiegħu, jispikkaw dawn li ġejjin: tieqa tal-kuntest sa miljun tokenDan jippermetti ż-żamma tal-memorja għal dokumenti estensivi, repożitorji sħaħ tal-kodiċi, jew proċessi tan-negozju b'ħafna stadji. Għal applikazzjonijiet Ewropej fis-settur bankarju, fil-kura tas-saħħa, jew fl-amministrazzjoni pubblika, fejn ir-rekords jistgħu jkunu voluminużi, din il-kapaċità ta' kuntest fit-tul hija partikolarment siewja.

Il-punti ta' riferiment tal-organizzazzjoni indipendenti Analiżi artifiċjali tpoġġi lil Nemotron 3 Nano bħala wieħed mill-aktar mudelli open-source bilanċjati Jgħaqqad l-intelliġenza, l-eżattezza, u l-veloċità, b'rati ta' throughput ta' mijiet ta' tokens kull sekonda. Din il-kombinazzjoni tagħmilha attraenti għall-integraturi tal-IA u l-fornituri tas-servizzi fi Spanja li jeħtieġu esperjenza tajba għall-utent mingħajr ma jogħlew l-ispejjeż tal-infrastruttura.

F'termini ta' każijiet ta' użu, NVIDIA qed timmira lejn Nano Sommarju tal-kontenut, debugging tas-softwer, irkupru ta' informazzjoni, u assistenti tal-AI tal-intrapriżaBis-saħħa tat-tnaqqis tat-tokens ta' raġunament żejda, huwa possibbli li jitħaddmu aġenti li jżommu konversazzjonijiet twal mal-utenti jew mas-sistemi mingħajr ma l-ispiża tal-inferenza tiżdied b'mod drammatiku.

Dejta miftuħa u libreriji: NeMo Gym, NeMo RL u Evaluator

Waħda mill-aktar karatteristiċi distintivi ta' Nemotron 3 hija li Mhuwiex limitat għar-rilaxx tal-piżijiet tal-mudellNVIDIA takkumpanja l-familja b'sett komprensiv ta' riżorsi miftuħa għat-taħriġ, l-irfinar u l-evalwazzjoni tal-aġenti.

Minn naħa waħda, jagħmel disponibbli korpus sintetiku ta' diversi triljuni ta' tokens ta' dejta ta' qabel it-taħriġ, wara t-taħriġ, u ta' rinforzDawn is-settijiet ta' dejta, iffukati fuq ir-raġunar, il-kodifikazzjoni, u l-flussi tax-xogħol b'ħafna passi, jippermettu lill-kumpaniji u liċ-ċentri ta' riċerka jiġġeneraw il-varjanti speċifiċi għad-dominju tagħhom stess ta' Nemotron (eż., legali, kura tas-saħħa, jew industrijali) mingħajr ma jibdew mill-bidu.

Fost dawn ir-riżorsi, jispikka dan li ġej: Sett ta' dejta dwar is-Sigurtà Aġentika ta' NemotronJiġbor dejta telemetrika dwar l-imġiba tal-aġenti f'xenarji tad-dinja reali. L-għan tiegħu huwa li jgħin lit-timijiet ikejlu u jsaħħu s-sigurtà ta' sistemi awtonomi kumplessi: minn liema azzjonijiet jieħu aġent meta jiltaqa' ma' dejta sensittiva, sa kif jirreaġixxi għal kmandi ambigwi jew potenzjalment ta' ħsara.

Rigward it-taqsima tal-għodod, NVIDIA qed tniedi NeMo Gym u NeMo RL bħala libreriji open source għal taħriġ ta' rinfurzar u wara t-taħriġ, flimkien ma' NeMo Evaluator għall-valutazzjoni tas-sigurtà u l-prestazzjoni. Dawn il-libreriji jipprovdu ambjenti ta' simulazzjoni lesti għall-użu u pipelines mal-familja Nemotron, iżda jistgħu jiġu estiżi għal mudelli oħra.

Dan il-materjal kollu—piżijiet, settijiet ta' dejta, u kodiċi—huwa mqassam permezz ta' GitHub u Hugging Face huma liċenzjati taħt il-Liċenzja tal-Mudell Miftuħ ta' NVIDIA.sabiex it-timijiet Ewropej ikunu jistgħu jintegrawh bla xkiel fl-MLOps tagħhom stess. Kumpaniji bħal Prime Intellect u Unsloth diġà qed jinkorporaw NeMo Gym direttament fil-flussi tax-xogħol tagħhom biex jissimplifikaw it-tagħlim ta' rinfurzar fuq Nemotron.

Disponibbiltà fi sħab pubbliċi u l-ekosistema Ewropea

Nemotron 3 Nano issa huwa disponibbli minn Wiċċ li Jgħanniq y GitHubkif ukoll permezz ta' fornituri ta' inferenza bħal Baseten, DeepInfra, Fireworks, FriendliAI, OpenRouter, u Together AI. Dan jiftaħ il-bieb għat-timijiet ta' żvilupp fi Spanja biex jittestjaw il-mudell permezz tal-API jew jużawh fuq l-infrastrutturi tagħhom stess mingħajr kumplessità eċċessiva.

Fuq quddiem is-sħab, Nemotron 3 Nano jingħaqad ma' AWS permezz ta' Amazon Bedrock għal inferenza mingħajr server, u ħabbret appoġġ għal Google Cloud, CoreWeave, Crusoe, Microsoft Foundry, Nebius, Nscale, u Yotta. Għal organizzazzjonijiet Ewropej li diġà qed jaħdmu fuq dawn il-pjattaformi, dan jagħmilha aktar faċli biex jadottaw Nemotron mingħajr bidliet drastiċi fl-arkitettura tagħhom.

Minbarra l-cloud pubbliku, NVIDIA qed tippromwovi l-użu ta' Nemotron 3 Nano bħala Mikroservizz NIM skjerabbli fuq kwalunkwe infrastruttura aċċellerata minn NVIDIADan jippermetti xenarji ibridi: parti mit-tagħbija fi sħab internazzjonali u parti f'ċentri tad-dejta lokali jew fi sħab Ewropej li jipprijoritizzaw ir-residenza tad-dejta fl-UE.

Il-verżjonijiet Nemotron 3 Super u Ultra, immirati lejn tagħbija tax-xogħol ta' raġunament estrem u sistemi b'aġenti multipli fuq skala kbira, huma ippjanat għall-ewwel nofs tal-2026Din l-iskeda ta' żmien tagħti ħin lir-riċerka Ewropea u lill-ekosistema tan-negozju biex jesperimentaw bin-Nano, jivvalidaw il-każijiet ta' użu, u jiddisinjaw strateġiji ta' migrazzjoni għal mudelli akbar meta jkun meħtieġ.

Nemotron 3 ipoġġi lil NVIDIA bħala wieħed mill-fornituri ewlenin ta' Mudelli miftuħa ta' kwalità għolja mmirati lejn AI aġentikaB'proposta li tgħaqqad l-effiċjenza teknika (MoE ibrida, NVFP4, kuntest massiv), il-ftuħ (piżijiet, settijiet ta' dejta u libreriji disponibbli) u fokus ċar fuq is-sovranità u t-trasparenza tad-dejta, aspetti li huma partikolarment sensittivi fi Spanja u fil-bqija tal-Ewropa, fejn ir-regolamentazzjoni u l-pressjoni biex tiġi awditjata l-IA qed isiru dejjem akbar.

Artiklu relatat:

Microsoft Discovery AI tmexxi avvanzi xjentifiċi u edukattivi b'intelliġenza artifiċjali personalizzata

Alberto Navarro

Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.

Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.