- gpt-oss-20b wuxuu u yimaadaa qaab miisaan-furan oo leh fulin maxalli ah iyo macne dheer (ilaa 131.072 calaamado).
- Waxaa loo habeeyay NVIDIA RTX: Xawaaraha la soo sheegay ilaa 256 t/s; VRAM ayaa la wareegaysa si ay u ilaaliso waxqabadka.
- Way fududahay in lagu isticmaalo Ollama iyo beddelaadyo ay ka mid yihiin llama.cpp, GGML, iyo Microsoft AI Foundry Local.
- Sidoo kale waxaa laga heli karaa Intel AI Playground 2.6.0, oo leh qaab-dhismeedka la cusboonaysiiyay iyo maamulka deegaanka oo la hagaajiyay.
Imaanshada gpt-oss-20b loogu talagalay isticmaalka maxaliga ah waxay keentaa moodal awood leh oo si toos ah ugu shaqeeya kombuyutarka isticmaaleyaal badan. Riixitaankan, oo la jaan qaadaya Hagaajinta NVIDIA RTX GPUs, waxay albaabada u furaysaa socodka shaqo ee dalbanaya adoon ku tiirsanayn daruurta.
Diiradu waa caddahay: in la bixiyo Miisaan furan oo leh macno aad u dheer hawlaha adag sida raadinta horumarsan, cilmi-baadhis, caawimo kood ama sheeko dheer, mudnaanta la siinayo asturnaanta iyo xakamaynta kharashka marka aad ka shaqaynayso gudaha.
Muxuu gpt-oss-20b bixiyaa marka uu gudaha u socdo?
Qoyska gpt-oss waxay ku soo bandhigeen moodallo ah miisaanka furan loogu talagalay in si fudud loogu daro xalalkaaga. Gaar ahaan, gpt-oss-20b Waxay u taagan tahay isu-dheellitirka awoodda sababaynta iyo shuruudaha qalabka macquulka ah ee kombuyutarka desktop-ka.
Sifada lagu garto waa daaqada macnaha guud, oo leh taageero ilaa 131.072 calaamadood oo ku jira kala duwanaanshaha gpt-oss. Dhererkani wuxuu fududeeyaa sheeko dheer, falanqaynta dukumentiyada mugga leh ama silsiladaha fikirka qoto dheer oo aan goyn ama kala qaybin.
Marka la barbar dhigo moodooyinka xiran, soo jeedinta culeyska furan ayaa mudnaanta siineysa dabacsanaanta isdhexgalka codsiyada: ka caawiyayaasha qalabka (wakiilada) xitaa plugins loogu talagalay cilmi-baaris, goob-raadinta shabakadda iyo barnaamijyada, oo dhan ka faa'iidaysanaya fikradda maxalliga ah.
Marka la eego shuruudaha la taaban karo, xirmada ee gpt-oss:20b waa ku dhawaad 13 GB lagu rakibay deegaan runtime caan ah. Tani waxay dejinaysaa codka agabka loo baahan yahay waxayna caawisaa in la cabbiro VRAM si loo ilaaliyo wax qabad la'aan caqabado.
Waxa kale oo jira kala duwanaansho weyn (gpt-oss-120b), oo loogu talagalay xaaladaha leh ilo garaafyo badan oo ku filan. Inta badan PC-yada, si kastaba ha ahaatee, waa 20B Waa meesha ugu macquulsan ee laga bilaabo xiriirka ka dhexeeya xawaaraha, xusuusta iyo tayada.
Hagaajinta RTX: Xawaaraha, Xaaladda, iyo VRAM
La qabsiga moodooyinka GPT-OSS ee nidaamka deegaanka NVIDIA RTX u ogolaanaya heerarka jiilka sare. Qalab heersare ah, ugu sarraysa ilaa 256 calaamado/sekand oo leh hagaajin ku habboon, ka faa'iidaysiga hagaajinta gaarka ah iyo saxnaanta sida MXFP4.
Natiijadu waxay ku xidhan tahay kaadhka, macnaha guud, iyo qaabaynta. Imtixaannada leh a RTX 5080, gpt-oss 20b ayaa gaadhay agagaarka 128 t/s Qodobo ka kooban (≈8k). Iyadoo la kordhinayo 16k daaqad oo ku qasbaya qaar ka mid ah culeyska nidaamka RAM, heerka ayaa hoos ugu dhacay ~50,5 t/s, iyadoo GPU-gu uu qabanayo shaqada ugu badan.
Casharku waa cad yahay: ah Xeerarka VRAM. Gudaha AI, a RTX 3090 oo leh xasuus badan Waxay qaban kartaa si ka wanaagsan GPU cusub laakiin leh VRAM yar, sababtoo ah waxay ka hortagtaa qulqulka qulqulka nidaamka xusuusta iyo faragelinta dheeraadka ah ee CPU.
Gpt-oss-20b, way ku habboon tahay in cabbirka qaabka loo qaato tixraac ahaan: ku saabsan 13 GB qol badan oo loogu talagalay kaydka KV iyo hawlo degdeg ah. Sida hage degdeg ah, waxaa lagu talinayaa in la haysto 16 GB oo VRAM ah ugu yaraan oo ujeedo 24 GB haddii duruufo dhaadheer ama culays joogto ah la filayo.
Kuwa doonaya inay tuujiyaan qalabka ayaa sahamin kara saxnaanta hufan (sida MXFP4), hagaaji dhererka macnaha guud ama isticmaal isku xidhka GPU-da badan marka ay suurtagal tahay, had iyo jeer la ilaaliyo yoolka iska ilaali wax is dhaafsiga dhanka RAM.
Rakibaadda iyo isticmaalka: Ollama iyo waddooyinka kale
Si aad u tijaabiso qaabka hab fudud, Ollama waxa uu khibrad toos ah ka siinayaa PC-yada ku shaqeeya RTX: Waxay kuu ogolaataa inaad soo dejiso, socodsiiso, oo aad la sheekeysato GPT-OSS-20B iyada oo aan la samaynin qaabayn adag., marka lagu daro taageeridda PDFs, faylasha qoraalka, soo jeedinta sawirka, iyo hagaajinta macnaha guud.
Waxa kale oo jira wadooyin kale oo loogu talagalay isticmaalayaasha horumarsan, tusaale ahaan Ku rakib LLM Windows 11. Qaab dhismeedka sida wac.cpp iyo nooca maktabadaha GGML waxaa loo habeeyay RTX, iyadoo dadaaladii ugu dambeeyay la sameeyay yaree culeyska CPU kana faa’iideysta Garaafyada CUDA. Waxaa barbar socda. Microsoft AI Foundry Local (aragti horudhac ah) Isku dhafka moodooyinka CLI, SDK ama APIs oo leh CUDA iyo dardargelinta TensorRT.
Nidaamka deegaanka ee qalabka, Garoonka ciyaaraha ee Intel AI 2.6.0 ayaa gpt-oss-20b ku daray doorashadeedaCusboonaysiinta ayaa ku daraya xakamaynta qaabaynta qaabaysan ee dhabarka dambe iyo dib u eegis ku samaynta qaabdhismeedka sida FurVINO, ComfyUI y wac.cpp (oo taageero ka helaya volcano iyo hagaajinta macnaha guud), fududaynta deegaan xasilloon.
Tilmaamaha bilowga ahaan, hubi VRAM la heli karo, soo deji nooca moodeelka ee ku habboon GPU-gaaga, xaqiiji xawaaraha calaamadda oo leh tilmaamo wakiil ah oo hagaajinaya daaqada macnaha guud si aad u ilaaliso dhammaan culayska kaadhka garaafyada.
Qaybahan, waxaa suurtagal ah in la dhiso kaaliyeyaasha baadhid iyo falanqayn, qalabka baaritaan ama taageerooyinka barnaamijka Kaas oo ku shaqeeya gebi ahaanba kombiyuutarka, ilaalinaya madaxbanaanida xogta.
Isku darka gpt-oss-20b oo leh dardargelinta RTX, maaraynta taxadarka leh ee VRAM, iyo qalabyada sida Ollama, llama.cpp, ama AI Playground cement-ka doorasho qaan-gaar ah oo loogu talagalay socodsiinta sababaynta AI gudaha; waddo isku dheeli tiran waxqabadka, qiimaha, iyo sirta adigoon ku tiirsanayn adeegyada dibadda.
Waxaan ahay nin xiiseeya tignoolajiyada oo danihiisa "geek" u rogay xirfad. Waxaan ku qaatay in ka badan 10 sano oo noloshayda ah aniga oo isticmaalaya tignoolajiyada aadka u wanaagsan iyo in aan ku mashquulo dhammaan noocyada barnaamijyada xiisaha saafiga ah. Hadda waxaan ku takhasusay tignoolajiyada kombiyuutarka iyo ciyaaraha fiidiyowga. Tani waa sababta oo ah in ka badan 5 sano waxaan wax ku qori jiray mareegaha kala duwan ee tiknoolajiyada iyo ciyaaraha fiidiyowga, aniga oo abuuraya maqaallo doonaya in ay ku siiyaan macluumaadka aad u baahan tahay luqadda oo qof kastaa fahmi karo.
Haddii aad wax su'aalo ah qabtid, aqoontaydu waxay u dhaxaysaa wax kasta oo la xidhiidha nidaamka hawlgalka Windows iyo sidoo kale Android ee telefoonnada gacanta. Ballanqaadkaygu waa adiga, waxaan mar walba diyaar u ahay inaan ku qaato dhowr daqiiqo oo aan kaa caawiyo xallinta wixii su'aalo ah ee aad ka qabtid adduunkan internetka.