Mis on TOPS

Arengu tuumikus Tehisintellekt Spetsiifilise mõõtühiku kasutamine töötlemiskiiruse mõõtmiseks on laialt levinud: TOPS (Tera operatsioonid sekundis), kuigi on tõsi, et seda kasutatakse ka teistes tehnoloogilised valdkonnad. Selles postituses me selgitame qmis on TOPID ja mis on selle funktsioon.

Aga millest me nende mõõtühikutega räägime? TOP tähendab mitte vähem kui miljardit (a»b») operatsiooni sekundis, toimingute arv sekundis, millega NPU suudab hakkama saada. Sel viisil suudaks 40 TOPS-i protsessor töödelda 40 miljardit toimingut sekundis. Tõeliselt muljetavaldav.

Kui me räägime "toimingust", viitame arvutuste arvule, mille on genereerinud närvivõrgud  korrutades suure hulga erineva iseloomuga andmeid. Mida kõrgem on TOPS-i näitaja, see tähendab, Mida suurem on teie arvutusvõimsus, seda suurem on teie töötlemiskiirus..

Absoluutarvud, väljendatuna miljardites või isegi triljonites, on inimaju jaoks liiga suured. Nagu siis, kui me räägime galaktikatest ja kaugustest universumis. Sellepärast peate kasutama TOPSi. Uus mõõdik uute vajaduste jaoks.

Maa peale jõudes on siin mõned näited selle väärtuse olulisuse mõistmiseks: Qualcomm Snapdragon PC Copilot Plus on juba varustatud 45 TOPS-iga, samas kui uued AMD AI 300 kiibid lubavad sülearvutite jaoks 50 TOPS-i. Kõik viitab sellele, et seda tuleb pidada osaks AI arvutite järgmise põlvkonna ajastu, ta miinimumnõue mis tahes närvitöötlusüksus (NPU) asub 40 TOPSI.

Arvutid ja tehisintellekt

See on õige: TOPS on mõõtühik, mida me peame kasutama AI-süsteemidega varustatud arvutid. Ehk siis juba turule jõudev uue põlvkonna arvutid. Tõhus ressurss, mille abil määratakse arvuti NPU jõudlus.

Peate selle terminiga harjuma: NPU, tehisintellekti funktsioonide eest vastutav protsessor mida hõlmab üha rohkem arvuteid.

Samuti on oluline teada, et arvuti spetsifikatsioone lugedes ei kajasta TOPS-is väljendatud arv täielikult seda, kuidas AI töötab. Seal on muud tegurid mis mõjutavad ka nende lõpptulemust. Näiteks AI mudeli optimeerimine konkreetse riistvarakomponendi jaoks mõjutab kahtlemata tulemusi, mis tähendab teise muutuja lisamist.

Siiski saame seda kasutada viitena NPU tegeliku kiiruse ja muude seotud probleemide kohta:

• Esiteks on see suurepärane AI rakenduse täitmise kiiruse indikaator arvutis: mida rohkem TOPSe, seda lühem on reageerimisaeg.
• See on ka hea uute algoritmide ja närvivõrkude arendamise võrdlustase arvuti: mida rohkem TOPSe, seda suurem on arvutusvõimsus.
• Teisest küljest (kuigi see läheb juba koduarvutite tavapärastest ülesannetest kaugemale) on TOPS hea viis mõõta tehisintellekti koolitusprotsesside edenemist.

Kasulik, kuid mitteametlik mõõtja

Kuigi TOPS on oluline, pole seda tehisintellekti standardse ja universaalse mõõtühikuna veel aktsepteeritud. Tehnoloogiatööstus ei ole jõudnud kokkuleppele TOPSi õige mõõtmise viisi osas ja suure tõenäosusega ta seda kunagi ei tee. Praegu arvutab iga tootja seda omal moel, mis vähendab oluliselt selle töökindlust.

Sellele peame lisama, et tehisintellekti tegelik jõudlus on endiselt ebaselge, eriti kui need mängu tulevad. erinevaid tegureid, mis võivad tulemusi ühel või teisel viisil mõjutada.

Enamik kogenud kasutajaid on seda tüüpi probleemidest juba teadlikud: kuigi protsessorid näitavad kiirust gigahertsides (GHz), mängurid Nad eelistavad pöörata rohkem tähelepanu teisele arvestile: TFLOPS-ile (Ujukomatehted sekundis), mõõtühik mida kasutatakse enamiku videokaartide ja mängukonsoolide tehniliste andmete loendis. Ja seda siis, kui me räägime ainult jõudlusest, laskumata muudesse aspektidesse, nagu mälu.

Lühidalt, kuna spetsialiseeritud tehisintellekti ülesannete eest vastutavad NPU ja kohalik GPU, ei saa mõõtühikut nagu TOPS kasutada arvuti tehisintellekti jõudluse täielikuks määratlemiseks.

Nii et praegu peame rääkima väärtuslik ja üsna praktiline näitaja, kuid mitte lõplik. Loomulikult on need viideteks võrrelda uute arvutite NPU-sid tehisintellektiga mis juba turule tulevad.