V žaru razvoja Umetna inteligenca Uporaba posebne merske enote za merjenje hitrosti obdelave je postala zelo razširjena: TOPS (Tera operacij na sekundo), čeprav je res, da se uporablja tudi v drugih tehnoloških področij. V tej objavi bomo razložili qkaj so TOPS in kakšna je njegova funkcija.
Toda o čem govorimo s temi merskimi enotami? TOP pomeni nič manj kot milijardo (z a»b») operacij na sekundo, število operacij na sekundo, ki jih lahko obravnava NPU. Na ta način bi bil procesor 40 TOPS sposoben obdelati 40 milijard operacij na sekundo. Resnično impresivno.
Ko govorimo o "delovanju", se sklicujemo na število izračunov, ki jih ustvari nevronske mreže z množenjem velikih količin podatkov različne narave. Višja kot je vrednost TOPS, tj. Večja kot je vaša računalniška moč, večja je vaša hitrost obdelave..
Absolutne številke, izražene v milijardah ali celo bilijonih, so prevelike, da bi jih človeški možgani zmogli. Kot ko govorimo o galaksijah in razdaljah v vesolju. Zato morate uporabiti TOPS. Nova metrika za nove potrebe.
Če se spustimo na Zemljo, je tukaj nekaj primerov za razumevanje pomembnosti te vrednosti: Qualcomm Snapdragon PC Copilot Plus je že opremljen s 45 TOPS, medtem ko novi čipi AMD AI 300 obljubljajo zmogljivost 50 TOPS za prenosnike. Vse kaže, da veljati za del naslednja generacija računalnikov z umetno inteligenco, on minimalna zahteva katerega koli nevronska procesna enota (NPU) se nahaja v 40 VRHOV.
Računalniki in umetna inteligenca
Tako je: TOPS je merska enota, ki jo moramo uporabljati, ko gre za to računalniki, opremljeni s sistemi AI. To je nova generacija računalnikov, ki že prihaja na trg. Učinkovit vir, s katerim je določeno delovanje NPU-ja osebnega računalnika.
Na ta izraz se morate navaditi: NPU, procesor, ki skrbi za funkcije umetne inteligence ki jih vključuje vse več računalnikov.
Pomembno je tudi vedeti, da pri branju specifikacij računalnika številka, ki jo vidimo izražena v TOPS, ne odraža povsem natančno, kako deluje AI. Tukaj je drugi dejavniki kar vpliva tudi na njihovo končno uspešnost. Na primer, optimizacije v modelu AI za določeno komponento strojne opreme bodo nedvomno vplivale na rezultate, kar pomeni dodajanje druge spremenljivke.
Vendar pa ga lahko uporabimo kot referenco o dejanski hitrosti NPU in drugih povezanih vprašanjih:
- Najprej je odličen Indikator hitrosti izvajanja aplikacije AI na računalniku: več kot je TOPS, krajši je odzivni čas.
- Prav tako je dobro referenčna stopnja razvoja novih algoritmov in nevronskih mrež računalnika: več kot je TOPS, večja je računalniška moč.
- Po drugi strani (čeprav to že presega običajna opravila domačih računalnikov) so TOPS dober način za meriti napredek procesov usposabljanja umetne inteligence.
Uporaben, a neuraden merilnik
Čeprav je TOPS pomemben, še ni bil sprejet kot standardna in univerzalna merska enota za umetno inteligenco. Tehnološka industrija ni dosegla dogovora glede pravilnega načina merjenja TOPS in zelo verjetno tega ne bo nikoli storil. Trenutno ga vsak proizvajalec izračuna na svoj način, kar močno zmanjša njegovo zanesljivost.
K temu moramo dodati, da je še vedno veliko nejasnih podrobnosti o tem, kakšna je dejanska zmogljivost umetne inteligence, zlasti ko pridejo v poštev različnih dejavnikov, ki lahko tako ali drugače vplivajo na rezultate.
Večina izkušenih uporabnikov se že zaveda tovrstnih težav: medtem ko procesorji kažejo hitrost v gigahercih (GHz), igralci Več pozornosti raje namenjajo drugemu merilniku: TFLOPS (Operacije s plavajočo vejico na sekundo), merska enota ki se uporablja na seznamu specifikacij večine video kartic in igralnih konzol. In to je, če govorimo samo o zmogljivosti, ne da bi se spuščali v druge vidike, kot je spomin.
Skratka, ker sta NPU in lokalni GPE odgovorna za specializirane naloge umetne inteligence, merske enote, kot je TOPS, ni mogoče uporabiti za popolno opredelitev zmogljivosti umetne inteligence osebnega računalnika.
Zaenkrat se bomo torej morali pogovoriti o dragocen in precej praktičen kazalnik, vendar ne dokončen. Seveda bodo služili kot referenca, ko bo prišlo do primerjajte NPU novih računalnikov z AI ki že prihajajo na trg.
Urednik, specializiran za tehnološka in internetna vprašanja, z več kot desetletnimi izkušnjami v različnih digitalnih medijih. Delal sem kot urednik in ustvarjalec vsebin za podjetja za e-trgovino, komunikacije, spletni marketing in oglaševanje. Pisal sem tudi na spletnih straneh s področja ekonomije, financ in drugih sektorjev. Moje delo je tudi moja strast. Zdaj pa skozi moje članke v Tecnobits, poskušam raziskati vse novosti in nove priložnosti, ki nam jih svet tehnologije ponuja vsak dan za izboljšanje našega življenja.