Raspberry Pi AI HAT+ 2: Þetta er nýja staðbundna gervigreindartilboðið fyrir Raspberry Pi 5

Koma Raspberry Pi AI HAT+ 2 Þetta markar nýtt skref fyrir þá sem vilja vinna beint með gervigreind í a Raspberry Pi 5 án þess að vera stöðugt háður skýinu. Þetta útvíkkunarkort bætir við sérstökum taugahröðlum og eigin minni, þannig að stór hluti gervigreindarvinnslunnar færist frá aðal örgjörvanum, sem gerir kleift að framkvæma metnaðarfyllri gervigreindar- og tölvusjónarverkefni.

Með ráðlögðu verði upp á um það bil 130 dollarar (Lokaverðið á Spáni og í öðrum Evrópulöndum er breytilegt eftir sköttum og hagnaðarmörkum opinberra dreifingaraðila.) AI HAT+ 2 setur sig sem tiltölulega hagkvæman kost innan vistkerfis innbyggðrar gervigreindar. Hann keppir ekki við stóra netþjóna eða sérstaka skjákorta, en býður upp á áhugaverða jafnvægi milli kostnaðar, orkunotkunar og afkasta. IoT, sjálfvirkni, menntun og frumgerðasmíði.

Hvað er Raspberry Pi AI HAT+ 2 og hvernig er það frábrugðið fyrstu kynslóðinni?

Raspberry Pi AI HAT+ 2 er opinber framlengingarplata Það er hannað fyrir Raspberry Pi 5 og tengist í gegnum innbyggða PCI Express tengi móðurborðsins og notar einnig GPIO tengið til uppsetningar. Það er bein arftaki fyrsta AI HAT+, sem kom út árið 2024 og var í boði í útgáfum með hröðlum. Hailo-8L (13 TOPS) og Hailo-8 (26 TOPS) og var mjög einbeittur að verkefnum í tölvusjón.

Í þessari annarri kynslóð veðjar Raspberry Pi á a Hailo-10H tauganethröðullinn í fylgd með 8 GB af LPDDR4X minni tileinkað á kortinu sjálfu. Þessi samsetning er hönnuð til að styðja vinnuálag á skapandi gervigreind á jaðrinum, svo sem þjappað tungumálamódel, sjón-tungumódel og fjölþætt forrit sem sameina mynd og texta.

Sú staðreynd að fella inn samþætt DRAM Þetta þýðir að keyrsla gervigreindarlíkana notar ekki beint aðalminni Raspberry Pi 5. Móðurborðið getur einbeitt sér að forritarökfræði, notendaviðmóti, tengingu eða geymslu, á meðan örgjörvinn sér um meginhluta ályktana. Í reynd hjálpar þetta til við að halda kerfinu nothæfu á meðan gervigreindarlíkön keyra í bakgrunni.

Samkvæmt Raspberry Pi sjálfu er umskiptin frá fyrsta AI HAT+ yfir í þessa nýju gerð... nánast gegnsætt Fyrir verkefni sem þegar notuðu Hailo-8 hröðla er samþætting við myndavélaumhverfi fyrirtækisins og hugbúnaðarpakkann viðhaldið, sem kemur í veg fyrir miklar endurskrifanir.

Vélbúnaður, afköst og orkunotkun: allt að 40 TOPS með Hailo-10H NPU

Hjarta AI HAT+ 2 er Hailo-10HSérhæfður tauganethröðull hannaður til að keyra ályktanir á skilvirkan hátt á lágorkutækjum. Raspberry Pi og Hailo eru að tala um allt að 40 TOPP afköst (teraaðgerðir á sekúndu), tölur fengnar með skammtafræðilegri aðferð í INT4 og INT8, mjög algengt þegar líkön eru sett upp á jaðrinum.

Eitt af lykilatriðunum er að örgjörvinn er takmarkaður við afl upp á um það bil 3W orkunotkunÞetta gerir það kleift að samþætta það í þéttar kassar og innbyggð verkefni án þess að auka verulega kæliþörf eða rafmagnsreikninga, sem er mikilvægt fyrir tæki sem geta verið virk allan sólarhringinn. Hins vegar þýðir þessi takmörkun að brúttóávöxtun Það verður ekki alltaf betra en það sem Raspberry Pi 5 sjálfur getur boðið upp á þegar örgjörvinn og skjákortið eru þrýst út í öfgar í ákveðnum mjög fínstilltum vinnuálagi.

Í samanburði við fyrri gerð er stökkið augljóst: það fer úr 13/26 TOPS með Hailo‑8L/Hailo‑8 Það nær 40 TOPS með Hailo-10H, og í fyrsta skipti er bætt við 8 GB af sérstöku innbyggðu minni. Fyrsta AI HAT+ tækið skar sig úr í verkefnum eins og hlutgreiningu, stellingarmati og sviðsmyndaskiptingu; nýja útgáfan heldur þessum tegundum forrita en víkkar áherslur sínar til ... tungumálamódel og fjölþætt notkun.

Engu að síður skýrir Raspberry Pi sjálft að í ákveðnum sjónrænum aðgerðum gæti hagnýt frammistaða Hailo-10H verið mismunandi. svipað og 26 TOPS Hailo-8, vegna þess hvernig vinnuálagið er dreift og byggingarlistarmunarins. Helsta framförin, frekar en í hráum tölvusjónarkrafti, liggur í möguleikunum sem það opnar fyrir LLM og staðbundnar kynslóðarlíkön.

Diskurinn kemur með valfrjáls kælibúnaður fyrir örgjörvann (NPU). Þó að orkunotkunin sé takmörkuð er algengt að setja hana upp, sérstaklega ef þú ætlar að keyra krefjandi gervigreindarverkefni í langan tíma eða krefjandi afköstaprófanir, til að koma í veg fyrir að örgjörvinn minnki tíðni vegna hitastigs.

Studd tungumálamódel og staðbundin notkun LLM

Einn af áberandi þáttum AI HAT+ 2 er hæfni þess til að keyra tungumálamódel á staðnum á Raspberry Pi 5, án þess að senda gögn til utanaðkomandi netþjóna. Á kynningunni kynntu Raspberry Pi og Hailo fjölbreytt úrval af gerðum, þar á meðal 1.000 og 1.500 milljónir breytur sem upphafspunkt.

Meðal samhæfðra LLM-námsbrauta sem í boði eru við útgáfu eru DeepSeek-R1-Distill, Llama 3.2, Qwen2, Qwen2.5-Instruct og Qwen2.5-CoderÞetta eru tiltölulega nettar gerðir, hannaðar fyrir verkefni eins og grunnspjall, textaritun og leiðréttingu, kóðagerð, einfaldar þýðingar eða lýsingar á senum úr mynd- og textainnslætti.

Fyrstu prófanirnar sem fyrirtækið sýndi innihalda dæmi um þýðing milli tungumála og svör við einföldum spurningum sem eru framkvæmdar að öllu leyti á Raspberry Pi 5 með stuðningi AI HAT+ 2, með lágum töfum og án þess að hafa veruleg áhrif á heildarnotkun kerfisins. Vinnslan fer fram á Hailo-10H örgjörvanum og krefst ekki tengingar tækisins við skýið.

Það skal tekið fram að þessi lausn er ekki ætluð fyrir fjöldaútgáfur eins og fullar útgáfur af ChatGPT, Claude, eða stærri LLM-námsmenntirnar hjá Metaþar sem stærðir eru mældar í hundruðum milljarða eða jafnvel trilljónum af breytum. Í þeim tilfellum er vandamálið ekki aðeins reikniafl, heldur fyrst og fremst minni sem þarf til að hýsa líkanið og samhengi þess.

Raspberry Pi sjálft krefst þess að notendur séu meðvitaðir um að þeir séu að vinna með minni líkön þjálfuð á takmörkuðum gagnasöfnumTil að bæta upp fyrir þessa takmörkun er áherslan lögð á aðferðir eins og LoRA (lágstigs aðlögun)sem gerir kleift að aðlaga líkön að sérstökum notkunartilvikum án þess að þurfa að endurþjálfa þau alveg, með því að bæta við léttum aðlögunarlögum ofan á núverandi grunn.

Minni, takmarkanir og samanburður við 16GB Raspberry Pi 5

Innifalið í 8 GB af sérstöku LPDDR4X vinnsluminni Þetta er einn af helstu nýjungum AI HAT+ 2, en það skilgreinir einnig skýrt þær gerðir líkana sem hægt er að keyra. Margar meðalstórar magnbundnar LLM-líkön, sérstaklega ef þú vilt meðhöndla breitt samhengi, gætu auðveldlega þurft meira en ... 10 GB af minniÞess vegna er aukabúnaðurinn sniðinn að léttum gerðum eða þeim sem hafa þrengri samhengisglugga.

Ef þú berð það saman við a Raspberry Pi 5 16GB Jafnvel án HAT hafa móðurborð með meira minni enn forskot þegar tiltölulega stórum gerðum er hlaðið beint inn í vinnsluminni, að því gefnu að verulegur hluti þess minnis sé eingöngu tileinkaður gervigreind og öðrum verkefnum sé fórnað. Í því tilfelli sjá samþætta örgjörvinn og skjákortið um alla ályktunina, sem leiðir til aukins vinnuálags.

Tillagan um AI HAT+ 2 er skynsamlegri þegar leitað er að aðskildar ábyrgðirLáttu Hailo-10H NPU sjá um útreikninga gervigreindar og losaðu um pláss á Raspberry Pi 5 til að viðhalda léttum skjáborðsumhverfi, vefþjónustum, gagnagrunnum, sjálfvirknivæðingum eða kynningarlagi forrita.

Fyrir þá sem vilja bara eiga einn aðstoðarmaður á staðnum Tiltölulega einfalt og fær um að spjalla, þýða texta eða aðstoða við minniháttar forritunarverkefni án þess að senda gögn til þriðja aðila, gæti jafnvægi AI HAT+ 2 á milli afls, notkunar og kostnaðar reynst nægjanlegt. Hins vegar, fyrir verkefni sem krefjast stórra líkana eða afar umfangsmikils samhengis, verður notkun tækja með meira minni eða skýjainnviði áfram hagkvæmari.

Annað sem vert er að hafa í huga er að þó að 8 GB minni HAT hjálpi til við að minnka álag á minni, þá er útgáfan af 16 GB af Raspberry Pi 5 Það er enn betri en viðbótarkortið hvað varðar heildarafkastagetu, svo í ákveðnum vinnuflæðum sem nota mikið vinnsluminni verður sú stilling áfram æskilegri.

Tölvusjón og samtímis líkanframkvæmd

AI HAT+ 2 yfirgefur ekki þann eiginleika sem gerði fyrstu kynslóðina vinsæla: tölvusjónforritHailo-10H er fær um að keyra líkön fyrir hlutagreiningu og rakningu, áætla stöðu manna eða skipta umhverfisþáttum með afköstum sem í reynd eru í samræmi við það sem Hailo-8 bauð upp á með 26 TOPS.

Raspberry Pi gefur til kynna að nýja borðið geti keyra sjón- og tungumálalíkön samtímisÞetta gerir það aðlaðandi fyrir verkefni þar sem myndavél og textavinnsla þurfa að vinna saman. Til dæmis eftirlitskerfi sem flokka atburði og búa til lýsingar, snjallmyndavélar sem útskýra hvað er að gerast á vettvangi eða tæki sem sameina sjónræna greiningu og skýrslugerð.

Í sérstökum tilfellum eru fjölskyldulíkön nefnd. YOLO Fyrir rauntíma hlutgreiningu, með endurnýjunartíðni sem getur náð um 30 römmum á sekúndu eftir upplausn og flækjustigi líkansins. Hugmyndin er að NPU muni sjá um þetta verkefni á meðan Raspberry Pi 5 stýrir geymslu, neti, tilkynningum og skjá.

Hugbúnaðarvistkerfið í kringum gervigreind á Raspberry Pi er enn að þroskast. Þó að safn af dæmi, rammar og verkfæri Fyrir bæði Raspberry Pi og Hailo er samsíða keyrsla margra líkana (sjón, tungumáls, fjölþátta) áfram síbreytileg og gæti þurft fínstillingu í hverju verkefni.

Í öllum tilvikum, samþætting við opinber Raspberry Pi myndavélapakki Þetta einfaldar lífið fyrir þá sem þegar vinna með myndavélareiningar frá vörumerkinu. AI HAT+ 2 samþættist beint við það umhverfi, þannig að mörg núverandi sjónræn verkefni geta flutt yfir á nýja borðið með tiltölulega litlum breytingum.

Notkunartilvik á Spáni og í Evrópu: iðnaður, IoT og menntaverkefni

Samsetningin af lágri orkunotkun, smæð og staðbundin gervigreindarvinnsla Þetta samræmist vel þeirri stafrænu þróun sem er að hrinda í framkvæmd á Spáni og í öðrum Evrópulöndum. Í iðnaðargeira þar sem stöðugur aðgangur að skýinu er ekki alltaf tryggður eða þar sem strangar trúnaðarkröfur eru í gildi getur lausn af þessu tagi verið sérstaklega aðlaðandi.

Meðal algengustu hugtaka í opinberum skjölum eru verkefni fyrir iðnaðarsjálfvirkni, ferlastýring og aðstöðustjórnunSjónræn skoðunarkerfi á framleiðslulínum, rauntíma frávikagreining, aðgangsstýring eða talning fólks í byggingum eru dæmi þar sem samsetning sjónrænnar skoðunar og léttvægra tungumálalíkana getur aukið verðmæti án þess að þurfa að setja upp mun dýrari gervigreindarinnviði.

Á sviði Internet of Things (IoT) fyrir heimili og fyrirtækiAI HAT+ 2 getur þjónað sem grunnur fyrir staðbundna aðstoðarmenn sem keyra á Raspberry Pi 5, mælaborð sem túlka skynjaragögn, myndavélar sem lýsa aðstæðum eða tæki sem greina myndbönd án þess að hlaða myndum upp á utanaðkomandi netþjóna. Þessi aðferð hjálpar til við að uppfylla sífellt strangari reglur um gagnavernd í Evrópusambandinu.

Það getur líka verið áhugavert verkfæri sem þróunarbúnaður Fyrir evrópsk fyrirtæki og sprotafyrirtæki sem íhuga að samþætta Hailo-10H örgjörvann í lokaafurðir. Prófun á afköstum og stöðugleika á Raspberry Pi gerir kleift að sannreyna hugmyndir áður en fjárfest er í sérsniðnum vélbúnaðarhönnunum.

Á sviði menntunar gætu starfsmenntunarstöðvar, háskólar og sérhæfðar akademíur á Spáni notað AI HAT+ 2 sem æfingavettvang og þannig fært... Innbyggð gervigreind og skapandi gervigreind fyrir nemendur á aðgengilegum og tiltölulega ódýrum vélbúnaði samanborið við önnur dýrari kerfi.

Notendaupplýsingar og tegund verkefna sem markmiðið er að ná

Raspberry Pi AI HAT+ 2 miðar að nokkrum prófílum. Annars vegar breiður samfélagshópur framleiðendur og áhugamenn sem nota nú þegar Raspberry Pi 5 og vilja fella gervigreind eða háþróaða sjón inn í verkefni sín án þess að þurfa að skipta yfir í vinnustöðvar með sérstökum skjákortum eða reiða sig alfarið á skýjaþjónustu.

Á hinn bóginn reynir hann að tæla faglegir forritarar og sprotafyrirtæki sem þurfa prófunarvettvang fyrir innbyggða gervigreind. Í samanburði við lausnir með rafrænum skjákortum eða örgjörvum sem eru innbyggðar í iðnaðartölvur, býður þetta borð upp á þétta hönnun, mjög litla orkunotkun og lægri heildarkostnað, þó með lægri afköstum en mun dýrari kerfi.

Fyrir þá sem þegar hafa reynslu af fyrsta AI HAT+ virðist umskiptin tiltölulega einföld: samþætting við núverandi hugbúnað Og myndavélakerfið hefur verið vandlega hannað til að lágmarka nauðsynlegar breytingar. Þetta á við um verkefni sem þegar eru í gangi og vilja nýta sér aukna afköst án þess að endurskrifa allt.

Í hinum endanum gætu notendur sem vilja aðeins keyra tungumálalíkön staðbundið með hámarksmögulegu minnisrými samt fundið a Raspberry Pi 5 16GB Án HAT, að því gefnu að samþætta örgjörvinn og skjákortið muni sjá um allar ályktanir og að orkunotkunin verði nokkuð hærri.

Í stuttu máli virðist aukabúnaðurinn vera að skapa sér sess sem millilausn: öflugri og sveigjanlegri en Raspberry Pi 5 sem vinnur einn að ákveðnum gervigreindarverkefnum, en langt frá afköstum netþjóna eða sérhæfðra skjákorta, og með áherslu á Lítil orkunotkun, friðhelgi og kostnaðaraðhald.

Samþætting, úrræði og stuðningur við Hailo hugbúnað

Frá hugbúnaðarsjónarmiði hefur Raspberry Pi stefnt að því að einfalda uppsetningarferlið eins mikið og mögulegt er. AI HAT+ 2 tengist í gegnum PCIe tengi af Raspberry Pi 5 og er þekktur innfætt af opinbera stýrikerfinu, sem gerir gervigreindarforritum kleift að keyra án of flókinna uppsetningarskrefa fyrir þá sem eru þegar kunnugir umhverfinu.

Hailo býður notendum upp á geymsla á GitHub og forritarasvæði Það inniheldur kóðadæmi, forstilltar gerðir, kennslumyndbönd og ramma sem eru hönnuð fyrir bæði skapandi gervigreind og tölvusjón. Það inniheldur einnig verkfæri til að stjórna magngreiningu, hlaða inn gerðum frá þriðja aðila og fínstilla tiltekin vinnuflæði.

Við upphaf hefur fyrirtækið boðið upp á nokkra tilbúnar til uppsetningar tungumálamódelmeð loforði um að stækka vörulistann með stærri afbrigðum eða þeim sem eru aðlagaðar að mjög sérstökum notkunartilfellum. Ennfremur hvetur það til notkunar á aðferðum eins og LoRa til að aðlaga líkönin að þörfum hvers verkefnis án þess að þurfa að þjálfa þau frá grunni á gríðarstórum gagnasöfnum.

Eins og oft vill verða með þess konar lausnir, þá fer raunveruleg upplifun eftir því hver þroskastig hugbúnaðarvistkerfisinsSumir sérfræðingar benda á að enn sé pláss fyrir úrbætur í verkfærum, stöðugleika og stuðningi við samtímis keyrslu margra líkana, en þróunin í Raspberry Pi vistkerfinu er að færast í átt að sífellt fágaðri samþættingu.

Í öllum tilvikum, til að þróa verkefni á Spáni eða í öðrum Evrópulöndum, dregur það verulega úr hindruninni fyrir því að gera tilraunir með innbyggða og skapandi gervigreind í ódýrum tækjum að hafa opinber skjöl, hagnýt dæmi og virkt samfélag.

Verð, framboð og hagnýt atriði á Spáni og í Evrópu

Raspberry Pi AI HAT+ 2 hefur verið sett á markað með viðmiðunarverði upp á ... 130 dollararÁ Spáni og í öðrum Evrópulöndum fer lokaupphæðin eftir því gengi, skattar og stefna hvers dreifingaraðilaÞví er búist við að lítill munur verði á milli verslana og landa.

Móðurborðið er samhæft við alla línuna af Raspberry Pi 5Frá gerðum með 1GB vinnsluminni til útgáfa með 16GB er samhæfða Raspberry Pi fest með kunnuglegu HAT sniði: það skrúfast á borðið og tengist í gegnum GPIO hausinn og PCIe tengið. Fyrri Raspberry Pi gerðir sem skortir þetta tengi eru því útilokaðar af samhæfingarlistanum.

Í upphafi eftir tilkynninguna greindu nokkrir sérhæfðir dreifingaraðilar frá því að Takmarkað lagerÞetta er nú algengt með opinberum Raspberry Pi vélbúnaðarútgáfum. Þeir sem vilja tryggja sér tæki til skamms tíma þurfa að fylgjast með framboði frá viðurkenndum evrópskum dreifingaraðilum og hugsanlegum biðlistum.

Auk vélbúnaðarins felur kaupin í sér aðgang að tæknilegum skjölum og hugbúnaðarúrræðum fyrir Raspberry Pi og Hailo, þar á meðal GitHub dæmi, skref-fyrir-skref leiðbeiningar og efni fyrir þá sem eru nýir í innbyggðri gervigreind. Þetta auðveldar bæði einstaklingum og litlum fyrirtækjum að hefja tilraunir án þess að þurfa að fjárfesta í viðbótarþróunartólum.

Í evrópsku samhengi, þar sem persónuvernd gagna Og þar sem orkunýting verður sífellt mikilvægari er AI HAT+ 2 kynnt sem tæki sem gerir kleift vinna úr viðkvæmum upplýsingum á staðnum að draga úr ósjálfstæði gagnvart fjarlægum gagnaverum, sem getur verið aðlaðandi fyrir stjórnsýslufyrirtæki, lítil og meðalstór fyrirtæki og sjálfstæða forritara sem leita að stýrðari lausnum með gervigreind.

Raspberry Pi AI HAT+ 2 setur sig sem millistig á milli skýsins og stórra gervigreindarþjóna: það býður upp á tiltölulega aðgengilega leið til að sameina tölvusjón og létt tungumálalíkön í einu tæki, með lágri orkunotkun og virðingu fyrir friðhelgi einkalífsins, en krefst þess í staðinn að verkefni séu hönnuð. innan marka valds og minnis Dæmigert fyrir vélbúnað sem er hannaður með litla orkunotkun og lágan kostnað.

Tengd grein:

Xiaomi Smart Camera 3 3K: nýja 3K eftirlitsmyndavélin sem miðar að því að sigra tengda heimilið

Alberto Navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.