- De Raspberry Pi AI HAT+ 2 befettet in Hailo-10H NPU mei maksimaal 40 TOPS en 8 GB oan tawijd RAM.
- It lit jo lichtgewicht taalmodellen en kompjûterfisy lokaal útfiere, sûnder ôfhinklik te wêzen fan 'e wolk.
- It behâldt kompatibiliteit mei Raspberry Pi 5 en syn kamera-ekosysteem, mar is beheind ta kompakte LLM's.
- De priis is om de $130 hinne en it is rjochte op IoT, yndustry, ûnderwiis en prototypingprojekten yn Jeropa.
De oankomst fan 'e Raspberry Pi AI HAT+ 2 Dit markearret in nije stap foar dyjingen dy't direkt mei keunstmjittige yntelliginsje wurkje wolle yn in Raspberry Pi 5 sûnder permanint ôfhinklik te wêzen fan 'e wolk. Dizze útwreidingsboerd foeget in tawijde neurale fersneller en in eigen ûnthâld ta, sadat in grut part fan 'e AI-ferwurking fan 'e haad-CPU ôf ferpleatst wurdt, wêrtroch't ambisjeuzer generative AI- en kompjûterfisyprojekten mooglik binne.
Mei in oanrikkemandearre priis fan sawat $130 (De definitive priis yn Spanje en de rest fan Europa sil ferskille ôfhinklik fan belestingen en offisjele distributeurmarges.) De AI HAT+ 2 posysjonearret himsels as in relatyf betelbere opsje binnen it ynbêde AI-ekosysteem. It konkurrearret net mei grutte servers of tawijde GPU's, mar it biedt wol in nijsgjirrige lykwicht tusken kosten, enerzjyferbrûk en prestaasjes. IoT, automatisearring, ûnderwiis en prototyping.
Wat is de Raspberry Pi AI HAT+ 2 en hoe ferskilt it fan 'e earste generaasje?
De Raspberry Pi AI HAT+ 2 is in offisjele útwreidingsplaat Untworpen foar de Raspberry Pi 5, ferbynt it fia de yntegreare PCI Express-ynterface fan it moederbord en brûkt it ek de GPIO-connector foar montage. It is de direkte opfolger fan 'e earste AI HAT+, útbrocht yn 2024, dy't oanbean waard yn farianten mei fersnellers. Hailo-8L (13 TOPS) en Hailo-8 (26 TOPS) en wie tige rjochte op kompjûterfisytaken.
Yn dizze twadde generaasje weddet Raspberry Pi op in Hailo-10H neurale netwurkfersneller begelaat troch 8 GB LPDDR4X-ûnthâld tawijd op 'e kaart sels. Dizze kombinaasje is ûntworpen om wurkdruk te stypjen fan generative AI oan 'e râne, lykas kompakte taalmodellen, fisy-taalmodellen en multimodale applikaasjes dy't ôfbylding en tekst kombinearje.
It feit fan ynkorporaasje yntegreare DRAM Dit betsjut dat it útfieren fan AI-modellen net direkt it haadûnthâld fan 'e Raspberry Pi 5 ferbrûkt. It moederbord kin him rjochtsje op applikaasjelogika, de brûkersynterface, ferbining of opslach, wylst de NPU it grutste part fan 'e ynferinsje ôfhannelet. Yn 'e praktyk helpt dit it systeem brûkber te hâlden wylst AI-modellen op 'e eftergrûn rinne.
Neffens Raspberry Pi sels is de oergong fan 'e earste AI HAT+ nei dit nije model praktysk transparant Foar projekten dy't al Hailo-8-fersnellers brûkten, wurdt de yntegraasje mei de kamera-omjouwing en softwarestack fan it bedriuw hanthavene, wêrtroch massive herskriuwingen foarkommen wurde.
Hardware, prestaasjes en enerzjyferbrûk: oant 40 TOPS mei de Hailo-10H NPU
It hert fan 'e AI HAT+ 2 is de Hailo-10HIn spesjalisearre neurale netwurkfersneller ûntworpen om effisjint ynferinsjes út te fieren op apparaten mei leech enerzjyferbrûk. Raspberry Pi en Hailo prate oer maksimaal 40 TOPS fan prestaasjes (teraoperaasjes per sekonde), sifers krigen mei kwantifikaasje yn INT4 en INT8, hiel gewoan as modellen oan 'e râne ynset wurde.
Ien fan 'e wichtichste punten is dat de chip beheind is ta in krêft fan sawat 3W enerzjyferbrûkHjirtroch kin it yntegrearre wurde yn kompakte kasten en ynbêde projekten sûnder de koeleasken of elektrisiteitsrekken signifikant te ferheegjen, wat wichtich is foar apparaten dy't 24/7 aktyf wêze kinne. Dizze beheining betsjut lykwols dat de bruto opbringst It sil net altyd superieur wêze oan wat de Raspberry Pi 5 sels biede kin as syn CPU en GPU ta har grinzen wurde dreaun yn bepaalde heech optimalisearre workloads.
Yn ferliking mei it foarige model is de sprong dúdlik: it giet fan 13/26 TOPS mei Hailo‑8L/Hailo‑8 It berikt 40 TOPS mei Hailo-10H, en foar it earst wurdt 8 GB oan tawijd ynboud ûnthâld tafoege. De earste AI HAT+ prestearre útblinkend yn taken lykas objektdeteksje, poseskatting en sênesegmentaasje; de nije ferzje behâldt dizze soarten applikaasjes, mar ferbreedt syn fokus nei taalmodellen en multimodale gebrûken.
Dochs ferdúdliket Raspberry Pi sels dat, yn bepaalde fisy-operaasjes, de praktyske prestaasjes fan 'e Hailo-10H miskien ... fergelykber mei de 26 TOPS fan 'e Hailo-8, fanwegen de manier wêrop de wurkdruk ferdield is en de arsjitektoanyske ferskillen. De grutte ferbettering, mear as yn rûge kompjûterfisykrêft, leit yn 'e mooglikheden dy't it iepenet foar LLM en lokale generative modellen.
De plaat komt mei in opsjonele waarmteôffier foar de NPU. Hoewol it enerzjyferbrûk beheind is, is de gewoane oanbefelling om it te ynstallearjen, foaral as jo yntinsive AI-taken foar in lange tiid útfiere sille of easken stelle oan prestaasjetests, om te foarkommen dat de chip frekwinsjes ferminderet fanwegen temperatuer.
Stipe taalmodellen en lokaal LLM-gebrûk
Ien fan 'e opfallendste aspekten fan 'e AI HAT+ 2 is syn fermogen om taalmodellen lokaal útfiere op in Raspberry Pi 5, sûnder gegevens nei eksterne servers te stjoeren. Tidens de presintaasje hawwe Raspberry Pi en Hailo in ferskaat oan modellen markearre, ynklusyf 1.000 en 1.500 miljoen parameters as útgongspunt.
Under de kompatible LLM's dy't by de lansearring oanbean wurde binne DeepSeek‑R1‑Distill, Llama 3.2, Qwen2, Qwen2.5‑Instruct en Qwen2.5‑CoderIt binne relatyf kompakte modellen, ûntworpen foar taken lykas basischat, tekst skriuwen en korreksje, koadegeneraasje, ienfâldige oersettings, of sênebeskriuwingen fan ôfbyldings- en tekstynfier.
De earste testen dy't it bedriuw sjen litten hat, omfetsje foarbylden fan oersetting tusken talen en antwurden op ienfâldige fragen dy't folslein útfierd wurde op 'e Raspberry Pi 5 stipe troch de AI HAT+ 2, mei lege latency en sûnder wichtige ynfloed te hawwen op 'e algemiene brûkberens fan it systeem. De ferwurking wurdt útfierd op 'e Hailo-10H-koprosessor en fereasket gjin ferbining fan it apparaat mei de wolk.
It moat dúdlik makke wurde dat dizze oplossing net bedoeld is foar massamerkmodellen lykas folsleine ferzjes fan ChatGPT, Claude, of de gruttere LLM's by Metawaans grutte metten wurde yn hûnderten miljarden of sels triljoenen parameters. Yn dy gefallen is it probleem net allinich de rekkenkrêft, mar boppe alles de ûnthâld fereaske om it model en syn konteksten te hostjen.
Raspberry Pi sels hâldt fol dat brûkers bewust wêze moatte dat se wurkje mei lytsere modellen traind op beheindere datasetsOm dizze beheining te kompensearjen, wurdt de fokus lein op techniken lykas LoRA (Lege-rang oanpassing)wêrtroch modellen oanpast wurde kinne oan spesifike gebrûksgefallen sûnder dat se folslein opnij trainearre hoege te wurden, wêrtroch lichtgewicht oanpassingslagen tafoege wurde boppe op 'e besteande basis.
Geheugen, beheiningen en ferliking mei in 16GB Raspberry Pi 5
De ynklúzje fan 8 GB tawijd LPDDR4X RAM Dit is ien fan 'e wichtichste nije funksjes fan AI HAT+ 2, mar it definiearret ek dúdlik de soarten modellen dy't útfierd wurde kinne. In protte middelgrutte kwantisearre LLM's, foaral as jo in brede kontekst behannelje wolle, kinne maklik mear nedich hawwe as 10 GB ûnthâldDêrom is it accessoire rjochte op lichtgewicht modellen of dy mei strakkere kontekstfinsters.
As jo it fergelykje mei in Raspberry Pi 5 16GB Sels sûnder HAT hawwe moederborden mei mear ûnthâld noch in foardiel by it laden fan relatyf grutte modellen direkt yn it RAM, mits in wichtich diel fan dat ûnthâld allinich oan AI wijd is en oare taken opoffere wurde. Yn dat senario behannelje de yntegreare CPU en GPU alle ynferinsje, wat resulteart yn ferhege wurkdruk.
It foarstel fan AI HAT+ 2 makket mear sin as jo sykje nei aparte ferantwurdlikhedenLit de Hailo-10H NPU de AI-berekkeningen behannelje en meitsje de Raspberry Pi 5 frij om in lichtgewicht buroblêdomjouwing, webservices, databases, automatisearrings of de presintaasjelaach fan in applikaasje te ûnderhâlden.
Foar dyjingen dy't der mar ien hawwe wolle lokale assistint Relatyf ienfâldich en by steat om te petearjen, teksten te oersetten, of te helpen mei lytse programmeartaken sûnder gegevens nei tredden te stjoeren, kin de lykwicht tusken krêft, ferbrûk en kosten fan 'e AI HAT+ 2 foldwaande blike. Foar projekten dy't grutte modellen of ekstreem wiidweidige konteksten fereaskje, sil it brûken fan apparaten mei mear ûnthâld of wolkynfrastruktuer lykwols praktysker bliuwe.
In oar punt om te beskôgjen is dat, hoewol de 8 GB fan 'e HAT helpt om ûnthâld te ûntlêsten, de ferzje fan 16 GB fan 'e Raspberry Pi 5 It prestearret noch altyd better as it tafoegingsboerd yn totale kapasiteit, dus yn bepaalde RAM-yntinsive workflows sil dy konfiguraasje de foarkar bliuwe te hawwen.
Kompjûterfisy en simultane modelútfiering
De AI HAT+ 2 lit de funksje dy't de earste generaasje populêr makke net los: de kompjûterfisy-applikaasjesDe Hailo-10H is by steat om objektdeteksje- en folgmodellen, minsklike pose-skatting of sênesegmentaasje út te fieren mei prestaasjes dy't yn 'e praktyk yn oerienstimming bliuwe mei wat de Hailo-8 oanbea op 26 TOPS.
Raspberry Pi jout oan dat it nije boerd kin tagelyk fisy- en taalmodellen útfiereDit makket it oantreklik foar projekten dêr't de kamera en tekstferwurking tegearre wurkje moatte. Bygelyks tafersjochsystemen dy't barrens klassifisearje en beskriuwingen generearje, tûke kamera's dy't útlizze wat der yn in sêne bart, of apparaten dy't fisuele erkenning kombinearje mei rapportgeneraasje.
Yn spesifike senario's wurde famyljemodellen neamd. YOLO Foar real-time objektdeteksje, mei ferfarskingsraten dy't sawat 30 frames per sekonde kinne berikke, ôfhinklik fan 'e resolúsje en kompleksiteit fan it model. It idee is dat de NPU dizze taak sil behannelje, wylst de Raspberry Pi 5 opslach, netwurk, notifikaasjes en werjefte beheart.
It software-ekosysteem om AI op Raspberry Pi hinne is noch altyd yn ûntwikkeling. Hoewol in kolleksje fan foarbylden, kaders en ark Foar sawol Raspberry Pi as Hailo bliuwt de parallelle útfiering fan meardere modellen (fyzje, taal, multimodaal) in evoluearjend fjild en kin fine-tuning yn elk projekt fereaskje.
Yn alle gefallen, yntegraasje mei de offisjele Raspberry Pi kamerastapel Dit ferienfâldiget it libben foar dyjingen dy't al wurkje mei de kameramodules fan it merk. De AI HAT+ 2 yntegrearret direkt mei dy omjouwing, sadat in protte besteande fisyprojekten mei relatyf lytse feroarings nei it nije boerd migrearje kinne.
Gebrûksfoarbylden yn Spanje en Europa: yndustry, IoT en edukative projekten
De kombinaasje fan leech enerzjyferbrûk, lytse grutte en lokale AI-ferwurking Dit slút goed oan by de digitalisaasjetrends dy't yn Spanje en oare Jeropeeske lannen ymplementearre wurde. Yn yndustriële sektoaren dêr't stabile tagong ta de wolk net altyd garandearre is of dêr't strange fertroulikenseasken besteane, kin in oplossing fan dit type benammen oantreklik wêze.
Under de meast brûkte termen yn offisjele dokumintaasje binne projekten foar yndustriële automatisearring, proseskontrôle en fasiliteitenbehearFisuele ynspeksjesystemen op produksjelinen, real-time anomaliedeteksje, tagongskontrôle of it tellen fan minsken yn gebouwen binne foarbylden wêrby't de kombinaasje fan fisy en lichtgewicht taalmodellen wearde tafoegje kin sûnder de needsaak om folle djoerdere AI-ynfrastruktueren yn te setten.
Op it mêd fan IoT foar thús en bedriuwenDe AI HAT+ 2 kin tsjinje as basis foar lokale assistinten dy't rinne op in Raspberry Pi 5, dashboards dy't sensorgegevens ynterpretearje, kamera's dy't sênes beskriuwe, of apparaten dy't fideo analysearje sûnder ôfbyldings te uploaden nei eksterne servers. Dizze oanpak helpt om te foldwaan oan de hieltyd strangere regeljouwing foar gegevensbeskerming yn 'e Jeropeeske Uny.
It kin ek in nijsgjirrich ark wêze as ûntwikkelingskit Foar Jeropeeske bedriuwen en startups dy't beskôgje om de Hailo-10H-chip te yntegrearjen yn einprodukten. It testen fan prestaasjes en stabiliteit op in Raspberry Pi makket it mooglik om konsepten te falidearjen foardat ynvestearre wurdt yn oanpaste hardware-ûntwerpen.
Yn it ûnderwiisfjild koenen beropsûnderwiissintra, universiteiten en spesjalisearre akademyen yn Spanje AI HAT+ 2 brûke as in oefenplatfoarm, wêrtroch't de Ynbêde AI en generative AI oan studinten op tagonklike en relatyf goedkeape hardware yn ferliking mei oare djoerdere systemen.
Brûkersprofyl en type doelprojekten
De Raspberry Pi AI HAT+ 2 rjochtet him op ferskate profilen. Oan 'e iene kant is de brede mienskip fan makkers en entûsjasters dy't de Raspberry Pi 5 al brûke en generative AI of avansearre fisy yn har projekten yntegrearje wolle sûnder de oerstap te meitsjen nei wurkstasjons mei tawijde GPU's of folslein ôfhinklik te wêzen fan wolktsjinsten.
Oan 'e oare kant besiket er te lokjen profesjonele ûntwikkelders en startups dy't in testplatfoarm nedich binne foar ynbêde AI. Yn ferliking mei oplossingen mei eGPU's of NPU's yntegrearre yn yndustriële PC's, biedt dit board in kompakte foarmfaktor, heul leech enerzjyferbrûk en legere totale kosten, hoewol mei in legere prestaasjeplafond as folle djoerdere platfoarms.
Foar dyjingen dy't al ûnderfining hawwe mei de earste AI HAT+, liket de oergong relatyf ienfâldich: yntegraasje mei besteande software En de kamerastapel is sekuer ûntworpen om de nedige feroarings te minimalisearjen. Dit is relevant foar projekten dy't al oan 'e gong binne en dy't gebrûk meitsje wolle fan 'e prestaasjeferheging sûnder alles opnij te skriuwen.
Oan it oare uterste kinne brûkers dy't allinich taalmodellen lokaal útfiere wolle mei de maksimaal mooglike ûnthâldmarge noch altyd in Raspberry Pi 5 16GB Sûnder HAT, oannommen dat de yntegreare CPU en GPU alle ynferinsje ôfhannelje en dat it enerzjyferbrûk wat heger sil wêze.
Koartsein, it accessoire liket in niche út te snijen as in tuskenoplossing: machtiger en fleksibeler as in Raspberry Pi 5 dy't allinnich wurket oan bepaalde AI-taken, mar fier fan 'e prestaasjes fan servers of tawijde GPU's, en mei in fokus op leech enerzjyferbrûk, privacy en kostenbeheining.
Hailo software-yntegraasje, boarnen en stipe
Fanút in softwareperspektyf hat de Raspberry Pi besocht it ynstallaasjeproses safolle mooglik te ferienfâldigjen. De AI HAT+ 2 ferbynt fia de PCIe-ynterface fan 'e Raspberry Pi 5 en wurdt native erkend troch it offisjele bestjoeringssysteem, wêrtroch AI-applikaasjes kinne rinne sûnder al te komplekse ynstellingstappen foar dyjingen dy't al bekend binne mei de omjouwing.
Hailo biedt brûkers in repository op GitHub en in Untwikkelersône It omfettet koadefoarbylden, foarôf konfigurearre modellen, tutorials en frameworks ûntworpen foar sawol generative AI as kompjûterfisy. It omfettet ek ark foar it behearen fan kwantifikaasje, it laden fan modellen fan tredden en it optimalisearjen fan spesifike workflows.
By de lansearring hat it bedriuw ferskate beskikber steld klear-om-te-ynstallearjen taalmodellenmei de belofte om de katalogus út te wreidzjen mei gruttere farianten of farianten dy't oanpast binne oan tige spesifike gebrûksgefallen. Fierder stimulearret it it gebrûk fan techniken lykas LoRa om de modellen oan te passen oan 'e behoeften fan elk projekt sûnder se fanôf it begjin te trainen op enoarme datasets.
Lykas faak it gefal is mei dit soarte oplossingen, sil de werklike ûnderfining ôfhingje fan 'e it folwoeksenheidsnivo fan it software-ekosysteemGuon analysten wize derop dat der noch romte is foar ferbettering yn ark, stabiliteit en stipe foar simultane útfiering fan meardere modellen, mar de trend yn it Raspberry Pi-ekosysteem giet nei hieltyd mear gepolijste yntegraasje.
Yn alle gefallen, om projekten te ûntwikkeljen yn Spanje of oare Jeropeeske lannen, ferminderet it hawwen fan offisjele dokumintaasje, praktyske foarbylden en in aktive mienskip de barriêre foar yngong foar it eksperimintearjen mei ynbêde en generative AI yn goedkeape apparaten flink.
Priis, beskikberens en praktyske aspekten yn Spanje en Europa
De Raspberry Pi AI HAT+ 2 is lansearre mei in referinsjepriis fan $130Yn Spanje en de rest fan Europa sil it definitive bedrach ôfhingje fan de wikselkoers, belestingen en it belied fan elke distributeurDêrom wurdt ferwachte dat der lytse ferskillen sille wêze tusken winkels en lannen.
It moederbord is kompatibel mei de hiele line fan Raspberry Pi 5Fan modellen mei 1GB RAM oant ferzjes mei 16GB, de kompatible Raspberry Pi wurdt monteard mei it bekende HAT-formaat: it wurdt op it board skroefd en ferbynt fia de GPIO-header en de PCIe-ynterface. Eardere Raspberry Pi-modellen dy't dizze ynterface net hawwe, binne dêrom útsletten fan 'e kompatibiliteitslist.
Yn 'e earste stadia nei de oankundiging rapportearren guon spesjalistyske distributeurs dat Beheinde foarrieDit is no gewoane praktyk mei offisjele Raspberry Pi hardware releases. Dyjingen dy't op koarte termyn in ienheid befeiligje wolle, moatte de beskikberens fan autorisearre Jeropeeske distributeurs en potinsjele wachtlisten yn 'e gaten hâlde.
Neist de hardware omfettet de oankeap tagong ta technyske dokumintaasje en softwareboarnen foar Raspberry Pi en Hailo, ynklusyf GitHub-foarbylden, stap-foar-stap hantliedingen en materialen foar dyjingen dy't nij binne mei ynbêde AI. Dit makket it maklik foar sawol yndividuele brûkers as lytse bedriuwen om te begjinnen mei eksperimintearjen sûnder te hoeven ynvestearjen yn ekstra ûntwikkelingsark.
Yn 'e Europeeske kontekst, dêr't de gegevensprivacy En om't enerzjy-effisjinsje hieltyd wichtiger wurdt, wurdt de AI HAT+ 2 presintearre as in stik dat it mooglik makket ferwurkje gefoelige ynformaasje lokaal it ferminderjen fan ôfhinklikens fan eksterne datasintra, wat oantreklik kin wêze foar oerheden, MKB'ers en ûnôfhinklike ûntwikkelders dy't sykje nei mear kontroleare AI-oplossingen.
De Raspberry Pi AI HAT+ 2 posysjonearret himsels as in tuskenoplossing tusken de wolk en grutte AI-tsjinners: it biedt in ridlik tagonklike manier om kompjûterfisy en lichtgewicht taalmodellen te kombinearjen yn ien apparaat, wêrtroch it enerzjyferbrûk leech bliuwt en privacy respektearre wurdt, mar yn ruil dêrfoar fereasket dat projekten ûntwurpen wurde ... binnen de grinzen fan macht en ûnthâld typysk foar hardware ûntworpen foar leech enerzjyferbrûk en lege kosten.
Ik bin in technology-entûsjast dy't syn "geek" ynteresses hat omset yn in berop. Ik haw mear as 10 jier fan myn libben bestege oan it brûken fan moderne technology en oan allerhande programma's út pure nijsgjirrigens te tinken. No haw ik my spesjalisearre yn kompjûtertechnology en fideospultsjes. Dit is om't ik mear dan 5 jier wurke oan skriuwen foar ferskate websiden oer technology en fideospultsjes, artikels oanmeitsje dy't besykje jo de ynformaasje te jaan dy't jo nedich binne yn in taal dy't elkenien begrypt.
As jo fragen hawwe, rint myn kennis fan alles relatearre oan it Windows-bestjoeringssysteem as Android foar mobile tillefoans. En myn ynset is foar jo, ik bin altyd ree om in pear minuten te besteegjen en jo te helpen mei it oplossen fan alle fragen dy't jo hawwe yn dizze ynternetwrâld.