- Die Raspberry Pi AI HAT+ 2 bevat 'n Hailo-10H NPU met tot 40 TOPS en 8 GB toegewyde RAM.
- Dit laat jou toe om liggewig-taalmodelle en rekenaarvisie plaaslik te laat loop, sonder om van die wolk afhanklik te wees.
- Dit handhaaf versoenbaarheid met Raspberry Pi 5 en sy kamera-ekosisteem, maar is beperk tot kompakte LLM's.
- Die prys daarvan is ongeveer $130 en dit is gemik op IoT-, nywerheids-, onderwys- en prototiperingsprojekte in Europa.
Die aankoms van die Raspberry Pi KI HAT+ 2 Dit is 'n nuwe stap vir diegene wat direk met kunsmatige intelligensie wil werk in 'n Framboos Pi 5 sonder om permanent op die wolk staat te maak. Hierdie uitbreidingsbord voeg 'n toegewyde neurale versneller en sy eie geheue by, sodat baie van die KI-verwerking van die hoof-SVE af geskuif word, wat meer ambisieuse generatiewe KI- en rekenaarvisieprojekte moontlik maak.
Met 'n aanbevole prys van ongeveer $130 (Die finale prys in Spanje en die res van Europa sal wissel na gelang van belasting en amptelike verspreidermarges.) Die AI HAT+ 2 posisioneer homself as 'n relatief bekostigbare opsie binne die ingebedde KI-ekosisteem. Dit ding nie mee met groot bedieners of toegewyde GPU's nie, maar dit bied wel 'n interessante balans tussen koste, kragverbruik en werkverrigting. IoT, outomatisering, onderwys en prototipering.
Wat is die Raspberry Pi AI HAT+ 2 en hoe verskil dit van die eerste generasie?
Die Raspberry Pi KI HAT+ 2 is 'n amptelike verlengplaat Dit is ontwerp vir die Raspberry Pi 5, koppel dit via die moederbord se geïntegreerde PCI Express-koppelvlak en gebruik ook die GPIO-aansluiting vir montering. Dit is die direkte opvolger van die eerste AI HAT+, wat in 2024 vrygestel is en in variante met versnellers aangebied is. Hailo‑8L (13 TOPS) en Hailo‑8 (26 TOPS) en was baie gefokus op rekenaarvisietake.
In hierdie tweede generasie wed Raspberry Pi op 'n Hailo-10H neurale netwerkversneller vergesel deur 8 GB LPDDR4X-geheue toegewy op die kaart self. Hierdie kombinasie is ontwerp om werkladings van generatiewe KI aan die rand, soos kompakte taalmodelle, visie-taalmodelle en multimodale toepassings wat beeld en teks kombineer.
Die feit van inkorporering geïntegreerde DRAM Dit beteken dat die gebruik van KI-modelle nie direk die Raspberry Pi 5 se hoofgeheue verbruik nie. Die moederbord kan fokus op toepassingslogika, die gebruikerskoppelvlak, konnektiwiteit of berging, terwyl die NPU die grootste deel van die afleiding hanteer. In die praktyk help dit om die stelsel bruikbaar te hou terwyl KI-modelle in die agtergrond loop.
Volgens Raspberry Pi self is die oorgang van die eerste AI HAT+ na hierdie nuwe model feitlik deursigtig Vir projekte wat reeds Hailo-8-versnellers gebruik het, word die integrasie met die maatskappy se kamera-omgewing en sagtewarestapel gehandhaaf, wat massiewe herskrywings vermy.
Hardeware, werkverrigting en kragverbruik: tot 40 TOPS met die Hailo-10H NPU
Die hart van die AI HAT+ 2 is die Hailo-10H'n Gespesialiseerde neurale netwerkversneller wat ontwerp is om doeltreffend afleidings op lae-krag toestelle uit te voer. Raspberry Pi en Hailo praat oor tot 40 TOPPESTANDE van prestasie (teraoperasies per sekonde), syfers verkry met kwantisering in INT4 en INT8, baie algemeen wanneer modelle aan die rand ontplooi word.
Een van die belangrikste punte is dat die skyfie beperk is tot 'n krag van ongeveer 3W kragverbruikDit laat dit toe om in kompakte omhulsels en ingebedde projekte geïntegreer te word sonder om die verkoelingsvereistes of elektrisiteitsrekeninge aansienlik te verhoog, wat belangrik is vir toestelle wat 24/7 aktief kan wees. Hierdie beperking beteken egter dat die bruto opbrengs Dit sal nie altyd beter wees as wat die Raspberry Pi 5 self kan bied wanneer die SVE en GPU tot hul perke gestoot word in sekere hoogs geoptimaliseerde werkladings nie.
In vergelyking met die vorige model, is die sprong duidelik: dit gaan van die 13/26 TOPS met Hailo‑8L/Hailo‑8 Dit bereik 40 TOPS met Hailo-10H, en vir die eerste keer word 8 GB toegewyde ingeboude geheue bygevoeg. Die eerste AI HAT+ het uitgeblink in take soos objekopsporing, poseberaming en toneelsegmentering; die nuwe weergawe handhaaf hierdie tipe toepassings, maar verbreed sy fokus na taalmodelle en multimodale gebruike.
Tog verduidelik Raspberry Pi self dat die praktiese werkverrigting van die Hailo-10H in sekere visie-operasies moontlik kan wees. soortgelyk aan die 26 TOPS van die Hailo-8, as gevolg van die manier waarop die werklas versprei word en die argitektoniese verskille. Die grootste verbetering, meer as in rou rekenaarvisiekrag, lê in die moontlikhede wat dit vir LLM en plaaslike generatiewe modelle bied.
Die bord kom met 'n opsionele koelplaat vir die NPU. Alhoewel kragverbruik beperk is, is die gewone aanbeveling om dit te installeer, veral as jy intensiewe KI-take vir 'n lang tyd gaan uitvoer of veeleisende werkverrigtingstoetse gaan uitvoer, om te verhoed dat die skyfie frekwensies as gevolg van temperatuur verminder.
Ondersteunde taalmodelle en plaaslike LLM-gebruik
Een van die opvallendste aspekte van die KI HAT+ 2 is die vermoë om voer taalmodelle plaaslik uit op 'n Raspberry Pi 5, sonder om data na eksterne bedieners te stuur. Tydens die aanbieding het Raspberry Pi en Hailo 'n reeks modelle uitgelig, insluitend 1 000 en 1 500 miljoen parameters as 'n beginpunt.
Onder die versoenbare LLM's wat by bekendstelling aangebied word, is DeepSeek-R1-Distill, Llama 3.2, Qwen2, Qwen2.5-Instruct en Qwen2.5-CoderHulle is relatief kompakte modelle, ontwerp vir take soos basiese klets, teksskryf en -korreksie, kodegenerering, eenvoudige vertalings of toneelbeskrywings vanaf beeld- en teksinvoere.
Die aanvanklike toetse wat deur die maatskappy getoon is, sluit voorbeelde in van vertaling tussen tale en antwoorde op eenvoudige vrae wat volledig op die Raspberry Pi 5 uitgevoer word, ondersteun deur die AI HAT+ 2, met lae latensie en sonder om die algehele stelselbruikbaarheid noemenswaardig te beïnvloed. Verwerking word op die Hailo-10H-medeverwerker uitgevoer en vereis nie dat die toestel aan die wolk gekoppel word nie.
Dit moet duidelik gemaak word dat hierdie oplossing nie bedoel is vir massamarkmodelle soos volledige weergawes van ChatGPT, Claude, of die groter LLM's by Metawaarvan die groottes in honderde miljarde of selfs triljoene parameters gemeet word. In daardie gevalle is die probleem nie net rekenaarkrag nie, maar bowenal die geheue benodig om die model en sy kontekste te huisves.
Raspberry Pi self dring daarop aan dat gebruikers bewus moet wees dat hulle werk met kleiner modelle opgelei op meer beperkte datastelleOm vir hierdie beperking te vergoed, word die fokus geplaas op tegnieke soos LoRA (Lae-Rang Aanpassing)wat dit moontlik maak om modelle aan te pas by spesifieke gebruiksgevalle sonder dat hulle heeltemal heropgelei hoef te word, deur liggewig aanpassingslae bo-op die bestaande basis te voeg.
Geheue, beperkings en vergelyking met 'n 16GB Raspberry Pi 5
Die insluiting van 8 GB toegewyde LPDDR4X RAM Dit is een van die belangrikste nuwe kenmerke van AI HAT+ 2, maar dit definieer ook duidelik die tipes modelle wat uitgevoer kan word. Baie mediumgrootte gekwantiseerde LLM's, veral as jy 'n breë konteks wil hanteer, benodig dalk maklik meer as 10 GB geheueDaarom is die bykomstigheid gerig op liggewigmodelle of dié met stywer konteksvensters.
As jy dit vergelyk met 'n Raspberry Pi 5 16GB Selfs sonder HAT het moederborde met meer geheue steeds 'n voordeel wanneer relatief groot modelle direk in RAM gelaai word, mits 'n beduidende gedeelte van daardie geheue uitsluitlik aan KI toegewy word en ander take opgeoffer word. In daardie scenario hanteer die geïntegreerde SVE en GPU al die afleiding, wat lei tot verhoogde werklas.
Die KI HAT+ 2-voorstel maak meer sin wanneer jy soek na afsonderlike verantwoordelikhedeLaat die Hailo-10H NPU die KI-berekeninge hanteer en maak die Raspberry Pi 5 vry om 'n liggewig-lessenaaromgewing, webdienste, databasisse, outomatisasies of die aanbiedingslaag van 'n toepassing te handhaaf.
Vir diegene wat net een wil hê plaaslike assistent Relatief eenvoudig en in staat om te klets, tekste te vertaal of te help met klein programmeringstake sonder om data na derde partye te stuur, kan die KI HAT+ 2 se balans van krag, verbruik en koste voldoende wees. Vir projekte wat groot modelle of uiters uitgebreide kontekste vereis, sal die gebruik van toestelle met meer geheue of wolkinfrastruktuur egter meer prakties bly.
Nog 'n punt om te oorweeg is dat, alhoewel die HAT se 8 GB help om geheue te ontlas, die weergawe van 16 GB van die Raspberry Pi 5 Dit oortref steeds die byvoegbord in totale kapasiteit, so in sekere RAM-intensiewe werkvloeie sal daardie konfigurasie steeds verkieslik wees.
Rekenaarvisie en gelyktydige modeluitvoering
Die AI HAT+ 2 laat nie die kenmerk vaar wat die eerste generasie gewild gemaak het nie: die rekenaarvisie-toepassingsDie Hailo-10H is in staat om objekopsporings- en dopmodelle, menslike posisieberaming of toneelsegmentering uit te voer met werkverrigting wat in die praktyk in lyn bly met wat die Hailo-8 teen 26 TOPS gebied het.
Raspberry Pi dui aan dat die nuwe bord kan laat gelyktydig visie- en taalmodelle loopDit maak dit aantreklik vir projekte waar die kamera en teksverwerking saam moet werk. Byvoorbeeld, toesigstelsels wat gebeure klassifiseer en beskrywings genereer, slimkameras wat verduidelik wat in 'n toneel gebeur, of toestelle wat visuele herkenning met verslaggenerering kombineer.
In spesifieke scenario's word gesinsmodelle genoem. YOLO Vir intydse voorwerpopsporing, met verversingstempo's wat ongeveer 30 rame per sekonde kan bereik, afhangende van die resolusie en kompleksiteit van die model. Die idee is dat die NPU hierdie taak sal hanteer terwyl die Raspberry Pi 5 berging, netwerk, kennisgewings en vertoon bestuur.
Die sagteware-ekosisteem rondom KI op Raspberry Pi is steeds besig om volwasse te word. Alhoewel 'n versameling van voorbeelde, raamwerke en gereedskap Vir beide Raspberry Pi en Hailo bly die parallelle uitvoering van verskeie modelle (visie, taal, multimodaal) 'n ontwikkelende veld en mag dit fyn afstemming in elke projek vereis.
In elk geval, integrasie met die amptelike Raspberry Pi-kamerastapel Dit vereenvoudig die lewe vir diegene wat reeds met die handelsmerk se kameramodules werk. Die AI HAT+ 2 integreer direk met daardie omgewing, sodat baie bestaande visieprojekte met relatief klein veranderinge na die nuwe bord kan migreer.
Gebruiksgevalle in Spanje en Europa: nywerheid, IoT en opvoedkundige projekte
Die kombinasie van lae kragverbruik, klein grootte en plaaslike KI-verwerking Dit stem goed ooreen met die digitaliseringstendense wat in Spanje en ander Europese lande geïmplementeer word. In nywerheidsektore waar stabiele wolktoegang nie altyd gewaarborg word nie, of waar streng vertroulikheidsvereistes bestaan, kan 'n oplossing van hierdie tipe besonder aantreklik wees.
Van die mees gebruikte terme in amptelike dokumentasie is projekte vir industriële outomatisering, prosesbeheer en fasiliteitsbestuurVisuele inspeksiestelsels op produksielyne, intydse anomalie-opsporing, toegangsbeheer of die tel van mense in geboue is voorbeelde waar die kombinasie van visie en liggewig-taalmodelle waarde kan toevoeg sonder die noodsaaklikheid om baie duurder KI-infrastrukture te ontplooi.
In die veld van Huis- en besigheids-IoTDie KI HAT+ 2 kan dien as 'n fondament vir plaaslike assistente wat op 'n Raspberry Pi 5 loop, dashboards wat sensordata interpreteer, kameras wat tonele beskryf, of toestelle wat video analiseer sonder om beelde na eksterne bedieners op te laai. Hierdie benadering help om te voldoen aan toenemend strenger databeskermingsregulasies in die Europese Unie.
Dit kan ook 'n interessante hulpmiddel wees, soos ontwikkelingspakket Vir Europese maatskappye en opstartondernemings wat oorweeg om die Hailo-10H-skyfie in eindprodukte te integreer. Die toets van werkverrigting en stabiliteit op 'n Raspberry Pi maak dit moontlik om konsepte te valideer voordat in pasgemaakte hardeware-ontwerpe belê word.
In die opvoedkundige veld kan beroepsopleidingsentrums, universiteite en gespesialiseerde akademies in Spanje AI HAT+ 2 as 'n oefenplatform gebruik, wat die Ingeboude KI en generatiewe KI aan studente op toeganklike en relatief goedkoop hardeware in vergelyking met ander duurder stelsels.
Gebruikersprofiel en tipe projekte waarop geteiken word
Die Raspberry Pi AI HAT+ 2 teiken verskeie profiele. Aan die een kant, die breë gemeenskap van makers en entoesiaste wat reeds die Raspberry Pi 5 gebruik en generatiewe KI of gevorderde visie in hul projekte wil inkorporeer sonder om die sprong na werkstasies met toegewyde GPU's te maak of geheel en al op wolkdienste staat te maak.
Aan die ander kant probeer hy verlei professionele ontwikkelaars en opstartondernemings wat 'n toetsplatform vir ingebedde KI benodig. In vergelyking met oplossings met eGPU's of NPU's wat in industriële rekenaars geïntegreer is, bied hierdie bord 'n kompakte vormfaktor, baie lae kragverbruik en 'n laer algehele koste, hoewel met 'n laer werkverrigtingsplafon as baie duurder platforms.
Vir diegene wat reeds ervaring het met die eerste KI HAT+, lyk die oorgang relatief eenvoudig: integrasie met bestaande sagteware En die kamerastapel is sorgvuldig ontwerp om die nodige veranderinge te minimaliseer. Dit is relevant vir projekte wat reeds aan die gang is en wat voordeel wil trek uit die werkverrigtingsverbetering sonder om alles te herskryf.
Aan die ander uiterste kan gebruikers wat slegs taalmodelle plaaslik met die maksimum moontlike geheuemarge wil laat loop, steeds 'n Raspberry Pi 5 16GB Sonder HAT, as ons aanneem dat die geïntegreerde SVE en GPU alle inferensie sal hanteer en dat die kragverbruik ietwat hoër sal wees.
Kortliks, die bykomstigheid lyk asof dit 'n nis as 'n tussenoplossing uitkerf: kragtiger en buigsamer as 'n Raspberry Pi 5 wat alleen aan sekere KI-take werk, maar ver van die werkverrigting van bedieners of toegewyde GPU's, en met 'n fokus op lae kragverbruik, privaatheid en kostebeperking.
Hailo sagteware-integrasie, hulpbronne en ondersteuning
Vanuit 'n sagteware-perspektief het Raspberry Pi daarop gemik om die opstelproses soveel as moontlik te vereenvoudig. Die AI HAT+ 2 koppel via die PCIe-koppelvlak van die Raspberry Pi 5 en word inheems herken deur die amptelike bedryfstelsel, wat KI-toepassings toelaat om te loop sonder oordrewe komplekse opstellingstappe vir diegene wat reeds vertroud is met die omgewing.
Hailo bied gebruikers 'n bewaarplek op GitHub en 'n Ontwikkelaarsone Dit sluit kodevoorbeelde, voorafgekonfigureerde modelle, tutoriale en raamwerke in wat ontwerp is vir beide generatiewe KI en rekenaarvisie. Dit sluit ook gereedskap in vir die bestuur van kwantisering, die laai van derdeparty-modelle en die optimalisering van spesifieke werkvloeie.
Met die bekendstelling het die maatskappy verskeie beskikbaar gestel gereed-om-te-installeer taalmodellemet die belofte om die katalogus uit te brei met groter variante of dié wat aangepas is vir baie spesifieke gebruiksgevalle. Verder moedig dit die gebruik van tegnieke soos LoRa aan om die modelle aan te pas by die behoeftes van elke projek sonder om hulle van nuuts af op enorme datastelle op te lei.
Soos dikwels die geval is met hierdie tipe oplossings, sal die werklike ervaring afhang van die volwassenheidsvlak van die sagteware-ekosisteemSommige ontleders wys daarop dat daar steeds ruimte is vir verbetering in gereedskap, stabiliteit en ondersteuning vir die gelyktydige uitvoering van verskeie modelle, maar die tendens in die Raspberry Pi-ekosisteem beweeg na toenemend gepoleerde integrasie.
In elk geval, om projekte in Spanje of ander Europese lande te ontwikkel, verminder amptelike dokumentasie, praktiese voorbeelde en 'n aktiewe gemeenskap die toetrede tot eksperimentering met ingebedde en generatiewe KI in laekoste-toestelle aansienlik.
Prys, beskikbaarheid en praktiese aspekte in Spanje en Europa
Die Raspberry Pi AI HAT+ 2 is bekendgestel met 'n verwysingsprys van $130In Spanje en die res van Europa sal die finale bedrag afhang van die wisselkoers, belasting en elke verspreider se beleidDaarom word verwag dat daar klein verskille tussen winkels en lande sal wees.
Die moederbord is versoenbaar met die hele reeks Framboos Pi 5Van modelle met 1 GB RAM tot weergawes met 16 GB, word die versoenbare Raspberry Pi gemonteer met behulp van die bekende HAT-formaat: dit skroef op die bord en koppel via die GPIO-kop en die PCIe-koppelvlak. Vorige Raspberry Pi-modelle wat hierdie koppelvlak kortkom, word dus van die versoenbaarheidslys uitgesluit.
In die aanvanklike stadiums na die aankondiging het sommige spesialisverspreiders berig dat Beperkte voorraadDit is nou algemene praktyk met amptelike Raspberry Pi-hardeware-vrystellings. Diegene wat 'n eenheid op kort termyn wil bekom, sal beskikbaarheid van gemagtigde Europese verspreiders en potensiële waglyste moet dophou.
Benewens die hardeware, sluit die aankoop toegang tot tegniese dokumentasie en sagtewarebronne vir Raspberry Pi en Hailo in, insluitend GitHub-voorbeelde, stap-vir-stap-gidse en materiaal vir diegene wat nuut is met ingebedde KI. Dit maak dit maklik vir beide individuele gebruikers en klein besighede om te begin eksperimenteer sonder om in bykomende ontwikkelingsinstrumente te belê.
In die Europese konteks, waar die dataprivaatheid En namate energie-doeltreffendheid toenemend relevant word, word die AI HAT+ 2 aangebied as 'n stuk wat dit moontlik maak verwerk sensitiewe inligting plaaslik vermindering van afhanklikheid van afgeleë datasentrums, wat aantreklik kan wees vir administrasies, KMO's en onafhanklike ontwikkelaars wat op soek is na meer beheerde KI-oplossings.
Die Raspberry Pi AI HAT+ 2 posisioneer homself as 'n tussenoplossing tussen die wolk en groot KI-bedieners: dit bied 'n redelik toeganklike manier om rekenaarvisie en liggewig-taalmodelle in 'n enkele toestel te kombineer, wat kragverbruik laag hou en privaatheid respekteer, maar in ruil daarvoor vereis dat projekte ontwerp word. binne die perke van krag en geheue tipies van hardeware wat ontwerp is vir lae kragverbruik en lae koste.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.