Raspberry Pi AI HAT+ 2: Dit is het nieuwe lokale AI-aanbod voor Raspberry Pi 5.

De aankomst van de Raspberry Pi AI HAT+ 2 Dit is een nieuwe stap voor diegenen die direct met kunstmatige intelligentie willen werken in een Raspberry Pi 5 Zonder permanent afhankelijk te zijn van de cloud. Deze uitbreidingskaart voegt een speciale neurale accelerator en eigen geheugen toe, waardoor een groot deel van de AI-verwerking van de hoofd-CPU wordt verplaatst. Dit maakt ambitieuzere generatieve AI- en computervisieprojecten mogelijk.

Met een aanbevolen prijs van ongeveer $130 (De uiteindelijke prijs in Spanje en de rest van Europa kan variëren afhankelijk van belastingen en officiële distributiemarges.) De AI HAT+ 2 positioneert zich als een relatief betaalbare optie binnen het embedded AI-ecosysteem. Hij concurreert niet met grote servers of dedicated GPU's, maar biedt wel een interessante balans tussen kosten, energieverbruik en prestaties. IoT, automatisering, onderwijs en prototyping.

Wat is de Raspberry Pi AI HAT+ 2 en waarin verschilt deze van de eerste generatie?

De Raspberry Pi AI HAT+ 2 is een officiële uitbreidingsplaat Deze module is ontworpen voor de Raspberry Pi 5 en maakt verbinding via de geïntegreerde PCI Express-interface van het moederbord. Voor de montage wordt ook de GPIO-connector gebruikt. Het is de directe opvolger van de eerste AI HAT+, die in 2024 werd uitgebracht en verkrijgbaar was in varianten met accelerators. Hailo‑8L (13 TOPS) en Hailo‑8 (26 TOPS) en was zeer gefocust op taken op het gebied van computervisie.

In deze tweede generatie zet Raspberry Pi in op een Hailo-10H neurale netwerkversneller vergezeld door 8 GB LPDDR4X-geheugen speciaal voor deze kaart. Deze combinatie is ontworpen om workloads van te ondersteunen. Generatieve AI aan de rand van het netwerk, zoals compacte taalmodellen, beeld-taalmodellen en multimodale toepassingen die beeld en tekst combineren.

Het feit dat er sprake is van het opnemen van geïntegreerd DRAM Dit betekent dat het uitvoeren van AI-modellen niet direct het hoofdgeheugen van de Raspberry Pi 5 in beslag neemt. Het moederbord kan zich concentreren op de applicatielogica, de gebruikersinterface, connectiviteit of opslag, terwijl de NPU het grootste deel van de inferentie afhandelt. In de praktijk zorgt dit ervoor dat het systeem bruikbaar blijft terwijl AI-modellen op de achtergrond draaien.

Volgens Raspberry Pi zelf is de overgang van de eerste AI HAT+ naar dit nieuwe model als volgt verlopen: vrijwel transparant Voor projecten die al gebruik maakten van Hailo-8-acceleratoren, blijft de integratie met de camera-omgeving en softwarestack van het bedrijf behouden, waardoor grootschalige herschrijvingen worden vermeden.

Hardware, prestaties en stroomverbruik: tot 40 TOPS met de Hailo-10H NPU

Het hart van de AI ​​HAT+ 2 is de Hailo-10HEen gespecialiseerde neurale netwerkversneller, ontworpen om efficiënt inferenties uit te voeren op apparaten met een laag stroomverbruik. Raspberry Pi en Hailo spreken over een maximale capaciteit van... 40 TOPS aan prestaties (teraoperaties per seconde), cijfers verkregen met kwantisering in INT4 en INT8Dit komt vaak voor wanneer modellen aan de rand van het netwerk worden ingezet.

Een van de belangrijkste punten is dat het vermogen van de chip beperkt is tot ongeveer Stroomverbruik van 3WHierdoor kan het worden geïntegreerd in compacte behuizingen en embedded projecten zonder de koelingsbehoefte of de elektriciteitsrekening significant te verhogen, wat belangrijk is voor apparaten die mogelijk 24/7 actief zijn. Deze beperking betekent echter dat de bruto-opbrengst Het zal niet altijd beter presteren dan wat de Raspberry Pi 5 zelf kan bieden wanneer de CPU en GPU tot het uiterste worden gedreven in bepaalde sterk geoptimaliseerde taken.

Vergeleken met het vorige model is de sprong voorwaarts duidelijk: het gaat van 13/26 TOPS met Hailo‑8L/Hailo‑8 Het behaalt 40 TOPS met Hailo-10H, en voor het eerst is er 8 GB aan dedicated intern geheugen toegevoegd. De eerste AI HAT+ blonk uit in taken zoals objectdetectie, pose-schatting en scènesegmentatie; de ​​nieuwe versie behoudt dit soort toepassingen, maar verbreedt de focus naar taalmodellen en multimodaal gebruik.

Desondanks verduidelijkt Raspberry Pi zelf dat de praktische prestaties van de Hailo-10H bij bepaalde beeldverwerkingstaken mogelijk te wensen overlaten. vergelijkbaar met de 26 TOPS De Hailo-8 onderscheidt zich door de manier waarop de werklast wordt verdeeld en de architectonische verschillen. De grootste verbetering, meer nog dan de pure rekenkracht voor computervisie, zit hem in de mogelijkheden die het biedt voor LLM en lokale generatieve modellen.

Het bord wordt geleverd met een optionele koelplaat Voor de NPU. Hoewel het stroomverbruik beperkt is, wordt over het algemeen aangeraden om deze te installeren, vooral als u gedurende lange tijd intensieve AI-taken of veeleisende prestatietests gaat uitvoeren, om te voorkomen dat de chip door oververhitting de frequentie verlaagt.

Ondersteunde taalmodellen en lokaal LLM-gebruik

Een van de meest opvallende aspecten van de AI ​​HAT+ 2 is zijn vermogen om Taalmodellen lokaal uitvoeren op een Raspberry Pi 5, zonder gegevens naar externe servers te verzenden. Tijdens de presentatie lieten Raspberry Pi en Hailo een reeks modellen zien, waaronder 1.000 en 1.500 miljoen parameters als uitgangspunt.

Tot de compatibele LLM's die bij de lancering worden aangeboden behoren: DeepSeek‑R1‑Distill, Llama 3.2, Qwen2, Qwen2.5‑Instruct en Qwen2.5‑CoderHet zijn relatief compacte modellen, ontworpen voor taken zoals eenvoudige chat, tekst schrijven en corrigeren, code genereren, simpele vertalingen of scènebeschrijvingen op basis van beeld- en tekstinvoer.

De eerste tests die het bedrijf heeft laten zien, bevatten voorbeelden van vertaling tussen talen en antwoorden op eenvoudige vragen die volledig worden uitgevoerd op de Raspberry Pi 5, ondersteund door de AI HAT+ 2, met een lage latentie en zonder de algehele bruikbaarheid van het systeem significant te beïnvloeden. De verwerking vindt plaats op de Hailo-10H coprocessor en vereist geen verbinding met de cloud.

Het moet duidelijk zijn dat deze oplossing niet bedoeld is voor massamarktmodellen zoals volledige versies van ChatGPT, Claude, of de grotere LLM's bij Metawaarvan de omvang wordt gemeten in honderden miljarden of zelfs biljoenen parameters. In die gevallen is het probleem niet alleen de rekenkracht, maar vooral de geheugen vereist om het model en de bijbehorende contexten te huisvesten.

Raspberry Pi zelf benadrukt dat gebruikers zich ervan bewust moeten zijn dat ze met een risicovolle werkwijze werken. kleinere modellen getraind op beperktere datasetsOm deze beperking te compenseren, ligt de nadruk op technieken zoals LoRA (Low-Rank Adaptation)waardoor modellen kunnen worden aangepast aan specifieke gebruikssituaties zonder dat ze volledig opnieuw getraind hoeven te worden, door lichtgewicht aanpassingslagen toe te voegen bovenop de bestaande basis.

Geheugen, beperkingen en vergelijking met een Raspberry Pi 5 met 16 GB geheugen.

De opname van 8 GB dedicated LPDDR4X RAM Dit is een van de belangrijkste nieuwe functies van AI HAT+ 2, maar het definieert ook duidelijk de typen modellen die kunnen worden uitgevoerd. Veel middelgrote gekwantificeerde LLM's, vooral als je een brede context wilt behandelen, hebben mogelijk al snel meer dan één model nodig. 10 GB geheugenDaarom is dit accessoire bedoeld voor lichtgewicht modellen of modellen met een beperkter contextbereik.

Als je het vergelijkt met een Raspberry Pi 5 16GB Zelfs zonder HAT hebben moederborden met meer geheugen nog steeds een voordeel bij het rechtstreeks laden van relatief grote modellen in het RAM-geheugen, mits een aanzienlijk deel van dat geheugen exclusief aan AI is toegewezen en andere taken worden opgeofferd. In dat scenario verwerken de geïntegreerde CPU en GPU alle inferentie, wat resulteert in een verhoogde werkdruk.

Het AI ​​HAT+ 2-voorstel is logischer als je op zoek bent naar afzonderlijke verantwoordelijkhedenLaat de Hailo-10H NPU de AI-berekeningen afhandelen en ontlast de Raspberry Pi 5 zodat deze een lichte desktopomgeving, webservices, databases, automatiseringen of de presentatielaag van een applicatie kan onderhouden.

Voor degenen die er maar één willen hebben. lokale assistent De AI HAT+ 2 is relatief eenvoudig en kan chatten, teksten vertalen of helpen bij kleine programmeertaken zonder gegevens naar derden te verzenden. De balans tussen rekenkracht, energieverbruik en kosten kan daarom voldoende zijn. Voor projecten die grote modellen of extreem uitgebreide contexten vereisen, blijven apparaten met meer geheugen of cloudinfrastructuur echter praktischer.

Een ander punt om te overwegen is dat, hoewel de 8 GB van de HAT helpt om geheugen te ontlasten, de versie van 16 GB van de Raspberry Pi 5 Het presteert nog steeds beter dan de uitbreidingskaart qua totale capaciteit, dus in bepaalde RAM-intensieve workflows blijft die configuratie de voorkeur genieten.

Computervisie en gelijktijdige modeluitvoering

De AI ​​HAT+ 2 behoudt de functie die de eerste generatie zo populair maakte: de toepassingen van computervisieDe Hailo-10H is in staat om objectdetectie- en volgmodellen, menselijke houdingsschatting en scènesegmentatie uit te voeren met prestaties die in de praktijk vergelijkbaar zijn met die van de Hailo-8 bij 26 TOPS.

Raspberry Pi geeft aan dat het nieuwe bord kan gelijktijdig uitvoeren van visie- en taalmodellenDit maakt het aantrekkelijk voor projecten waarbij camera- en tekstverwerking moeten samenwerken. Denk bijvoorbeeld aan bewakingssystemen die gebeurtenissen classificeren en beschrijvingen genereren, slimme camera's die uitleggen wat er in een scène gebeurt, of apparaten die visuele herkenning combineren met het genereren van rapporten.

In specifieke situaties worden gezinsmodellen genoemd. YOLO Voor realtime objectdetectie, met verversingsfrequenties die kunnen oplopen tot ongeveer 30 beelden per seconde, afhankelijk van de resolutie en complexiteit van het model. Het idee is dat de NPU deze taak afhandelt, terwijl de Raspberry Pi 5 de opslag, het netwerk, de meldingen en de weergave beheert.

Het software-ecosysteem rondom AI op de Raspberry Pi is nog in ontwikkeling. Hoewel er al een verzameling van voorbeelden, frameworks en tools Voor zowel Raspberry Pi als Hailo is de parallelle uitvoering van meerdere modellen (beeldherkenning, taal, multimodale weergave) een vakgebied in ontwikkeling dat mogelijk in elk project verfijning vereist.

In ieder geval is integratie met de officiële Raspberry Pi-camerastack Dit vereenvoudigt het leven voor degenen die al met de cameramodules van het merk werken. De AI HAT+ 2 integreert direct met die omgeving, waardoor veel bestaande videoprojecten met relatief kleine aanpassingen naar het nieuwe bord kunnen worden gemigreerd.

Toepassingsvoorbeelden in Spanje en Europa: industrie, IoT en onderwijsprojecten

De combinatie van laag energieverbruik, klein formaat en lokale AI-verwerking Dit sluit goed aan bij de digitaliseringstrends die in Spanje en andere Europese landen worden doorgevoerd. In industriële sectoren waar stabiele cloudtoegang niet altijd gegarandeerd is of waar strenge vertrouwelijkheidseisen gelden, kan een dergelijke oplossing bijzonder aantrekkelijk zijn.

Een van de meest gebruikte termen in officiële documentatie zijn projecten voor industriële automatisering, procesbesturing en facilitair managementVisuele inspectiesystemen op productielijnen, realtime detectie van afwijkingen, toegangscontrole of het tellen van mensen in gebouwen zijn voorbeelden waarbij de combinatie van beeldherkenning en eenvoudige taalmodellen waarde kan toevoegen zonder dat er veel duurdere AI-infrastructuren hoeven te worden ingezet.

Op het gebied van IoT voor thuis en op kantoorDe AI HAT+ 2 kan dienen als basis voor lokale assistenten die draaien op een Raspberry Pi 5, dashboards die sensorgegevens interpreteren, camera's die scènes beschrijven, of apparaten die video analyseren zonder beelden naar externe servers te uploaden. Deze aanpak helpt te voldoen aan de steeds strengere regelgeving inzake gegevensbescherming in de Europese Unie.

Het kan ook een interessant hulpmiddel zijn als ontwikkelingskit Voor Europese bedrijven en startups die overwegen de Hailo-10H-chip in hun eindproducten te integreren: het testen van de prestaties en stabiliteit op een Raspberry Pi maakt het mogelijk concepten te valideren voordat er wordt geïnvesteerd in aangepaste hardwareontwerpen.

In het onderwijsveld zouden beroepsopleidingscentra, universiteiten en gespecialiseerde academies in Spanje AI HAT+ 2 als oefenplatform kunnen gebruiken, waardoor de Ingebedde AI en generatieve AI voor studenten op toegankelijke en relatief goedkope hardware in vergelijking met andere, duurdere systemen.

Gebruikersprofiel en type projecten waarop wordt getarget

De Raspberry Pi AI HAT+ 2 richt zich op verschillende doelgroepen. Enerzijds op de brede gemeenschap van makers en liefhebbers die al een Raspberry Pi 5 gebruiken en generatieve AI of geavanceerde beeldverwerking in hun projecten willen integreren zonder over te stappen op werkstations met dedicated GPU's of volledig afhankelijk te zijn van clouddiensten.

Aan de andere kant probeert hij te verleiden. professionele ontwikkelaars en startups die een testplatform nodig hebben voor embedded AI. In vergelijking met oplossingen met eGPU's of NPU's geïntegreerd in industriële pc's, biedt dit bord een compact formaat, een zeer laag stroomverbruik en lagere totale kosten, hoewel de maximale prestaties lager liggen dan bij veel duurdere platforms.

Voor degenen die al ervaring hebben met de eerste AI HAT+, lijkt de overgang relatief eenvoudig: integratie met bestaande software De camerastack is zorgvuldig ontworpen om de noodzakelijke aanpassingen tot een minimum te beperken. Dit is relevant voor lopende projecten die willen profiteren van de prestatieverbetering zonder alles opnieuw te hoeven schrijven.

Aan het andere uiterste kunnen gebruikers die alleen taalmodellen lokaal willen uitvoeren met de maximaal mogelijke geheugenruimte, nog steeds een oplossing vinden. Raspberry Pi 5 16GB Zonder HAT, ervan uitgaande dat de geïntegreerde CPU en GPU alle inferentie afhandelen en dat het stroomverbruik iets hoger zal liggen.

Kortom, het accessoire lijkt een niche te veroveren als tussenoplossing: krachtiger en flexibeler dan een Raspberry Pi 5 die bepaalde AI-taken zelfstandig uitvoert, maar lang niet zo krachtig als servers of dedicated GPU's, en met een focus op... laag energieverbruik, privacy en kostenbeheersing.

Hailo-software-integratie, -bronnen en -ondersteuning

Vanuit softwareoogpunt heeft Raspberry Pi ernaar gestreefd het installatieproces zo veel mogelijk te vereenvoudigen. De AI ​​HAT+ 2 maakt verbinding via de PCIe-interface De Raspberry Pi 5 wordt direct herkend door het officiële besturingssysteem, waardoor AI-toepassingen zonder al te ingewikkelde installatiestappen kunnen worden uitgevoerd voor gebruikers die al bekend zijn met de omgeving.

Hailo biedt gebruikers een repository op GitHub en een ontwikkelaarszone Het bevat codevoorbeelden, voorgeconfigureerde modellen, tutorials en frameworks die zijn ontworpen voor zowel generatieve AI als computervisie. Het bevat ook tools voor het beheren van kwantisering, het laden van modellen van derden en het optimaliseren van specifieke workflows.

Bij de lancering heeft het bedrijf verschillende kant-en-klare taalmodellenMet de belofte de catalogus uit te breiden met grotere varianten of varianten die zijn aangepast aan zeer specifieke gebruikssituaties. Bovendien stimuleert het het gebruik van technieken zoals LoRa om de modellen aan te passen aan de behoeften van elk project, zonder dat ze helemaal opnieuw hoeven te worden getraind op enorme datasets.

Zoals vaak het geval is bij dit soort oplossingen, zal de daadwerkelijke ervaring afhangen van de volwassenheidsniveau van het software-ecosysteemSommige analisten wijzen erop dat er nog ruimte is voor verbetering op het gebied van tools, stabiliteit en ondersteuning voor gelijktijdige uitvoering van meerdere modellen, maar de trend binnen het Raspberry Pi-ecosysteem gaat richting steeds verfijndere integratie.

In elk geval verlagen officiële documentatie, praktische voorbeelden en een actieve community de drempel aanzienlijk voor het experimenteren met ingebedde en generatieve AI in goedkope apparaten bij de ontwikkeling van projecten in Spanje of andere Europese landen.

Prijs, beschikbaarheid en praktische aspecten in Spanje en Europa.

De Raspberry Pi AI HAT+ 2 is gelanceerd met een adviesprijs van $130In Spanje en de rest van Europa zal het uiteindelijke bedrag afhangen van de wisselkoers, belastingen en het beleid van elke distributeurDaarom is het te verwachten dat er kleine verschillen zullen zijn tussen winkels en landen.

Het moederbord is compatibel met de gehele productlijn. Raspberry Pi 5Van modellen met 1 GB RAM tot versies met 16 GB, de compatibele Raspberry Pi wordt gemonteerd met behulp van het bekende HAT-formaat: hij wordt op het moederbord geschroefd en aangesloten via de GPIO-header en de PCIe-interface. Eerdere Raspberry Pi-modellen die deze interface niet hebben, zijn daarom uitgesloten van de compatibiliteitslijst.

In de eerste fase na de aankondiging meldden sommige gespecialiseerde distributeurs dat Beperkte voorraadDit is inmiddels de gangbare praktijk bij officiële Raspberry Pi-hardware-releases. Wie op korte termijn een exemplaar wil bemachtigen, moet de beschikbaarheid bij geautoriseerde Europese distributeurs en eventuele wachtlijsten in de gaten houden.

Naast de hardware omvat de aankoop ook toegang tot technische documentatie en softwarebronnen voor Raspberry Pi en Hailo, waaronder GitHub-voorbeelden, stapsgewijze handleidingen en materiaal voor beginners in embedded AI. Dit maakt het voor zowel individuele gebruikers als kleine bedrijven gemakkelijk om te experimenteren zonder te hoeven investeren in extra ontwikkeltools.

In de Europese context, waar de gegevensprivacy En aangezien energie-efficiëntie steeds belangrijker wordt, wordt de AI ​​HAT+ 2 gepresenteerd als een product dat dit mogelijk maakt. gevoelige informatie lokaal verwerken Het verminderen van de afhankelijkheid van externe datacenters kan aantrekkelijk zijn voor overheden, het mkb en onafhankelijke ontwikkelaars die op zoek zijn naar meer gecontroleerde AI-oplossingen.

De Raspberry Pi AI HAT+ 2 positioneert zich als een tussenoplossing tussen de cloud en grote AI-servers: het biedt een redelijk toegankelijke manier om computervisie en lichtgewicht taalmodellen in één apparaat te combineren, met een laag energieverbruik en respect voor de privacy, maar vereist in ruil daarvoor dat projecten worden ontworpen binnen de grenzen van macht en geheugen Kenmerkend voor hardware die is ontworpen voor een laag energieverbruik en lage kosten.

Gerelateerd artikel:

Xiaomi Smart Camera 3 3K: de nieuwe 3K-bewakingscamera die de markt voor slimme woningen wil veroveren.

Alberto Navarro

Ik ben een technologieliefhebber die van zijn 'nerd'-interesses zijn beroep heeft gemaakt. Ik heb meer dan 10 jaar van mijn leven doorgebracht met het gebruik van de allernieuwste technologie en het sleutelen aan allerlei programma's uit pure nieuwsgierigheid. Nu heb ik mij gespecialiseerd in computertechnologie en videogames. Dit komt omdat ik al meer dan vijf jaar voor verschillende websites over technologie en videogames schrijf en artikelen heb gemaakt die proberen u de informatie te geven die u nodig heeft in een taal die voor iedereen begrijpelijk is.

Als je vragen hebt, mijn kennis strekt zich uit van alles wat te maken heeft met het Windows-besturingssysteem tot Android voor mobiele telefoons. En mijn toewijding is aan jou, ik ben altijd bereid om een ​​paar minuten te besteden en je te helpen bij het oplossen van eventuele vragen die je hebt in deze internetwereld.