Raspberry Pi AI HAT+ 2: Dies ist das neue lokale KI-Angebot für Raspberry Pi 5.

Die Ankunft der Raspberry Pi AI HAT+ 2 Dies markiert einen neuen Schritt für diejenigen, die direkt mit künstlicher Intelligenz arbeiten möchten. Raspberry Pi 5 ohne permanent auf die Cloud angewiesen zu sein. Diese Erweiterungsplatine fügt einen dedizierten neuronalen Beschleuniger und eigenen Speicher hinzu, sodass ein Großteil der KI-Verarbeitung von der Haupt-CPU verlagert wird und so ambitioniertere Projekte im Bereich generativer KI und Computer Vision ermöglicht werden.

Mit einem empfohlenen Preis von rund 130 US-Dollar (Der Endpreis in Spanien und dem übrigen Europa kann je nach Steuern und Händlermargen variieren.) Der AI HAT+ 2 positioniert sich als vergleichsweise günstige Option im Bereich eingebetteter KI-Systeme. Er konkurriert nicht mit großen Servern oder dedizierten GPUs, bietet aber ein interessantes Verhältnis von Kosten, Stromverbrauch und Leistung. IoT, Automatisierung, Bildung und Prototyping.

Was ist das Raspberry Pi AI HAT+ 2 und wie unterscheidet es sich von der ersten Generation?

Der Raspberry Pi AI HAT+ 2 ist ein offizielle Verlängerungsplatte Es wurde für den Raspberry Pi 5 entwickelt und wird über die integrierte PCI-Express-Schnittstelle des Motherboards angeschlossen. Zur Montage nutzt es den GPIO-Anschluss. Es ist der direkte Nachfolger des ersten AI HAT+, der 2024 erschien und in Varianten mit Beschleunigern angeboten wurde. Hailo‑8L (13 TOPS) und Hailo‑8 (26 TOPS) und konzentrierte sich sehr auf Aufgaben im Bereich Computer Vision.

In dieser zweiten Generation setzt Raspberry Pi auf Hailo-10H neuronaler Netzwerkbeschleuniger begleitet von 8 GB LPDDR4X-Speicher Speziell auf der Karte selbst. Diese Kombination ist für die Unterstützung von Arbeitslasten ausgelegt. generative KI am EdgeBeispiele hierfür sind kompakte Sprachmodelle, Bild-Sprach-Modelle und multimodale Anwendungen, die Bild und Text kombinieren.

Die Tatsache der Einbeziehung integrierter DRAM Das bedeutet, dass die Ausführung von KI-Modellen den Hauptspeicher des Raspberry Pi 5 nicht direkt beansprucht. Das Motherboard kann sich auf Anwendungslogik, Benutzeroberfläche, Konnektivität oder Speicher konzentrieren, während die NPU den Großteil der Inferenz übernimmt. Dadurch bleibt das System nutzbar, während die KI-Modelle im Hintergrund laufen.

Laut Raspberry Pi selbst ist der Übergang vom ersten AI HAT+ zu diesem neuen Modell praktisch transparent Bei Projekten, die bereits Hailo-8-Beschleuniger verwenden, bleibt die Integration mit der Kameraumgebung und dem Software-Stack des Unternehmens erhalten, wodurch umfangreiche Neuentwicklungen vermieden werden.

Hardware, Leistung und Stromverbrauch: bis zu 40 TOPS mit der Hailo-10H NPU

Das Herzstück des AI ​HAT+ 2 ist der Hailo-10HEin spezialisierter neuronaler Netzwerkbeschleuniger, der für die effiziente Durchführung von Inferenzberechnungen auf stromsparenden Geräten entwickelt wurde. Raspberry Pi und Hailo sprechen von bis zu … 40 Spitzenleistungen (Teraoperationen pro Sekunde), Werte, die mit Quantisierung in INT4 und INT8Dies kommt sehr häufig vor, wenn Modelle am Netzwerkrand eingesetzt werden.

Ein wichtiger Punkt ist, dass der Chip auf eine Leistung von etwa Leistungsaufnahme von 3 WDadurch lässt es sich in kompakte Gehäuse und Embedded-Projekte integrieren, ohne den Kühlbedarf oder die Stromkosten wesentlich zu erhöhen, was für Geräte, die rund um die Uhr in Betrieb sein können, wichtig ist. Diese Einschränkung bedeutet jedoch, dass Bruttoertrag Es wird nicht immer besser sein als das, was der Raspberry Pi 5 selbst bieten kann, wenn seine CPU und GPU bei bestimmten hochoptimierten Arbeitslasten an ihre Grenzen gebracht werden.

Im Vergleich zum Vorgängermodell ist der Sprung deutlich: Es geht von 13/26 TOPS mit Hailo‑8L/Hailo‑8 Es erreicht 40 TOPS mit Hailo-10H und verfügt erstmals über 8 GB dedizierten Onboard-Speicher. Das erste AI HAT+ zeichnete sich durch hervorragende Leistungen bei Aufgaben wie Objekterkennung, Pose-Schätzung und Szenensegmentierung aus; die neue Version behält diese Anwendungsbereiche bei, erweitert aber ihren Fokus auf … Sprachmodelle und multimodale Anwendungen.

Dennoch stellt Raspberry Pi selbst klar, dass die praktische Leistung des Hailo-10H bei bestimmten Bildverarbeitungsoperationen möglicherweise eingeschränkt ist. ähnlich wie die 26 TOPS Die Unterschiede zum Hailo-8 ergeben sich aus der Art der Arbeitslastverteilung und den architektonischen Unterschieden. Die größte Verbesserung liegt jedoch weniger in der reinen Bildverarbeitungsleistung als vielmehr in den neuen Möglichkeiten, die sich dadurch für LLM und lokale generative Modelle eröffnen.

Der Teller wird mit einem optionaler Kühlkörper für die NPU. Obwohl der Stromverbrauch begrenzt ist, wird die Installation üblicherweise empfohlen, insbesondere wenn Sie intensive KI-Aufgaben über einen längeren Zeitraum ausführen oder anspruchsvolle Leistungstests durchführen, um zu verhindern, dass der Chip seine Frequenzen aufgrund von Überhitzung reduziert.

Unterstützte Sprachmodelle und lokale LLM-Nutzung

Einer der auffälligsten Aspekte des AI HAT+ 2 ist seine Fähigkeit, Sprachmodelle lokal ausführen auf einem Raspberry Pi 5, ohne Daten an externe Server zu senden. Während der Präsentation stellten Raspberry Pi und Hailo verschiedene Modelle vor, darunter 1.000 und 1.500 Millionen Parameter als Ausgangspunkt.

Zu den zum Marktstart angebotenen kompatiblen LLMs gehören: DeepSeek‐R1‐Distill, Llama 3.2, Qwen2, Qwen2.5‐Instruct und Qwen2.5‐CoderEs handelt sich um relativ kompakte Modelle, die für Aufgaben wie einfache Chats, Texterstellung und -korrektur, Codegenerierung, einfache Übersetzungen oder Szenenbeschreibungen anhand von Bild- und Texteingaben konzipiert sind.

Die vom Unternehmen gezeigten ersten Tests umfassen Beispiele für Übersetzung zwischen Sprachen Die Antworten auf einfache Fragen werden vollständig auf dem Raspberry Pi 5 mit Unterstützung des AI HAT+ 2 ausgeführt – mit geringer Latenz und ohne die allgemeine Systemnutzbarkeit wesentlich zu beeinträchtigen. Die Verarbeitung erfolgt auf dem Hailo-10H-Coprozessor und erfordert keine Verbindung des Geräts zur Cloud.

Es sollte klargestellt werden, dass diese Lösung nicht für Massenmarktmodelle wie Vollversionen von ChatGPT, Claude oder die größeren LLMs bei Metaderen Größe in Hunderten von Milliarden oder sogar Billionen von Parametern gemessen wird. In diesen Fällen liegt das Problem nicht nur in der Rechenleistung, sondern vor allem in der Speicher erforderlich um das Modell und seine Kontexte zu hosten.

Raspberry Pi selbst besteht darauf, dass sich die Benutzer darüber im Klaren sein sollten, dass sie mit ... arbeiten. kleinere Modelle, die auf begrenzteren Datensätzen trainiert wurdenUm diese Einschränkung auszugleichen, liegt der Schwerpunkt auf Techniken wie beispielsweise LoRA (Low-Rank Adaptation)Dadurch können Modelle an spezifische Anwendungsfälle angepasst werden, ohne dass sie komplett neu trainiert werden müssen, indem leichtgewichtige Anpassungsschichten auf die bestehende Basis aufgesetzt werden.

Speicher, Einschränkungen und Vergleich mit einem 16-GB-Raspberry Pi 5

Die Einbeziehung von 8 GB dedizierter LPDDR4X-Arbeitsspeicher Dies ist eine der wichtigsten Neuerungen von AI HAT+ 2 und definiert gleichzeitig klar die Arten von Modellen, die ausgeführt werden können. Viele mittelgroße quantisierte LLMs, insbesondere wenn ein breiter Kontext berücksichtigt werden soll, benötigen möglicherweise mehr als 10 GB ArbeitsspeicherDaher richtet sich das Zubehör an leichtere Modelle oder solche mit engeren Kontextfenstern.

Wenn man es vergleicht mit einem Raspberry Pi 5 16 GB Auch ohne HAT bieten Motherboards mit mehr Arbeitsspeicher Vorteile beim direkten Laden relativ großer Modelle in den RAM, vorausgesetzt, ein signifikanter Teil dieses Speichers wird ausschließlich für KI-Aufgaben verwendet und andere Aufgaben werden vernachlässigt. In diesem Fall übernehmen die integrierte CPU und GPU die gesamte Inferenz, was zu einer erhöhten Arbeitslast führt.

Der Vorschlag AI ​HAT+ 2 macht mehr Sinn, wenn man sucht nach separate VerantwortlichkeitenDie Hailo-10H NPU übernimmt die KI-Berechnungen, sodass der Raspberry Pi 5 für die Aufrechterhaltung einer schlanken Desktop-Umgebung, Webdiensten, Datenbanken, Automatisierungen oder der Präsentationsschicht einer Anwendung genutzt werden kann.

Für diejenigen, die nur einen haben möchten lokaler Assistent Der AI HAT+ 2 ist relativ einfach zu bedienen und kann chatten, Texte übersetzen oder bei kleineren Programmieraufgaben helfen, ohne Daten an Dritte zu senden. Sein Verhältnis von Leistung, Verbrauch und Kosten dürfte ausreichend sein. Für Projekte, die große Modelle oder extrem umfangreiche Kontexte erfordern, ist der Einsatz von Geräten mit mehr Speicher oder Cloud-Infrastruktur jedoch weiterhin praktischer.

Ein weiterer zu berücksichtigender Punkt ist, dass die 8 GB des HAT zwar zur Speicherentlastung beitragen, die Version von 16 GB des Raspberry Pi 5 Sie übertrifft die Erweiterungskarte nach wie vor in Bezug auf die Gesamtkapazität, sodass diese Konfiguration bei bestimmten RAM-intensiven Arbeitsabläufen weiterhin vorzuziehen sein wird.

Computer Vision und simultane Modellausführung

Der AI HAT+ 2 verzichtet nicht auf das Merkmal, das die erste Generation so beliebt gemacht hat: die Computer-Vision-AnwendungenDer Hailo-10H ist in der Lage, Objekterkennungs- und Verfolgungsmodelle, die Schätzung der menschlichen Körperhaltung oder die Szenensegmentierung mit einer Leistung auszuführen, die in der Praxis mit der des Hailo-8 mit 26 TOPS vergleichbar ist.

Raspberry Pi gibt an, dass die neue Platine kann gleichzeitig Bild- und Sprachmodelle ausführenDas macht es attraktiv für Projekte, bei denen Kamera und Textverarbeitung zusammenarbeiten müssen. Beispiele hierfür sind Überwachungssysteme, die Ereignisse klassifizieren und Beschreibungen generieren, intelligente Kameras, die erklären, was in einer Szene geschieht, oder Geräte, die Bilderkennung mit Berichtserstellung kombinieren.

In bestimmten Szenarien werden Familienmodelle erwähnt. YOLO Für die Echtzeit-Objekterkennung mit Bildwiederholraten von bis zu 30 Bildern pro Sekunde, abhängig von Auflösung und Komplexität des Modells. Die NPU übernimmt diese Aufgabe, während der Raspberry Pi 5 für Speicher, Netzwerk, Benachrichtigungen und Anzeige zuständig ist.

Das Software-Ökosystem rund um KI auf dem Raspberry Pi befindet sich noch in der Entwicklung. Obwohl eine Sammlung von Beispiele, Frameworks und Werkzeuge Sowohl für Raspberry Pi als auch für Hailo ist die parallele Ausführung mehrerer Modelle (Bildverarbeitung, Sprachverarbeitung, multimodale Verarbeitung) weiterhin ein sich entwickelndes Gebiet und erfordert möglicherweise in jedem Projekt eine Feinabstimmung.

In jedem Fall ist die Integration mit dem offizieller Raspberry Pi Kamerastapel Dies vereinfacht die Arbeit für alle, die bereits mit den Kameramodulen der Marke arbeiten. Das AI HAT+ 2 integriert sich direkt in diese Umgebung, sodass viele bestehende Bildverarbeitungsprojekte mit relativ geringen Anpassungen auf die neue Platine migriert werden können.

Anwendungsfälle in Spanien und Europa: Industrie-, IoT- und Bildungsprojekte

Die Kombination aus niedrigem Stromverbrauch, geringer Größe und lokale KI-Verarbeitung Dies passt gut zu den Digitalisierungstrends in Spanien und anderen europäischen Ländern. In Branchen, in denen ein stabiler Cloud-Zugang nicht immer gewährleistet ist oder strenge Vertraulichkeitsanforderungen bestehen, kann eine solche Lösung besonders attraktiv sein.

Zu den am häufigsten verwendeten Begriffen in offiziellen Dokumenten gehören Projekte für Industrieautomation, Prozesssteuerung und AnlagenmanagementVisuelle Inspektionssysteme an Produktionslinien, Echtzeit-Anomalieerkennung, Zugangskontrolle oder Personenzählung in Gebäuden sind Beispiele, bei denen die Kombination von Bildverarbeitung und leichtgewichtigen Sprachmodellen einen Mehrwert schaffen kann, ohne dass wesentlich teurere KI-Infrastrukturen eingesetzt werden müssen.

Im Bereich IoT für Zuhause und UnternehmenDer AI HAT+ 2 kann als Grundlage für lokale Assistenten auf einem Raspberry Pi 5, Dashboards zur Interpretation von Sensordaten, Kameras zur Szenenbeschreibung oder Geräte zur Videoanalyse ohne Bildübertragung auf externe Server dienen. Dieser Ansatz trägt zur Einhaltung der immer strengeren Datenschutzbestimmungen in der Europäischen Union bei.

Es kann auch ein interessantes Werkzeug sein, Entwicklerkit Für europäische Unternehmen und Startups, die den Hailo-10H-Chip in ihre Endprodukte integrieren möchten: Leistungs- und Stabilitätstests auf einem Raspberry Pi ermöglichen die Validierung von Konzepten vor der Investition in kundenspezifische Hardware-Entwicklungen.

Im Bildungsbereich könnten Berufsbildungszentren, Universitäten und Fachakademien in Spanien AI HAT+ 2 als Übungsplattform nutzen und so die Eingebettete KI und generative KI den Schülern Zugang zu zugänglicher und vergleichsweise preiswerter Hardware im Vergleich zu anderen, teureren Systemen zu ermöglichen.

Nutzerprofil und Art der anvisierten Projekte

Das Raspberry Pi AI HAT+ 2 richtet sich an verschiedene Zielgruppen. Zum einen an die breite Community von Hersteller und Enthusiasten die bereits den Raspberry Pi 5 verwenden und generative KI oder fortschrittliche Bildverarbeitung in ihre Projekte integrieren möchten, ohne den Sprung zu Workstations mit dedizierten GPUs zu wagen oder vollständig auf Cloud-Dienste angewiesen zu sein.

Andererseits versucht er zu verführen professionelle Entwickler und Startups die eine Testplattform für eingebettete KI benötigen. Im Vergleich zu Lösungen mit in Industrie-PCs integrierten eGPUs oder NPUs bietet diese Platine einen kompakten Formfaktor, einen sehr geringen Stromverbrauch und niedrigere Gesamtkosten, allerdings mit einer geringeren maximalen Leistung als deutlich teurere Plattformen.

Für diejenigen, die bereits Erfahrung mit dem ersten AI HAT+ haben, dürfte der Übergang relativ einfach sein: Integration mit bestehender Software Der Kamerastapel wurde sorgfältig so konzipiert, dass die notwendigen Änderungen minimiert werden. Dies ist relevant für bereits laufende Projekte, die die Leistungssteigerung nutzen möchten, ohne alles neu schreiben zu müssen.

Am anderen Ende des Spektrums finden Nutzer, die Sprachmodelle lediglich lokal mit maximaler Speicherreserve ausführen möchten, möglicherweise immer noch eine Raspberry Pi 5 16 GB Ohne HAT, unter der Annahme, dass die integrierte CPU und GPU die gesamte Inferenz übernehmen und der Stromverbrauch etwas höher ausfällt.

Kurz gesagt, scheint sich das Zubehör als Zwischenlösung eine Nische zu erobern: leistungsstärker und flexibler als ein Raspberry Pi 5, der allein bestimmte KI-Aufgaben bewältigt, aber weit entfernt von der Leistung von Servern oder dedizierten GPUs, und mit einem Fokus auf geringer Stromverbrauch, Datenschutz und Kostenkontrolle.

Hailo-Softwareintegration, Ressourcen und Support

Aus Software-Sicht hat Raspberry Pi darauf abgezielt, den Einrichtungsprozess so weit wie möglich zu vereinfachen. Das AI HAT+ 2 verbindet sich über PCIe-Schnittstelle Es handelt sich um den Raspberry Pi 5, der vom offiziellen Betriebssystem nativ erkannt wird, sodass KI-Anwendungen ohne übermäßig komplexe Einrichtungsschritte für diejenigen ausgeführt werden können, die bereits mit der Umgebung vertraut sind.

Hailo bietet Nutzern eine Repository auf GitHub und eine Entwicklerzone Es umfasst Codebeispiele, vorkonfigurierte Modelle, Tutorials und Frameworks, die sowohl für generative KI als auch für Computer Vision entwickelt wurden. Außerdem enthält es Werkzeuge für die Quantisierungsverwaltung, das Laden von Drittanbietermodellen und die Optimierung spezifischer Arbeitsabläufe.

Zum Marktstart hat das Unternehmen mehrere Optionen zur Verfügung gestellt. sofort installierbare SprachmodelleMit dem Versprechen, den Katalog um größere Varianten oder solche für sehr spezifische Anwendungsfälle zu erweitern. Darüber hinaus fördert es den Einsatz von Techniken wie LoRa, um die Modelle an die Bedürfnisse jedes Projekts anzupassen, ohne sie von Grund auf mit riesigen Datensätzen trainieren zu müssen.

Wie so oft bei solchen Lösungen hängt die tatsächliche Erfahrung von den individuellen Gegebenheiten ab. Reifegrad des Software-ÖkosystemsEinige Analysten weisen darauf hin, dass es bei den Werkzeugen, der Stabilität und der Unterstützung für die gleichzeitige Ausführung mehrerer Modelle noch Verbesserungspotenzial gibt, aber der Trend im Raspberry Pi-Ökosystem geht hin zu einer immer ausgefeilteren Integration.

In jedem Fall senkt die Verfügbarkeit offizieller Dokumentation, praktischer Beispiele und einer aktiven Community die Einstiegshürde für Experimente mit eingebetteter und generativer KI in kostengünstigen Geräten erheblich, um Projekte in Spanien oder anderen europäischen Ländern zu entwickeln.

Preis, Verfügbarkeit und praktische Aspekte in Spanien und Europa

Der Raspberry Pi AI HAT+ 2 wurde zu einem Referenzpreis von 130 US-DollarIn Spanien und im übrigen Europa hängt der endgültige Betrag von der Wechselkurs, Steuern und die Richtlinien der einzelnen Vertriebspartner.Daher ist zu erwarten, dass es geringfügige Unterschiede zwischen den Geschäften und Ländern geben wird.

Das Motherboard ist mit der gesamten Produktpalette kompatibel. Raspberry Pi 5Von Modellen mit 1 GB RAM bis hin zu Versionen mit 16 GB wird der kompatible Raspberry Pi im bekannten HAT-Format montiert: Er wird auf die Platine geschraubt und über den GPIO-Header und die PCIe-Schnittstelle verbunden. Ältere Raspberry-Pi-Modelle ohne diese Schnittstelle sind daher nicht kompatibel.

In der ersten Phase nach der Ankündigung berichteten einige Fachhändler, dass Begrenzter VorratDies ist mittlerweile gängige Praxis bei offiziellen Raspberry-Pi-Hardware-Releases. Wer sich kurzfristig ein Gerät sichern möchte, sollte die Verfügbarkeit bei autorisierten europäischen Händlern und mögliche Wartelisten im Auge behalten.

Zusätzlich zur Hardware beinhaltet der Kauf den Zugriff auf technische Dokumentation und Software-Ressourcen für Raspberry Pi und Hailo, darunter GitHub-Beispiele, Schritt-für-Schritt-Anleitungen und Materialien für Einsteiger in die eingebettete KI. So können sowohl Einzelnutzer als auch kleine Unternehmen unkompliziert mit dem Experimentieren beginnen, ohne in zusätzliche Entwicklungswerkzeuge investieren zu müssen.

Im europäischen Kontext, wo die Datenschutz Und da Energieeffizienz immer wichtiger wird, präsentiert sich der AI HAT+ 2 als ein Gerät, das Folgendes ermöglicht Sensible Informationen lokal verarbeiten Die Abhängigkeit von entfernten Rechenzentren wird verringert, was für Verwaltungen, KMU und unabhängige Entwickler, die nach besser kontrollierbaren KI-Lösungen suchen, attraktiv sein kann.

Der Raspberry Pi AI HAT+ 2 positioniert sich als Zwischenlösung zwischen Cloud und großen KI-Servern: Er bietet eine relativ einfache Möglichkeit, Computer Vision und ressourcenschonende Sprachmodelle in einem einzigen Gerät zu kombinieren, den Stromverbrauch niedrig zu halten und die Privatsphäre zu wahren, erfordert im Gegenzug aber, dass Projekte entsprechend konzipiert werden. innerhalb der Grenzen von Leistung und Speicher typisch für Hardware, die auf geringen Stromverbrauch und niedrige Kosten ausgelegt ist.

Verwandter Artikel:

Xiaomi Smart Camera 3 3K: Die neue 3K-Überwachungskamera, die das vernetzte Zuhause erobern will

Alberto Navarro

Ich bin ein Technik-Enthusiast, der seine „Geek“-Interessen zum Beruf gemacht hat. Ich habe mehr als 10 Jahre meines Lebens damit verbracht, modernste Technologie zu nutzen und aus purer Neugier an allen möglichen Programmen herumzubasteln. Mittlerweile habe ich mich auf Computertechnik und Videospiele spezialisiert. Das liegt daran, dass ich seit mehr als fünf Jahren für verschiedene Websites zum Thema Technologie und Videospiele schreibe und Artikel erstelle, die Ihnen die Informationen, die Sie benötigen, in einer für jeden verständlichen Sprache vermitteln möchten.

Bei Fragen reicht mein Wissen von allem rund um das Windows-Betriebssystem bis hin zu Android für Mobiltelefone. Und mein Engagement gilt Ihnen, ich bin immer bereit, ein paar Minuten zu investieren und Ihnen bei der Lösung aller Fragen in dieser Internetwelt zu helfen.