Raspberry Pi AI HAT+ 2: Sa a se nouvo òf IA lokal la pou Raspberry Pi 5.

Arive a Franbwaz Pi AI HAT+ 2 Sa make yon nouvo etap pou moun ki vle travay dirèkteman avèk entèlijans atifisyèl. Franbwaz Pi 5 san yo pa bezwen konte sou nwaj la pou tout tan. Kat ekspansyon sa a ajoute yon akseleratè newòn dedye ak pwòp memwa li, konsa yon gwo pati nan pwosesis IA a deplase sou CPU prensipal la, sa ki pèmèt pwojè IA jeneratif ak vizyon òdinatè ki pi anbisye.

Avèk yon pri rekòmande alantou $130 (Pri final la nan peyi Espay ak nan rès Ewòp la ap varye selon taks yo ak maj distribitè ofisyèl yo.) AI HAT+ 2 a pozisyone tèt li kòm yon opsyon relativman abòdab nan ekosistèm IA entegre a. Li pa fè konpetisyon ak gwo sèvè oswa GPU dedye, men li ofri yon balans enteresan ant pri, konsomasyon enèji ak pèfòmans. IoT, automatisation, edikasyon, ak prototipaj.

Ki sa Raspberry Pi AI HAT+ 2 a ye e ki jan li diferan de premye jenerasyon an?

Raspberry Pi AI HAT+ 2 a se yon plak ekstansyon ofisyèl la Li fèt pou Raspberry Pi 5 la, li konekte atravè koòdone PCI Express entegre kat manman an epi li itilize tou konektè GPIO a pou montaj. Li se siksesè dirèk premye AI HAT+ la, ki te soti an 2024, ki te ofri nan varyant ak akseleratè. Hailo‑8L (13 TOPS) ak Hailo‑8 (26 TOPS) epi li te trè konsantre sou travay vizyon òdinatè.

Nan dezyèm jenerasyon sa a, Raspberry Pi ap parye sou yon Akseleratè rezo newòn Hailo-10H akonpaye pa 8 GB memwa LPDDR4X dedye sou kat la menm. Konbinezon sa a fèt pou sipòte chaj travay IA jeneratif nan kwen an, tankou modèl langaj kontra enfòmèl ant, modèl vizyon-langaj, ak aplikasyon multimodal ki konbine imaj ak tèks.

Lefèt ke yo entegre DRAM entegre Sa vle di ke lè w ap kouri modèl IA yo, sa pa konsome memwa prensipal Raspberry Pi 5 la dirèkteman. Kat manman an ka konsantre sou lojik aplikasyon an, koòdone itilizatè a, konektivite a, oswa depo a, pandan NPU a jere pi fò nan dediksyon an. An pratik, sa ede kenbe sistèm nan itil pandan modèl IA yo ap kouri nan background nan.

Dapre Raspberry Pi li menm, tranzisyon soti nan premye AI HAT+ la pou rive nan nouvo modèl sa a se prèske transparan Pou pwojè ki deja itilize akseleratè Hailo-8 yo, entegrasyon ak anviwònman kamera konpayi an ak pil lojisyèl la kenbe, sa ki evite reekriti masiv.

Materyèl, pèfòmans ak konsomasyon enèji: jiska 40 TOPS ak Hailo-10H NPU a

Kè AI HAT+ 2 a se la Hailo-10HYon akseleratè rezo nè espesyalize ki fèt pou fè enferans avèk efikasite sou aparèy ki konsome mwens enèji. Raspberry Pi ak Hailo ap pale de jiska 40 pi bon pèfòmans (teraoperasyon pa segonn), figi yo jwenn ak kantifikasyon nan INT4 ak INT8, trè komen lè modèl yo deplwaye nan kwen an.

Youn nan pwen kle yo se ke chip la limite a yon pouvwa anviwon Konsomasyon enèji 3WSa pèmèt li entegre nan bwat kontra enfòmèl ant ak pwojè entegre san ogmante anpil bezwen refwadisman oswa bòdwo elektrisite, ki enpòtan pou aparèy ki ka aktif 24/7. Sepandan, restriksyon sa a vle di ke sede brit Li p ap toujou siperyè sa Raspberry Pi 5 la li menm ka ofri lè CPU ak GPU li yo pouse nan limit yo nan sèten chaj travay ki trè optimize.

Konpare ak modèl anvan an, so a klè: li soti nan 13/26 TOPS ak Hailo‑8L/Hailo‑8 Li rive nan 40 TOPS ak Hailo-10H, epi pou premye fwa, yo ajoute 8 GB memwa entegre dedye. Premye AI HAT+ la te eksele nan travay tankou deteksyon objè, estimasyon pozisyon, ak segmentasyon sèn; nouvo vèsyon an kenbe kalite aplikasyon sa yo men elaji konsantrasyon li pou... modèl langaj ak itilizasyon miltimodal.

Menm si sa, Raspberry Pi li menm klarifye ke, nan sèten operasyon vizyon, pèfòmans pratik Hailo-10H la ka... menm jan ak 26 TOPS yo nan Hailo-8 la, akòz fason yo distribye kantite travay la ak diferans achitekti yo. Pi gwo amelyorasyon an, plis pase nan puisans vizyon òdinatè brit, se posiblite li ouvè pou LLM ak modèl jeneratif lokal yo.

Plak la vini ak yon radyatè opsyonèl pou NPU a. Malgre ke konsomasyon enèji a limite, rekòmandasyon abityèl la se enstale li, sitou si w ap fè travay IA entansif pandan yon bon bout tan oswa tès pèfòmans ki mande anpil efò, pou anpeche chip la diminye frekans akòz tanperati.

Modèl lang ki sipòte ak itilizasyon LLM lokal

Youn nan aspè ki pi frapan nan AI HAT+ 2 a se kapasite li pou egzekite modèl lang lokalman sou yon Raspberry Pi 5, san voye done bay sèvè ekstèn yo. Pandan prezantasyon an, Raspberry Pi ak Hailo te mete aksan sou yon seri modèl, tankou 1.000 ak 1.500 milyon paramèt kòm yon pwen depa.

Pami LLM konpatib yo ofri nan lansman an genyen DeepSeek-R1-Distill, Llama 3.2, Qwen2, Qwen2.5-Instruct ak Qwen2.5-CoderYo se modèl relativman kontra enfòmèl ant, ki fèt pou travay tankou chat debaz, ekri ak koreksyon tèks, jenerasyon kòd, tradiksyon senp, oswa deskripsyon sèn apati imaj ak tèks.

Premye tès konpayi an montre yo gen ladan egzanp tradiksyon ant lang yo ak repons pou kesyon senp egzekite antyèman sou Raspberry Pi 5 la ki sipòte pa AI HAT+ 2 a, ak yon latans ki ba epi san yon enpak siyifikatif sou itilite sistèm nan an jeneral. Pwosesis la fèt sou koprosesè Hailo-10H la epi li pa mande pou konekte aparèy la ak nwaj la.

Li ta dwe klè ke solisyon sa a pa fèt pou modèl mache mas tankou vèsyon konplè nan ChatGPT, Claude, oubyen pi gwo LLM yo nan Metaki gen gwosè yo mezire nan dè santèn milya oswa menm trilyon paramèt. Nan ka sa yo, pwoblèm nan pa sèlman pouvwa kalkil la, men sitou memwa ki nesesè pou òganize modèl la ak kontèks li yo.

Raspberry Pi li menm ensiste pou itilizatè yo konnen y ap travay avèk modèl ki pi piti ki antrene sou ansanm done ki pi limitePou konpanse restriksyon sa a, yo mete aksan sou teknik tankou LoRA (Adaptasyon Ran Ba)ki pèmèt modèl yo dwe ajiste nan ka itilizasyon espesifik san yo pa bezwen antrene yo nèt, pandan l ajoute kouch adaptasyon lejè sou baz ki deja egziste a.

Memwa, limitasyon ak konparezon ak yon Raspberry Pi 5 16GB

Enklizyon an nan 8 GB RAM LPDDR4X dedye Sa a se youn nan pi gwo nouvo karakteristik AI HAT+ 2 yo, men li defini tou klèman kalite modèl ki ka fonksyone. Anpil LLM kantifye gwosè mwayen, sitou si ou vle jere yon kontèks laj, ka fasilman bezwen plis pase 10 GB memwaSe poutèt sa, akseswa a fèt pou modèl ki lejè oswa sa yo ki gen fenèt kontèks ki pi sere.

Si ou konpare l ak yon Franbwaz Pi 5 16GB Menm san HAT, kat manman ki gen plis memwa toujou gen yon avantaj lè y ap chaje modèl relativman gwo dirèkteman nan RAM lan, depi yon pòsyon enpòtan nan memwa sa a dedye sèlman pou IA epi yo sakrifye lòt travay yo. Nan senaryo sa a, CPU ak GPU entegre yo jere tout entèferans lan, sa ki lakòz yon ogmantasyon nan chaj travay la.

Pwopozisyon AI HAT+ 2 a gen plis sans lè w ap chèche responsablite separeKite Hailo-10H NPU a jere kalkil IA yo epi libere Raspberry Pi 5 la pou kenbe yon anviwònman biwo lejè, sèvis entènèt, baz done, automatisation, oswa kouch prezantasyon yon aplikasyon.

Pou moun ki sèlman vle gen youn asistan lokal Relativman senp epi kapab chat, tradui tèks, oswa ede ak ti travay pwogramasyon san voye done bay twazyèm pati, balans puisans, konsomasyon, ak pri AI HAT+ 2 a ka sifi. Sepandan, pou pwojè ki mande gwo modèl oswa kontèks ki trè vaste, itilizasyon aparèy ki gen plis memwa oswa enfrastrikti nwaj ap rete pi pratik.

Yon lòt pwen pou konsidere se ke, byenke 8 GB HAT la ede dechaje memwa, vèsyon an nan 16 GB nan Raspberry Pi 5 la Li toujou pi pèfòman pase kat ekstansyon an an tèm de kapasite total, kidonk nan sèten travay ki mande anpil RAM, konfigirasyon sa a ap kontinye pi preferab.

Vizyon òdinatè ak ekzekisyon modèl similtane

AI HAT+ 2 a pa abandone karakteristik ki te fè premye jenerasyon an popilè a: la aplikasyon vizyon òdinatèHailo-10H la kapab fè modèl deteksyon ak swiv objè, estimasyon pozisyon moun, oswa segmentasyon sèn ak yon pèfòmans ki, an pratik, rete an liy ak sa Hailo-8 la te ofri nan 26 TOPS.

Raspberry Pi endike ke nouvo tablo a kapab an menm tan egzekite modèl vizyon ak langajSa fè li atiran pou pwojè kote kamera a ak pwosesis tèks la bezwen travay ansanm. Pa egzanp, sistèm siveyans ki klase evènman yo epi jenere deskripsyon, kamera entelijan ki eksplike sa k ap pase nan yon sèn, oswa aparèy ki konbine rekonesans vizyèl ak jenerasyon rapò.

Nan senaryo espesifik, yo mansyone modèl familyal. YOLO Pou deteksyon objè an tan reyèl, ak to rafrechisman ki ka rive nan anviwon 30 imaj pa segonn selon rezolisyon ak konpleksite modèl la. Lide a se ke NPU a pral jere travay sa a pandan Raspberry Pi 5 la jere depo, rezo, notifikasyon ak ekspozisyon.

Ekosistem lojisyèl ki antoure IA sou Raspberry Pi a toujou ap devlope. Malgre yon koleksyon egzanp, kad ak zouti Pou tou de Raspberry Pi ak Hailo, ekzekisyon paralèl plizyè modèl (vizyon, langaj, multimodal) kontinye ap evolye e li ka mande ajisteman nan chak pwojè.

Nan nenpòt ka, entegrasyon avèk la Pil kamera ofisyèl Raspberry Pi Sa senplifye lavi pou moun ki deja ap travay avèk modil kamera mak la. AI HAT+ 2 a entegre dirèkteman avèk anviwònman sa a, kidonk anpil pwojè vizyon ki deja egziste ka migre sou nouvo tablo a avèk chanjman relativman minè.

Ka itilizasyon an Espay ak an Ewòp: endistri, IoT ak pwojè edikasyonèl

Konbinezon konsomasyon enèji ki ba, ti gwosè ak pwosesis IA lokal la Sa a byen aliyen ak tandans dijitalizasyon k ap aplike nan peyi Espay ak lòt peyi Ewopeyen yo. Nan sektè endistriyèl kote aksè ki estab nan nwaj la pa toujou garanti oswa kote egzijans konfidansyalite strik egziste, yon solisyon konsa ka patikilyèman atiran.

Pami tèm ki pi souvan itilize nan dokiman ofisyèl yo genyen pwojè pou automatisation endistriyèl, kontwòl pwosesis ak jesyon enstalasyonSistèm enspeksyon vizyèl sou liy pwodiksyon, deteksyon anomali an tan reyèl, kontwòl aksè, oswa kontaj moun nan bilding yo se egzanp kote konbinezon vizyon ak modèl langaj lejè ka ajoute valè san yo pa bezwen deplwaye enfrastrikti IA ki pi chè.

Nan domèn nan IoT lakay ak biznisAI HAT+ 2 a ka sèvi kòm yon fondasyon pou asistan lokal k ap fonksyone sou yon Raspberry Pi 5, tablodbò ki entèprete done detèktè, kamera ki dekri sèn, oswa aparèy ki analize videyo san yo pa telechaje imaj sou sèvè ekstèn. Apwòch sa a ede konfòme li avèk règleman pwoteksyon done ki de pli zan pli sevè nan Inyon Ewopeyen an.

Li kapab yon zouti enteresan tou kòm twous devlopman Pou konpayi Ewopeyen yo ak nouvo antrepriz k ap konsidere entegre chip Hailo-10H la nan pwodwi final yo. Tès pèfòmans ak estabilite sou yon Raspberry Pi pèmèt yo valide konsèp yo anvan yo envesti nan konsepsyon pyès ki nan konpitè koutim.

Nan domèn edikasyon an, sant fòmasyon pwofesyonèl, inivèsite ak akademi espesyalize nan peyi Espay te kapab itilize AI HAT+ 2 kòm yon platfòm pratik, pou pote... IA entegre ak IA jeneratif bay elèv yo sou materyèl aksesib e relativman bon mache konpare ak lòt sistèm ki pi chè.

Pwofil itilizatè ak kalite pwojè ki vize yo

Raspberry Pi AI HAT+ 2 a vize plizyè pwofil. Yon bò, kominote jeneral la kreyatè ak amatè ki deja itilize Raspberry Pi 5 la epi ki vle enkòpore IA jeneratif oswa vizyon avanse nan pwojè yo san yo pa bezwen fè so a nan estasyon travay ak GPU dedye oswa depann antyèman sou sèvis nwaj yo.

Yon lòt bò, li eseye sedui devlopè pwofesyonèl ak startup ki bezwen yon platfòm tès pou IA entegre. Konpare ak solisyon ki gen eGPU oswa NPU entegre nan PC endistriyèl yo, kat sa a ofri yon faktè fòm kontra enfòmèl ant, yon konsomasyon enèji ki ba anpil, ak yon pri jeneral ki pi ba, byenke ak yon plafon pèfòmans ki pi ba pase platfòm ki pi chè yo.

Pou moun ki deja gen eksperyans ak premye AI HAT+ la, tranzisyon an sanble relativman senp: entegrasyon ak lojisyèl ki deja egziste Epi yo te byen fèt pil kamera yo pou minimize chanjman nesesè yo. Sa enpòtan pou pwojè ki deja an kou ki vle pwofite ogmantasyon pèfòmans lan san yo pa reekri tout bagay.

Nan lòt ekstrèm nan, itilizatè ki sèlman vle egzekite modèl lang lokalman ak maksimòm maj memwa posib la ka toujou jwenn yon Franbwaz Pi 5 16GB San HAT, an sipoze ke CPU ak GPU entegre yo pral jere tout enferans yo epi konsomasyon enèji a pral yon ti jan pi wo.

An brèf, akseswa a sanble ap kreye yon nich kòm yon solisyon entèmedyè: pi puisan e fleksib pase yon Raspberry Pi 5 k ap travay poukont li sou sèten travay IA, men byen lwen pèfòmans sèvè oswa GPU dedye, epi ak yon konsantrasyon sou konsomasyon enèji ki ba, vi prive ak kontwòl pri.

Entegrasyon lojisyèl Hailo, resous ak sipò

Nan yon pèspektiv lojisyèl, Raspberry Pi te vize pou senplifye pwosesis konfigirasyon an otank posib. AI HAT+ 2 a konekte atravè Entèfas PCIe nan Raspberry Pi 5 la epi li rekonèt natif natalman pa sistèm operasyon ofisyèl la, sa ki pèmèt aplikasyon IA yo fonksyone san etap konfigirasyon twò konplèks pou moun ki deja abitye ak anviwònman an.

Hailo bay itilizatè yo yon depo sou GitHub ak yon Zòn Devlopè Li gen ladan egzanp kòd, modèl prekonfigire, leson patikilye, ak kad travay ki fèt pou tou de IA jeneratif ak vizyon òdinatè. Li gen ladan tou zouti pou jere kantifikasyon, chaje modèl twazyèm pati, ak optimize workflows espesifik.

Nan lansman an, konpayi an te mete plizyè disponiblite modèl langaj ki pare pou enstaleavèk pwomès pou elaji katalòg la ak varyant ki pi gwo oswa sa yo ki adapte a ka itilizasyon trè espesifik. Anplis de sa, li ankouraje itilizasyon teknik tankou LoRa pou ajiste modèl yo selon bezwen chak pwojè san yo pa bezwen antrene yo depi nan kòmansman sou gwo ansanm done.

Jan sa souvan rive ak kalite solisyon sa yo, eksperyans reyèl la ap depann de nivo matirite ekosistèm lojisyèl laGen kèk analis ki fè remake ke toujou gen plas pou amelyorasyon nan zouti, estabilite, ak sipò pou ekzekisyon plizyè modèl similtane, men tandans nan ekosistèm Raspberry Pi a ap deplase nan direksyon yon entegrasyon ki pi rafine.

An tout ka, pou devlope pwojè an Espay oswa nan lòt peyi Ewopeyen yo, lè ou gen dokiman ofisyèl, egzanp pratik ak yon kominote aktif, sa diminye anpil baryè pou antre nan eksperyans ak IA entegre ak jeneratif nan aparèy ki pa koute chè.

Pri, disponiblite ak aspè pratik nan peyi Espay ak Ewòp

Raspberry Pi AI HAT+ 2 a lanse ak yon pri referans de $130Nan peyi Espay ak nan rès Ewòp la, kantite lajan final la ap depann de to echanj, taks, ak règleman chak distribitè aSe poutèt sa, li prevwa ke pral gen ti diferans ant magazen ak peyi yo.

Kat manman an konpatib ak tout liy lan Franbwaz Pi 5Soti nan modèl ki gen 1GB RAM rive nan vèsyon ki gen 16GB, Raspberry Pi konpatib la monte lè l sèvi avèk fòma HAT abitye a: li vise sou kat la epi li konekte atravè header GPIO a ak koòdone PCIe a. Se poutèt sa, modèl Raspberry Pi anvan yo ki pa gen koòdone sa a pa enkli nan lis konpatibilite a.

Nan premye etap apre anons la, kèk distribitè espesyalis te rapòte ke Stok limiteSa a se yon pratik komen kounye a ak lansman ofisyèl pyès ki nan konpitè Raspberry Pi yo. Moun ki vle jwenn yon inite a kout tèm ap bezwen veye disponiblite nan men distribitè Ewopeyen otorize yo ak potansyèl lis datant.

Anplis pyès ki nan konpitè a, acha a gen ladan l aksè a dokiman teknik ak resous lojisyèl pou Raspberry Pi ak Hailo, tankou egzanp GitHub, gid etap pa etap, ak materyèl pou moun ki fèk kòmanse ak IA entegre. Sa fè li fasil pou tou de itilizatè endividyèl ak ti biznis yo kòmanse fè eksperyans san yo pa bezwen envesti nan zouti devlopman adisyonèl.

Nan kontèks Ewopeyen an, kote konfidansyalite done Epi pandan efikasite enèji ap vin pi enpòtan, AI HAT+ 2 a prezante kòm yon pyès ki pèmèt trete enfòmasyon sansib lokalman diminye depandans sou sant done aleka, sa ki ka atire administrasyon yo, PME yo ak devlopè endepandan k ap chèche solisyon IA ki pi kontwole.

Raspberry Pi AI HAT+ 2 a pozisyone tèt li kòm yon solisyon entèmedyè ant nwaj la ak gwo sèvè IA yo: li ofri yon fason rezonabman aksesib pou konbine vizyon òdinatè ak modèl langaj lejè nan yon sèl aparèy, kenbe konsomasyon enèji ba epi respekte vi prive, men an retou li egzije pou pwojè yo fèt. nan limit pouvwa ak memwa tipik pou pyès ki nan konpitè ki fèt pou konsomasyon enèji ki ba ak pri ki ba.

Atik ki gen rapò:

Xiaomi Smart Camera 3 3K: nouvo kamera siveyans 3K ki gen pou objektif konkeri kay konekte a

Alberto Navarro

Mwen se yon antouzyast teknoloji ki te vire enterè "jik" li nan yon pwofesyon. Mwen te pase plis pase 10 ane nan lavi mwen itilize teknoloji dènye kri ak brikolaj ak tout kalite pwogram nan pi kiryozite. Koulye a, mwen te espesyalize nan teknoloji òdinatè ak jwèt videyo. Sa a se paske depi plis pase 5 ane mwen ap ekri pou divès sit entènèt sou teknoloji ak jwèt videyo, kreye atik ki ap chèche ba w enfòmasyon ou bezwen an nan yon lang ke tout moun konprann.

Si w gen nenpòt kesyon, konesans mwen varye ant tout bagay ki gen rapò ak sistèm operasyon Windows la ak Android pou telefòn mobil yo. Ak angajman mwen se avè ou, mwen toujou dispoze pase kèk minit epi ede ou rezoud nenpòt kesyon ou ka genyen nan mond entènèt sa a.