Raspberry Pi AI HAT+ 2: Ini adalah penawaran AI lokal baru untuk Raspberry Pi 5.

Kedatangan Raspberry Pi AI HAT+ 2 Ini menandai langkah baru bagi mereka yang ingin bekerja langsung dengan kecerdasan buatan di dalam sebuah Raspberry Pi 5 tanpa bergantung sepenuhnya pada cloud. Papan ekspansi ini menambahkan akselerator neural khusus dan memorinya sendiri, sehingga sebagian besar pemrosesan AI dipindahkan dari CPU utama, memungkinkan proyek AI generatif dan visi komputer yang lebih ambisius.

Dengan harga rekomendasi sekitar $130 (Harga akhir di Spanyol dan seluruh Eropa akan bervariasi tergantung pada pajak dan margin distributor resmi.) AI HAT+ 2 memposisikan dirinya sebagai pilihan yang relatif terjangkau dalam ekosistem AI tertanam. Ia tidak bersaing dengan server besar atau GPU khusus, tetapi menawarkan keseimbangan yang menarik antara biaya, konsumsi daya, dan kinerja. IoT, otomatisasi, pendidikan, dan pembuatan prototipe.

Apa itu Raspberry Pi AI HAT+ 2 dan apa perbedaannya dengan generasi pertama?

Raspberry Pi AI HAT+ 2 adalah sebuah pelat ekstensi resmi Dirancang untuk Raspberry Pi 5, perangkat ini terhubung melalui antarmuka PCI Express terintegrasi pada motherboard dan juga menggunakan konektor GPIO untuk pemasangan. Ini adalah penerus langsung dari AI HAT+ pertama, yang dirilis pada tahun 2024, yang ditawarkan dalam varian dengan akselerator. Hailo‑8L (13 TOPS) dan Hailo‑8 (26 TOPS) dan sangat fokus pada tugas-tugas penglihatan komputer.

Pada generasi kedua ini, Raspberry Pi bertaruh pada sebuah Akselerator jaringan saraf Hailo-10H disertai dengan Memori LPDDR4X 8 GB Didedikasikan pada kartu itu sendiri. Kombinasi ini dirancang untuk mendukung beban kerja sebesar... AI generatif di edgeseperti model bahasa yang ringkas, model bahasa-visi, dan aplikasi multimodal yang menggabungkan gambar dan teks.

Fakta penggabungan DRAM terintegrasi Ini berarti bahwa menjalankan model AI tidak secara langsung mengonsumsi memori utama Raspberry Pi 5. Motherboard dapat fokus pada logika aplikasi, antarmuka pengguna, konektivitas, atau penyimpanan, sementara NPU menangani sebagian besar inferensi. Dalam praktiknya, ini membantu menjaga sistem tetap dapat digunakan saat model AI berjalan di latar belakang.

Menurut Raspberry Pi sendiri, transisi dari AI HAT+ pertama ke model baru ini adalah hampir transparan Untuk proyek yang sudah menggunakan akselerator Hailo-8, integrasi dengan lingkungan kamera dan tumpukan perangkat lunak perusahaan tetap dipertahankan, sehingga menghindari penulisan ulang besar-besaran.

Perangkat keras, kinerja, dan konsumsi daya: hingga 40 TOPS dengan NPU Hailo-10H

Inti dari AI HAT+ 2 adalah Hailo-10HAkselerator jaringan saraf khusus yang dirancang untuk menjalankan inferensi secara efisien pada perangkat berdaya rendah. Raspberry Pi dan Hailo sedang membicarakan hingga 40 TOPS performa (teraoperasi per detik), angka yang diperoleh dengan kuantisasi dalam INT4 dan INT8, sangat umum terjadi ketika model diterapkan di edge.

Salah satu poin kuncinya adalah bahwa chip tersebut dibatasi dayanya hingga sekitar Konsumsi daya 3WHal ini memungkinkan integrasinya ke dalam wadah kompak dan proyek tertanam tanpa meningkatkan kebutuhan pendinginan atau tagihan listrik secara signifikan, yang penting untuk perangkat yang mungkin aktif 24/7. Namun, pembatasan ini berarti bahwa hasil kotor Performa perangkat tersebut tidak akan selalu lebih unggul daripada yang dapat ditawarkan oleh Raspberry Pi 5 sendiri ketika CPU dan GPU-nya dipacu hingga batas maksimal dalam beban kerja yang sangat optimal.

Dibandingkan dengan model sebelumnya, lompatannya jelas: ia beralih dari 13/26 TOPS dengan Hailo‑8L/Hailo‑8 Perangkat ini mencapai 40 TOPS dengan Hailo-10H, dan untuk pertama kalinya, ditambahkan memori onboard khusus sebesar 8 GB. AI HAT+ pertama unggul dalam tugas-tugas seperti deteksi objek, estimasi pose, dan segmentasi adegan; versi baru ini mempertahankan jenis aplikasi tersebut tetapi memperluas fokusnya ke model bahasa dan penggunaan multimodal.

Meskipun demikian, Raspberry Pi sendiri mengklarifikasi bahwa, dalam operasi penglihatan tertentu, kinerja praktis Hailo-10H mungkin mirip dengan 26 TOPS Hal ini disebabkan oleh cara distribusi beban kerja dan perbedaan arsitektur pada Hailo-8. Peningkatan utama, lebih dari sekadar kekuatan visi komputer mentah, terletak pada kemungkinan yang dibukanya untuk LLM dan model generatif lokal.

Piring ini dilengkapi dengan heatsink opsional untuk NPU. Meskipun konsumsi daya terbatas, rekomendasi umumnya adalah memasangnya, terutama jika Anda akan menjalankan tugas AI intensif dalam waktu lama atau pengujian kinerja yang berat, untuk mencegah chip menurunkan frekuensi karena suhu.

Model bahasa yang didukung dan penggunaan LLM lokal

Salah satu aspek yang paling mencolok dari AI HAT+ 2 adalah kemampuannya untuk menjalankan model bahasa secara lokal pada Raspberry Pi 5, tanpa mengirim data ke server eksternal. Selama presentasi, Raspberry Pi dan Hailo menyoroti berbagai model, termasuk 1.000 dan 1.500 juta parameter sebagai titik awal.

Di antara LLM yang kompatibel yang ditawarkan pada saat peluncuran adalah DeepSeek‑R1‑Distill, Llama 3.2, Qwen2, Qwen2.5‑Instruct dan Qwen2.5‑CoderModel-model ini relatif ringkas, dirancang untuk tugas-tugas seperti obrolan dasar, penulisan dan koreksi teks, pembuatan kode, terjemahan sederhana, atau deskripsi adegan dari input gambar dan teks.

Tes awal yang ditunjukkan oleh perusahaan tersebut mencakup contoh-contoh berikut: terjemahan antar bahasa dan jawaban atas pertanyaan sederhana dieksekusi sepenuhnya pada Raspberry Pi 5 yang didukung oleh AI HAT+ 2, dengan latensi rendah dan tanpa berdampak signifikan pada kegunaan sistem secara keseluruhan. Pemrosesan dilakukan pada koprosesor Hailo-10H dan tidak memerlukan koneksi perangkat ke cloud.

Perlu ditegaskan bahwa solusi ini tidak ditujukan untuk model pasar massal seperti versi lengkap dari ChatGPT, Claude, atau program LLM yang lebih besar di Meta.yang ukurannya diukur dalam ratusan miliar atau bahkan triliunan parameter. Dalam kasus tersebut, masalahnya bukan hanya daya komputasi, tetapi yang terpenting adalah... Memori yang dibutuhkan untuk menampung model dan konteksnya.

Raspberry Pi sendiri menegaskan bahwa pengguna harus menyadari bahwa mereka sedang berurusan dengan model yang lebih kecil dilatih pada kumpulan data yang lebih terbatasUntuk mengimbangi keterbatasan ini, fokus diarahkan pada teknik-teknik seperti... LoRA (Adaptasi Peringkat Rendah)yang memungkinkan model disesuaikan dengan kasus penggunaan spesifik tanpa perlu melatih ulang sepenuhnya, dengan menambahkan lapisan adaptasi ringan di atas basis yang sudah ada.

Memori, keterbatasan, dan perbandingan dengan Raspberry Pi 5 16GB.

Penyertaan RAM LPDDR4X khusus 8 GB Ini adalah salah satu fitur baru utama dari AI HAT+ 2, tetapi juga secara jelas mendefinisikan jenis model yang dapat dijalankan. Banyak LLM terkuantisasi berukuran sedang, terutama jika Anda ingin menangani konteks yang luas, mungkin dengan mudah membutuhkan lebih dari itu. Memori 10 GBOleh karena itu, aksesori ini ditujukan untuk model yang ringan atau yang memiliki jendela konteks yang lebih sempit.

Jika Anda membandingkannya dengan sebuah Raspberry Pi 5 16GB Bahkan tanpa HAT, motherboard dengan memori lebih besar tetap memiliki keunggulan saat memuat model yang relatif besar langsung ke RAM, asalkan sebagian besar memori tersebut didedikasikan khusus untuk AI dan tugas-tugas lain dikorbankan. Dalam skenario tersebut, CPU dan GPU terintegrasi menangani semua inferensi, sehingga mengakibatkan peningkatan beban kerja.

Proposal AI HAT+ 2 menjadi lebih masuk akal jika dilihat dari sudut pandang... tanggung jawab terpisahBiarkan NPU Hailo-10H menangani perhitungan AI dan bebaskan Raspberry Pi 5 untuk mengelola lingkungan desktop yang ringan, layanan web, basis data, otomatisasi, atau lapisan presentasi aplikasi.

Bagi mereka yang hanya ingin memiliki satu asisten lokal Relatif sederhana dan mampu melakukan obrolan, menerjemahkan teks, atau membantu tugas pemrograman kecil tanpa mengirim data ke pihak ketiga, keseimbangan daya, konsumsi, dan biaya AI HAT+ 2 mungkin terbukti memadai. Namun, untuk proyek yang membutuhkan model besar atau konteks yang sangat luas, menggunakan perangkat dengan memori lebih besar atau infrastruktur cloud akan tetap lebih praktis.

Hal lain yang perlu dipertimbangkan adalah, meskipun HAT dengan RAM 8 GB membantu mengurangi beban memori, versi 16 GB pada Raspberry Pi 5 Dalam hal kapasitas total, kartu ini masih mengungguli kartu tambahan, sehingga dalam alur kerja yang membutuhkan banyak RAM, konfigurasi tersebut akan tetap lebih disukai.

Visi komputer dan eksekusi model simultan

AI HAT+ 2 tidak meninggalkan fitur yang membuat generasi pertama populer: aplikasi visi komputerHailo-10H mampu menjalankan model deteksi dan pelacakan objek, estimasi pose manusia, atau segmentasi adegan dengan kinerja yang, dalam praktiknya, tetap sejalan dengan apa yang ditawarkan Hailo-8 yaitu 26 TOPS.

Raspberry Pi menunjukkan bahwa papan baru tersebut dapat menjalankan model visi dan bahasa secara bersamaanHal ini menjadikannya menarik untuk proyek-proyek di mana kamera dan pemrosesan teks perlu bekerja bersama. Misalnya, sistem pengawasan yang mengklasifikasikan peristiwa dan menghasilkan deskripsi, kamera pintar yang menjelaskan apa yang terjadi dalam suatu adegan, atau perangkat yang menggabungkan pengenalan visual dengan pembuatan laporan.

Dalam skenario tertentu, model keluarga disebutkan. YOLO Untuk deteksi objek secara real-time, dengan kecepatan refresh yang dapat mencapai sekitar 30 frame per detik tergantung pada resolusi dan kompleksitas model. Idenya adalah NPU akan menangani tugas ini sementara Raspberry Pi 5 mengelola penyimpanan, jaringan, notifikasi, dan tampilan.

Ekosistem perangkat lunak seputar AI pada Raspberry Pi masih dalam tahap pematangan. Meskipun terdapat kumpulan contoh, kerangka kerja, dan alat Baik untuk Raspberry Pi maupun Hailo, eksekusi paralel dari berbagai model (penglihatan, bahasa, multimodal) terus menjadi bidang yang berkembang dan mungkin memerlukan penyesuaian di setiap proyek.

Bagaimanapun juga, integrasi dengan tumpukan kamera resmi Raspberry Pi Hal ini menyederhanakan pekerjaan bagi mereka yang sudah menggunakan modul kamera merek tersebut. AI HAT+ 2 terintegrasi langsung dengan lingkungan tersebut, sehingga banyak proyek visi yang sudah ada dapat bermigrasi ke papan baru dengan perubahan yang relatif kecil.

Studi kasus di Spanyol dan Eropa: proyek industri, IoT, dan pendidikan.

Kombinasi konsumsi daya rendah, ukuran kecil, dan pemrosesan AI lokal Hal ini sangat sesuai dengan tren digitalisasi yang diterapkan di Spanyol dan negara-negara Eropa lainnya. Di sektor industri di mana akses cloud yang stabil tidak selalu terjamin atau di mana terdapat persyaratan kerahasiaan yang ketat, solusi jenis ini dapat sangat menarik.

Di antara istilah yang paling sering digunakan dalam dokumentasi resmi adalah proyek untuk otomasi industri, pengendalian proses, dan manajemen fasilitasSistem inspeksi visual pada jalur produksi, deteksi anomali waktu nyata, kontrol akses, atau penghitungan orang di dalam gedung adalah contoh di mana kombinasi visi dan model bahasa ringan dapat menambah nilai tanpa perlu menerapkan infrastruktur AI yang jauh lebih mahal.

Di bidang IoT untuk rumah dan bisnisAI HAT+ 2 dapat berfungsi sebagai fondasi untuk asisten lokal yang berjalan di Raspberry Pi 5, dasbor yang menginterpretasikan data sensor, kamera yang menggambarkan adegan, atau perangkat yang menganalisis video tanpa mengunggah gambar ke server eksternal. Pendekatan ini membantu mematuhi peraturan perlindungan data yang semakin ketat di Uni Eropa.

Ini juga bisa menjadi alat yang menarik karena perangkat pengembangan Bagi perusahaan dan startup Eropa yang mempertimbangkan untuk mengintegrasikan chip Hailo-10H ke dalam produk akhir. Pengujian kinerja dan stabilitas pada Raspberry Pi memungkinkan validasi konsep sebelum berinvestasi dalam desain perangkat keras khusus.

Di bidang pendidikan, pusat pelatihan kejuruan, universitas, dan akademi khusus di Spanyol dapat menggunakan AI HAT+ 2 sebagai platform praktik, yang membawa AI tertanam dan AI generatif kepada siswa dengan perangkat keras yang mudah diakses dan relatif murah dibandingkan dengan sistem lain yang lebih mahal.

Profil pengguna dan jenis proyek yang ditargetkan

Raspberry Pi AI HAT+ 2 menargetkan beberapa profil. Di satu sisi, komunitas yang luas dari pembuat dan penggemar Mereka yang sudah menggunakan Raspberry Pi 5 dan ingin menggabungkan AI generatif atau visi tingkat lanjut ke dalam proyek mereka tanpa harus beralih ke workstation dengan GPU khusus atau bergantung sepenuhnya pada layanan cloud.

Di sisi lain, dia mencoba merayu pengembang profesional dan perusahaan rintisan yang membutuhkan platform pengujian untuk AI tertanam. Dibandingkan dengan solusi dengan eGPU atau NPU yang terintegrasi ke dalam PC industri, papan ini menawarkan faktor bentuk yang ringkas, konsumsi daya yang sangat rendah, dan biaya keseluruhan yang lebih rendah, meskipun dengan batas kinerja yang lebih rendah daripada platform yang jauh lebih mahal.

Bagi mereka yang sudah berpengalaman dengan AI HAT+ generasi pertama, transisinya tampak relatif sederhana: integrasi dengan perangkat lunak yang sudah ada Dan susunan kamera telah dirancang dengan cermat untuk meminimalkan perubahan yang diperlukan. Hal ini relevan untuk proyek yang sudah berjalan dan ingin memanfaatkan peningkatan kinerja tanpa harus menulis ulang semuanya.

Di sisi lain, pengguna yang hanya ingin menjalankan model bahasa secara lokal dengan margin memori maksimum mungkin masih menemukan Raspberry Pi 5 16GB Tanpa HAT, dengan asumsi bahwa CPU dan GPU terintegrasi akan menangani semua inferensi dan konsumsi daya akan sedikit lebih tinggi.

Singkatnya, aksesori ini tampaknya sedang menciptakan ceruk pasar sebagai solusi menengah: lebih bertenaga dan fleksibel daripada Raspberry Pi 5 yang bekerja sendiri pada tugas-tugas AI tertentu, tetapi jauh dari kinerja server atau GPU khusus, dan dengan fokus pada konsumsi daya rendah, privasi, dan pengendalian biaya.

Integrasi perangkat lunak Hailo, sumber daya, dan dukungan

Dari perspektif perangkat lunak, Raspberry Pi bertujuan untuk menyederhanakan proses pengaturan semaksimal mungkin. AI HAT+ 2 terhubung melalui Antarmuka PCIe dari Raspberry Pi 5 dan secara bawaan dikenali oleh sistem operasi resmi, memungkinkan aplikasi AI untuk berjalan tanpa langkah pengaturan yang terlalu rumit bagi mereka yang sudah familiar dengan lingkungan tersebut.

Hailo menyediakan pengguna dengan repositori di GitHub dan Zona Pengembang Paket ini mencakup contoh kode, model yang telah dikonfigurasi sebelumnya, tutorial, dan kerangka kerja yang dirancang untuk AI generatif dan visi komputer. Paket ini juga mencakup alat untuk mengelola kuantisasi, memuat model pihak ketiga, dan mengoptimalkan alur kerja tertentu.

Saat peluncuran, perusahaan telah menyediakan beberapa hal. model bahasa siap instaldengan janji untuk memperluas katalog dengan varian yang lebih besar atau yang disesuaikan dengan kasus penggunaan yang sangat spesifik. Selain itu, hal ini mendorong penggunaan teknik seperti LoRa untuk menyesuaikan model dengan kebutuhan setiap proyek tanpa harus melatihnya dari awal pada kumpulan data yang sangat besar.

Seperti yang sering terjadi pada solusi jenis ini, pengalaman sebenarnya akan bergantung pada... tingkat kematangan ekosistem perangkat lunakBeberapa analis menunjukkan bahwa masih ada ruang untuk perbaikan dalam hal alat, stabilitas, dan dukungan untuk eksekusi simultan beberapa model, tetapi tren dalam ekosistem Raspberry Pi bergerak menuju integrasi yang semakin sempurna.

Bagaimanapun, untuk mengembangkan proyek di Spanyol atau negara-negara Eropa lainnya, memiliki dokumentasi resmi, contoh praktis, dan komunitas aktif secara signifikan mengurangi hambatan untuk bereksperimen dengan AI tertanam dan generatif pada perangkat berbiaya rendah.

Harga, ketersediaan, dan aspek praktis di Spanyol dan Eropa

Raspberry Pi AI HAT+ 2 telah diluncurkan dengan harga referensi sebesar... $130Di Spanyol dan seluruh Eropa, jumlah akhirnya akan bergantung pada... nilai tukar, pajak, dan kebijakan masing-masing distributorOleh karena itu, diharapkan akan ada sedikit perbedaan antara toko dan negara.

Motherboard ini kompatibel dengan seluruh lini produk Raspberry Pi 5Mulai dari model dengan RAM 1GB hingga versi dengan 16GB, Raspberry Pi yang kompatibel dipasang menggunakan format HAT yang sudah dikenal: ia dipasang dengan cara disekrup ke papan dan terhubung melalui header GPIO dan antarmuka PCIe. Oleh karena itu, model Raspberry Pi sebelumnya yang tidak memiliki antarmuka ini dikecualikan dari daftar kompatibilitas.

Pada tahap awal setelah pengumuman tersebut, beberapa distributor spesialis melaporkan bahwa Stok terbatasIni sekarang menjadi praktik umum pada perilisan perangkat keras Raspberry Pi resmi. Mereka yang ingin mendapatkan unit dalam waktu dekat perlu memantau ketersediaan dari distributor resmi Eropa dan kemungkinan daftar tunggu.

Selain perangkat keras, pembelian ini mencakup akses ke dokumentasi teknis dan sumber daya perangkat lunak untuk Raspberry Pi dan Hailo, termasuk contoh GitHub, panduan langkah demi langkah, dan materi bagi mereka yang baru mengenal AI tertanam. Hal ini memudahkan pengguna individu dan usaha kecil untuk mulai bereksperimen tanpa perlu berinvestasi pada alat pengembangan tambahan.

Dalam konteks Eropa, di mana privasi data Dan seiring efisiensi energi menjadi semakin relevan, AI HAT+ 2 dihadirkan sebagai perangkat yang memungkinkan memproses informasi sensitif secara lokal Mengurangi ketergantungan pada pusat data jarak jauh, yang mungkin menarik bagi pemerintah, UKM, dan pengembang independen yang mencari solusi AI yang lebih terkontrol.

Raspberry Pi AI HAT+ 2 memposisikan dirinya sebagai solusi perantara antara komputasi awan dan server AI besar: ia menawarkan cara yang cukup mudah diakses untuk menggabungkan visi komputer dan model bahasa ringan dalam satu perangkat, menjaga konsumsi daya tetap rendah dan menghormati privasi, tetapi sebagai imbalannya mengharuskan proyek dirancang dengan cermat. dalam batas daya dan memori Ciri khas perangkat keras yang dirancang untuk konsumsi daya rendah dan biaya rendah.

Artikel terkait:

Xiaomi Smart Camera 3 3K: kamera pengawasan 3K baru yang bertujuan untuk menaklukkan rumah pintar.

Alberto Navarro

Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.

Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.