Raspberry Pi AI HAT+ 2: এটি Raspberry Pi 5 এর জন্য নতুন স্থানীয় AI অফার।

এর আগমন রাস্পবেরি পাই এআই হ্যাট+ ২ যারা সরাসরি কৃত্রিম বুদ্ধিমত্তা নিয়ে কাজ করতে চান তাদের জন্য এটি একটি নতুন পদক্ষেপ। রাস্পবেরি পাই ৫ ক্লাউডের উপর স্থায়ীভাবে নির্ভর না করে। এই এক্সপেনশন বোর্ডে একটি ডেডিকেটেড নিউরাল অ্যাক্সিলারেটর এবং নিজস্ব মেমোরি যুক্ত করা হয়েছে, যার ফলে এআই প্রসেসিংয়ের বেশিরভাগ অংশ মূল সিপিইউ থেকে সরানো হয়, যা আরও উচ্চাকাঙ্ক্ষী জেনারেটিভ এআই এবং কম্পিউটার ভিশন প্রকল্পের জন্য অনুমতি দেয়।

প্রস্তাবিত দামের কাছাকাছি $৬০০ (স্পেন এবং বাকি ইউরোপে চূড়ান্ত মূল্য কর এবং অফিসিয়াল ডিস্ট্রিবিউটর মার্জিনের উপর নির্ভর করে পরিবর্তিত হবে।) AI HAT+ 2 এমবেডেড AI ইকোসিস্টেমের মধ্যে তুলনামূলকভাবে সাশ্রয়ী মূল্যের বিকল্প হিসেবে নিজেকে অবস্থান করে। এটি বৃহৎ সার্ভার বা ডেডিকেটেড GPU-এর সাথে প্রতিযোগিতা করে না, তবে এটি খরচ, বিদ্যুৎ খরচ এবং কর্মক্ষমতার মধ্যে একটি আকর্ষণীয় ভারসাম্য প্রদান করে। আইওটি, অটোমেশন, শিক্ষা এবং প্রোটোটাইপিং.

রাস্পবেরি পাই এআই হ্যাট+ ২ কী এবং এটি প্রথম প্রজন্মের থেকে কীভাবে আলাদা?

রাস্পবেরি পাই এআই হ্যাট+ ২ হল একটি অফিসিয়াল এক্সটেনশন প্লেট রাস্পবেরি পাই ৫ এর জন্য ডিজাইন করা, এটি মাদারবোর্ডের ইন্টিগ্রেটেড পিসিআই এক্সপ্রেস ইন্টারফেসের মাধ্যমে সংযোগ করে এবং মাউন্ট করার জন্য জিপিআইও সংযোগকারীও ব্যবহার করে। এটি ২০২৪ সালে প্রকাশিত প্রথম এআই হ্যাট+ এর সরাসরি উত্তরসূরি, যা অ্যাক্সিলারেটর সহ বিভিন্ন রূপে অফার করা হয়েছিল। Hailo‑8L (13 TOPS) এবং Hailo‑8 (26 TOPS) এবং কম্পিউটার ভিশনের কাজে খুব মনোযোগী ছিলেন।

এই দ্বিতীয় প্রজন্মে, রাস্পবেরি পাই একটি হাইলো-১০এইচ নিউরাল নেটওয়ার্ক অ্যাক্সিলারেটর সাথে ৩২ জিবি LPDDR4X মেমোরি কার্ডেই নিবেদিত। এই সমন্বয়টি কাজের চাপ সমর্থন করার জন্য ডিজাইন করা হয়েছে উৎপাদক AI প্রান্তে, যেমন কম্প্যাক্ট ল্যাঙ্গুয়েজ মডেল, ভিশন-ল্যাঙ্গুয়েজ মডেল এবং মাল্টিমোডাল অ্যাপ্লিকেশন যা ছবি এবং টেক্সটকে একত্রিত করে।

অন্তর্ভুক্তির ঘটনা ইন্টিগ্রেটেড DRAM এর মানে হল যে AI মডেলগুলি চালানো সরাসরি Raspberry Pi 5 এর মূল মেমোরি ব্যবহার করে না। মাদারবোর্ড অ্যাপ্লিকেশন লজিক, ইউজার ইন্টারফেস, কানেক্টিভিটি বা স্টোরেজের উপর ফোকাস করতে পারে, যখন NPU বেশিরভাগ অনুমান পরিচালনা করে। বাস্তবে, এটি AI মডেলগুলি ব্যাকগ্রাউন্ডে চলাকালীন সিস্টেমটিকে ব্যবহারযোগ্য রাখতে সহায়তা করে।

রাস্পবেরি পাই নিজেই অনুসারে, প্রথম AI HAT+ থেকে এই নতুন মডেলে রূপান্তর হল কার্যত স্বচ্ছ যেসব প্রকল্পে ইতিমধ্যেই Hailo-8 অ্যাক্সিলারেটর ব্যবহার করা হয়েছে, তাদের ক্ষেত্রে কোম্পানির ক্যামেরা পরিবেশ এবং সফ্টওয়্যার স্ট্যাকের সাথে ইন্টিগ্রেশন বজায় রাখা হয়েছে, যাতে ব্যাপক পুনর্লিখন এড়ানো যায়।

হার্ডওয়্যার, কর্মক্ষমতা এবং বিদ্যুৎ খরচ: Hailo-10H NPU সহ 40 TOPS পর্যন্ত

AI HAT+ 2 এর হৃদয় হল হাইলো-১০এইচকম-পাওয়ার ডিভাইসগুলিতে দক্ষতার সাথে অনুমান চালানোর জন্য ডিজাইন করা একটি বিশেষায়িত নিউরাল নেটওয়ার্ক অ্যাক্সিলারেটর। রাস্পবেরি পাই এবং হাইলো এখন পর্যন্ত ৪০টি পারফর্মেন্সের সর্বোচ্চ (প্রতি সেকেন্ডে টেরাঅপারেশন), কোয়ান্টাইজেশনের মাধ্যমে প্রাপ্ত পরিসংখ্যান INT4 এবং INT8, যখন মডেলগুলি প্রান্তে স্থাপন করা হয় তখন খুবই সাধারণ।

একটি গুরুত্বপূর্ণ বিষয় হলো, চিপটি প্রায় ৩ ওয়াট বিদ্যুৎ খরচএর ফলে এটিকে কম্প্যাক্ট এনক্লোজার এবং এমবেডেড প্রকল্পগুলিতে সংহত করা সম্ভব হয়, কোনও উল্লেখযোগ্যভাবে শীতলকরণের প্রয়োজনীয়তা বা বিদ্যুৎ বিল বৃদ্ধি না করে, যা 24/7 সক্রিয় থাকা ডিভাইসগুলির জন্য গুরুত্বপূর্ণ। তবে, এই সীমাবদ্ধতার অর্থ হল মোট ফলন যখন এর CPU এবং GPU কিছু উচ্চতর অপ্টিমাইজড ওয়ার্কলোডের মধ্যে তাদের সীমার দিকে ঠেলে দেওয়া হয়, তখন এটি Raspberry Pi 5 নিজেই যা দিতে পারে তার চেয়ে সর্বদা উন্নত হবে না।

পূর্ববর্তী মডেলের তুলনায়, উল্লম্ফন স্পষ্ট: এটি থেকে যায় Hailo‑8L/Hailo‑8 এর সাথে 13/26 TOPS Hailo-10H এর মাধ্যমে এটি 40 TOPS অর্জন করে এবং প্রথমবারের মতো 8 GB ডেডিকেটেড অনবোর্ড মেমোরি যোগ করা হয়। প্রথম AI HAT+ বস্তু সনাক্তকরণ, ভঙ্গি অনুমান এবং দৃশ্য বিভাজনের মতো কাজে দক্ষতা অর্জন করেছে; নতুন সংস্করণটি এই ধরণের অ্যাপ্লিকেশন বজায় রাখে তবে এর ফোকাসকে প্রসারিত করে ভাষা মডেল এবং বহুমুখী ব্যবহার.

তবুও, রাস্পবেরি পাই নিজেই স্পষ্ট করে যে, কিছু নির্দিষ্ট দৃষ্টি অপারেশনে, হাইলো-১০এইচ-এর ব্যবহারিক কর্মক্ষমতা হতে পারে ২৬টি টপসের অনুরূপ হাইলো-৮ এর মূল কারণ হলো কাজের চাপ বন্টনের পদ্ধতি এবং স্থাপত্যগত পার্থক্য। প্রধান উন্নতি, অ-রক্ষিত কম্পিউটার দৃষ্টিশক্তির চেয়েও বেশি, এটি এলএলএম এবং স্থানীয় জেনারেটিভ মডেলগুলির জন্য উন্মুক্ত সম্ভাবনার মধ্যে নিহিত।

প্লেটটির সাথে একটি আসে ঐচ্ছিক হিটসিঙ্ক NPU-এর জন্য। যদিও বিদ্যুৎ খরচ সীমিত, তবুও স্বাভাবিক সুপারিশ হল এটি ইনস্টল করা, বিশেষ করে যদি আপনি দীর্ঘ সময় ধরে নিবিড় AI কাজ চালাতে চান বা কর্মক্ষমতা পরীক্ষার দাবি করেন, যাতে তাপমাত্রার কারণে চিপটি ফ্রিকোয়েন্সি হ্রাস না করে।

সমর্থিত ভাষা মডেল এবং স্থানীয় LLM ব্যবহার

AI HAT+ 2 এর সবচেয়ে আকর্ষণীয় দিকগুলির মধ্যে একটি হল এর ক্ষমতা স্থানীয়ভাবে ভাষা মডেল পরিচালনা করুন রাস্পবেরি পাই ৫-এ, বাইরের সার্ভারে ডেটা না পাঠিয়ে। উপস্থাপনার সময়, রাস্পবেরি পাই এবং হাইলো বিভিন্ন মডেল তুলে ধরেন, যার মধ্যে রয়েছে ১,০০০ এবং ১,৫০০ মিলিয়ন প্যারামিটার একটি সূচনা বিন্দু হিসেবে।

লঞ্চের সময় প্রদত্ত সামঞ্জস্যপূর্ণ এলএলএমগুলির মধ্যে রয়েছে ডিপসিক-আর১-ডিস্টিল, লামা ৩.২, কিউয়েন২, কিউয়েন২.৫-ইনস্ট্রাক্ট এবং কিউয়েন২.৫-কোডারএগুলি তুলনামূলকভাবে কমপ্যাক্ট মডেল, যা মৌলিক চ্যাট, টেক্সট লেখা এবং সংশোধন, কোড তৈরি, সহজ অনুবাদ, অথবা ছবি এবং টেক্সট ইনপুট থেকে দৃশ্যের বর্ণনার মতো কাজের জন্য ডিজাইন করা হয়েছে।

কোম্পানি কর্তৃক দেখানো প্রাথমিক পরীক্ষাগুলির মধ্যে রয়েছে উদাহরণ বিভিন্ন ভাষার মধ্যে অনুবাদ এবং সহজ প্রশ্নের উত্তর সম্পূর্ণরূপে AI HAT+ 2 দ্বারা সমর্থিত Raspberry Pi 5-এ সম্পাদিত, কম লেটেন্সি সহ এবং সামগ্রিক সিস্টেমের ব্যবহারযোগ্যতার উপর উল্লেখযোগ্য প্রভাব না ফেলে। প্রক্রিয়াকরণ Hailo-10H কোপ্রসেসরের মাধ্যমে সঞ্চালিত হয় এবং ডিভাইসটিকে ক্লাউডের সাথে সংযুক্ত করার প্রয়োজন হয় না।

এটা স্পষ্ট করে দেওয়া উচিত যে এই সমাধানটি গণ-বাজার মডেল যেমন পূর্ণ সংস্করণের জন্য নয় মেটাতে ChatGPT, Claude, অথবা বৃহত্তর LLM গুলিযার আকার শত শত বিলিয়ন বা এমনকি ট্রিলিয়ন প্যারামিটারে পরিমাপ করা হয়। এই ক্ষেত্রে, সমস্যাটি কেবল কম্পিউটিং শক্তি নয়, সর্বোপরি মেমোরি প্রয়োজন মডেল এবং এর প্রেক্ষাপট হোস্ট করার জন্য।

রাস্পবেরি পাই নিজেই জোর দিয়ে বলে যে ব্যবহারকারীদের সচেতন থাকা উচিত যে তারা সীমিত ডেটাসেটের উপর প্রশিক্ষিত ছোট মডেলগুলিএই সীমাবদ্ধতার ক্ষতিপূরণ দেওয়ার জন্য, যেমন কৌশলগুলির উপর ফোকাস করা হয় LoRA (নিম্ন-র্যাঙ্ক অভিযোজন)যা মডেলগুলিকে সম্পূর্ণরূপে পুনরায় প্রশিক্ষণের প্রয়োজন ছাড়াই নির্দিষ্ট ব্যবহারের ক্ষেত্রে সামঞ্জস্য করার অনুমতি দেয়, বিদ্যমান বেসের উপরে হালকা ওজনের অভিযোজন স্তর যুক্ত করে।

মেমোরি, সীমাবদ্ধতা এবং ১৬ জিবি রাস্পবেরি পাই ৫ এর সাথে তুলনা

অন্তর্ভুক্তি ৮ জিবি ডেডিকেটেড LPDDR4X র‍্যাম এটি AI HAT+ 2 এর নতুন বৈশিষ্ট্যগুলির মধ্যে একটি, তবে এটি স্পষ্টভাবে কোন ধরণের মডেল চালানো যেতে পারে তাও সংজ্ঞায়িত করে। অনেক মাঝারি আকারের কোয়ান্টাইজড LLM, বিশেষ করে যদি আপনি একটি বিস্তৃত প্রেক্ষাপট পরিচালনা করতে চান, তাহলে সহজেই আরও বেশি কিছুর প্রয়োজন হতে পারে ৩২ জিবি মেমোরিঅতএব, আনুষঙ্গিক জিনিসপত্র হালকা ওজনের মডেল বা টাইট কনটেক্সট উইন্ডোযুক্ত মডেলগুলির জন্য তৈরি।

যদি তুমি এটির সাথে তুলনা করো রাস্পবেরি পাই ৫ ১৬ জিবি HAT ছাড়াই, তুলনামূলকভাবে বড় মডেলগুলিকে সরাসরি RAM-তে লোড করার ক্ষেত্রে বেশি মেমোরিযুক্ত মাদারবোর্ডগুলির একটি সুবিধা রয়েছে, যদি সেই মেমোরির একটি উল্লেখযোগ্য অংশ শুধুমাত্র AI-এর জন্য নিবেদিত থাকে এবং অন্যান্য কাজগুলিকে ত্যাগ করা হয়। এই পরিস্থিতিতে, সমন্বিত CPU এবং GPU সমস্ত অনুমান পরিচালনা করে, যার ফলে কাজের চাপ বৃদ্ধি পায়।

AI HAT+ 2 প্রস্তাবটি যখন খুঁজছেন তখন আরও অর্থবহ হয় পৃথক দায়িত্বHailo-10H NPU-কে AI গণনা পরিচালনা করতে দিন এবং Raspberry Pi 5-কে খালি করুন যাতে একটি হালকা ডেস্কটপ পরিবেশ, ওয়েব পরিষেবা, ডাটাবেস, অটোমেশন, অথবা একটি অ্যাপ্লিকেশনের উপস্থাপনা স্তর বজায় রাখা যায়।

যারা শুধুমাত্র একটি পেতে চান তাদের জন্য স্থানীয় সহকারী তুলনামূলকভাবে সহজ এবং চ্যাট করতে, টেক্সট অনুবাদ করতে, অথবা তৃতীয় পক্ষের কাছে ডেটা না পাঠিয়ে ছোটখাটো প্রোগ্রামিং কাজে সহায়তা করতে সক্ষম, AI HAT+ 2 এর শক্তি, খরচ এবং খরচের ভারসাম্য যথেষ্ট প্রমাণিত হতে পারে। তবে, বৃহৎ মডেল বা অত্যন্ত বিস্তৃত প্রেক্ষাপটের প্রয়োজন এমন প্রকল্পগুলির জন্য, আরও মেমরি বা ক্লাউড অবকাঠামো সহ ডিভাইস ব্যবহার করা আরও ব্যবহারিক থাকবে।

আরেকটি বিষয় বিবেচনা করার মতো যে, যদিও HAT-এর 8 GB মেমোরি অফলোড করতে সাহায্য করে, এর সংস্করণটি রাস্পবেরি পাই ৫ এর ১৬ জিবি এটি এখনও মোট ক্ষমতার দিক থেকে অ্যাড-ইন বোর্ডকে ছাড়িয়ে যায়, তাই কিছু নির্দিষ্ট RAM-নিবিড় কর্মপ্রবাহে সেই কনফিগারেশনটি অগ্রাধিকারযোগ্য থাকবে।

কম্পিউটার দৃষ্টি এবং যুগপত মডেল বাস্তবায়ন

AI HAT+ 2 সেই বৈশিষ্ট্যটিকে বাদ দেয় না যা প্রথম প্রজন্মকে জনপ্রিয় করে তুলেছিল: কম্পিউটার ভিশন অ্যাপ্লিকেশনহাইলো-১০এইচ বস্তু সনাক্তকরণ এবং ট্র্যাকিং মডেল, মানুষের ভঙ্গি অনুমান, বা দৃশ্য বিভাজন চালাতে সক্ষম, যা বাস্তবে হাইলো-৮ ২৬ টিওপিএস-এ যা অফার করেছে তার সাথে সঙ্গতিপূর্ণ।

রাস্পবেরি পাই ইঙ্গিত দেয় যে নতুন বোর্ডটি পারে একই সাথে দৃষ্টি এবং ভাষা মডেল চালানএটি এমন প্রকল্পগুলির জন্য আকর্ষণীয় করে তোলে যেখানে ক্যামেরা এবং টেক্সট প্রক্রিয়াকরণ একসাথে কাজ করতে হয়। উদাহরণস্বরূপ, নজরদারি ব্যবস্থা যা ঘটনাগুলিকে শ্রেণীবদ্ধ করে এবং বর্ণনা তৈরি করে, স্মার্ট ক্যামেরা যা একটি দৃশ্যে কী ঘটছে তা ব্যাখ্যা করে, অথবা এমন ডিভাইস যা ভিজ্যুয়াল স্বীকৃতিকে রিপোর্ট তৈরির সাথে একত্রিত করে।

নির্দিষ্ট পরিস্থিতিতে, পারিবারিক মডেলের কথা উল্লেখ করা হয়েছে। ইয়োলো রিয়েল-টাইম অবজেক্ট ডিটেকশনের জন্য, মডেলের রেজোলিউশন এবং জটিলতার উপর নির্ভর করে রিফ্রেশ রেট প্রতি সেকেন্ডে প্রায় 30 ফ্রেমে পৌঁছাতে পারে। ধারণাটি হল যে NPU এই কাজটি পরিচালনা করবে যখন Raspberry Pi 5 স্টোরেজ, নেটওয়ার্ক, বিজ্ঞপ্তি এবং ডিসপ্লে পরিচালনা করবে।

রাস্পবেরি পাই-তে AI-কে ঘিরে থাকা সফটওয়্যার ইকোসিস্টেমটি এখনও পরিপক্ক। যদিও এর একটি সংগ্রহ উদাহরণ, কাঠামো এবং সরঞ্জাম রাস্পবেরি পাই এবং হাইলো উভয়ের ক্ষেত্রেই, একাধিক মডেলের (দৃষ্টি, ভাষা, মাল্টিমোডাল) সমান্তরাল বাস্তবায়ন একটি বিকশিত ক্ষেত্র এবং প্রতিটি প্রকল্পে সূক্ষ্ম-টিউনিংয়ের প্রয়োজন হতে পারে।

যাই হোক না কেন, এর সাথে একীকরণ অফিসিয়াল রাস্পবেরি পাই ক্যামেরা স্ট্যাক এটি ব্র্যান্ডের ক্যামেরা মডিউলগুলির সাথে ইতিমধ্যেই যারা কাজ করছেন তাদের জীবনকে সহজ করে তোলে। AI HAT+ 2 সরাসরি সেই পরিবেশের সাথে একীভূত হয়, তাই অনেক বিদ্যমান ভিশন প্রকল্প তুলনামূলকভাবে ছোটখাটো পরিবর্তনের সাথে নতুন বোর্ডে স্থানান্তরিত হতে পারে।

স্পেন এবং ইউরোপে ব্যবহারের ঘটনা: শিল্প, আইওটি এবং শিক্ষামূলক প্রকল্প

কম বিদ্যুৎ খরচ, ছোট আকার এবং এর সংমিশ্রণ স্থানীয় এআই প্রক্রিয়াকরণ এটি স্পেন এবং অন্যান্য ইউরোপীয় দেশগুলিতে বাস্তবায়িত ডিজিটালাইজেশন প্রবণতার সাথে ভালভাবে সামঞ্জস্যপূর্ণ। যেসব শিল্প খাতে স্থিতিশীল ক্লাউড অ্যাক্সেস সর্বদা নিশ্চিত করা হয় না বা যেখানে কঠোর গোপনীয়তার প্রয়োজনীয়তা বিদ্যমান, সেখানে এই ধরণের সমাধান বিশেষভাবে আকর্ষণীয় হতে পারে।

অফিসিয়াল ডকুমেন্টেশনে সর্বাধিক ব্যবহৃত শব্দগুলির মধ্যে রয়েছে প্রকল্পগুলির জন্য শিল্প অটোমেশন, প্রক্রিয়া নিয়ন্ত্রণ এবং সুবিধা ব্যবস্থাপনাউৎপাদন লাইনে ভিজ্যুয়াল পরিদর্শন ব্যবস্থা, রিয়েল-টাইম অ্যানোমালি সনাক্তকরণ, অ্যাক্সেস নিয়ন্ত্রণ, অথবা ভবনে লোক গণনা করা এমন উদাহরণ যেখানে দৃষ্টি এবং হালকা ভাষার মডেলের সংমিশ্রণ অনেক বেশি ব্যয়বহুল এআই অবকাঠামো স্থাপনের প্রয়োজন ছাড়াই মূল্য যোগ করতে পারে।

ক্ষেত্রে বাড়ি এবং ব্যবসা IoTAI HAT+ 2 রাস্পবেরি পাই 5-এ চলমান স্থানীয় সহকারী, সেন্সর ডেটা ব্যাখ্যাকারী ড্যাশবোর্ড, দৃশ্য বর্ণনাকারী ক্যামেরা, অথবা বহিরাগত সার্ভারে ছবি আপলোড না করেই ভিডিও বিশ্লেষণকারী ডিভাইসগুলির জন্য ভিত্তি হিসেবে কাজ করতে পারে। এই পদ্ধতিটি ইউরোপীয় ইউনিয়নে ক্রমবর্ধমান কঠোর ডেটা সুরক্ষা নিয়ম মেনে চলতে সহায়তা করে।

এটি একটি আকর্ষণীয় হাতিয়ারও হতে পারে কারণ ডেভেলপমেন্ট কিট ইউরোপীয় কোম্পানি এবং স্টার্টআপগুলির জন্য যারা Hailo-10H চিপকে শেষ পণ্যগুলিতে একীভূত করার কথা বিবেচনা করছেন। Raspberry Pi-তে কর্মক্ষমতা এবং স্থিতিশীলতা পরীক্ষা করলে কাস্টম হার্ডওয়্যার ডিজাইনে বিনিয়োগ করার আগে ধারণাগুলি যাচাই করা সম্ভব হয়।

শিক্ষাক্ষেত্রে, স্পেনের বৃত্তিমূলক প্রশিক্ষণ কেন্দ্র, বিশ্ববিদ্যালয় এবং বিশেষায়িত একাডেমিগুলি AI HAT+ 2 কে একটি অনুশীলন প্ল্যাটফর্ম হিসেবে ব্যবহার করতে পারে, যা এমবেডেড এআই এবং জেনারেটিভ এআই অন্যান্য ব্যয়বহুল সিস্টেমের তুলনায় সহজলভ্য এবং তুলনামূলকভাবে সস্তা হার্ডওয়্যারে শিক্ষার্থীদের জন্য।

ব্যবহারকারীর প্রোফাইল এবং লক্ষ্যবস্তু প্রকল্পের ধরণ

রাস্পবেরি পাই এআই হ্যাট+ ২ বিভিন্ন প্রোফাইলকে লক্ষ্য করে। একদিকে, বিস্তৃত সম্প্রদায় নির্মাতা এবং উৎসাহীরা যারা ইতিমধ্যেই Raspberry Pi 5 ব্যবহার করেন এবং ডেডিকেটেড GPU সহ ওয়ার্কস্টেশনে না গিয়ে বা সম্পূর্ণরূপে ক্লাউড পরিষেবার উপর নির্ভর না করে তাদের প্রকল্পগুলিতে জেনারেটিভ AI বা উন্নত দৃষ্টিভঙ্গি অন্তর্ভুক্ত করতে চান।

অন্যদিকে, সে প্রলুব্ধ করার চেষ্টা করে পেশাদার ডেভেলপার এবং স্টার্টআপ যাদের এমবেডেড AI এর জন্য একটি টেস্টিং প্ল্যাটফর্ম প্রয়োজন। ইন্ডাস্ট্রিয়াল পিসিতে ইন্টিগ্রেটেড eGPU বা NPU এর সমাধানের তুলনায়, এই বোর্ডটি একটি কম্প্যাক্ট ফর্ম ফ্যাক্টর, খুব কম বিদ্যুৎ খরচ এবং কম সামগ্রিক খরচ অফার করে, যদিও অনেক বেশি ব্যয়বহুল প্ল্যাটফর্মের তুলনায় এর পারফরম্যান্স সিলিং কম।

যারা ইতিমধ্যেই প্রথম AI HAT+ ব্যবহার করেছেন, তাদের জন্য পরিবর্তনটি তুলনামূলকভাবে সহজ বলে মনে হচ্ছে: বিদ্যমান সফ্টওয়্যারের সাথে একীকরণ এবং ক্যামেরা স্ট্যাকটি যত্ন সহকারে ডিজাইন করা হয়েছে যাতে প্রয়োজনীয় পরিবর্তনগুলি কমিয়ে আনা যায়। এটি ইতিমধ্যেই চলমান প্রকল্পগুলির জন্য প্রাসঙ্গিক যারা সবকিছু পুনর্লিখন না করে কর্মক্ষমতা বৃদ্ধির সুবিধা নিতে চায়।

অন্যদিকে, যে ব্যবহারকারীরা কেবলমাত্র সর্বাধিক সম্ভাব্য মেমোরি মার্জিন সহ স্থানীয়ভাবে ভাষা মডেলগুলি চালাতে চান তারা এখনও একটি খুঁজে পেতে পারেন রাস্পবেরি পাই ৫ ১৬ জিবি HAT ছাড়া, ধরে নিচ্ছি যে সমন্বিত CPU এবং GPU সমস্ত অনুমান পরিচালনা করবে এবং বিদ্যুৎ খরচ কিছুটা বেশি হবে।

সংক্ষেপে, আনুষঙ্গিকটি একটি মধ্যবর্তী সমাধান হিসেবে একটি বিশেষ স্থান তৈরি করছে বলে মনে হচ্ছে: রাস্পবেরি পাই ৫ এর চেয়ে বেশি শক্তিশালী এবং নমনীয় যা নির্দিষ্ট কিছু এআই কাজে একা কাজ করে, কিন্তু সার্ভার বা ডেডিকেটেড জিপিইউর কর্মক্ষমতা থেকে অনেক দূরে, এবং এর উপর ফোকাস করে কম বিদ্যুৎ খরচ, গোপনীয়তা এবং খরচ নিয়ন্ত্রণ.

হাইলো সফটওয়্যার ইন্টিগ্রেশন, রিসোর্স এবং সহায়তা

সফটওয়্যারের দৃষ্টিকোণ থেকে, রাস্পবেরি পাই সেটআপ প্রক্রিয়াটিকে যতটা সম্ভব সহজ করার লক্ষ্য নিয়েছে। AI HAT+ 2 এর মাধ্যমে সংযোগ করে PCIe ইন্টারফেস রাস্পবেরি পাই ৫ এর তৈরি এবং এটি অফিসিয়াল অপারেটিং সিস্টেম দ্বারা স্বীকৃত, যা পরিবেশের সাথে ইতিমধ্যেই পরিচিতদের জন্য AI অ্যাপ্লিকেশনগুলিকে অত্যধিক জটিল সেটআপ পদক্ষেপ ছাড়াই চালানোর অনুমতি দেয়।

হাইলো ব্যবহারকারীদের একটি প্রদান করে GitHub এবং একটি ডেভেলপার জোনে রিপোজিটরি এতে কোড উদাহরণ, পূর্ব-কনফিগার করা মডেল, টিউটোরিয়াল এবং জেনারেটিভ এআই এবং কম্পিউটার ভিশন উভয়ের জন্য ডিজাইন করা ফ্রেমওয়ার্ক অন্তর্ভুক্ত রয়েছে। এতে কোয়ান্টাইজেশন পরিচালনা, তৃতীয় পক্ষের মডেল লোড করা এবং নির্দিষ্ট কর্মপ্রবাহ অপ্টিমাইজ করার জন্য সরঞ্জামও অন্তর্ভুক্ত রয়েছে।

লঞ্চের সময়, কোম্পানিটি বেশ কয়েকটি উপলব্ধ করেছে ইনস্টল করার জন্য প্রস্তুত ভাষা মডেলবৃহত্তর ভেরিয়েন্ট বা খুব নির্দিষ্ট ব্যবহারের ক্ষেত্রে অভিযোজিত ক্যাটালগ সম্প্রসারণের প্রতিশ্রুতি সহ। তদুপরি, এটি LoRa-এর মতো কৌশল ব্যবহারকে উৎসাহিত করে যাতে প্রতিটি প্রকল্পের চাহিদার সাথে মডেলগুলিকে সামঞ্জস্য করা যায়, বিশাল ডেটাসেটের উপর স্ক্র্যাচ থেকে প্রশিক্ষণ না দিয়ে।

এই ধরণের সমাধানগুলির ক্ষেত্রে প্রায়শই যেমনটি ঘটে, প্রকৃত অভিজ্ঞতা নির্ভর করবে সফটওয়্যার ইকোসিস্টেমের পরিপক্কতার স্তরকিছু বিশ্লেষক উল্লেখ করেছেন যে একাধিক মডেলের একযোগে বাস্তবায়নের জন্য সরঞ্জাম, স্থিতিশীলতা এবং সহায়তার উন্নতির জন্য এখনও জায়গা রয়েছে, তবে রাস্পবেরি পাই ইকোসিস্টেমের প্রবণতা ক্রমবর্ধমানভাবে মসৃণ একীকরণের দিকে এগিয়ে চলেছে।

যাই হোক না কেন, স্পেন বা অন্যান্য ইউরোপীয় দেশগুলিতে প্রকল্পগুলি বিকাশের জন্য, সরকারী ডকুমেন্টেশন, ব্যবহারিক উদাহরণ এবং একটি সক্রিয় সম্প্রদায় থাকা কম খরচের ডিভাইসগুলিতে এমবেডেড এবং জেনারেটিভ এআই নিয়ে পরীক্ষা-নিরীক্ষার জন্য প্রবেশের বাধাকে উল্লেখযোগ্যভাবে হ্রাস করে।

স্পেন এবং ইউরোপে দাম, প্রাপ্যতা এবং ব্যবহারিক দিকগুলি

Raspberry Pi AI HAT+ 2 এর রেফারেন্স মূল্য 1000 টাকায় লঞ্চ করা হয়েছে। $৬০০স্পেন এবং বাকি ইউরোপে, চূড়ান্ত পরিমাণ নির্ভর করবে বিনিময় হার, কর এবং প্রতিটি পরিবেশকের নীতিঅতএব, আশা করা হচ্ছে যে দোকান এবং দেশগুলির মধ্যে সামান্য পার্থক্য থাকবে।

মাদারবোর্ডটি সম্পূর্ণ লাইনের সাথে সামঞ্জস্যপূর্ণ রাস্পবেরি পাই ৫১ জিবি র‍্যাম সহ মডেল থেকে শুরু করে ১৬ জিবি সহ সংস্করণ পর্যন্ত, সামঞ্জস্যপূর্ণ রাস্পবেরি পাই পরিচিত HAT ফর্ম্যাট ব্যবহার করে মাউন্ট করা হয়: এটি বোর্ডে স্ক্রু করে এবং GPIO হেডার এবং PCIe ইন্টারফেসের মাধ্যমে সংযোগ করে। তাই পূর্ববর্তী রাস্পবেরি পাই মডেলগুলিতে এই ইন্টারফেস নেই সেগুলিকে সামঞ্জস্য তালিকা থেকে বাদ দেওয়া হয়েছে।

ঘোষণার পর প্রাথমিক পর্যায়ে, কিছু বিশেষজ্ঞ পরিবেশক রিপোর্ট করেছেন যে সীমিত স্টকএটি এখন অফিসিয়াল রাস্পবেরি পাই হার্ডওয়্যার রিলিজের ক্ষেত্রে সাধারণ অভ্যাস। যারা স্বল্পমেয়াদে একটি ইউনিট সুরক্ষিত করতে চান তাদের অনুমোদিত ইউরোপীয় পরিবেশকদের কাছ থেকে প্রাপ্যতা এবং সম্ভাব্য অপেক্ষমাণ তালিকার উপর নজর রাখতে হবে।

হার্ডওয়্যার ছাড়াও, ক্রয়ের মধ্যে রাস্পবেরি পাই এবং হাইলোর জন্য প্রযুক্তিগত ডকুমেন্টেশন এবং সফ্টওয়্যার রিসোর্স অ্যাক্সেস অন্তর্ভুক্ত রয়েছে, যার মধ্যে রয়েছে GitHub উদাহরণ, ধাপে ধাপে নির্দেশিকা এবং এমবেডেড AI-তে নতুনদের জন্য উপকরণ। এটি ব্যক্তিগত ব্যবহারকারী এবং ছোট ব্যবসা উভয়ের জন্য অতিরিক্ত উন্নয়ন সরঞ্জামগুলিতে বিনিয়োগ না করেই পরীক্ষা-নিরীক্ষা শুরু করা সহজ করে তোলে।

ইউরোপীয় প্রেক্ষাপটে, যেখানে তথ্য গোপনীয়তা এবং শক্তি দক্ষতা ক্রমশ প্রাসঙ্গিক হয়ে উঠার সাথে সাথে, AI HAT+ 2 এমন একটি অংশ হিসেবে উপস্থাপিত হয়েছে যা স্থানীয়ভাবে সংবেদনশীল তথ্য প্রক্রিয়াকরণ করুন দূরবর্তী ডেটা সেন্টারের উপর নির্ভরতা হ্রাস করা, যা প্রশাসন, ক্ষুদ্র ও মাঝারি শিল্প এবং স্বাধীন বিকাশকারীদের কাছে আকর্ষণীয় হতে পারে যারা আরও নিয়ন্ত্রিত AI সমাধান খুঁজছেন।

রাস্পবেরি পাই এআই হ্যাট+ ২ ক্লাউড এবং বৃহৎ এআই সার্ভারের মধ্যে একটি মধ্যবর্তী সমাধান হিসেবে নিজেকে অবস্থান করে: এটি একটি একক ডিভাইসে কম্পিউটার ভিশন এবং হালকা ভাষা মডেলগুলিকে একত্রিত করার জন্য একটি যুক্তিসঙ্গতভাবে অ্যাক্সেসযোগ্য উপায় প্রদান করে, বিদ্যুৎ খরচ কম রাখে এবং গোপনীয়তাকে সম্মান করে, তবে বিনিময়ে প্রকল্পগুলি ডিজাইন করা প্রয়োজন। ক্ষমতা এবং স্মৃতির সীমার মধ্যে কম বিদ্যুৎ খরচ এবং কম খরচের জন্য ডিজাইন করা হার্ডওয়্যারের সাধারণ বৈশিষ্ট্য।

সম্পর্কিত নিবন্ধ:

Xiaomi স্মার্ট ক্যামেরা 3 3K: নতুন 3K নজরদারি ক্যামেরা যা সংযুক্ত বাড়ি জয় করার লক্ষ্য রাখে

আলবার্তো নাভারো

আমি একজন প্রযুক্তি উত্সাহী যিনি তার "গীক" আগ্রহকে একটি পেশায় পরিণত করেছেন। আমি আমার জীবনের 10 বছরেরও বেশি সময় অতিবাহিত করেছি অত্যাধুনিক প্রযুক্তি ব্যবহার করে এবং বিশুদ্ধ কৌতূহল থেকে সমস্ত ধরণের প্রোগ্রামের সাথে টিঙ্কারিং করে। এখন আমি কম্পিউটার প্রযুক্তি এবং ভিডিও গেমে বিশেষায়িত হয়েছি। এর কারণ হল 5 বছরেরও বেশি সময় ধরে আমি প্রযুক্তি এবং ভিডিও গেমগুলির উপর বিভিন্ন ওয়েবসাইটের জন্য লিখছি, এমন নিবন্ধ তৈরি করছি যা আপনাকে এমন একটি ভাষায় আপনার প্রয়োজনীয় তথ্য দিতে চায় যা প্রত্যেকের বোধগম্য।

যদি আপনার কোন প্রশ্ন থাকে, আমার জ্ঞান উইন্ডোজ অপারেটিং সিস্টেমের সাথে সাথে মোবাইল ফোনের জন্য অ্যান্ড্রয়েড সম্পর্কিত সবকিছু থেকে শুরু করে। এবং আমার প্রতিশ্রুতি আপনার প্রতি, আমি সর্বদা কয়েক মিনিট সময় ব্যয় করতে এবং এই ইন্টারনেট জগতে আপনার যে কোনও প্রশ্নের সমাধান করতে সাহায্য করতে ইচ্ছুক।