সিনেটরের অভিযোগের পর গুগল জেমাকে এআই স্টুডিও থেকে সরিয়ে দিয়েছে

গুগলের সিদ্ধান্ত যে তোমার মডেল প্রত্যাহার করো এআই স্টুডিও প্ল্যাটফর্ম থেকে জেমা মার্কিন সিনেটর মার্শা ব্ল্যাকবার্নের একটি আনুষ্ঠানিক অভিযোগের পর এটি এসেছে, যিনি দাবি করেছেন যে এআই তার বিরুদ্ধে মিথ্যা অভিযোগ তৈরি করেছেএই পর্বটি জেনারেটিভ সিস্টেমের সীমাবদ্ধতা এবং কোনও মডেল যখন ক্ষতিকারক তথ্য তৈরি করে তখন প্রযুক্তি সংস্থাগুলির দায়িত্ব সম্পর্কে আলোচনাকে আবারও উস্কে দিয়েছে।

জেমাকে সাধারণ-উদ্দেশ্যের ভোক্তা সহকারী হিসেবে নয়, বরং ডেভেলপারদের জন্য তৈরি হালকা ওজনের মডেলের একটি সেট হিসেবে কল্পনা করা হয়েছিল। তবুও, ব্যবহারকারীরা এআই স্টুডিওর মাধ্যমে এটি অ্যাক্সেস করেছেন। y তারা এটি ব্যবহার করেছিল বাস্তবসম্মত প্রশ্ন জিজ্ঞাসা করার জন্যযার ফলে বানোয়াট উত্তর এবং অস্তিত্বহীন লিঙ্ক.

কী ঘটেছিল এবং কীভাবে বিতর্কের সূত্রপাত হয়েছিল

সিনেটরের ভাষ্য অনুযায়ী, যখন জিজ্ঞাসা করা হয়েছিল “মার্শা ব্ল্যাকবার্ন কি ধর্ষণের অভিযোগে অভিযুক্ত?" জেমা হয়তো একটি বিস্তারিত কিন্তু মিথ্যা বিবরণ ফেরত দিত যা ১৯৮৭ সালের রাজ্য সিনেট প্রচারণার সময় ঘটনাগুলি তুলে ধরেছিল এবং মাদক সংগ্রহের জন্য চাপের অভিযোগ অন্তর্ভুক্ত করেছিল এবং সম্মতিহীন কাজ যা কখনও ছিল নাসংসদ সদস্য নিজেই স্পষ্ট করে বলেছেন যে তার প্রচারণা ছিল ১৯৯৮ সালে এবং তিনি কখনও এমন অভিযোগ পাননি।

এআই প্রতিক্রিয়াতেও অন্তর্ভুক্ত করা হত যেসব লিঙ্কের কারণে ত্রুটি পৃষ্ঠা তৈরি হয়েছে অথবা সম্পর্কহীন সংবাদ, এমনভাবে উপস্থাপন করা হয়েছে যেন সেগুলো প্রমাণ। এই বিষয়টি বিশেষভাবে সংবেদনশীল কারণ 'হ্যালুসিনেশন'-কে এমন কিছুতে পরিণত করে যা যাচাইযোগ্য বলে মনে করা হয়, এমনকি যদি তা নাও হয়।

গুগলের প্রতিক্রিয়া এবং জেমার অ্যাক্সেসে পরিবর্তন

বিতর্কের পর, গুগল ব্যাখ্যা করেছে যে তারা এআই স্টুডিওতে নন-ডেভেলপারদের দ্বারা জেমা ব্যবহারের প্রচেষ্টা সনাক্ত করেছে।তথ্যগত অনুসন্ধানের মাধ্যমে। অতএব, এটি সিদ্ধান্ত নিয়েছে এআই স্টুডিওতে জনসাধারণের অ্যাক্সেস থেকে জেমাকে সরিয়ে দিন এবং এটিকে একচেটিয়াভাবে API-এর মাধ্যমে উপলব্ধ রাখুন যারা অ্যাপ্লিকেশন তৈরি করেন তাদের জন্য।

কোম্পানিটি জোর দিয়ে বলেছে যে জেমা একটি 'ডেভেলপার-ফার্স্ট' মডেল এবং জেমিনির মতো কোনও ভোক্তা চ্যাটবট নয়।অতএব, এটি কোনও তথ্য-পরীক্ষক হিসেবে ডিজাইন করা হয়নি এবং এর কোনও নির্দিষ্ট তথ্য পুনরুদ্ধারের সরঞ্জামও নেই। কোম্পানির ভাষায়, হ্যালুসিনেশন সমগ্র শিল্পের জন্য একটি চ্যালেঞ্জ এবং তারা সক্রিয়ভাবে এগুলি প্রশমিত করার জন্য কাজ করে।

এই পরিবর্তনের অর্থ হল যে আর চ্যাট-টাইপ ইন্টারফেস থাকবে না। জেমার জন্য এআই স্টুডিওতে; এর ব্যবহার কেবলমাত্র ডেভেলপমেন্ট পরিবেশ এবং API দ্বারা নিয়ন্ত্রিত ইন্টিগ্রেশনের মধ্যে সীমাবদ্ধ, এমন একটি প্রেক্ষাপট যেখানে ডেভেলপার অতিরিক্ত সুরক্ষা এবং বৈধতা গ্রহণ করে।

পক্ষপাত এবং মানহানির উপর আইনি মাত্রা এবং রাজনৈতিক বিতর্ক

ব্ল্যাকবার্ন গুগলের সিইও সুন্দর পিচাইয়ের কাছে একটি চিঠি পাঠিয়েছেন, যেখানে যা ঘটেছে তা কোনও ক্ষতিকারক ভুল নয়, বরং একটি এআই মডেল দ্বারা সৃষ্ট মানহানিসিনেটর কীভাবে বিষয়বস্তু তৈরি করা হয়েছিল, রাজনৈতিক বা আদর্শিক পক্ষপাত কমানোর জন্য কী ব্যবস্থা রয়েছে এবং পুনরাবৃত্তি রোধে কী পদক্ষেপ নেওয়া হবে সে সম্পর্কে ব্যাখ্যা চেয়েছিলেন, প্রতিক্রিয়া পাওয়ার জন্য একটি সময়সীমাও নির্ধারণ করেছিলেন।

সিনেট বাণিজ্য কমিটির শুনানিতে, কংগ্রেসওম্যান গুগলের সরকারী বিষয়ক ও জননীতি বিষয়ক ভাইস প্রেসিডেন্ট মার্কহ্যাম এরিকসনের কাছেও বিষয়টি উত্থাপন করেছিলেন, যিনি তিনি স্বীকার করেছেন যে হ্যালুসিনেশন একটি পরিচিত সমস্যা এবং উল্লেখ করেছেন যে কোম্পানিটি এগুলি প্রশমিত করার জন্য কাজ করছে।এই মামলাটি কোম্পানিগুলির দায়িত্বের উপর জোর দিয়েছে যখন তাদের মডেলগুলি জনসাধারণের ব্যক্তিত্বদের সুনাম নষ্ট করে।

বিতর্ক তীব্রতর হয় রক্ষণশীলদের দ্বারা উদ্ধৃত অন্যান্য পর্বগুলিএর মতো কর্মী রবি স্টারবাক, Que তিনি দাবি করেন যে জেমা তাকে গুরুতর অপরাধ এবং চরমপন্থার সাথে মিথ্যাভাবে যুক্ত করেছেন।. এই প্রসঙ্গে, সম্ভাব্য পক্ষপাত সম্পর্কে বিতর্ক আবারও তুঙ্গে উঠেছে এআই সিস্টেমে এবং ক্ষতির সময় সুরক্ষা কাঠামো, পর্যবেক্ষণ এবং আশ্রয়ের পথের প্রয়োজনীয়তা।

দলীয় অবস্থানের বাইরেও, মামলাটি তুলে ধরে যে জনসাধারণের সাথে যোগাযোগের জন্য ডিজাইন করা হয়নি এমন মডেলগুলি হতে পারে সাধারণ সহকারী হিসেবে ভুল বোঝাবুঝিসাধারণ জনগণের জন্য ডেভেলপমেন্ট প্রোটোটাইপ এবং পণ্যের মধ্যে রেখা ঝাপসা করে দেওয়া, যা তৈরি করা হয় তা যাচাইকৃত তথ্য হিসেবে গ্রহণ করলে স্পষ্ট ঝুঁকি থাকে।

এআই স্টুডিও থেকে জেমার প্রত্যাহার এবং API চিহ্নে তার আবদ্ধতা মডেলটির ব্যবহারকে সেই ক্ষেত্রে পুনঃনির্দেশিত করার একটি প্রচেষ্টা যার জন্য এটি কল্পনা করা হয়েছিল, একই সাথে প্রশ্ন উত্থাপন করছে যে সত্যবাদিতা, সুরক্ষা এবং জবাবদিহিতার মানদণ্ড যখন কোনও AI প্রকৃত মানুষের, বিশেষ করে সরকারি কর্মকর্তাদের সুনামকে প্রভাবিত করে, তখন এটি নিয়ন্ত্রণ করা উচিত।