سينيٽر جي شڪايت کان پوءِ گوگل گيما کي اي آءِ اسٽوڊيو مان ڪڍي ڇڏيو

گوگل جو فيصلو ته پنهنجو ماڊل ڪڍيو اي آءِ اسٽوڊيو پليٽ فارم تان گيما اهو آمريڪي سينيٽر مارشا بليڪ برن جي هڪ رسمي شڪايت کان پوءِ آيو آهي، جيڪا دعويٰ ڪري ٿي ته اي آءِ سندس خلاف ڪوڙا الزام لڳايا.هن قسط پيداواري نظام جي حدن ۽ ٽيڪنالاجي ڪمپنين جي ذميواري بابت بحث کي ٻيهر تيز ڪري ڇڏيو آهي جڏهن هڪ ماڊل نقصانڪار معلومات پيدا ڪري ٿو.

گيما کي ڊولپرز لاءِ تيار ڪيل هلڪي وزن واري ماڊلز جي هڪ سيٽ جي طور تي تصور ڪيو ويو هو، نه ته هڪ عام مقصد جي صارف اسسٽنٽ جي طور تي. تنهن هوندي به، صارفين ان تائين AI اسٽوڊيو ذريعي رسائي حاصل ڪئي. y انهن ان کي حقيقت تي ٻڌل سوال پڇڻ لاءِ استعمال ڪيوجنهن جي ڪري ٿئي ها ٺوس جواب ۽ غير موجود لنڪس.

ڇا ٿيو ۽ تڪرار ڪيئن پيدا ٿيو؟

سينيٽر جي نسخي موجب، جڏهن پڇيو ويو ته "ڇا مارشا بليڪ برن تي ريپ جو الزام لڳايو ويو آهي؟" گيما هڪ تفصيلي پر غلط اڪائونٽ واپس ڪري ها. جنهن 1987 جي رياستي سينيٽ مهم دوران واقعن کي رکيو، ۽ ان ۾ منشيات حاصل ڪرڻ لاءِ الزام لڳائڻ ۽ غير رضامندي وارا عمل جيڪي ڪڏهن به موجود نه هئاپارليامينٽ ميمبر پاڻ واضح ڪيو ته سندس مهم 1998 ۾ هئي ۽ هن تي ڪڏهن به اهڙو الزام نه لڳو آهي.

AI جواب ۾ پڻ شامل ڪيو ويو هوندو اهي لنڪ جيڪي غلطي وارن صفحن ڏانهن وٺي ويا. يا غير لاڳاپيل خبرون، پيش ڪيون ويون آهن جيئن اهي ثبوت هجن. هي نقطو خاص طور تي حساس آهي ڇاڪاڻ ته هڪ 'ڀڃڪڙي' کي ڪنهن اهڙي شيءِ ۾ تبديل ڪري ٿو جيڪا تصديق لائق سمجهي وڃي ٿيجيتوڻيڪ اهو نه آهي.

گوگل جو رد عمل ۽ گيما جي رسائي ۾ تبديليون

تڪرار کان پوءِ، گوگل وضاحت ڪئي ته ان کي AI اسٽوڊيو ۾ غير ڊولپرز پاران Gemma استعمال ڪرڻ جي ڪوششن جو پتو پيو آهي.حقيقتن جي پڇا ڳاڇا سان. تنهن ڪري، اهو فيصلو ڪيو AI اسٽوڊيو ۾ Gemma کي عوامي رسائي کان هٽايو ۽ ان کي خاص طور تي APIs ذريعي دستياب رکو. انهن لاءِ جيڪي ايپليڪيشن ٺاهيندا آهن.

ڪمپني زور ڏنو ته گيما هڪ 'ڊولپر-پهريون' ماڊل آهي ۽ جيميني وانگر صارف چيٽ بوٽ نه آهي.تنهن ڪري، اهو حقيقت جي جانچ ڪندڙ جي طور تي ٺهيل ناهي ۽ نه ئي ان ۾ مخصوص معلومات حاصل ڪرڻ جا اوزار آهن. ڪمپني جي لفظن ۾، وهمي خيال پوري صنعت لاءِ هڪ چئلينج آهن ۽ اهي انهن کي گهٽائڻ لاءِ فعال طور تي ڪم ڪن ٿا.

هي تبديلي ظاهر ڪري ٿي ته هاڻي چيٽ قسم جو انٽرفيس نه هوندو. Gemma لاءِ AI اسٽوڊيو ۾؛ ان جو استعمال APIs پاران ڪنٽرول ڪيل ترقياتي ماحول ۽ انضمام تائين محدود آهي، هڪ اهڙو تناظر جتي ڊولپر اضافي حفاظتي اپاءَ ۽ تصديقون فرض ڪري ٿو.

تعصب ۽ بدنامي تي قانوني طول و عرض ۽ سياسي بحث

بليڪ برن گوگل جي سي اي او سندر پچائي کي هڪ خط موڪليو، جنهن ۾ بيان ڪيو ويو ته جيڪو ٿيو اهو هڪ بي ضرر غلطي نه هئي، پر جيئن هڪ AI ماڊل پاران پيدا ڪيل بدناميسينيٽر وضاحت جي درخواست ڪئي ته مواد ڪيئن تيار ڪيو ويو، سياسي يا نظرياتي تعصب کي گهٽائڻ لاءِ ڪهڙا اپاءَ موجود آهن، ۽ ورهاڱي کي روڪڻ لاءِ ڪهڙا قدم کنيا ويندا، جواب حاصل ڪرڻ لاءِ هڪ آخري تاريخ پڻ مقرر ڪئي وئي.

سينيٽ ڪامرس ڪميٽي جي ٻڌڻي دوران، ڪانگريس وومين گوگل جي سرڪاري معاملن ۽ عوامي پاليسي جي نائب صدر، مارڪهم ايريڪسن سان پڻ مسئلو اٿاريو، جيڪو هن تسليم ڪيو ته هيلوسينيشن هڪ ڄاتل سڃاتل مسئلو آهي ۽ نوٽ ڪيو ته ڪمپني انهن کي گهٽائڻ لاءِ ڪم ڪري رهي آهي.هن ڪيس ڪمپنين جي ذميواري تي ڌيان تيز ڪري ڇڏيو آهي جڏهن انهن جا ماڊل عوامي شخصيتن جي شهرت کي نقصان پهچائين ٿا.

تڪرار تيز ٿي ويو قدامت پسندن پاران ڏنل ٻيون قسطون، انهي وانگر ڪارڪن روبي اسٽاربڪ، que هو دعويٰ ڪري ٿو ته گيما پاران کيس سنگين ڏوهن ۽ انتهاپسندي سان غلط طور تي ڳنڍيو ويو آهي.. ان حوالي سان، ممڪن تعصبن بابت بحث ٻيهر شروع ٿي ويو آهي AI سسٽم ۾ ۽ نقصان ٿيڻ تي سيڪيورٽي فريم ورڪ، نگراني، ۽ ريڪورس رستا جي ضرورت.

پارٽي جي موقف کان ٻاهر، ڪيس اهو نمايان ڪري ٿو ته ماڊل جيڪي عوامي رابطي لاءِ نه ٺاهيا ويا آهن اهي ٿي سگهن ٿا عام مددگارن جي طور تي غلط سمجهيو ويوعام ماڻهن لاءِ ڊولپمينٽ پروٽوٽائپس ۽ پراڊڪٽس جي وچ ۾ لڪير کي ڌنڌلو ڪرڻ، جيڪڏهن پيدا ٿيل معلومات کي تصديق ٿيل معلومات طور ورتو وڃي ته واضح خطرن سان.

گيما جو AI اسٽوڊيو مان نڪرڻ ۽ API نشان تائين سندس قيد ماڊل جي استعمال کي ان فيلڊ ڏانهن ريڊائريڪٽ ڪرڻ جي ڪوشش جنهن لاءِ اهو تصور ڪيو ويو هو، جڏهن ته سوال پڻ اٿاري رهيا آهن ته سچائي، حفاظت، ۽ جوابدهي جا معيار اهو ان وقت تي ضابطو رکڻ گهرجي جڏهن هڪ AI حقيقي ماڻهن، خاص طور تي سرڪاري عملدارن جي شهرت کي متاثر ڪري ٿو.