Google senatorning shikoyatidan keyin Gemma’ni AI Studio’dan olib tashladi

Google qarori modelingizni olib tashlang Gemma AI Studio platformasidan Bu AQSh senatori Marsha Blekbernning rasmiy shikoyatidan so'ng, shunday deb da'vo qilmoqda AI unga qarshi yolg'on ayblovlarni ishlab chiqdiEpizod generativ tizimlarning chegaralari va model zararli ma'lumotlarni ishlab chiqarishda texnologiya kompaniyalarining javobgarligi haqidagi munozarani qaytadan kuchaytirdi.

Gemma umumiy maqsadli iste'molchi yordamchisi sifatida emas, balki ishlab chiquvchilar uchun mo'ljallangan engil modellar to'plami sifatida ishlab chiqilgan. Bunday holatda ham, bunday sharoitda ham, Foydalanuvchilar unga AI Studio orqali kirishdi y Ular undan faktik savollar berish uchun foydalanganlarolib kelgan bo'lar edi uydirma javoblar va mavjud bo'lmagan havolalar.

Nima bo'ldi va mojaro qanday paydo bo'ldi

Senatorning versiyasiga ko'ra, "Marsha Blekbern zo'rlashda ayblanganmi?", Gemma batafsil, ammo yolg'on hisobni qaytargan bo'lardi 1987 yilgi shtat Senati kampaniyasi chog'ida sodir bo'lgan voqealar va giyohvand moddalar va giyohvand moddalarni olish uchun da'vo qilingan bosimni o'z ichiga olgan. hech qachon mavjud bo'lmagan konsensual harakatlarParlament a'zosining o'zi aniqlik kiritishicha, uning saylovoldi tashviqoti 1998 yilda bo'lgan va u hech qachon bunday ayblovlarga duch kelmagan.

AI javobi ham o'z ichiga olgan bo'lar edi xato sahifalariga olib kelgan havolalar yoki bir-biriga bog'liq bo'lmagan yangiliklar, xuddi dalil sifatida taqdim etilgan. Bu nuqta ayniqsa sezgir, chunki "gallyutsinatsiya"ni tekshirilishi mumkin bo'lgan narsaga aylantiradibo'lmasa ham.

Googlening reaktsiyasi va Gemma kirishiga o'zgarishlar

Bahsdan so‘ng, Google AI Studio’da ishlab chiqmaganlar tomonidan Gemma’dan foydalanishga urinishlarini aniqlaganini tushuntirdifaktik so'rovlar bilan. Shuning uchun, qaror qildi Gemma-ni AI Studio-da umumiy foydalanishdan olib tashlang va uni faqat API-lar orqali mavjud bo'lsin ilovalarni yaratuvchilar uchun.

Kompaniya buni ta'kidladi Gemma Gemini kabi iste'molchi chatbot emas, balki "birinchi dasturchi" modelidir.Shuning uchun u fakt-tekshiruvchi sifatida ishlab chiqilmagan va ma'lumot olish uchun maxsus vositalarga ega emas. Kompaniya so'zlari bilan aytganda, Gallyutsinatsiyalar butun sanoat uchun muammodir va ular ularni yumshatish uchun faol ishlamoqda.

Bu o'zgarish shuni anglatadi Endi chat tipidagi interfeys bo'lmaydi. Gemma uchun AI Studioda; uning qo'llanilishi API tomonidan boshqariladigan ishlab chiqish muhitlari va integratsiyalari bilan cheklangan, bu kontekstda ishlab chiquvchi qo'shimcha himoya choralari va tekshirishlarni o'z zimmasiga oladi.

Huquqiy o'lchov va tarafkashlik va tuhmat bo'yicha siyosiy munozaralar

Blekbern Google bosh direktori Sundar Pichayga maktub yo‘llab, sodir bo‘lgan voqeani zararsiz xato sifatida emas, balki shunday tasvirlab berdi. AI modeli tomonidan ishlab chiqarilgan tuhmatSenator mazmuni qanday yaratilgani, siyosiy yoki mafkuraviy qarama-qarshilikni minimallashtirish uchun qanday choralar ko‘rilayotgani, takrorlanishning oldini olish uchun qanday choralar ko‘rilishi, shuningdek, javob olish muddatini belgilashni so‘radi.

Senat Savdo qo‘mitasining tinglovi chog‘ida kongressmen bu masalani Google kompaniyasining hukumat ishlari va jamoat siyosati bo‘yicha vitse-prezidenti Markham Eriksonga ham ko‘tardi. U gallyutsinatsiyalar ma'lum muammo ekanligini tan oldi va kompaniya ularni yumshatish ustida ishlayotganini ta'kidladi.Bu holat kompaniyalarning modellari jamoat arboblari obro‘siga putur yetkazganda ularning javobgarligiga e’tiborni kuchaytirdi.

bilan tortishuv kuchaydi konservatorlar tomonidan keltirilgan boshqa epizodlar, shunga o'xshash faol Robbi Starbak, que U Gemma tomonidan og'ir jinoyatlar va ekstremizm bilan yolg'on aloqador bo'lganini da'vo qilmoqda. Shu nuqtai nazardan, Mumkin bo'lgan noxolisliklar haqida bahslar yana avj oldi AI tizimlarida va xavfsizlik tizimlari, monitoring va zarar sodir bo'lganda murojaat qilish yo'llariga bo'lgan ehtiyoj.

Partizan pozitsiyalaridan tashqari, ish jamoatchilik bilan muloqot qilish uchun mo'ljallanmagan modellar bo'lishi mumkinligini ta'kidlaydi umumiy yordamchilar sifatida noto'g'ri tushunilganishlab chiqish prototiplari va keng jamoatchilik uchun mahsulotlar o'rtasidagi chegarani xiralashtirish, agar yaratilgan narsa tasdiqlangan ma'lumot sifatida qabul qilinsa, aniq xavflar bilan.

Gemmaning AI Studio'dan chiqishi va uning API belgisiga qamalishi modeldan foydalanishni u ishlab chiqilgan sohaga yo'naltirishga urinishhaqida savollar tug'dirish bilan birga rostgo'ylik, kafolatlar va javobgarlik standartlari Bu AI haqiqiy odamlarning, ayniqsa davlat amaldorlarining obro'siga ta'sir qilganda boshqarishi kerak.