Google retire Gemma nan AI Studio apre plent yon senatè.

Desizyon Google la pou retire modèl ou a Gemma soti nan platfòm AI Studio a Sa rive apre yon plent fòmèl ki soti nan senatè ameriken Marsha Blackburn, ki deklare ke IA a te pwodui fo akizasyon kont liEpizòd la relanse diskisyon sou limit sistèm jeneratif yo ak responsablite konpayi teknoloji yo lè yon modèl pwodui enfòmasyon danjere.

Yo te konsevwa Gemma kòm yon seri modèl lejè ki fèt pou devlopè yo, pa kòm yon asistan konsomatè pou tout itilizasyon. Malgre sa, Itilizatè yo te jwenn aksè a li atravè AI Studio y Yo te itilize li pou poze kesyon reyèlki ta mennen nan repons ki fabrike ak lyen ki pa egziste.

Ki sa ki te pase e kijan konfli a te kòmanse

Dapre vèsyon senatè a, lè yo te mande l “Èske yo te akize Marsha Blackburn de vyòl?", Gemma ta retounen yon kont detaye men fo. ki te plase evènman yo pandan yon kanpay pou Sena eta a an 1987, epi ki te gen ladan swadizan presyon pou jwenn dwòg ak zak san konsantman ki pa janm egzistePalmantè a li menm te klarifye ke kanpay li te fèt an 1998 e ke li pa janm resevwa yon akizasyon konsa.

Repons IA a ta dwe enkòpore tou lyen ki mennen nan paj erè oubyen nouvèl ki pa gen rapò, prezante kòmsi yo te prèv. Pwen sa a patikilyèman sansib paske transfòme yon 'alisinasyon' an yon bagay ke yo wè kòm verifyemenm si se pa sa.

Reyaksyon Google la ak chanjman nan aksè Gemma a

Apre kontwovès la, Google eksplike ke li te detekte tantativ pou itilize Gemma pa moun ki pa devlopè nan AI Studio.avèk ankèt sou reyalite. Se poutèt sa, li te deside Retire Gemma nan aksè piblik nan AI Studio epi kenbe li disponib sèlman atravè API yo. pou moun k ap kreye aplikasyon yo.

Konpayi an te mete aksan sou sa Gemma se yon modèl 'devlopè-an-premye' epi li pa yon chatbot konsomatè tankou Gemini.Se poutèt sa, li pa fèt kòm yon zouti pou verifye enfòmasyon ni li pa gen zouti espesifik pou rekipere enfòmasyon. Nan pawòl konpayi an, Alisinasyon yo se yon defi pou tout endistri a epi yo travay aktivman pou diminye yo.

Chanjman sa a vle di ke Pap gen yon koòdone kalite chat ankò. nan AI Studio pou Gemma; itilizasyon li limite a anviwònman devlopman ak entegrasyon kontwole pa API yo, yon kontèks kote devlopè a sipoze pwoteksyon ak validasyon adisyonèl.

Dimansyon legal ak deba politik sou prejije ak difamasyon

Blackburn te voye yon lèt bay PDG Google la, Sundar Pichai, li dekri sa ki te pase a pa kòm yon erè inofansif, men kòm difamasyon ki pwodui pa yon modèl IASenatè a te mande eksplikasyon sou kijan yo te pwodui kontni an, ki mezi ki egziste pou minimize prejije politik oswa ideolojik, epi ki aksyon ki pral pran pou anpeche repetisyon, li te fikse tou yon dat limit pou resevwa repons lan.

Pandan yon odyans Komite Komès Sena a, kongresman an te soulve pwoblèm nan tou ak Vis Prezidan Google pou Afè Gouvènman ak Politik Piblik, Markham Erickson, ki te... Li te rekonèt ke alisinasyon se yon pwoblèm byen koni epi li te note ke konpayi an ap travay pou diminye yo.Ka a te entansifye atansyon an sou responsablite konpayi yo lè modèl yo domaje repitasyon pèsonalite piblik yo.

Kontwovès la te vin pi grav ak lòt epizòd konsèvatif yo te site, tankou sa yo ki an aktivis Robby StarbuckSa Li pretann Gemma te foteman lye li ak krim grav ak ekstremis.. Nan kontèks sa a, Deba a sou posib patipri yo relanse nan sistèm IA ak nesesite pou kad sekirite, siveyans, ak chemen rekou lè domaj rive.

Pi lwen pase pozisyon patizan yo, ka a mete aksan sou ke modèl ki pa fèt pou entèraksyon piblik kapab mal konprann kòm asistan jeneralflou liy ki genyen ant prototip devlopman ak pwodwi pou piblik la an jeneral, ak risk evidan si sa ki pwodui a pran kòm enfòmasyon verifye.

Retrè Gemma nan AI Studio ak konfinman li nan mak API a yon tantativ pou redireksyon itilizasyon modèl la nan domèn pou ki li te fèt la, pandan y ap soulve kesyon tou sou estanda verasite, pwoteksyon, ak responsablite ki ta dwe gouvène lè yon IA afekte repitasyon moun reyèl, sitou fonksyonè piblik yo.