Gitangtang sa Google si Gemma gikan sa AI Studio pagkahuman sa reklamo sa usa ka senador

Ang desisyon sa Google nga kuhaa ang imong modelo Gemma gikan sa platform sa AI Studio Kini moabut human sa usa ka pormal nga reklamo gikan sa US Senador Marsha Blackburn, nga nag-angkon nga Ang AI nagmugna og bakak nga mga akusasyon batok kaniyaAng yugto nagbag-o sa diskusyon bahin sa mga limitasyon sa mga generative system ug ang responsibilidad sa mga kompanya sa teknolohiya kung ang usa ka modelo nagpatunghag makadaot nga kasayuran.

Ang Gemma gipanamkon isip usa ka hugpong sa mga lightweight nga modelo nga gitumong ngadto sa mga developers, dili isip usa ka general-purpose consumer assistant. Bisan pa, Gi-access kini sa mga tiggamit pinaagi sa AI Studio y Gigamit nila kini sa pagpangutana sa tinuod nga mga pangutananga motultol unta sa hinimo-himo nga mga tubag ug wala'y mga link.

Unsa ang nahitabo ug sa unsang paagi nagsugod ang kontrobersiya

Sumala sa bersyon sa senador, sa dihang gipangutana “Giakusahan ba si Marsha Blackburn sa pagpanglugos?", Giuli unta ni Gemma ang usa ka detalyado apan bakak nga asoy nga nagbutang sa mga panghitabo sa panahon sa usa ka kampanya sa Senado sa estado sa 1987, ug naglakip sa giingong pagpit-os aron makakuha og mga droga ug non-consensual nga mga buhat nga wala gayud naglungtadAng parliamentarian mismo miklaro nga ang iyang kampanya niadto pang 1998 ug nga wala pa siya makadawat sa ingon nga akusasyon.

Ang tubag sa AI mahimo usab nga gilakip mga link nga mitultol sa mga panid sa sayop o wala'y kalabutan nga mga balita, nga gipresentar ingon nga kini ebidensya. Kini nga punto labi ka sensitibo tungod kay naghimo sa usa ka 'hallucination' ngadto sa usa ka butang nga giisip nga mapamatud-anbisan kung dili.

Ang reaksyon sa Google ug ang mga pagbag-o sa pag-access ni Gemma

Human sa kontrobersiya, Gipatin-aw sa Google nga nakit-an niini ang mga pagsulay sa paggamit sa Gemma sa mga dili developer sa AI Studiouban sa tinuod nga mga pangutana. Busa, nakahukom kini Kuhaa ang Gemma gikan sa publiko nga pag-access sa AI Studio ug ipadayon kini nga magamit nga eksklusibo pinaagi sa mga API alang niadtong nagtukod og mga aplikasyon.

Gipasiugda kana sa kompanya Si Gemma usa ka 'developer-first' nga modelo ug dili usa ka consumer chatbot sama sa Gemini.Busa, wala kini gidesinyo isip usa ka fact-checker ni kini adunay piho nga mga himan sa pagkuha sa impormasyon. Sa mga pulong sa kompanya, Ang mga halusinasyon usa ka hagit alang sa tibuuk nga industriya ug sila aktibo nga nagtrabaho sa pagpagaan niini.

Kini nga pagbag-o nagpasabot niana Wala nay chat-type nga interface. sa AI Studio para sa Gemma; ang paggamit niini gilimitahan sa development environment ug mga integrasyon nga kontrolado sa mga API, usa ka konteksto diin ang developer nagbaton ug dugang nga mga panalipod ug validation.

Legal nga dimensyon ug politikanhong debate sa bias ug defamation

Nagpadala ang Blackburn og sulat ngadto sa CEO sa Google nga si Sundar Pichai, nga naghulagway sa nahitabo dili isip usa ka dili makadaot nga sayop, apan ingon pagpasipala nga gihimo sa usa ka modelo sa AIAng senador mihangyo og mga katin-awan kon sa unsang paagi namugna ang sulod, unsa nga mga lakang ang anaa aron mamenosan ang politikanhon o ideolohikal nga mga pagpihig, ug unsa nga mga aksyon ang pagahimoon aron mapugngan ang pagbalik-balik, nga nagtakda usab og tagal sa pagdawat sa tubag.

Atol sa pagdungog sa Senate Commerce Committee, gipasaka usab sa kongresista ang isyu sa Bise Presidente sa Gobyerno ug Pampublikong Patakaran sa Google, Markham Erickson, kinsa Giila niya nga ang mga hallucinations usa ka nahibal-an nga problema ug namatikdan nga ang kompanya nagtrabaho aron maminusan kini.Gipakusog sa kaso ang pagtutok sa responsibilidad sa mga kompanya kung ang ilang mga modelo makadaot sa reputasyon sa mga numero sa publiko.

Misamot ang kontrobersiya sa ubang mga yugto nga gikutlo sa mga konserbatibo, sama sa sa aktibista nga si Robby Starbuck, que Giangkon niya nga bakak nga gilambigit ni Gemma sa mga seryoso nga krimen ug ekstremismo. Niini nga konteksto, Ang debate bahin sa posible nga mga pagpihig gisubli sa mga sistema sa AI ug ang panginahanglan alang sa mga balangkas sa seguridad, pag-monitor, ug mga agianan sa pag-recourse kung mahitabo ang kadaot.

Labaw sa partisan nga mga posisyon, ang kaso nagpasiugda nga ang mga modelo nga dili gidisenyo alang sa publiko nga interaksyon mahimo nasaypan pagsabot isip mga general assistantpagbulag sa linya tali sa mga prototype sa pag-uswag ug mga produkto alang sa kinatibuk-ang publiko, nga adunay klaro nga mga peligro kung ang namugna isipon nga gipamatud-an nga kasayuran.

Ang pag-atras ni Gemma gikan sa AI Studio ug ang iyang pagkakulong sa marka sa API usa ka pagsulay sa pag-redirect sa paggamit sa modelo ngadto sa natad diin kini gipanamkon, samtang nagpatungha usab ug mga pangutana bahin sa mga sumbanan sa pagkamatinud-anon, mga panalipod, ug pagkamay-tulubagon kana kinahanglan nga magdumala kung ang usa ka AI makaapekto sa reputasyon sa tinuod nga mga tawo, labi na ang mga opisyal sa publiko.