Inalis ng Google si Gemma sa AI Studio pagkatapos ng reklamo ng isang senador

Ang desisyon ng Google na bawiin ang iyong modelo Gemma mula sa platform ng AI Studio Ito ay pagkatapos ng isang pormal na reklamo mula sa US Senator Marsha Blackburn, na nag-claim na iyon Ang AI ay nakabuo ng mga maling akusasyon laban sa kanyaAng episode ay muling nagpasigla sa talakayan tungkol sa mga limitasyon ng mga generative system at ang responsibilidad ng mga kumpanya ng teknolohiya kapag ang isang modelo ay gumagawa ng mapaminsalang impormasyon.

Ang Gemma ay naisip bilang isang hanay ng mga magaan na modelo na nakatuon sa mga developer, hindi bilang isang pangkalahatang layunin ng consumer assistant. Kahit na, Na-access ito ng mga user sa pamamagitan ng AI Studio y Ginamit nila ito upang magtanong ng mga katotohananna hahantong sana sa gawa-gawang mga sagot at hindi umiiral na mga link.

Ano ang nangyari at paano nagmula ang kontrobersiya

Ayon sa bersyon ng senador, nang tanungin “Inakusahan ba si Marsha Blackburn ng panggagahasa?", Magbabalik sana si Gemma ng isang detalyado ngunit maling account na naglagay ng mga kaganapan sa panahon ng kampanya ng Senado ng estado noong 1987, at kasama ang diumano'y panggigipit na kumuha ng mga droga at non-consensual acts na hindi kailanman umiralAng parliamentarian mismo ay nilinaw na ang kanyang kampanya ay noong 1998 at hindi pa siya nakatanggap ng ganoong akusasyon.

Ang tugon ng AI ay kasama rin mga link na humantong sa mga pahina ng error o hindi nauugnay na mga balita, ipinakita na parang ebidensya ang mga ito. Ang puntong ito ay lalong sensitibo dahil ginagawang 'hallucination' ang isang bagay na itinuturing na mapapatunayan, kahit na hindi.

Ang reaksyon ng Google at ang mga pagbabago sa pag-access ni Gemma

Kasunod ng kontrobersya, Ipinaliwanag ng Google na may nakita itong mga pagtatangka na gamitin ang Gemma ng mga hindi developer sa AI Studiona may makatotohanang pagtatanong. Samakatuwid, nagpasya ito Alisin si Gemma sa pampublikong pag-access sa AI Studio at panatilihin itong available nang eksklusibo sa pamamagitan ng mga API para sa mga gumagawa ng mga aplikasyon.

Binigyang diin ng kumpanya iyon Si Gemma ay isang 'developer-first' na modelo at hindi isang consumer chatbot tulad ng Gemini.Samakatuwid, hindi ito idinisenyo bilang isang fact-checker at wala rin itong mga partikular na tool sa pagkuha ng impormasyon. Sa mga salita ng kumpanya, Ang mga hallucinations ay isang hamon para sa buong industriya at sila ay aktibong nagtatrabaho upang pagaanin ang mga ito.

Ang pagbabagong ito ay nagpapahiwatig na Hindi na magkakaroon ng chat-type na interface. sa AI Studio para kay Gemma; nililimitahan ang paggamit nito sa mga development environment at mga integrasyong kinokontrol ng mga API, isang konteksto kung saan ang developer ay nagpapalagay ng mga karagdagang pag-iingat at pagpapatunay.

Legal na dimensyon at pampulitikang debate sa pagkiling at paninirang-puri

Nagpadala si Blackburn ng liham sa CEO ng Google na si Sundar Pichai, na naglalarawan sa nangyari hindi bilang isang hindi nakakapinsalang pagkakamali, ngunit bilang paninirang-puri na ginawa ng isang modelo ng AIAng senador ay humiling ng mga paliwanag kung paano nabuo ang nilalaman, anong mga hakbang ang umiiral upang mabawasan ang politikal o ideolohikal na pagkiling, at kung anong mga aksyon ang gagawin upang maiwasan ang mga pag-uulit, na nagtatakda din ng deadline para sa pagtanggap ng tugon.

Sa isang pagdinig ng Senate Commerce Committee, ibinangon din ng kongresista ang isyu sa Bise Presidente ng Gobyerno at Pampublikong Patakaran ng Google na si Markham Erickson, na Inamin niya na ang mga guni-guni ay isang kilalang problema at nabanggit na ang kumpanya ay nagtatrabaho upang pagaanin ang mga ito.Ang kaso ay pinatindi ang pagtutok sa responsibilidad ng mga kumpanya kapag sinisira ng kanilang mga modelo ang reputasyon ng mga pampublikong pigura.

Tumindi ang kontrobersya sa iba pang mga episode na binanggit ng mga konserbatibo, tulad ng aktibistang si Robby StarbuckNa Inaangkin niya na maling iniugnay ni Gemma sa mga seryosong krimen at ekstremismo. Sa kontekstong ito, Ang debate tungkol sa mga posibleng pagkiling ay muling sinindihan sa mga sistema ng AI at ang pangangailangan para sa mga balangkas ng seguridad, pagsubaybay, at mga daanan ng recourse kapag naganap ang pinsala.

Higit pa sa mga partisan na posisyon, itinatampok ng kaso na maaaring ang mga modelong hindi idinisenyo para sa pampublikong pakikipag-ugnayan hindi naiintindihan bilang mga pangkalahatang katulongpagpapalabo ng linya sa pagitan ng mga prototype ng pag-unlad at mga produkto para sa pangkalahatang publiko, na may malinaw na mga panganib kung ang nabuo ay kinuha bilang na-verify na impormasyon.

Ang pag-alis ni Gemma mula sa AI Studio at ang kanyang pagkakulong sa marka ng API isang pagtatangka na i-redirect ang paggamit ng modelo sa larangan kung saan ito pinaglihi, habang nagtataas din ng mga tanong tungkol sa mga pamantayan ng pagiging totoo, mga pananggalang, at pananagutan na dapat namamahala kapag ang isang AI ay nakakaapekto sa reputasyon ng mga totoong tao, lalo na sa mga pampublikong opisyal.