- Google eemaldab AI Studiost Gemma mudeli ja piirab selle kasutamist API-põhiste arendajatega.
- Senaator Marsha Blackburn väidab, et tehisintellekt genereeris valesüüdistusi seksuaalse väärkäitumise kohta
- Google väidab arendajatele mõeldud tööriista väärkasutamist ja tunnistab hallutsinatsioonide probleemi
- See juhtum sütitab taas poliitilise ja õigusliku arutelu tehisintellektiga seotud eelarvamuste, laimamise ja vastutuse üle.
Google'i otsus võtke oma mudel tagasi Gemma AI Studio platvormilt See tuleb pärast USA senaatori Marsha Blackburni ametlikku kaebust, milles ta väidab, et Tehisintellekt esitas tema vastu valesüüdistusiSee episood on taaselustanud arutelu generatiivsete süsteemide piiride ja tehnoloogiaettevõtete vastutuse üle, kui mudel toodab kahjulikku teavet.
Gemma oli mõeldud arendajatele suunatud kergete mudelite komplektina, mitte üldiseks tarbijaabiliseks. Sellegipoolest... Kasutajad pääsesid sellele ligi AI Studio kaudu y Nad kasutasid seda faktiliste küsimuste esitamiseksmis oleks viinud väljamõeldud vastused ja olematud lingid.
Mis juhtus ja kuidas vaidlus alguse sai
Senaatori versiooni kohaselt, kui temalt küsiti „Kas Marsha Blackburnit on vägistamises süüdistatud?" Gemma oleks saatnud tagasi detailse, kuid vale aruande mis paigutas sündmused 1987. aasta osariigi senati valimiskampaania ajale ja hõlmas väidetavat survet narkootikumide ja mittekonsensuslikud teod, mida pole kunagi eksisteerinudParlamendiliige ise täpsustas, et tema kampaania oli 1998. aastal ja et ta pole kunagi sellist süüdistust saanud.
Tehisintellekti vastus oleks hõlmanud ka lingid, mis viisid vealehtedele või mitteseotud uudiseid, mida esitatakse tõendusmaterjalina. See punkt on eriti tundlik, sest muudab "hallutsinatsiooni" millekski, mida tajutakse kontrollitavana, isegi kui see pole nii.
Google'i reaktsioon ja Gemma juurdepääsu muudatused
Pärast vaidlust Google selgitas, et tuvastas AI Studios mitte-arendajate katseid Gemmat kasutada.faktiliste päringutega. Seetõttu otsustati Eemalda Gemma AI Studios avalikust juurdepääsust ja hoia see kättesaadavaks ainult API-de kaudu neile, kes rakendusi loovad.
Ettevõte rõhutas, et Gemma on arendajatele suunatud mudel, mitte tarbijatele mõeldud vestlusrobot nagu Gemini.Seega ei ole see loodud faktikontrollijana ega sisalda ka spetsiifilisi teabeotsingu tööriistu. Ettevõtte sõnul Hallutsinatsioonid on väljakutse kogu tööstusele ja nad töötavad aktiivselt nende leevendamise nimel.
See muudatus viitab sellele, et Vestlustüüpi liidest enam ei ole. Gemma jaoks mõeldud AI Studios; selle kasutamine on piiratud API-de poolt juhitavate arenduskeskkondade ja integratsioonidega, kus arendaja eeldab täiendavaid kaitsemeetmeid ja valideerimisi.
Eelarvamuste ja laimamise õiguslik mõõde ja poliitiline debatt
Blackburn saatis Google'i tegevjuhile Sundar Pichaile kirja, milles kirjeldas juhtunut mitte kui süütut viga, vaid kui tehisintellekti mudeli tekitatud laimSenaator palus selgitusi sisu loomise viisi, poliitiliste või ideoloogiliste eelarvamuste minimeerimise meetmete ja kordumise vältimiseks võetavate meetmete kohta, määrates ka vastuse saamise tähtaja.
Senati kaubanduskomisjoni kuulamisel tõstatas kongresmen selle küsimuse ka Google'i valitsusasjade ja avaliku poliitika asepresidendi Markham Ericksoniga, kes Ta tunnistas, et hallutsinatsioonid on teadaolev probleem ja märkis, et ettevõte töötab nende leevendamise nimel.Juhtum on teravdanud tähelepanu ettevõtete vastutusele, kui nende mudelid kahjustavad avaliku elu tegelaste mainet.
Poleemika ägenes sellega, et muud konservatiivide viidatud episoodid, nagu see aktivist Robby StarbuckEt Ta väidab, et Gemma on ta ekslikult seostanud raskete kuritegude ja ekstremismiga.. Selles kontekstis Arutelu võimalike eelarvamuste üle on taas elevil tehisintellekti süsteemides ning vajadus turvaraamistike, jälgimise ja kahjude korral pöördumise võimaluste järele.
Lisaks parteilistele seisukohtadele toob see juhtum esile, et avalikuks suhtluseks mitte mõeldud mudelid võivad olla valesti mõistetud kui üldised assistendidhägustab piiri arendusprototüüpide ja üldsusele mõeldud toodete vahel, millega kaasnevad ilmsed riskid, kui genereeritud infot peetakse kontrollitud teabeks.
Gemma lahkumine AI Studiost ja tema piiramine API kaubamärgiga katse suunata mudeli kasutamine valdkonda, mille jaoks see loodi, tekitades samal ajal ka küsimusi selle kohta, tõesuse, kaitsemeetmete ja vastutuse standardid mis peaks reguleerima olukorda, kus tehisintellekt mõjutab päris inimeste, eriti riigiametnike mainet.
Olen tehnoloogiahuviline, kes on muutnud oma "nohikese" huvidest elukutse. Olen veetnud üle 10 aasta oma elust tipptehnoloogiat kasutades ja puhtast uudishimust igasuguste programmide kallal nokitsenud. Nüüd olen spetsialiseerunud arvutitehnoloogiale ja videomängudele. Seda seetõttu, et rohkem kui 5 aastat olen kirjutanud erinevatele tehnoloogia ja videomängude veebisaitidele, luues artikleid, mille eesmärk on anda teile vajalikku teavet kõigile arusaadavas keeles.
Kui teil on küsimusi, siis minu teadmised ulatuvad kõigest, mis on seotud nii Windowsi operatsioonisüsteemiga kui ka Androidiga mobiiltelefonidele. Ja ma olen pühendunud teile, olen alati nõus kulutama paar minutit ja aitama teil lahendada kõik küsimused, mis teil selles Interneti-maailmas tekkida võivad.