- Googlek Gemma eredua kentzen du AI Studiotik eta APIetan oinarritutako garatzaileetara mugatzen du haren erabilera.
- Marsha Blackburn senatariak salatu du adimen artifizialak sexu-jokabide okerragatik salaketa faltsuak sortu zituela.
- Googlek garatzaileentzako tresna baten erabilera okerra salatu du eta haluzinazioen erronka onartzen du.
- Kasuak berpizten du IAren alborapenaren, difamazioaren eta erantzukizunaren inguruko eztabaida politiko eta juridikoa.
Google-ren erabakia zure eredua kendu Gemma AI Studio plataformatik Marsha Blackburn AEBetako senatariaren kexa formal baten ondoren dator, zeinak dioen... IAk salaketa faltsuak sortu zituen haren aurkaAtalak sistema sortzaileen mugei eta teknologia-enpresen erantzukizunari buruzko eztabaida berriro piztu du modelo batek informazio kaltegarria sortzen duenean.
Gemma garatzaileentzako pentsatutako modelo arin multzo gisa sortu zen, ez erabilera orokorreko kontsumitzaileentzako laguntzaile gisa. Hala ere, Erabiltzaileek AI Studioren bidez sartu ziren y Faktuzko galderak egiteko erabili zutenhorrek ekarriko luke erantzun faltsuak eta existitzen ez diren estekak.
Zer gertatu zen eta nola sortu zen polemika
Senatariaren bertsioaren arabera, galdetuta “Marsha Blackburn bortxaketaz akusatu al dute?”, Gemmak kontu zehatza baina faltsua itzuliko zuen gertaerak 1987ko estatuko Senaturako kanpainan kokatu zituen, eta drogak lortzeko ustezko presioa barne hartzen zuen. inoiz existitu ez diren adostasunik gabeko ekintzakParlamentariak berak argitu zuen bere kanpaina 1998an izan zela eta inoiz ez duela halako salaketarik jaso.
AI erantzunak ere barne hartuko zuen errore-orrialdeetara eraman dituzten estekak edo albiste lotu gabeak, froga balira bezala aurkeztuak. Puntu hau bereziki sentikorra da, zeren eta 'haluzinazio' bat egiaztagarritzat jotzen den zerbait bihurtzen dunahiz eta ez izan.
Google-ren erreakzioa eta Gemmaren sarbidean izandako aldaketak
Polemikaren ondoren, Googlek azaldu du AI Studion garatzaile ez diren pertsonek Gemma erabiltzeko saiakerak detektatu dituela.gertakarien inguruko ikerketekin. Horregatik, erabaki zuen Kendu Gemma AI Studio-n sarbide publikotik eta mantendu APIen bidez soilik eskuragarri. aplikazioak eraikitzen dituztenentzat.
Konpainiak azpimarratu zuen Gemma 'garatzaile-lehenik' eredua da eta ez Gemini bezalako kontsumitzaileen chatbot bat.Beraz, ez dago egiaztatzaile gisa diseinatuta, ezta informazioa berreskuratzeko tresna espezifikorik ere. Enpresaren hitzetan, Haluzinazioak industria osoarentzako erronka bat dira eta aktiboki lan egiten dute horiek arintzeko.
Aldaketa honek esan nahi du Ez da gehiago txat motako interfazerik egongo. AI Studio for Gemma-n; bere erabilera garapen-inguruneetara eta APIek kontrolatutako integrazioetara mugatzen da, testuinguru batean garatzaileak babes-neurri eta balidazio gehigarriak bere gain hartzen dituena.
Alborapen eta difamazioari buruzko dimentsio juridikoa eta eztabaida politikoa
Blackburnek gutun bat bidali zion Sundar Pichai Google-ko zuzendari nagusiari, gertatutakoa ez akats kaltegabe gisa deskribatuz, baizik eta IA eredu batek sortutako difamazioaSenatariak azalpenak eskatu zituen edukia nola sortu zen, zer neurri dauden alborapen politiko edo ideologikoak gutxitzeko eta zer ekintza hartuko diren errepikapenak saihesteko, erantzuna jasotzeko epea ere ezarriz.
Senatuko Merkataritza Batzordeko entzunaldian, kongresukideak gaia Google-ko Gobernu Gaietarako eta Politika Publikoetarako presidenteorde Markham Ericksonekin ere aipatu zuen. Haluzinazioak arazo ezaguna direla onartu zuen eta enpresa horiek arintzeko lanean ari dela adierazi zuen.Kasuak enpresen erantzukizunean arreta areagotu du, haien modeloek pertsonaia publikoen ospea kaltetzen dutenean.
Eztabaida areagotu egin zen kontserbadoreek aipatutako beste pasarte batzuk, bezala Robby Starbuck aktibista, hori Gemmak delitu larriekin eta muturreko ekintzekin lotu duela dio faltsuki.. En este contexto, Alborapen posibleen inguruko eztabaida berriro piztu da IA sistemetan eta segurtasun-esparruen, monitorizazioaren eta errekurtso-bideen beharra kalteak gertatzen direnean.
Alderdikeriazko posizioetatik haratago, kasuak azpimarratzen du jendaurreko interakziorako diseinatuta ez dauden ereduak izan daitezkeela laguntzaile orokor gisa gaizki ulertuakgarapen-prototipoen eta publiko orokorrarentzako produktuen arteko lerroa lausotuz, sortutakoa egiaztatutako informazio gisa hartzen bada arrisku nabariekin.
Gemma AI Studiotik erretiratu eta API markaren menpe egotea ereduaren erabilera sortu zen eremura birbideratzeko saiakera, galderak ere sortuz egiazkotasun, babes eta erantzukizun estandarrak horrek gobernatu beharko luke IA batek benetako pertsonen, batez ere funtzionario publikoen, ospeari eragiten dionean.
Bere "geek" interesak lanbide bihurtu dituen teknologia zalea naiz. Nire bizitzako 10 urte baino gehiago eman ditut punta-puntako teknologia erabiltzen eta era guztietako programak moldatzen jakin-min hutsagatik. Orain informatikako teknologian eta bideo-jokoetan espezializatu naiz. Izan ere, 5 urte baino gehiago daramatzadala teknologia eta bideo-jokoen inguruko hainbat webgunetan idazten, denontzat ulergarria den hizkuntza batean behar duzun informazioa eman nahi duten artikuluak sortzen.
Zalantzarik baduzu, nire ezagutza Windows sistema eragilearekin zerikusia duen guztia eta baita telefono mugikorretarako Android ere barne hartzen du. Eta nire konpromisoa zurekin da, beti prest nago minutu batzuk pasatzeko eta Interneteko mundu honetan izan ditzakezun zalantzak konpontzen laguntzeko.