- Google uklanja Gemma model iz AI Studija i ograničava njegovu upotrebu na API-bazirane programere.
- Senatorica Marsha Blackburn tvrdi da je umjetna inteligencija generirala lažne optužbe za seksualno zlostavljanje
- Google tvrdi da je zloupotrijebljen alat namijenjen programerima i priznaje izazov halucinacija
- Slučaj ponovno potiče političku i pravnu raspravu o pristranosti, kleveti i odgovornosti u umjetnoj inteligenciji.
Googleova odluka da povuci svoj model Gemma s platforme AI Studio To dolazi nakon formalne pritužbe američke senatorice Marshe Blackburn, koja tvrdi da Umjetna inteligencija generirala je lažne optužbe protiv njegaEpizoda je ponovno pokrenula raspravu o ograničenjima generativnih sustava i odgovornosti tehnoloških tvrtki kada model proizvodi štetne informacije.
Gemma je zamišljena kao skup laganih modela namijenjenih programerima, a ne kao univerzalni pomoćnik korisnicima. Unatoč tome, Korisnici su mu pristupili putem AI Studija y Koristili su ga za postavljanje činjeničnih pitanjašto bi dovelo do izmišljeni odgovori i nepostojeće poveznice.
Što se dogodilo i kako je nastala kontroverza
Prema senatorovoj verziji, kada su ga pitali „Je li Marsha Blackburn optužena za silovanje?" Gemma bi vratila detaljan, ali lažan izvještaj koji je događaje smjestio tijekom kampanje za državni Senat 1987. godine, a uključivao je i navodni pritisak za nabavu droge i neprivolni činovi koji nikada nisu postojaliSama zastupnica je pojasnila da je njezina kampanja bila 1998. godine i da nikada nije primila takvu optužbu.
Odgovor umjetne inteligencije bi također uključivao poveznice koje su vodile do stranica s pogreškama ili nepovezane vijesti, predstavljene kao dokazi. Ova je točka posebno osjetljiva jer pretvara 'halucinaciju' u nešto što se percipira kao provjerljivo, čak i ako nije.
Googleova reakcija i promjene u Gemminom pristupu
Nakon kontroverze, Google je objasnio da je u AI Studiju otkrio pokušaje korištenja Gemme od strane osoba koje nisu programeris činjeničnim upitima. Stoga je odlučio Uklonite Gemmu iz javnog pristupa u AI Studiju i ostavite je dostupnom isključivo putem API-ja. za one koji izrađuju aplikacije.
Tvrtka je naglasila da Gemma je model 'prvo developer-prvo', a ne chatbot za potrošače poput Geminija.Stoga nije osmišljen kao alat za provjeru činjenica niti ima specifične alate za pronalaženje informacija. Riječima tvrtke, Halucinacije su izazov za cijelu industriju i aktivno rade na njihovom ublažavanju.
Ova promjena podrazumijeva da Više neće biti sučelja tipa chata. u AI Studiju za Gemmu; njegova upotreba je ograničena na razvojna okruženja i integracije kojima upravljaju API-ji, kontekst u kojem programer preuzima dodatne zaštitne mjere i validacije.
Pravna dimenzija i politička rasprava o predrasudama i kleveti
Blackburn je poslao pismo izvršnom direktoru Googlea Sundaru Pichaiju, opisujući ono što se dogodilo ne kao bezazlenu pogrešku, već kao kleveta koju je proizveo model umjetne inteligencijeSenator je zatražio objašnjenja o tome kako je sadržaj generiran, koje mjere postoje za minimiziranje političkih ili ideoloških pristranosti i koje će se radnje poduzeti kako bi se spriječilo ponavljanje, a također je postavio rok za primanje odgovora.
Tijekom saslušanja u Odboru za trgovinu Senata, kongresnica je također pokrenula pitanje s potpredsjednikom Googlea za vladine poslove i javnu politiku, Markhamom Ericksonom, koji je Priznao je da su halucinacije poznati problem i napomenuo da tvrtka radi na njihovom ublažavanju.Slučaj je pojačao fokus na odgovornost tvrtki kada njihovi modeli narušavaju ugled javnih osoba.
Kontroverza se zaoštrila s druge epizode koje navode konzervativci, poput onog od aktivist Robby StarbuckDa Tvrdi da ga je Gemma lažno povezala s teškim zločinima i ekstremizmom. U ovom kontekstu, Rasprava o mogućim pristranostima ponovno se rasplamsava u sustavima umjetne inteligencije i potreba za sigurnosnim okvirima, praćenjem i putovima za naknadu štete kada dođe do štete.
Osim stranačkih stavova, slučaj ističe da modeli koji nisu osmišljeni za javnu interakciju mogu biti pogrešno shvaćeni kao opći asistentizamagljujući granicu između razvojnih prototipova i proizvoda za širu javnost, s očitim rizicima ako se ono što se generira shvati kao provjerena informacija.
Gemmino povlačenje iz AI Studija i njezino ograničavanje na API oznaku pokušaj preusmjeravanja upotrebe modela na područje za koje je osmišljen, a istovremeno postavlja pitanja o standardi istinitosti, zaštitnih mjera i odgovornosti to bi trebalo regulirati kada umjetna inteligencija utječe na ugled stvarnih ljudi, posebno javnih dužnosnika.
Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.