- Google uklanja Gemma model iz AI Studija i ograničava njegovu upotrebu na programere zasnovane na API-ju.
- Senatorica Marsha Blackburn tvrdi da je umjetna inteligencija generirala lažne optužbe za seksualno zlostavljanje.
- Google tvrdi da je zloupotrebio alat namijenjen programerima i priznaje izazov halucinacija
- Slučaj ponovo pokreće političku i pravnu debatu o pristranosti, kleveti i odgovornosti u oblasti umjetne inteligencije.
Googleova odluka da povucite svoj model Gemma sa platforme AI Studio To dolazi nakon formalne žalbe američke senatorice Marshe Blackburn, koja tvrdi da Vještačka inteligencija je generirala lažne optužbe protiv njegaOva epizoda je ponovo pokrenula diskusiju o ograničenjima generativnih sistema i odgovornosti tehnoloških kompanija kada model proizvodi štetne informacije.
Gemma je zamišljena kao skup laganih modela namijenjenih programerima, a ne kao univerzalni pomoćnik korisnicima. Uprkos tome, Korisnici su mu pristupili putem AI Studija y Koristili su ga da postave činjenična pitanjašto bi dovelo do izmišljeni odgovori i nepostojeći linkovi.
Šta se dogodilo i kako je nastala kontroverza
Prema senatorovoj verziji, kada su ga pitali „Da li je Marsha Blackburn optužena za silovanje?", Gemma bi vratila detaljan, ali lažan izvještaj koji je događaje smjestio tokom kampanje za državni Senat 1987. godine, a uključivao je i navodni pritisak za nabavku droge i neprivolni činovi koji nikada nisu postojaliSama parlamentarka je pojasnila da je njena kampanja bila 1998. godine i da nikada nije dobila takvu optužbu.
Odgovor umjetne inteligencije bi također uključivao linkovi koji su vodili do stranica s greškom ili nepovezane vijesti, predstavljene kao dokazi. Ova tačka je posebno osjetljiva jer pretvara 'halucinaciju' u nešto što se doživljava kao provjerljivo, čak i ako nije.
Googleova reakcija i promjene u Gemminom pristupu
Nakon kontroverze, Google je objasnio da je u AI Studiju otkrio pokušaje korištenja Gemme od strane osoba koje nisu programeri.sa činjeničnim istragama. Stoga je odlučeno Uklonite Gemmu iz javnog pristupa u AI Studiju i ostavite je dostupnom isključivo putem API-ja. za one koji kreiraju aplikacije.
Kompanija je naglasila da Gemma je model "prvo usmjeren na programere", a ne chatbot za potrošače poput Geminija.Stoga nije osmišljen kao alat za provjeru činjenica niti ima specifične alate za pronalaženje informacija. Prema riječima kompanije, Halucinacije su izazov za cijelu industriju i aktivno rade na njihovom ublažavanju.
Ova promjena podrazumijeva da Više neće biti interfejsa tipa chata. U AI Studiju za Gemmu; njegova upotreba je ograničena na razvojna okruženja i integracije koje kontrolišu API-ji, kontekst u kojem programer preuzima dodatne zaštitne mjere i validacije.
Pravna dimenzija i politička debata o predrasudama i kleveti
Blackburn je poslao pismo izvršnom direktoru Googlea Sundaru Pichaiju, opisujući ono što se dogodilo ne kao bezazlenu grešku, već kao kleveta koju je proizveo model umjetne inteligencijeSenator je zatražio objašnjenja o tome kako je sadržaj generiran, koje mjere postoje za minimiziranje političkih ili ideoloških pristranosti i koje će se akcije poduzeti kako bi se spriječilo ponavljanje, a također je postavio rok za dobijanje odgovora.
Tokom saslušanja u Odboru za trgovinu Senata, kongresmenka je također pokrenula pitanje s potpredsjednikom Googlea za vladine poslove i javnu politiku, Markhamom Ericksonom, koji je Priznao je da su halucinacije poznati problem i napomenuo da kompanija radi na njihovom ublažavanju.Slučaj je pojačao fokus na odgovornost kompanija kada njihovi modeli naruše ugled javnih ličnosti.
Kontroverza se zaoštrila sa druge epizode koje navode konzervativci, poput onog od aktivista Robby Starbuckque Tvrdi da ga je Gemma lažno povezala s teškim zločinima i ekstremizmom.. U ovom kontekstu, Debata o mogućim predrasudama se ponovo rasplamsava u sistemima umjetne inteligencije i potreba za sigurnosnim okvirima, praćenjem i putevima za rješavanje problema kada dođe do štete.
Pored stranačkih stavova, slučaj ističe da modeli koji nisu dizajnirani za javnu interakciju mogu biti pogrešno shvaćeni kao opći asistentizamagljujući granicu između razvojnih prototipova i proizvoda za širu javnost, s očiglednim rizicima ako se ono što se generira shvati kao provjerena informacija.
Gemmino povlačenje iz AI Studija i njeno ograničavanje na API oznaku pokušaj preusmjeravanja upotrebe modela na područje za koje je zamišljen, a istovremeno postavlja pitanja o standardi istinitosti, zaštitnih mjera i odgovornosti to bi trebalo da reguliše kada vještačka inteligencija utiče na ugled stvarnih ljudi, posebno javnih službenika.
Ja sam tehnološki entuzijasta koji je svoja "geek" interesovanja pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći najsavremeniju tehnologiju i petljajući po svim vrstama programa iz čiste radoznalosti. Sada sam se specijalizirao za kompjutersku tehnologiju i video igrice. To je zato što više od 5 godina pišem za razne web stranice o tehnologiji i video igricama, stvarajući članke koji nastoje dati vam potrebne informacije na jeziku koji je svima razumljiv.
Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog za Windows operativni sistem kao i Android za mobilne telefone. I moja posvećenost je vama, uvijek sam spreman potrošiti nekoliko minuta i pomoći vam da riješite sva pitanja koja imate u ovom svijetu interneta.