- Google odstrani model Gemma iz AI Studia in omejuje njegovo uporabo na razvijalce, ki temeljijo na API-jih.
- Senatorka Marsha Blackburn trdi, da je umetna inteligenca ustvarila lažne obtožbe o spolnem nadlegovanju
- Google trdi o zlorabi orodja, namenjenega razvijalcem, in priznava izziv halucinacij
- Primer ponovno sproži politično in pravno razpravo o pristranskosti, obrekovanju in odgovornosti v umetni inteligenci.
Googlova odločitev, da umaknite svoj model Gemma s platforme AI Studio To se je zgodilo po uradni pritožbi ameriške senatorke Marshe Blackburn, ki trdi, da Umetna inteligenca je proti njemu ustvarila lažne obtožbeEpizoda je ponovno sprožila razpravo o mejah generativnih sistemov in odgovornosti tehnoloških podjetij, kadar model ustvari škodljive informacije.
Gemma je bila zasnovana kot niz lahkih modelov, namenjenih razvijalcem, ne pa kot splošni pomočnik za potrošnike. Kljub temu, Uporabniki so do njega dostopali prek AI Studia y Uporabili so ga za postavljanje dejanskih vprašanjkar bi vodilo do izmišljeni odgovori in neobstoječe povezave.
Kaj se je zgodilo in kako je prišlo do polemike
Po senatorjevi različici, ko so ga vprašali "Je bila Marsha Blackburn obtožena posilstva?”, Gemma bi vrnila podrobno, a lažno poročilo ki je dogodke umestila v kampanjo za državni senat leta 1987 in vključevala domnevni pritisk za pridobitev drog in dejanja brez soglasja, ki nikoli niso obstajalaPoslanka sama je pojasnila, da je bila njena kampanja leta 1998 in da takšne obtožbe še ni prejela.
Odziv umetne inteligence bi vključeval tudi povezave, ki so vodile do strani z napakami ali nepovezane novice, predstavljene kot dokazi. Ta točka je še posebej občutljiva, ker spremeni 'halucinacijo' v nekaj, kar se dojema kot preverljivo, tudi če ni.
Googlov odziv in spremembe Gemminega dostopa
Po polemiki, Google je pojasnil, da je v AI Studiu zaznal poskuse uporabe Gemme s strani nerazvijalcev.z dejanskimi poizvedbami. Zato se je odločilo Odstranite Gemmo iz javnega dostopa v AI Studiu in jo ohranite na voljo izključno prek API-jev. za tiste, ki gradijo aplikacije.
Družba je poudarila, da Gemma je model, ki je »najprej namenjen razvijalcem« in ne potrošniški klepetalni robot, kot je Gemini.Zato ni zasnovan kot preverjevalnik dejstev niti nima posebnih orodij za iskanje informacij. Po besedah podjetja, Halucinacije so izziv za celotno industrijo in si aktivno prizadevajo za njihovo ublažitev.
Ta sprememba pomeni, da Vmesnika za klepet ne bo več. V AI Studiu za Gemmo je njegova uporaba omejena na razvojna okolja in integracije, ki jih nadzorujejo API-ji, kar pomeni, da razvijalec prevzame dodatne zaščitne ukrepe in validacije.
Pravna razsežnost in politična razprava o pristranskosti in obrekovanju
Blackburn je poslal pismo izvršnemu direktorju Googla Sundarju Pichaiju, v katerem je dogodek opisal ne kot neškodljivo napako, temveč kot obrekovanje, ki ga je ustvaril model umetne inteligenceSenator je zahteval pojasnila o tem, kako je bila vsebina ustvarjena, kateri ukrepi obstajajo za zmanjšanje političnih ali ideoloških pristranskosti in kateri ukrepi bodo sprejeti za preprečevanje ponovitev, ter določil rok za prejem odgovora.
Med zaslišanjem v senatnem odboru za trgovino je kongresnica to vprašanje izpostavila tudi podpredsedniku Googla za vladne zadeve in javno politiko, Markhamu Ericksonu, ki je Priznal je, da so halucinacije znana težava, in opozoril, da si podjetje prizadeva za njihovo ublažitev.Primer je okrepil poudarek na odgovornosti podjetij, kadar njihovi modeli škodujejo ugledu javnih osebnosti.
Polemika se je zaostrila z druge epizode, ki jih navajajo konservativci, kot na primer aktivist Robby Starbuck, to Trdi, da ga je Gemma lažno povezala s hudimi kaznivimi dejanji in ekstremizmom.. En este contexto, Razprava o morebitnih pristranskostih se ponovno razvnema v sistemih umetne inteligence in potreba po varnostnih okvirih, spremljanju in poteh za odpravo škode.
Poleg strankarskih stališč primer poudarja, da so lahko modeli, ki niso zasnovani za javno interakcijo, napačno razumljeni kot splošni asistentizabrisuje mejo med razvojnimi prototipi in izdelki za širšo javnost, z očitnimi tveganji, če se ustvarjene informacije jemljejo kot preverjene.
Gemmin umik iz AI Studia in njena omejitev na blagovno znamko API poskus preusmeritve uporabe modela na področje, za katero je bil zasnovan, hkrati pa odpira vprašanja o standardi resnicoljubnosti, zaščitnih ukrepov in odgovornosti to bi moralo urejati, kdaj umetna inteligenca vpliva na ugled resničnih ljudi, zlasti javnih uslužbencev.
Sem tehnološki navdušenec, ki je svoja "geek" zanimanja spremenil v poklic. Več kot 10 let svojega življenja sem porabil za uporabo vrhunske tehnologije in premleval najrazličnejše programe iz čiste radovednosti. Zdaj sem se specializiral za računalniško tehnologijo in video igre. To je zato, ker že več kot 5 let pišem za različna spletna mesta o tehnologiji in video igrah ter ustvarjam članke, ki vam želijo dati informacije, ki jih potrebujete, v jeziku, ki je razumljiv vsem.
Če imate kakršna koli vprašanja, moje znanje sega od vsega v zvezi z operacijskim sistemom Windows kot tudi Androidom za mobilne telefone. In moja zaveza je vam, vedno sem pripravljen porabiti nekaj minut in vam pomagati razrešiti kakršna koli vprašanja, ki jih morda imate v tem internetnem svetu.