- Google elimină modelul Gemma din AI Studio și limitează utilizarea acestuia la dezvoltatorii bazați pe API.
- Senatoarea Marsha Blackburn susține că inteligența artificială a generat acuzații false de abuz sexual
- Google acuză utilizarea abuzivă a unui instrument destinat dezvoltatorilor și recunoaște provocarea halucinațiilor
- Cazul reaprinde dezbaterea politică și juridică despre prejudecăți, defăimare și răspundere în domeniul inteligenței artificiale.
Decizia Google de a retrage-ți modelul Gemma de la platforma AI Studio Aceasta vine în urma unei plângeri oficiale din partea senatoarei americane Marsha Blackburn, care susține că Inteligența artificială a generat acuzații false împotriva luiEpisodul a reaprins discuția despre limitele sistemelor generative și responsabilitatea companiilor de tehnologie atunci când un model produce informații dăunătoare.
Gemma a fost concepută ca un set de modele ușoare, destinate dezvoltatorilor, nu ca un asistent general pentru consumatori. Chiar și așa, Utilizatorii l-au accesat prin AI Studio y Au folosit-o pentru a pune întrebări concreteceea ce ar fi dus la răspunsuri fabricate și linkuri inexistente.
Ce s-a întâmplat și cum a izbucnit controversa
Conform versiunii senatorului, când a fost întrebat „A fost Marsha Blackburn acuzată de viol?", Gemma ar fi returnat o relatare detaliată, dar falsă. care a plasat evenimentele în timpul unei campanii pentru Senatul statului din 1987 și a inclus presupuse presiuni pentru a obține droguri și acte neconsensuale care nu au existat niciodatăÎnsăși parlamentara a clarificat că a avut loc campania electorală în 1998 și că nu a primit niciodată o astfel de acuzație.
Răspunsul IA ar fi încorporat și linkuri care au dus la pagini de eroare sau știri fără legătură, prezentate ca și cum ar fi dovezi. Acest punct este deosebit de sensibil deoarece transformă o „halucinație” în ceva perceput ca fiind verificabil, deși nu este.
Reacția Google și modificările aduse accesului Gemmei
În urma controversei, Google a explicat că a detectat încercări de utilizare a Gemma de către persoane care nu sunt dezvoltatori în AI Studio.cu anchete factuale. Prin urmare, a decis Eliminați Gemma din accesul public în AI Studio și mențineți-o disponibilă exclusiv prin API-uri pentru cei care construiesc aplicații.
Compania a subliniat că Gemma este un model „dezvoltator-primul” și nu un chatbot de consum precum Gemini.Prin urmare, nu este conceput ca un verificator de informații și nici nu are instrumente specifice de recuperare a informațiilor. În cuvintele companiei, Halucinațiile reprezintă o provocare pentru întreaga industrie și lucrează activ pentru a le atenua.
Această schimbare implică faptul că Nu va mai exista o interfață de tip chat. în AI Studio pentru Gemma; utilizarea sa este restricționată la mediile de dezvoltare și integrările controlate de API-uri, context în care dezvoltatorul își asumă garanții și validări suplimentare.
Dimensiunea juridică și dezbaterea politică privind prejudecățile și defăimarea
Blackburn i-a trimis o scrisoare directorului general al Google, Sundar Pichai, descriind ceea ce s-a întâmplat nu ca pe o greșeală inofensivă, ci ca pe... defăimarea produsă de un model de inteligență artificialăSenatorul a solicitat explicații cu privire la modul în care a fost generat conținutul, ce măsuri există pentru a minimiza prejudecățile politice sau ideologice și ce acțiuni vor fi întreprinse pentru a preveni repetițiile, stabilind totodată un termen limită pentru primirea răspunsului.
În timpul unei audieri a Comisiei pentru Comerț din Senat, congresmena a ridicat problema și cu vicepreședintele Google pentru Afaceri Guvernamentale și Politici Publice, Markham Erickson, care El a recunoscut că halucinațiile sunt o problemă cunoscută și a menționat că firma lucrează pentru a le atenua.Cazul a intensificat atenția asupra responsabilității companiilor atunci când modelele lor dăunează reputației unor persoane publice.
Controversa s-a intensificat odată cu alte episoade citate de conservatori, ca cea a activistul Robby StarbuckCă El susține că a fost asociat în mod fals de Gemma cu infracțiuni grave și extremism.. În acest context, Dezbaterea despre posibilele prejudecăți este reaprinsă în sistemele de inteligență artificială și necesitatea unor cadre de securitate, monitorizare și căi de atac în caz de daune.
Dincolo de pozițiile partizane, cazul evidențiază faptul că modelele care nu sunt concepute pentru interacțiunea publică pot fi înțeleși greșit ca asistenți generaliestompând linia dintre prototipurile dezvoltate și produsele destinate publicului larg, cu riscuri evidente dacă ceea ce se generează este considerat informație verificată.
Retragerea Gemmei din AI Studio și limitarea ei la marca API o încercare de a redirecționa utilizarea modelului către domeniul pentru care a fost conceput, ridicând totodată întrebări cu privire la standarde de veridicitate, garanții și responsabilitate care ar trebui să guverneze situațiile în care o IA afectează reputația unor persoane reale, în special a funcționarilor publici.
Sunt un pasionat de tehnologie care și-a transformat interesele de „tocilar” într-o profesie. Mi-am petrecut mai bine de 10 ani din viața mea folosind tehnologie de ultimă oră și mânuind cu tot felul de programe din pură curiozitate. Acum m-am specializat în tehnologie computerizată și jocuri video. Asta pentru că de mai bine de 5 ani scriu pentru diverse site-uri web despre tehnologie și jocuri video, creând articole care urmăresc să-ți ofere informațiile de care ai nevoie într-un limbaj pe care oricine este pe înțeles.
Dacă aveți întrebări, cunoștințele mele variază de la tot ce ține de sistemul de operare Windows, precum și Android pentru telefoane mobile. Și angajamentul meu este față de tine, sunt mereu dispus să petrec câteva minute și să te ajut să rezolvi orice întrebări pe care le poți avea în această lume a internetului.