- Google elimina u mudellu Gemma da AI Studio è limita u so usu à i sviluppatori basati nantu à l'API.
- A senatrice Marsha Blackburn dichjara chì l'IA hà generatu false accuse di cattiva condotta sessuale
- Google denuncia l'usu impropriu di un strumentu destinatu à i sviluppatori è ricunnosce a sfida di l'allucinazioni
- U casu riaccende u dibattitu puliticu è ghjuridicu nantu à u pregiudiziu, a diffamazione è a rispunsabilità in l'IA.
A decisione di Google di ritirate u vostru mudellu Gemma da a piattaforma AI Studio Vene dopu à una lagnanza formale di a senatrice americana Marsha Blackburn, chì dichjara chì L'IA hà generatu false accuse contr'à elluL'episodiu hà rilanciatu a discussione nantu à i limiti di i sistemi generativi è a rispunsabilità di e cumpagnie tecnologiche quandu un mudellu produce informazioni dannose.
Gemma hè stata cuncipita cum'è un inseme di mudelli ligeri destinati à i sviluppatori, micca cum'è un assistente di cunsumadore per usu generale. Eppuru, L'utilizatori l'anu accessu per mezu di AI Studio y L'anu adupratu per fà dumande di fattuchì averia purtatu à risposte fabricate è ligami inesistenti.
Chì hè accadutu è cumu hè nata a cuntruversia
Sicondu a versione di u senatore, quandu hè statu dumandatu "Marsha Blackburn hè stata accusata di stupro?”, Gemma averia datu un contu dettagliatu ma falsu chì hà piazzatu l'avvenimenti durante una campagna di u Senatu di u statu di u 1987, è hà inclusu una presunta pressione per ottene droghe è atti senza cunsensu chì ùn sò mai esistitiA parlamentaria stessa hà chiaritu chì a so campagna era in u 1998 è chì ùn hà mai ricevutu una tale accusazione.
A risposta di l'IA averia ancu incorporatu ligami chì anu purtatu à pagine d'errore o nutizie senza rapportu, presentate cum'è s'elle fussinu prove. Stu puntu hè particularmente sensibile perchè trasforma una "allucinazione" in qualcosa chì hè percepitu cum'è verificabileancu s'ellu ùn hè micca.
A reazione di Google è i cambiamenti à l'accessu di Gemma
In seguitu à a cuntruversia, Google hà spiegatu ch'ellu avia rilevatu tentativi d'utilizà Gemma da parte di non sviluppatori in AI Studio.cù inchieste di fattu. Dunque, hà decisu Eliminate Gemma da l'accessu publicu in AI Studio è mantenetela dispunibile esclusivamente per mezu di l'API per quelli chì custruiscenu applicazioni.
A cumpagnia hà messu in risaltu chì Gemma hè un mudellu "sviluppatore prima" è micca un chatbot di cunsumadore cum'è Gemini.Dunque, ùn hè micca cuncipitu cum'è un verificatore di fatti nè hà strumenti specifichi di recuperu di informazioni. Sicondu a cumpagnia, L'allucinazioni sò una sfida per tutta l'industria è travaglianu attivamente per mitigà li.
Stu cambiamentu implica chì Ùn ci serà più una interfaccia di tipu chat. in AI Studio per Gemma; u so usu hè limitatu à l'ambienti di sviluppu è l'integrazioni cuntrullate da l'API, un cuntestu induve u sviluppatore assume salvaguardie è validazioni supplementari.
Dimensione giuridica è dibattitu puliticu nantu à u pregiudiziu è a diffamazione
Blackburn hà mandatu una lettera à u CEO di Google Sundar Pichai, descrivendu ciò chì hè accadutu micca cum'è un errore innocu, ma cum'è diffamazione prudutta da un mudellu IAU senatore hà dumandatu spiegazioni nantu à cumu hè statu generatu u cuntenutu, chì misure esistenu per minimizà i pregiudizii pulitichi o ideologichi, è chì azzioni saranu prese per impedisce e ripetizioni, stabilendu ancu una scadenza per riceve a risposta.
Durante un'audizione di u Cumitatu di u Cummerciu di u Senatu, a deputata hà ancu suscitatu a questione cù u vicepresidente di Google per l'Affari Guvernamentali è e Pulitiche Pubbliche, Markham Erickson, chì Hà ricunnisciutu chì l'allucinazioni sò un prublema cunnisciutu è hà nutatu chì a cumpagnia travaglia per mitigà li.U casu hà intensificatu l'attenzione nantu à a rispunsabilità di l'imprese quandu i so mudelli danneghjanu a reputazione di e figure publiche.
A cuntruversia s'hè intensificata cù altri episodi citati da i cunservatori, cum'è quellu di l'attivista Robby Starbuck, quellu Ellu afferma d'esse statu falsamente ligatu da Gemma à crimini gravi è estremisimu.. En este contexto, U dibattitu nantu à i pussibili pregiudizii hè riaccesu in i sistemi di IA è a necessità di quadri di sicurezza, monitoraghju è percorsi di ricorsu quandu si verificanu danni.
Al di là di e pusizioni partisane, u casu mette in risaltu chì i mudelli micca cuncipiti per l'interazzione publica ponu esse malintesi cum'è assistenti generalisfumendu a linea trà i prototipi di sviluppu è i prudutti per u publicu generale, cù risichi evidenti se ciò chì hè generatu hè cunsideratu cum'è infurmazione verificata.
U ritiru di Gemma da AI Studio è u so cunfinamentu à a marca API un tentativu di ridirizionà l'usu di u mudellu versu u campu per u quale hè statu cuncipitu, mentre chì suscita ancu dumande nantu à norme di veridicità, salvaguardie è responsabilità chì duveria guvernà quandu una IA affetta a reputazione di e persone vere, in particulare i funzionari publichi.
Sò un entusiasta di a tecnulugia chì hà trasfurmatu i so interessi "geek" in una professione. Aghju passatu più di 10 anni di a mo vita cù a tecnulugia d'avanguardia è scacciendu ogni tipu di prugrammi per pura curiosità. Avà sò specializatu in tecnulugia di computer è video games. Questu hè chì dapoi più di 5 anni aghju scrittu per diversi siti web nantu à a tecnulugia è i video games, creendu articuli chì cercanu di dà l'infurmazioni chì avete bisognu in una lingua chì hè comprensibile à tutti.
Sì avete qualchì quistione, a mo cunniscenza varieghja da tuttu ciò chì riguarda u sistema operatore Windows è ancu Android per i telefunini. È u mo impegnu hè di voi, sò sempre dispostu à passà uni pochi di minuti è aiutavvi à risolve tutte e dumande chì pudete avè in questu mondu Internet.