- Google rimuove il modello Gemma da AI Studio e ne limita l'utilizzo agli sviluppatori basati su API.
- La senatrice Marsha Blackburn sostiene che l'intelligenza artificiale abbia generato false accuse di molestie sessuali
- Google denuncia l'uso improprio di uno strumento destinato agli sviluppatori e riconosce la sfida delle allucinazioni
- Il caso riaccende il dibattito politico e legale su pregiudizi, diffamazione e responsabilità nell'intelligenza artificiale.
La decisione di Google di ritira il tuo modello Gemma della piattaforma AI Studio Ciò avviene dopo una denuncia formale della senatrice statunitense Marsha Blackburn, che sostiene che L'IA ha generato false accuse contro di luiL'episodio ha riacceso il dibattito sui limiti dei sistemi generativi e sulla responsabilità delle aziende tecnologiche quando un modello produce informazioni dannose.
Gemma è stata concepita come un insieme di modelli leggeri pensati per gli sviluppatori, non come un assistente consumer di uso generale. Ciononostante, Gli utenti vi hanno avuto accesso tramite AI Studio y Lo hanno usato per porre domande fattualiche avrebbe portato a risposte inventate e link inesistenti.
Cosa è successo e come è nata la controversia
Secondo la versione del senatore, alla domanda “Marsha Blackburn è stata accusata di stupro?", Gemma avrebbe restituito un resoconto dettagliato ma falso che colloca gli eventi durante una campagna del Senato dello Stato del 1987, e includeva presunte pressioni per ottenere droga e atti non consensuali che non sono mai esistitiLa stessa parlamentare ha chiarito che la sua campagna elettorale risale al 1998 e che non ha mai ricevuto un'accusa del genere.
La risposta dell'IA avrebbe anche incorporato link che portavano a pagine di errore o notizie non correlate, presentate come se fossero prove. Questo punto è particolarmente delicato perché trasforma un'allucinazione in qualcosa che viene percepito come verificabile, anche se non lo è.
La reazione di Google e le modifiche all'accesso di Gemma
A seguito della controversia, Google ha spiegato di aver rilevato tentativi di utilizzare Gemma da parte di non sviluppatori in AI Studiocon indagini di fatto. Pertanto, ha deciso Rimuovere Gemma dall'accesso pubblico in AI Studio e mantenerla disponibile esclusivamente tramite API per chi crea applicazioni.
L'azienda ha sottolineato che Gemma è un modello incentrato sullo sviluppatore e non un chatbot per i consumatori come Gemini.Pertanto, non è progettato come un fact-checker né dispone di strumenti specifici per il recupero delle informazioni. Come afferma l'azienda, Le allucinazioni sono una sfida per l'intero settore e lavorano attivamente per mitigarli.
Questo cambiamento implica che Non ci sarà più un'interfaccia di tipo chat. in AI Studio per Gemma; il suo utilizzo è limitato ad ambienti di sviluppo e integrazioni controllati da API, un contesto in cui lo sviluppatore presuppone ulteriori misure di sicurezza e convalide.
Dimensione giuridica e dibattito politico su pregiudizio e diffamazione
Blackburn ha inviato una lettera al CEO di Google Sundar Pichai, descrivendo quanto accaduto non come un errore innocuo, ma come diffamazione prodotta da un modello di intelligenza artificialeIl senatore ha chiesto spiegazioni su come è stato generato il contenuto, quali misure esistono per ridurre al minimo i pregiudizi politici o ideologici e quali azioni saranno intraprese per prevenire le ripetizioni, fissando anche una scadenza per ricevere la risposta.
Durante un'audizione della Commissione Commercio del Senato, la deputata ha sollevato la questione anche con il vicepresidente per gli affari governativi e le politiche pubbliche di Google, Markham Erickson, che Ha riconosciuto che le allucinazioni sono un problema noto e ha osservato che l'azienda sta lavorando per attenuarle.Il caso ha intensificato l'attenzione sulla responsabilità delle aziende quando i loro modelli danneggiano la reputazione di personaggi pubblici.
La controversia si intensificò con altri episodi citati dai conservatori, come quello di l'attivista Robby Starbuck, che Sostiene di essere stato falsamente collegato da Gemma a crimini gravi e all'estremismo. In questo contesto, Si riaccende il dibattito sui possibili pregiudizi nei sistemi di intelligenza artificiale e la necessità di quadri di sicurezza, monitoraggio e percorsi di ricorso in caso di danni.
Al di là delle posizioni di parte, il caso evidenzia che i modelli non progettati per l’interazione pubblica possono essere fraintesi come assistenti generalirendendo labile il confine tra prototipi di sviluppo e prodotti per il grande pubblico, con evidenti rischi se ciò che viene generato viene preso come informazione verificata.
Il ritiro di Gemma da AI Studio e il suo confinamento al marchio API un tentativo di reindirizzare l'uso del modello al campo per cui è stato concepito, sollevando al contempo interrogativi su standard di veridicità, garanzie e responsabilità che dovrebbe disciplinare quando un'IA incide sulla reputazione di persone reali, in particolare di funzionari pubblici.
Sono un appassionato di tecnologia che ha trasformato i suoi interessi "geek" in una professione. Ho trascorso più di 10 anni della mia vita utilizzando tecnologie all'avanguardia e armeggiando con tutti i tipi di programmi per pura curiosità. Ora mi sono specializzato in informatica e videogiochi. Questo perché da più di 5 anni scrivo per vari siti web di tecnologia e videogiochi, creando articoli che cercano di darti le informazioni di cui hai bisogno in un linguaggio comprensibile a tutti.
In caso di domande, le mie conoscenze spaziano da tutto ciò che riguarda il sistema operativo Windows e Android per telefoni cellulari. E il mio impegno è nei tuoi confronti, sono sempre disposto a dedicare qualche minuto e aiutarti a risolvere qualsiasi domanda tu possa avere in questo mondo di Internet.