- Collegamento degli account familiari per monitorare l'utilizzo di ChatGPT da parte degli adolescenti.
- Possibilità di disattivare la memoria e la cronologia e di gestire le funzioni in base all'età.
- Avvisi automatici per indicatori di "emergenza acuta" e pulsante di emergenza.
- L'implementazione inizierà il mese prossimo e il piano durerà 120 giorni con modelli di ragionamento.
OpenAI ha annunciato l'arrivo di un Controllo parentale in ChatGPT rivolta alle case con adolescenti, una novità con cui l'azienda intende rafforzare la sicurezza e offrire alle famiglie più strumenti di monitoraggio senza rinunciare all'utilità del chatbot.
La decisione arriva dopo una crescente pressione sociale e normativa, tra cui La causa della famiglia di Adam Raine in California, che accusa l'azienda di fallimenti nei contesti di salute mentale. OpenAI prevede che ci saranno avvisi automatici per segnali di “sofferenza acuta” e una serie di funzionalità per gestire l'esperienza dei minori.
Cosa cambia in ChatGPT per le famiglie?
Con le nuove opzioni, i genitori potranno collega il tuo account agli account dei tuoi figli tramite un invito via e-mail, esaminare come risponde il sistema e adattare il comportamento del modello con regole pensate per le prime età.
Tra i controlli ci sarà la possibilità di disabilita la memoria e la cronologia chat, oltre a limitare le funzioni in base al livello di maturità del minore. OpenAI contempla anche promemoria durante le sessioni lunghe per incoraggiare pause salutari.
Inoltre, il pacchetto includerà un bottone di emergenza che faciliterà il contatto con i servizi di supporto e i professionisti della salute mentale, e la possibilità di bloccare il contenuto quando vengono rilevati segnali di rischio in una conversazione.
Calendario e roadmap della sicurezza
OpenAI piazza il lancio per il mese prossimo e, sebbene non abbia fissato una data specifica, sta portando avanti un piano di 120 giorni per rafforzare specifiche garanzie per bambini e adolescenti sia nel prodotto che nei processi interni.
L'azienda segnala che alcune conversazioni sensibili sono reindirizzerà ai modelli di ragionamento in grado di seguire le linee guida di sicurezza in modo più sistematico, con l'obiettivo di dare priorità a risposte caute e di supporto quando rilevate problemi di rischio come l'autolesionismo o i pensieri suicidi.
Il caso che ha fatto scattare gli allarmi
L'annuncio arriva dopo una causa legale da parte dei genitori di Adam Raine, un adolescente di 16 anni che si è tolto la vita dopo mesi di interazione con il chatbot. Secondo il fascicolo, ChatGPT avrebbe pensieri suicidi normalizzati e non è consigliabile cercare aiuto familiare, accuse che dovranno essere risolte dai tribunali.
Parallelamente, OpenAI ha riconosciuto che il suo assistente potrebbe fallire in “situazioni critiche” e impegnata nei cambiamenti. L'azienda sostiene che queste misure mirano ridurre i rischi senza attribuire ufficialmente la decisione alla causa, che cita anche l'uso di GPT-4o nelle conversazioni.
Pressione sociale e politica sull'intelligenza artificiale e sui minori
A luglio, diversi senatori statunitensi hanno chiesto all'azienda spiegazioni sulla prevenzione dell'autolesionismo e del suicidio in risposta a risposte inappropriate rilevate in situazioni estreme. Da parte sua, Common Sense Media sostiene che sotto 18 anni non dovrebbero utilizzare applicazioni di intelligenza artificiale conversazionale a causa dei loro "rischi inaccettabili".
La mossa di OpenAI è in linea con una tendenza del settore in cui piattaforme come Meta o YouTube hanno spinto per controlli per le famiglie. La discussione di fondo ruota attorno a come bilanciare innovazione, Garantías e garanzie per i giovani utenti.
Cosa succede all'interno di ChatGPT quando ci sono segnali di rischio
OpenAI punta al routing dinamico che deriva conversazioni complesse verso modelli più riflessivi, con linee guida di sicurezza più severe. L'obiettivo è ridurre il bias di compiacimento, aumentare la soglia di prudenza e dare priorità alle risposte di supporto contro interazioni potenzialmente dannose.
Per consolidare questo approccio, l'azienda ha creato un Consiglio di esperti sul benessere e l'intelligenza artificiale e una rete globale di medici. Secondo l'azienda, più di 250 medici in 60 paesi e sono già stati incorporati più di 90 contributi sul comportamento del modello contesti di salute mentale.
Cosa possono fare i genitori, passo dopo passo
Le famiglie troveranno un flusso semplice: invitare il minore per posta, confermare il collegamento degli account e definire quali funzioni sono attivate o meno nel profilo dell'adolescente, con particolare attenzione alla memoria, alla storia e filtri di sicurezza.
- Collega l'account dell'adulto all'account del minore tramite invito.
- Imposta limiti: memoria, cronologia e funzionalità approvate in base all'età.
- Attiva le notifiche per “emergenza acuta” e l’accesso al pulsante di emergenza.
- Controllare periodicamente la risposta del sistema e regolare le impostazioni.
OpenAI afferma che continuerà a perfezionare questi strumenti, ma non ha ancora dettagliato tutti i dettagli. parametri di privacy e visibilità. L'azienda ricorda che il controllo parentale è un supporto e non sostituisce il attenzione professionale né il continuo sostegno della famiglia.
Con questo pacchetto, OpenAI tenta di rafforzare la sicurezza di ChatGPT nell'ambiente degli adolescenti conti famiglia, limiti e avvisi, un'implementazione graduale e consulenza clinica esterna; misure che mirano a limitare i rischi senza perdere di vista il fatto che la supervisione di un adulto e il giudizio professionale rimangono pezzi essenziali.
Sono un appassionato di tecnologia che ha trasformato i suoi interessi "geek" in una professione. Ho trascorso più di 10 anni della mia vita utilizzando tecnologie all'avanguardia e armeggiando con tutti i tipi di programmi per pura curiosità. Ora mi sono specializzato in informatica e videogiochi. Questo perché da più di 5 anni scrivo per vari siti web di tecnologia e videogiochi, creando articoli che cercano di darti le informazioni di cui hai bisogno in un linguaggio comprensibile a tutti.
In caso di domande, le mie conoscenze spaziano da tutto ciò che riguarda il sistema operativo Windows e Android per telefoni cellulari. E il mio impegno è nei tuoi confronti, sono sempre disposto a dedicare qualche minuto e aiutarti a risolvere qualsiasi domanda tu possa avere in questo mondo di Internet.