Violazione dei dati di ChatGPT: cosa è successo a Mixpanel e come ti riguarda

Utenti ChatGPT Nelle ultime ore hanno ricevuto un'e-mail che ha fatto storcere il naso a più di qualcuno: OpenAI segnala una violazione dei dati collegata alla sua piattaforma APIL'avvertimento ha raggiunto un vasto pubblico, comprese persone che non sono state direttamente colpite, il che ha ha generato un po' di confusione sulla reale portata dell'incidente.

Ciò che l'azienda ha confermato è che c'è stato un accesso non autorizzato alle informazioni di alcuni clientiMa il problema non è stato nei server di OpenAI, bensì con... Mixpanel, un fornitore di analisi web di terze parti che ha raccolto metriche di utilizzo dell'interfaccia API in platform.openai.comCiononostante, il caso riporta la questione in primo piano. dibattito su come vengono gestiti i dati personali nei servizi di intelligenza artificiale, anche in Europa e sotto l'egida di RGPD.

Un bug in Mixpanel, non nei sistemi di OpenAI

Come dettagliato da OpenAI nella sua dichiarazione, l'incidente ha avuto origine il 9 de noviembrequando Mixpanel ha rilevato che un aggressore aveva ottenuto l'accesso accesso non autorizzato a parte della sua infrastruttura e aveva esportato un set di dati utilizzato per l'analisi. Durante quelle settimane, il fornitore ha condotto un'indagine interna per determinare quali informazioni fossero state compromesse.

Una volta che Mixpanel ha avuto più chiarezza, ha formalmente informato OpenAI il 25 novembreinviando il set di dati interessato in modo che l'azienda possa valutarne l'impatto sui propri clienti. Solo allora OpenAI ha iniziato a incrociare i dati, identificare gli account potenzialmente coinvolti e preparare le notifiche via email che stanno arrivando in questi giorni a migliaia di utenti in tutto il mondo.

OpenAI insiste sul fatto che Non c'è stata alcuna intrusione nei loro server, applicazioni o databaseL'aggressore non ha avuto accesso a ChatGPT o ai sistemi interni dell'azienda, ma piuttosto all'ambiente di un provider che raccoglieva dati analitici. Ciononostante, per l'utente finale, la conseguenza pratica è la stessa: alcuni dei suoi dati sono finiti dove non avrebbero dovuto.

Questi tipi di scenari rientrano in quello che nella sicurezza informatica è noto come un attacco al catena di fornitura digitaleInvece di attaccare direttamente la piattaforma principale, i criminali prendono di mira una terza parte che gestisce i dati di quella piattaforma e spesso ha controlli di sicurezza meno rigorosi.

Articolo correlato:

Quali dati raccolgono gli assistenti AI e come proteggere la tua privacy

Quali utenti sono stati effettivamente colpiti

Uno dei punti che genera più dubbi è chi dovrebbe davvero preoccuparsi. Su questo punto, OpenAI è stata piuttosto chiara: Il divario riguarda solo coloro che utilizzano l'API OpenAI attraverso il web platform.openai.comCioè, principalmente sviluppatori, aziende e organizzazioni che integrano i modelli aziendali nelle proprie applicazioni e servizi.

Utenti che utilizzano solo la versione normale di ChatGPT nel browser o nell'app, per query occasionali o attività personali, Non sarebbero stati direttamente colpiti a causa dell'incidente, come ribadisce l'azienda in tutte le sue dichiarazioni. Tuttavia, per motivi di trasparenza, OpenAI ha scelto di inviare l'email informativa in modo molto ampio, il che ha contribuito ad allarmare molte persone non coinvolte.

Nel caso dell'API, è normale che dietro di essa ci sia progetti professionali, integrazioni aziendali o prodotti commercialiQuesto vale anche per le aziende europee. Secondo le informazioni fornite, le organizzazioni che utilizzano questo provider includono sia grandi aziende tecnologiche che piccole startup, rafforzando l'idea che qualsiasi attore dell'ecosistema digitale sia vulnerabile quando esternalizza servizi di analisi o monitoraggio.

Da un punto di vista giuridico, è rilevante per i clienti europei che si tratti di una violazione in un titolare del trattamento dei dati (Mixpanel) che gestisce i dati per conto di OpenAI. Ciò richiede la notifica alle organizzazioni interessate e, ove opportuno, alle autorità competenti per la protezione dei dati, in conformità con il GDPR.

Quali dati sono trapelati e quali dati rimangono al sicuro

Dal punto di vista dell'utente, la domanda fondamentale è: che tipo di informazioni sono state omesse? OpenAI e Mixpanel concordano sul fatto che... dati del profilo e telemetria di base, utile per l'analisi, ma non per il contenuto delle interazioni con l'intelligenza artificiale o le credenziali di accesso.

Tra l' dati potenzialmente esposti Sono presenti i seguenti elementi relativi agli account API:

• Nome fornito al momento della registrazione dell'account nell'API.
• Indirizzo e-mail associato a quell'account.
• Posizione approssimativa (città, provincia o stato e paese), desunti dal browser e dall'indirizzo IP.
• Sistema operativo e browser utilizzato per accedere platform.openai.com.
• Siti web di riferimento (referrer) da cui è stata raggiunta l'interfaccia API.
• Identificatori interni dell'utente o dell'organizzazione collegato all'account API.

Questo set di strumenti da solo non consente a nessuno di prendere il controllo di un account o di eseguire chiamate API per conto dell'utente, ma fornisce un profilo abbastanza completo di chi è l'utente, come si connette e come utilizza il servizio. Per un aggressore specializzato in Ingegneria socialeQuesti dati possono rivelarsi preziosi quando si vogliono preparare e-mail o messaggi estremamente convincenti.

Allo stesso tempo, OpenAI sottolinea che esiste un blocco di informazioni che non è stato compromessoSecondo l'azienda, restano al sicuro:

• Conversazioni in chat con ChatGPT, inclusi prompt e risposte.
• Richieste API e registri di utilizzo (contenuti generati, parametri tecnici, ecc.).
• Password, credenziali e chiavi API dei conti.
• Pagamento, come numeri di carta o informazioni di fatturazione.
• Documenti di identità ufficiali o altre informazioni particolarmente sensibili.

In altre parole, l'incidente rientra nell'ambito dell' dati identificativi e contestualiMa non ha toccato né le conversazioni con l'intelligenza artificiale né le chiavi che consentirebbero a una terza parte di operare direttamente sugli account.

Rischi principali: phishing e ingegneria sociale

Anche se l'attaccante non ha password o chiavi API, averle nome, indirizzo email, posizione e identificatori interni consente di lanciare campagne fraudolente molto più credibile. È qui che OpenAI e gli esperti di sicurezza stanno concentrando i loro sforzi.

Con queste informazioni a disposizione, è facile costruire un messaggio che sembri legittimo: e-mail che imitano lo stile di comunicazione di OpenAIMenzionano l'API, citano l'utente per nome e alludono persino alla sua città o al suo Paese per rendere l'avviso più realistico. Non c'è bisogno di attaccare l'infrastruttura se si riesce a indurre l'utente a fornire le proprie credenziali su un sito web falso.

Gli scenari più probabili prevedono tentativi di phishing classico (link a presunti pannelli di gestione API per "verificare l'account") e tramite tecniche di ingegneria sociale più elaborate rivolte agli amministratori di organizzazioni o ai team IT di aziende che utilizzano intensamente l'API.

In Europa, questo punto è direttamente collegato ai requisiti del GDPR su minimizzazione dei datiAlcuni specialisti della sicurezza informatica, come il team OX Security citato dai media europei, sottolineano che raccogliere più informazioni di quelle strettamente necessarie per l'analisi dei prodotti, ad esempio e-mail o dati dettagliati sulla posizione, può entrare in conflitto con l'obbligo di limitare il più possibile la quantità di dati elaborati.

La risposta di OpenAI: una rottura con Mixpanel e una revisione approfondita

Una volta ricevuti i dettagli tecnici dell'incidente, OpenAI ha tentato di reagire con decisione. La prima misura è stata rimuovere completamente l'integrazione Mixpanel di tutti i suoi servizi di produzione, in modo che il fornitore non abbia più accesso ai nuovi dati generati dagli utenti.

Allo stesso tempo, la società afferma che sta esaminando attentamente il set di dati interessato per comprendere il reale impatto su ogni account e organizzazione. Sulla base di tale analisi, hanno iniziato a notificare individualmente agli amministratori, alle aziende e agli utenti che compaiono nel set di dati esportato dall'aggressore.

OpenAI afferma inoltre di aver avviato controlli di sicurezza aggiuntivi su tutti i loro sistemi e con tutti gli altri fornitori esterni con chi collabora. L'obiettivo è aumentare i requisiti di protezione, rafforzare le clausole contrattuali e verificare più rigorosamente le modalità con cui queste terze parti raccolgono e archiviano le informazioni.

L’azienda sottolinea nelle sue comunicazioni che “fiducia, sicurezza e privacyQuesti sono elementi centrali della sua missione. Al di là della retorica, questo caso illustra come una violazione in un agente apparentemente secondario possa avere un effetto diretto sulla sicurezza percepita di un servizio così imponente come ChatGPT.

Impatto sugli utenti e sulle aziende in Spagna e in Europa

Nel contesto europeo, dove l’ GDPR e future normative specifiche sull'intelligenza artificiale Hanno fissato standard elevati per la protezione dei dati e incidenti come questo vengono esaminati attentamente. Per qualsiasi azienda che utilizzi l'API OpenAI dall'interno dell'Unione Europea, una violazione dei dati da parte di un fornitore di analisi non è un problema di poco conto.

Da un lato, i titolari del trattamento dei dati europei che fanno parte dell’API dovranno rivedere le loro valutazioni di impatto e i registri delle attività per verificare come viene descritto l'utilizzo di provider come Mixpanel e se le informazioni fornite ai loro utenti sono sufficientemente chiare.

D'altro canto, l'esposizione di e-mail aziendali, sedi e identificatori organizzativi apre le porte a Attacchi mirati contro team di sviluppo, reparti IT o project manager di intelligenza artificialeNon si tratta solo di potenziali rischi per i singoli utenti, ma anche per le aziende che basano i processi aziendali critici sui modelli OpenAI.

In Spagna, questo tipo di gap sta finendo sotto i riflettori Agenzia spagnola per la protezione dei dati (AEPD) quando riguardano cittadini residenti o enti stabiliti nel territorio nazionale. Qualora le organizzazioni interessate ritengano che la fuga di notizie rappresenti un rischio per i diritti e le libertà delle persone, sono tenute a valutarla e, se del caso, a darne comunicazione anche all'autorità competente.

Consigli pratici per proteggere il tuo account

Oltre alle spiegazioni tecniche, ciò che molti utenti vogliono sapere è Cosa devono fare adesso?OpenAI insiste sul fatto che cambiare la password non è essenziale, poiché non è trapelata, ma la maggior parte degli esperti consiglia di adottare un ulteriore livello di cautela.

Se si utilizza l'API OpenAI o si vuole semplicemente andare sul sicuro, è consigliabile seguire una serie di passaggi di base che Riducono drasticamente il rischio che un aggressore potrebbe sfruttare i dati trapelati:

• Fai attenzione alle email inaspettate che affermano di provenire da OpenAI o da servizi correlati alle API, soprattutto se menzionano termini come "verifica urgente", "incidente di sicurezza" o "blocco dell'account".
• Controllare sempre l'indirizzo del mittente e il dominio a cui puntano i link prima di cliccare. In caso di dubbi, è meglio accedervi manualmente. platform.openai.com digitando l'URL nel browser.
• Abilita l'autenticazione a più fattori (MFA/2FA) sul tuo account OpenAI e su qualsiasi altro servizio sensibile. È una barriera molto efficace anche se qualcuno dovesse ottenere la tua password con l'inganno.
• Non condividere password, chiavi API o codici di verifica via e-mail, chat o telefono. OpenAI ricorda agli utenti che non richiederà mai questo tipo di dati tramite canali non verificati.
• Valora Cambia la tua password Se sei un utente assiduo dell'API o se tendi a riutilizzarla in altri servizi, è generalmente meglio evitarlo.

Per coloro che operano in aziende o gestiscono progetti con più sviluppatori, questo potrebbe essere un buon momento per rivedere le politiche di sicurezza internaAutorizzazioni di accesso API e procedure di risposta agli incidenti, allineandole alle raccomandazioni dei team di sicurezza informatica.

Lezioni su dati, terze parti e fiducia nell'intelligenza artificiale

La perdita di Mixpanel è stata limitata rispetto ad altri incidenti importanti degli ultimi anni, ma avviene in un momento in cui I servizi di intelligenza artificiale generativa sono diventati comuni Questo vale sia per i privati ​​che per le aziende europee. Ogni volta che qualcuno si registra, integra un'API o carica informazioni su uno strumento del genere, affida una parte significativa della propria vita digitale nelle mani di terze parti.

Una delle lezioni che questo caso insegna è la necessità di ridurre al minimo i dati personali condivisi con fornitori esterniDiversi esperti sottolineano che, anche quando si lavora con aziende legittime e note, ogni dato identificabile che esce dall'ambiente principale apre un nuovo potenziale punto di esposizione.

Evidenzia inoltre la misura in cui l' comunicazione trasparente Questo è fondamentale. OpenAI ha scelto di fornire informazioni generali, inviando anche e-mail agli utenti non interessati, il che potrebbe destare un certo allarme ma, a sua volta, lascia meno spazio al sospetto di una mancanza di informazioni.

In uno scenario in cui l’intelligenza artificiale continuerà a essere integrata nelle procedure amministrative, bancarie, sanitarie, educative e nel lavoro a distanza in tutta Europa, incidenti come questo servono a ricordare che La sicurezza non dipende solo dal fornitore principale.ma piuttosto dell'intera rete di aziende che vi sta dietro. E questo, anche se la violazione dei dati non include password o conversazioni, il rischio di frode rimane molto concreto se non vengono adottate le misure di protezione di base.

Tutto ciò che è accaduto con la violazione di ChatGPT e Mixpanel dimostra come anche una fuga di notizie relativamente limitata possa avere conseguenze significative: costringe OpenAI a riconsiderare il suo rapporto con terze parti, spinge le aziende e gli sviluppatori europei a rivedere le proprie pratiche di sicurezza e ricorda agli utenti che la loro principale difesa contro gli attacchi rimane l'informazione. monitorare le email che ricevono e rafforzare la protezione dei loro account.

Alberto navarro

Sono un appassionato di tecnologia che ha trasformato i suoi interessi "geek" in una professione. Ho trascorso più di 10 anni della mia vita utilizzando tecnologie all'avanguardia e armeggiando con tutti i tipi di programmi per pura curiosità. Ora mi sono specializzato in informatica e videogiochi. Questo perché da più di 5 anni scrivo per vari siti web di tecnologia e videogiochi, creando articoli che cercano di darti le informazioni di cui hai bisogno in un linguaggio comprensibile a tutti.

In caso di domande, le mie conoscenze spaziano da tutto ciò che riguarda il sistema operativo Windows e Android per telefoni cellulari. E il mio impegno è nei tuoi confronti, sono sempre disposto a dedicare qualche minuto e aiutarti a risolvere qualsiasi domanda tu possa avere in questo mondo di Internet.