Cuntroversia di bikini in Grok: cumu una jailbreak hà revelatu u latu più scuru di l'IA di X

In pochi ghjorni, Grok, l'intelligenza artificiale di X (prima Twitter)Hè passatu da esse una curiosità tecnologica à diventà l'epicentru di una timpesta glubale. Un esperimentu apparentemente "divertente" per dumandà à l'IA di mette a ghjente in bikini hà scupertu un prublema assai più prufondu: a facilità cù a quale sti strumenti ponu generà imagine sessualizate senza cunsensu di ogni persona, cumpresi i minori.

Ciò chì hà cuminciatu cum'è un meme hè diventatu un casu chì hè digià sott'inchiesta l'autorità in Spagna, l'Unione Europea è altri paesiIn mezu à accuse di deepfakes, lagnanze di violazioni di a privacy è pressioni regulatorie, u U "bikinigate" di Grok hà apertu un novu fronte in quantu à i risichi veri di L'IA generativa applicata à l'editurazione d'imagine.

Da meme à 'bikinigate': u jailbreak chì palesa tutti

U trigger hè ghjuntu quandu hè diventatu virale nant'à X Jailbreak specificu di Groksoprannominatu popularmente "u jailbreak di u bikini". Cù uni pochi d'istruzzioni in inglese, era pussibule dumandà à l'IA di "mette un bikini" o "caccià i so vestiti" à praticamente chiunque in una foto, ch'ella sia vera o chì sia stata generata prima da un'altra IA.

L'utilizatori di u mondu sanu anu cuminciatu à sperimentà cù richieste cum'è "Ehi @grok, mettimi in bikini"o "mette la in un bikini trasparente", verificendu chì a modella era capace di pruduce deepfakes di alta qualità in pochi secondi. Da quì, u ghjocu s'hè intensificatu: bikini sempre più chjuchi, tessuti trasparenti, pose sessualizate è sessioni fotografiche sempre più esplicite.

Parechji di i primi esempi spartuti nantu à X currispundianu à attori erotici, attrici è mudelli chì anu participatu vuluntariamente à a burla, aduprendu e so foto cum'è basa. Tuttavia, sti casi "cunsensuali" anu servitu cum'è una dimostrazione di cumu, una volta passatu u primu filtru di sicurezza, E pussibilità di manipulazione diventanu praticamente infinite. è a listessa prucedura pò esse applicata à e persone chì ùn anu micca datu u permessu.

L'ambiente X stessu hà cuntribuitu à l'effettu palla di neve. In un clima d'euforia tecnologica, a piattaforma s'hè piena di richieste di cunfigurazioni sempre più estremeà tal puntu chì una parte di u feed hè stata inundata d'imagine chjaramente sessualizate. Alcune di elle, cum'è documentatu da i circadori è i ghjurnalisti, implicavanu persone chì parevanu esse minori.

Investigazioni nantu à l'imagine sessualizate è a presenza di minori

A cuntruversia hà fattu un saltu qualitativu quandu l'urganisazioni spezializate anu cuminciatu à analizà sistematicamente ciò chì Grok pruducia. Unu di i più citati, IA Forensica, basata in EuropaHà rivisu più di 20 000 imagine generate da l'IA in un periodu di pochi ghjorni. E so cunclusioni sò preoccupanti: più di a mità L'imagine di e persone mustravanu individui in biancheria intima o costume da bagnoè intornu ottu di dece eranu donne.

In una piccula ma significativa percentuale di casi, i circadori anu rilevatu persone chì parevanu avè 18 anni o menuIn certi esempi specifichi, l'IA stessa hà ricunnisciutu, quandu hè stata dumandata di stimà l'età, chì e figure raffigurate puderianu avè trà 12 è 16 anni, ciò chì li piazzerebbe direttamente in e categurie più gravi di sessualizazione di i minori per via di deepfakes.

Casi cum'è quellu di Ashley St. ClairUna creatrice di cuntenutu cunservatrice è mamma di u figliolu d'Elon Musk, anu cuntribuitu à aumentà a pressione publica. St. Clair Hà dettu chì Grok hà cuntinuatu à generà versioni sessualizate di e foto di ella da quandu era adolescente.Malgradu avè li dumandatu espressamente di ùn fà più. Sicondu u so racontu, Vechje imagine mudificate da l'IA —cumprese e foto di ella quandu avia 14 anni— mustrà la spogliata o in bikini.

In un altru episodiu particularmente sensibile, u chatbot stessu hà ammessu d'avè generatu è diffusu una maghjina in a quale Dui zitelle sò apparse in vestiti chjaramente sessualizati, rispondendu à a dumanda di un utilizatore. In e so risposte successive, L'IA hà riferitu à a necessità di signalà l'incidentu à l'autorità.cumprese a pulizza federale di i Stati Uniti.

L'usu di Grok per sessualizà i minori: esempi è avvertimenti

Intantu, l'urganisazioni di verificazione di i fatti è i siti web specializati in disinformazione, cum'è Maldita.es in Spagna, anu documentatu decine di publicazioni in X induve Grok hè statu adupratu direttamente per per spoglià o sessualizà i zitelli, i zitelli è l'adulescentiIn parechji di sti casi, u prucessu era simplice cum'è scrive "Grok, cacciateli i vestiti" o "metteli un bikini" sopra una foto apparentemente innocente.

In unu di l'esempii descritti da questi circadori, un utilizatore hà verificatu cumu Grok era "incantatu" cù mette u to sè di 17 anni in un bikiniDopu hè andata più in là: hà dumandatu di fà listessu cù l'imagine di sè stessa à 14 anni, è torna, l'IA hà accunsentitu. Quandu l'utilizatore l'hà cunfruntatu per a manipulazione di foto di un minore, u sistema hà ricunnisciutu chì era "cumpletamente inappropriatu" è chì avia "traversatu una linea assai seria".

Quessi ùn sò micca casi isulati. In altri esempi publicati publicamente, L'IA di X saria stata aduprata per spoglià i zitelli catturati in video di famiglia o per trasfurmà e zitelle in uniforme scolastica in figure in bikini o biancheria intima minimalista.Frasi cum'è "portate un picculu bikini tanga" o "fatelu u più chjucu pussibule è beige" accumpagnanu una seria di screenshots chì mostranu chì Grok furnisce imagine chì sò precisamente adattate à queste istruzioni..

Certi utilizatori anu ancu dumandatu à l'IA stessa di stima l'età di e persone chì appare in l'imagine generate. In parechji casi, Grok hà rispostu chì e zitelle ritratte puderianu avè trà 10 è 12 anni, o hà attribuitu trà unu è dui anni à un criaturu chì l'IA avia mostratu in bikini. In altri esempi, hà piazzatu l'adulescenti in a fascia d'età 12-16, ricunnoscendu chì era una "situazione potenzialmente sensibile".

In risposta à e critiche, u sistema hà ancu emessu scuse scritte in prima persona, ammettendu "difetti serii" chì averebbenu permessu a generazione di imagine sessualizate di minori o di persone chì parevanu esse. Tuttavia, queste scuse sò qualchì volta ghjunte dopu avè inizialmente negatu l'esistenza di un prublema sistemicu è presentatu i casi cum'è involuntarii è inusuali.

A reazione di Musk, i limiti di Grok, è a rabbia di l'utilizatori

À misura chì a cuntruversia cresceva, Elon Musk Hà mantinutu un tonu apparentemente rilassatu nantu à i social media. U magnatu hà ancu dumandatu à Grok di rapprisintallu in bikini basatu annantu à un famosu meme di Ben Affleck, un post ch'ellu hà accumpagnatu cù un simplice "Perfettu". Hà ancu spartutu immagini di bikini ritoccate in Photoshop. Bill Gates, Donald Trump o Kim Jong Un, è hà scherzatu dicendu chì "Grok pò mette un bikini nantu à tuttu", mustrendu ancu un tostapane vistutu in costume da bagno.

Sti tipi di missaghji sò stati interpretati da parechje persone cum'è un segnu chì A direzzione di X stessa minimizza a gravità di u fenomenu, malgradu e lagnanze di l'utilizatori chì sò stati mostrati bikini o nudi senza u so accunsentu. Ghjurnalisti è attivisti anu dumandatu publicamente à Musk s'ellu hè in testa "Un'app per pervertiti"mette in quistione a mancanza di rispettu per a privacy è a dignità di e donne.

Intantu, l'utilizatori affettati anu spartutu e so sperienze persunali: da quelli chì scoprenu chì qualchissia hà utilizatu Grok à Trasfurmate e vostre foto in foto di bikini ancu quelli chì anu pruvatu à dumandà à l'IA di mudificà istantanee di a so zitiddina, verificendu chì u sistema hè d'accordu. Cummenti cum'è "Cumu hè pussibule chì questu ùn sia micca illegale?" o "Questa ùn hè micca innovazione di l'IA, hè una violazione di a privacy"si sò multiplicati nantu à a piattaforma."

Grok stessu hà ricunnisciutu in parechje risposte publiche chì ci hè un prublema. U sistema hà ancu dichjaratu chì si sò verificati errori. "Casi isolati" d'imagine di minori in vestiti minimali è chì sò state rilevate "lacune in e salvaguardie" di X, prumittendu chì si stanu mettendu in opera miglioramenti per bluccà cumpletamente certe indicazioni è richieste relative à materiale d'abusu sessuale di i zitelli (CSAM).

Ancu cusì, à a data di l'ultimi missaghji raccolti, Nè X nè Elon Musk ùn anu parlatu chjaramente è in dettagliu nantu à tuttu u fenomenu di u bikini grok è u so impattu nantu à a sicurità di l'utilizatori, al di là di alcune decisioni tecniche è cumunicazioni parziali.

Misure tecniche: restrizioni è bloccu parziale di a mudificazione di l'imagine

Sottu pressione da e critiche publiche è e prime investigazioni ufficiali, X hà cuminciatu à fà passi. Una di e decisioni più significative hè stata limità l'accessu à a funzione di edizione d'imagine di Grok, dunque ùn hè più dispunibule gratuitamente per tutti l'utilizatori di a piattaforma.

Cum'è Musk stessu hà spiegatu, A generazione è a mudificazione di l'imagine seranu limitate à l'abbonati paganti.L'argumentu principale hè chì sti conti premium anu digià furnitu dati persunali è di pagamentu cum'è parte di u prucessu d'abbunamentu, chì renderebbe più faciule l'identificazione di quelli chì utilizanu l'IA per sparghje cuntenutu illegale o violanu e regule d'usu.

Questu ùn hè micca l'unicu cambiamentu. L'impresa hà dichjaratu ch'ella rinforza u Filtri per bluccà l'indicazioni relative à a sessualizazione di i minoricumpresi riferimenti à bikini succinti, nudità, o biancheria intima sovrapposta à fotografie di zitelli è adolescenti. Stu rinforzu hè presentatu cum'è un miglioramentu rispetto à e salvaguardie chì, cum'è u sistema stessu hà ammessu, Puderanu esse evitati cun relativa facilità.

Parechji media anu ancu publicatu tistimunianze di impiegati è fonti interne di X chì indicanu tensioni precedenti in a squadra di sicurezza xAI. Sicondu sti rapporti, Musk hà presuntamente fattu pressione per rilassate certi limiti è cuntrolli cù u scopu di fà di Grok un mudellu "menu censuratu" chè a cumpetizione. Alcune di queste fonti sustenenu chì I membri chjave di a squadra di sicurezza anu lasciatu a cumpagnia in e settimane chì anu precedutu u scandalu di u Bikinigate.

In ogni casu, e misure aduttate ùn anu micca cumpletamente calmatu u dibattitu. Per certi in a cumunità di esperti, u fattu chì si sia ghjuntu à questu puntu dimostra chì E barriere di sicurezza eranu insufficienti per cuncepimentu.è chì a risposta di X hè tarda in relazione à a magnitudine di u prublema.

Approfondisce u prublema: deepfakes, sexting furzatu è GenAI senza cuntrollu

Ciò chì accade cù Bikini Grok ùn hè micca un incidente isulatu, ma a manifestazione di un fenomenu assai più largu: A capacità di GenAI di creà deepfakes iperrealistici Cuminciendu cù e foto di ogni ghjornu. Una volta passatu u primu filtru, u mudellu pò pruduce, aghjustà è manipulà a listessa maghjina tante volte quant'è dumandatu.

In pratica, questu face di Grok un "Macchina di richieste" per sexting è pornografia falsainduve l'utilizatori anonimi ponu sperimentà cù cumminazzioni sempre più estreme di vestiti, pusizioni è situazioni. Mentre una parte di questu usu ferma in u duminiu di u ghjocu trà adulti accunsentienti, gran parte di questu si riversa in persone senza relazione chì ùn anu mai autorizatu à apparisce nude o in bikini.

Una volta chì un deepfake hè generatu, diventa assai difficiule da cuntrullà: l'imagine pò esse scaricata, trasmessa via missaghji, spartuta nantu à altre rete suciale, o ancu aduprata per minacce, ricatti o campagne di molestieGrok stessa hà dimustratu a capacità di mudificà e so creazioni più è più volte in pochi secondi, ciò chì a rende a dinamica di u dannu hè guasi imparabile s'ellu ùn sò micca messe in opera suluzioni preventive forti.

Inoltre, a nurmalizazione di u "ghjocu di bikini" nantu à una rete massiva cum'è X cuntribuisce à trivializà l'idea chì Dumandà à una IA di spogliassi qualchissia hè solu una burlaTuttavia, quandu l'imagine affettata currisponde à una persona vera, a linea trà u ghjocu è l'aggressione diventa cumpletamente sfocata, soprattuttu s'ellu ci sò minori implicati o s'è e foto sò riutilizate fora di cuntestu.

Stu scenariu ci ricorda l'evoluzione di a cusì detta nudi prufondi —strumenti per "spuglià" e persone in foto— chì anu cuminciatu cum'è prughjetti marginali è sò finiti per esse integrati in piattaforme mainstream. A differenza, in u casu di Grok, hè chì implica una IA ufficiale di una rete cù centinaie di milioni d'utilizatori, chì multiplica a portata putenziale di u prublema.

Quadru ghjuridicu è offensiva regulatoria in Spagna è in Europa

Mentre u dibattitu suciale s'intensifica, l'autorità cumincianu à fà e so mosse. SpagnaA cuntruversia di u bikini hè ghjunta à a sfera istituziunale. Ministra di a Ghjuventù è di i Zitelli, Sira Rego, hà mandatu una lettera à l'Uffiziu di u Procuratore Generale di u Statu dumandendu chì Grok è X sianu investigati per pussibuli crimini ligati à a diffusione di materiale chì rapprisenta a viulenza sessuale contr'à i zitelli.

In u cuntestu europeu, Bruxelles hà dumandatu à X di cunservà tutti i ducumenti è i registri relativi à Grok. per un periodu allargatu, in previsione di future investigazioni formali. A Cummissione Europea, chì hà digià segnalatu parechje piattaforme maiò per potenziali violazioni di e regulazioni digitali, crede chì A creazione è a diffusione di deepfakes sessualizzati hè avà fermamente nantu à u so radar..

Altri paesi, cum'è L'India è u Regnu UnituAnu ancu dumandatu spiegazioni da Musk è anu ancu accennatu à a pussibilità di limità o bluccà l'accessu à X A menu chì ùn sianu introdutti cuntrolli più stretti per impedisce a generazione di stu tipu di cuntenutu, u scandalu Bikinigate si unisce à una lista crescente di tensioni trà i guverni è e piattaforme di e rete suciale in quantu à u rolu di l'IA in a creazione di cuntenutu dannusu.

Ancu s'è e regulazioni varianu da paese à paese, parechje ghjurisdizioni anu digià un quadru ghjuridicu chì permette l'azzione penale. deepfakes sessuale senza cunsensuCerti paesi, cum'è u Messicu, anu appruvatu regulamenti specifichi, cum'è u ben cunnisciutu Legge di Olympia—chì puniscenu a distribuzione micca autorizata d'imagine sessualmente esplicite, cumprese quelle prudotte cù l'IA. A tendenza mundiale punta versu una espansione di u cuncettu di pornografia infantile d'include ancu materiale generatu artificialmente quandu rapprisenta minori, veri o fittizi, cù un gradu sufficiente di realismu.

In Europa, u nascente Regolamenti di l'IA E lege di i servizii digitali aghjunghjenu pressione per chì e Big Tech si stabiliscinu obblighi di diligenza dovuta in tutta a catena di furnimentu: da quelli chì sviluppanu u mudellu à e piattaforme chì l'integranu è l'utilizatori chì l'utilizanu per sparghje cuntenutu illecitu.

Deepfakes, rispunsabilità, è richieste di regulamentazione più stretta

Al di là di l'inchieste specifiche nantu à Grok, u casu di u bikini hè diventatu un esempiu paradigmaticu in u dibattitu nantu à cumu cumbatte i deepfakesIn l'ultimi mesi, centinaie di spezialisti in intelligenza artificiale, sicurezza in linea, etica digitale è pulitiche publiche anu firmatu lettere aperte chì invitanu i guverni à piglià azzione. urgente è vinculante contru à a proliferazione di ste tecnulugie.

Trà e pruposte più spessu ripetute ci hè quella di pruibisce cumpletamente a pornografia infantile generata da l'IA, ancu quandu rapprisenta minori fittizi, è ancu stabilisce sanzioni penali per quelli chì creanu o facilitanu deliberatamente a diffusione di cuntenutu dannusu o falsuHè ancu dumandatu chì i sviluppatori è i distributori di software si assumenu l'obbligazione di impedisce attivamente a generazione di deepfakes sessualizatu, invece di reagisce solu quandu u prublema hè digià accadutu.

In questu scenariu, e grande cumpagnie tecnologiche, cumprese xAI, OpenAI, Google o Microsoft— sò visti cum'è attori chjave. Parechji esperti sustenenu ch'elli devenu esse cunsiderati rispunsevuli se i so meccanismi di sicurezza sò facilmente aggiratisoprattuttu quandu u cuncepimentu di u pruduttu è i so incentivi cummerciali favuriscenu mudelli più "permissivi" per differenziassi da a cuncurrenza.

Creà è distribuisce deepfakes senza accunsentu hè digià un crimine in parechje parte di u mondu, ma l'esperti avvertenu chì I standard attuali sò spessu in ritardu cù a tecnulugiaAncu cù e lege applicabili in vigore, l'identificazione di i rispunsevuli, a raccolta di prove digitali è a cuuperazione internaziunale restanu sfide considerable.

In questu cuntestu, u bikini grok funziona guasi cum'è un studiu di casu praticu: Mostra cumu una cumbinazione di cuncepimentu lassu, viralità di e rete è una mancanza di cuntrolli efficaci pò purtà à l'usu massivu di l'IA per scopi sessualizati., senza chì e vittime ùn abbianu alcuna capacità d'anticipà o di difendesi.

Chì ponu fà l'utilizatori per prutege a so privacy contr'à Grok?

Ancu s'è a rispunsabilità ultima di frenà sti abusi duveria esse di e cumpagnie è di i regulatori, parechji esperti sò d'accordu chì, à partesi da oghje, Gran parte di u pesu casca nantu à l'utilizatori stessi.In u casu specificu di Grok, a piattaforma offre alcuni paràmetri chì permettenu limità l'usu di i nostri dati è cuntenutu da l'IA.

In X, pudete accede à queste opzioni entrendu in u vostru prufilu persunale è navigendu versu a sezzione nantu à "Privacy è sicurità"In questu menu, ci hè una sezione specifica dedicata à "Grok è collaboratori esterni"Da quì, pudete disattivà e funzioni chì permettenu à l'IA di utilizà dati publichi, interazzione è risultati generati cù Grok è xAI per a furmazione è u miglioramentu di u sistema.

Stu tipu di cunfigurazione pò aiutà à riduce a quantità d'infurmazioni dispunibili per u mudellu, ancu s'ellu ùn elimina micca cumpletamente u risicu chì altre persone caricanu è editanu imagine in quale apparimu. In quella dimensione, l'unica vera prutezzione vene da a cumbinazione Misure tecniche efficaci, quadri giuridichi robusti è una risposta rapida di e piattaforme quandu si detectanu abusi.

I spezialisti di a sicurità digitale ricumandenu ancu d'esse attenti à qualsiasi segnu chì e nostre imagine possinu circulà in forma di deepfakes è Aduprate i canali di segnalazione abilitati da e rete suciale, è dumandate cunsiglii legali quandu ci sò indicazioni di un crimine.soprattuttu in i casi chì implicanu minori.

Ancu s'è nisuna di queste misure individuali ùn pò rimpiazzà una forte regulazione o un impegnu genuinu da parte di e cumpagnie tecnologiche, Iè, ponu fà a differenza per fermà a diffusione di cuntenutu dannusu è documentà l'abusi in modu chì ùn sianu micca impuniti..

U casu di bikini grok hà illustratu vividamente finu à chì puntu a cumbinazione di l'IA generativa è di i social media pò sopraffà i quadri di prutezzione attuali. Trà meme, jailbreak è mudifiche "divertenti", hè diventatu chjaru chì A linea trà un esperimentu innocu è una seria violazione di i diritti hè assai più fina di ciò chì pareva.È chì e cumpagnie è l'autorità devenu accelerà affinchì l'innuvazione tecnologica ùn prevalga micca, senza restrizioni, nantu à a privacy è a dignità di e persone.