Bikini polemika Groken: nola jailbreak batek X-ren AIren alde ilunena agerian utzi zuen

Egun gutxiren buruan, Grok, X-ren adimen artifiziala (lehen Twitter)Bitxikeria teknologiko izatetik ekaitz global baten epizentro izatera igaro da. Itxuraz "dibertigarria" den esperimentu bat... IAri jendeari bikiniak jartzeko eskatuz arazo sakonago bat agerian utzi du: tresna hauek erabiltzeko duten erraztasuna baimenik gabeko irudi sexualizatuak sortu edozein pertsonaren, adingabeak barne.

Meme gisa hasi zena dagoeneko ikerketapean dagoen kasu bihurtu da. Espainiako, Europar Batasuneko eta beste herrialde batzuetako agintariekDeepfake-en salaketen, pribatutasun-urraketen kexen eta araudi-presioen artean, Groken "bikinigate" benetako arriskuei buruzko fronte berri bat ireki du IA sortzailea irudien edizioan aplikatuta.

Memetik 'bikinigate'-ra: denak agerian uzten dituen jailbreak-a

X-n biral bihurtu zenean etorri zen abiapuntua Grok-erako jailbreak espezifikoa"bikini jailbreak" ezizenaz ezaguna. Ingelesezko argibide batzuekin, IAri eskatzea posible zen «bikini bat jantzi» edo «arropa kendu» argazki bateko ia edonori, irudia erreala izan edo beste IA batek sortua izan.

Mundu osoko erabiltzaileek "" bezalako eskaerekin esperimentatzen hasi zirenAupa @grok, jarri bikini bat jantzita."edo "bikini garden bat jantzi", modeloa gai zela egiaztatuz kalitate handiko deepfake-ak segundo gutxitan. Hortik aurrera, jokoa areagotu egin zen: gero eta bikini txikiagoak, oihal gardenagoak, jarrera sexualizatuak eta gero eta argazki saio esplizituagoak.

X-n partekatutako lehen adibide askori dagozkie aktore, aktore eta modelo erotikoak nork borondatez parte hartu zuen txantxa horretan, beren argazkiak oinarri gisa erabiliz. Hala ere, "adostasun" kasu hauek erakutsi zuten nola, behin lehen segurtasun-iragazkia gaindituta, Manipulazio aukerak ia amaigabeak bihurtzen dira. eta prozedura bera aplika daiteke baimenik eman ez duten pertsonei.

X inguruneak berak lagundu zuen elur-bola efektuan. Euforia teknologiko giro batean, plataforma bete egin zen konfigurazio gero eta muturrekoen eskaerakpunturaino, non jarioaren zati bat argi eta garbi sexualizatutako irudiz bete zen. Horietako batzuetan, ikerlari eta kazetariek dokumentatu dutenez, adingabeak ziruditen pertsonak agertzen ziren.

Irudi sexualizatuei eta adingabeen presentziari buruzko ikerketak

Eztabaidak jauzi kualitatibo bat eman zuen erakunde espezializatuek Grokek ekoizten zuena sistematikoki aztertzen hasi zirenean. Aipatuenetako bat, IA Forentsia, Europan kokatuaEgun gutxitan zehar, 20.000 IA bidez sortutako irudi baino gehiago berrikusi zituen. Bere ondorioak kezkagarriak dira: erdia baino gehiago Pertsonen irudiek pertsonak erakusten zituzten barruko arropa edo bainujantziaketa inguruan hamarretik zortzi emakumeak ziren.

Kasuen ehuneko txiki baina esanguratsu batean, ikertzaileek detektatu zuten 18 urte edo gutxiago ziruditen pertsonakAdibide zehatz batzuetan, IAk berak, adina kalkulatzeko eskatu ziotenean, aitortu zuen irudikatutako pertsonaiak 12 eta 16 urte bitartekoak izan zitezkeela, eta horrek kategoria larrienen barruan kokatuko lituzkeela. Adingabeen sexualizazioa deepfake bidez.

Horrelako kasuak. Ashley St. ClairEduki sortzaile kontserbadore eta Elon Musken haurraren ama batek presio publikoa areagotzen lagundu du. St. Clair Jakinarazi zuen Grokek nerabezaroan ateratako argazkien bertsio sexualizatuak sortzen jarraitu zuela.Berriro ez egiteko berariaz eskatu arren. Bere kontakizunaren arabera, Irudi zaharrak AI-k aldatuta —14 urte zituenean ateratako argazkiak barne— biluzik edo bikini batekin erakusteko.

Beste atal bereziki sentikor batean, chatbot-ak berak onartu zuen irudi bat sortu eta zabaldu zuela, non Bi neska jantzi sexual argi eta garbiekin agertu ziren, erabiltzaile baten eskaerari erantzunez. Ondorengo erantzunetan, AI-k gertakaria agintariei salatzeko beharra aipatu zuen.AEBetako polizia federala barne.

Grok-en erabilera adingabeak sexualizatzeko: adibideak eta abisuak

Bitartean, desinformazioan espezializatutako egiaztapen-erakundeak eta webguneak, hala nola Maldita.es Espainian, dokumentatu dute dozenaka argitalpen X-n, non Grok zuzenean erabili zen haurtxoak, haurrak eta nerabeak biluztea edo sexualizatzeaKasu askotan, prozesua argazki xalo baten gainean "Grok, kendu arropa" edo "jarri bikini bat" idaztea bezain sinplea zen.

Ikerlari hauek deskribatutako adibide batean, erabiltzaile batek egiaztatu zuen nola Grok “pozik” zegoen honekin jarri zeure burua bikini batean 17 urtekoaGero, urrunago joan zen: 14 urterekin bere buruaren irudiekin gauza bera egiteko eskatu zion, eta berriro ere, IAk amore eman zuen. Erabiltzaileak adingabe baten argazkiak manipulatzeagatik aurre egin zionean, sistemak onartu zuen "guztiz desegokia" zela eta "muga oso larri bat zeharkatu" zuela.

Ez dira kasu isolatuak. Beste adibide publiko batzuetan, X-ren IA familia-bideoetan grabatutako haurtxoak biluzteko edo eskola-uniformez jantzitako neskak bikini edo barruko arropa minimalista daramatzaten figuretan bihurtzeko erabiliko zen.«Jantzi tanga txikiko bikini bat» edo «egin ahalik eta txikiena eta beix kolorekoa» bezalako esaldiek pantaila-argazki sorta bat erakusten dute Grok-ek argibide hauetara zehatz-mehatz egokitutako irudiak ematen ditu..

Erabiltzaile batzuek IA berari ere eskatu diote pertsonen adina kalkulatu sortutako irudietan agertzen dena. Hainbat kasutan, Grokek erantzun du erretratatutako neskek 10 eta 12 urte bitartekoak izan zitezkeela, edo urtebete eta bi urte bitarteko adina IAk bikini batekin erakutsitako haurtxo bati egotzi diola. Beste adibide batzuetan, nerabeak 12-16 urte bitarteko adin-tartean kokatu ditu, "egoera potentzialki sentikorra" zela onartuz.

Kritikei erantzunez, sistemak ere eman du barkamenak lehen pertsonan idatzita, sortzea ahalbidetuko luketen “akats larriak” onartuz adingabeen irudi sexualizatuak edo itxuraz hala ziren pertsonenak. Hala ere, barkamen horiek batzuetan etorri dira hasieran arazo sistemiko baten existentzia ukatu eta kasuak nahi gabeko eta ezohikotzat aurkeztu ondoren.

Musken erreakzioa, Groken mugak eta erabiltzaileen haserrea

Polemika handitu ahala, Elon Musk Sare sozialetan tonu lasaia mantendu zuen itxuraz. Magnateak Groki eskatu zion Ben Afflecken meme ospetsu batean oinarritutako bikini batekin irudikatzeko, eta mezua "Perfektua" esaldi soil batekin lagundu zuen. Bikinietan photoshoppeatutako irudiak ere partekatu zituen. Bill Gates, Donald Trump edo Kim Jong Un, eta txantxetan esan zuen "Grokek edozer gauzari bikinia jarri diezaiokeela", bainujantziz jantzitako tostadore bat ere erakutsiz.

Mezu mota hauek jende askok seinale gisa interpretatu ditu X-ren norabideak berak grabitatea minimizatzen du fenomenoaren, erabiltzaileek baimenik gabe bikiniak edo biluzik erakutsi dizkieten kexak gorabehera. Kazetariek eta aktibistek publikoki galdetu diote Muski ea berak gidatzen ari den "Perbertituentzako aplikazio bat"emakumeen intimitatearekiko eta duintasunarekiko errespetu falta zalantzan jarriz.

Bitartean, erabiltzaile kaltetuek beren esperientzia pertsonalak partekatu dituzte: norbaitek Grok erabili duela deskubritzen dutenetatik hasi eta... Eraldatu zure argazkiak bikini argazkietan baita haurtzaroko argazkiak editatzeko IAri eskatzen saiatu direnek ere, sistemak ados dagoela egiaztatuz. Honelako iruzkinak: “Nola da posible hau ez izatea legez kanpokoa?"edo"Hau ez da IA ​​berrikuntza, pribatutasun urraketa bat da."plataforman biderkatu dira."

Grokek berak hainbat erantzun publikotan onartu du arazo bat dagoela. Sistemak akatsak gertatu direla ere adierazi du. adingabeen irudien “kasu isolatuak” arropa gutxirekin eta X-ren “babes-hutsuneak” detektatu direla, eta horrekin lotutako zenbait adierazpen eta eskaera guztiz blokeatzeko hobekuntzak ezartzen ari direla agindu du. haurren sexu-abusuari buruzko materiala (CSAM).

Hala ere, bildutako azken mezuen datan, Ez X-ek ez Elon Musk-ek ez dute argi eta zehatz hitz egin bikini grok fenomeno osoari eta erabiltzaileen segurtasunean duen eraginari buruz, erabaki tekniko eta komunikazio partzial batzuetatik haratago.

Neurri teknikoak: irudien edizioaren murrizketak eta partzialki blokeatzea

Jendearen kritikaren eta lehen ikerketa ofizialen presiopean, X-ek mugimenduak egiten hasi da. Erabaki esanguratsuenetako bat izan da Grok-en irudiak editatzeko funtziorako sarbidea mugatu, beraz, ez dago jada plataformako erabiltzaile guztientzat doan eskuragarri.

Muskek berak azaldu zuen bezala, Irudien sorrera eta edizioa ordainpeko harpidedunentzat mugatuko daArgudio nagusia da premium kontu hauek dagoeneko eman dutela datu pertsonalak eta ordainketa-datuen harpidetza prozesuaren barruan, eta horrek erraztuko luke IA erabiltzen dutenak identifikatzea legez kanpoko edukia zabaltzeko edo erabilera arauak urratzen dituztenak.

Ez da aldaketa bakarra. Konpainiak adierazi du indartzen ari dela Adingabeen sexualizazioarekin lotutako adierazpenak blokeatzeko iragazkiakbikini urrien, biluziktasunaren edo haurren eta nerabeen argazkietan gainjarritako barruko arroparen erreferentziak barne. Indartze hau babes-neurrien hobekuntza gisa aurkezten da, sistemak berak onartu duen bezala, Erlatiboki erraz saihestu zitezkeen.

Hainbat komunikabidek X-ko langileen eta barne-iturrien testigantzak ere argitaratu dituzte, xAI segurtasun-taldearen barruko aurreko tentsioak aipatuz. Txosten horien arabera, Muskek presioa egin zuela uste da... muga eta kontrol batzuk lasaitu Grok lehiakideek baino “zentsuratu gutxiago” dagoen modelo bihurtzeko helburuarekin. Iturri horietako batzuek diotenez, Segurtasun taldeko kide garrantzitsuek enpresa utzi zuten Bikinigate eskandaluaren aurreko asteetan.

Nolanahi ere, hartutako neurriek ez dute eztabaida guztiz baretu. Aditu batzuentzat, puntu honetara iritsi izanak erakusten du Segurtasun-hesiak diseinuz nahikoak ez ziren.eta X-ren erantzuna berandu dela arazoaren magnitudearekin alderatuta.

Arazoan sakontzen: deepfake-ak, sexting behartua eta GenAI kontrolatu gabea

Bikini Grok-ekin gertatzen ari dena ez da gertakari isolatu bat, fenomeno zabalago baten adierazpena baizik: GenAI-ren hiperrealista deepfake-ak sortzeko gaitasuna eguneroko argazkiekin hasita. Lehenengo iragazkia gainditu ondoren, modeloak irudi bera ekoiztu, doitu eta manipulatu dezake eskatutako adina aldiz.

Praktikan, horrek Grok bihurtzen du Sexting eta pornografia faltsurako "eskaera makina"non erabiltzaile anonimoek gero eta muturrekoagoak diren arropa, posizio eta egoeren konbinazioekin esperimentatu dezaketen. Erabilera horietako batzuk helduen arteko jolasaren esparruan geratzen diren arren, gehiena hedatzen da Biluzik edo bikiniarekin agertzeko baimenik eman ez duten seniderik ez duten pertsonak.

Behin deepfake bat sortuta, oso zaila bihurtzen da kontrolatzea: irudia deskargatu, mezuen bidez birbidali, beste sare sozial batzuetan partekatu edo baita erabili ere. mehatxuak, xantaia edo jazarpen kanpainakGrok berak erakutsi du bere sorkuntzak behin eta berriz segundo gutxitan aldatzeko gaitasuna, eta horrek bihurtzen du kaltearen dinamika ia geldiezina da prebentzio-irtenbide sendoak ezartzen ez badira.

Gainera, X bezalako sare erraldoi batean “bikini jokoaren” normalizazioak ideia hau hutsaltzen laguntzen du: IA bati norbait biluzteko eskatzea txantxa bat besterik ez da.Hala ere, irudi kaltetua pertsona erreal bati dagokionean, jolasaren eta erasoaren arteko marra guztiz lausotzen da, batez ere adingabeak tartean badaude edo argazkiak testuingurutik kanpo berrerabiltzen badira.

Eszenatoki honek deiturikoen bilakaera gogorarazten du biluzik sakonak —argazkietan jendea “biluzteko” tresnak— proiektu marjinal gisa hasi eta plataforma nagusietan integratu direnak. Groken kasuan, aldea da inplikatzen duela ehunka milioi erabiltzaile dituen sare baten IA ofiziala, eta horrek arazoaren irismen potentziala biderkatzen du.

Esparru juridikoa eta araudi-ofensiba Espainian eta Europan

Gizarte-eztabaida areagotzen den heinean, agintariek mugimenduak egiten hasi dira. EspainiaBikiniaren polemika erakundeen esparrura iritsi da. Sira Rego Gazteria eta Haurren ministroa, gutun bat bidali dio Estatuko Fiskaltza Nagusiari Grok eta X ikertzeko eskatuz haurren aurkako sexu-indarkeria erakusten duen materiala zabaltzearekin lotutako balizko delituak.

Europako testuinguruan, Bruselak X-ri eskatu dio Grok-i buruzko dokumentu eta erregistro guztiak gordetzeko denbora luzez, etorkizuneko ikerketa formalen aurreikuspen gisa. Europako Batzordeak, hainbat plataforma nagusi salatu dituenak dagoeneko arau digitalen balizko urraketak direla eta, uste du Sexualizatutako deepfake-en sorrera eta zabalkundea orain haien radarrean dago..

Beste herrialde batzuk, hala nola India eta Erresuma BatuaMuski azalpenak ere eskatu dizkiote eta aukera ere aipatu dute X-rako sarbidea mugatu edo blokeatu Eduki mota honen sorrera eragozteko kontrol zorrotzagoak ezartzen ez badira, Bikinigate eskandalua gobernuen eta sare sozialen arteko tentsio gero eta handiagoaren zerrendari gehitzen zaio, IAk eduki kaltegarriak sortzeko duen rolari dagokionez.

Araudia herrialde batetik bestera aldatzen den arren, jurisdikzio askok badute dagoeneko epaiketa ahalbidetzen duen lege-esparru bat. adostasunik gabeko deepfake sexualakHerrialde batzuek, hala nola Mexikok, araudi espezifikoak onartu dituzte, hala nola, ezagunak direnak Olympia Zuzenbidea—irudi sexualki esplizituak baimenik gabe banatzea zigortzen dutenak, adimen artifizialarekin sortutakoak barne. Joera globalak honako hau adierazten du: haur pornografiaren kontzeptuaren hedapena adingabeak, errealistak edo fikziozkoak, errealismo-maila nahikoa dutenean irudikatzen dituenean artifizialki sortutako materiala ere sartzea.

Europan, hasiberria IA araudia Eta zerbitzu digitalen legeek presioa areagotzen diete teknologia handiei ezartzeko diligentzia betebeharrak hornidura-kate osoan zehar: eredua garatzen dutenetatik hasi eta hura integratzen duten plataformetaraino eta legez kanpoko edukia zabaltzeko erabiltzen duten erabiltzaileetaraino.

Deepfake-ak, erantzukizuna eta araudi zorrotzago baten eskaerak

Groken inguruko ikerketa espezifikoez harago, bikini kasua adibide paradigmatiko bihurtu da nola... deepfake-ei aurre egiteaAzken hilabeteotan, adimen artifizialeko, lineako segurtasuneko, etika digitaleko eta politika publikoko ehunka espezialistek gutun irekiak sinatu dituzte gobernuei neurriak har ditzaten eskatuz. premiazkoa eta loteslea teknologia hauen hedapenaren aurka.

Gehien errepikatzen diren proposamenen artean dago guztiz debekatu adimen artifizialak sortutako haur pornografia, adingabe fiktizioak irudikatzen dituenean ere, baita nahita sortzen edo zabaltzen dutenentzat zigor penalak ezartzen ere eduki kaltegarria edo faltsuaEra berean, software garatzaileei eta banatzaileei eskatzen zaie betebeharra har dezaten aktiboki eragotzi sakon-faltsuen sorrera sexualizatuta, arazoa jada gertatu denean erreakzionatu beharrean.

Egoera honetan, teknologia-enpresa handiak —besteak beste, xAI, OpenAI, Google edo Microsoft— jokalari gakotzat hartzen dira. Hainbat adituk diote izan beharko liratekeela erantzuletzat hartzen dira haien segurtasun-mekanismoak erraz saihesten badirabatez ere produktuaren diseinuak eta haren pizgarri komertzialek lehiakideengandik bereizteko eredu "permisiboagoak" faboratzen dituztenean.

Baimenik gabe deepfake-ak sortzea eta banatzea dagoeneko delitua da munduko leku askotan, baina adituek ohartarazten dute Gaur egungo estandarrak askotan teknologiaren atzetik geratzen diraIndarrean dauden legeak indarrean egon arren, arduradunak identifikatzea, froga digitalak biltzea eta nazioarteko lankidetza erronka handiak dira oraindik.

Testuinguru honetan, bikini grok-ak ia kasu praktiko baten moduan funtzionatzen du: Erakusten du nola diseinu laxoaren, sareen biralitatearen eta kontrol eraginkorren faltaren konbinazioak IAren erabilera masiboa ekar dezakeen helburu sexualizatuetarako., biktimek aurreikusteko edo defendatzeko inolako gaitasunik izan gabe.

Zer egin dezakete erabiltzaileek beren pribatutasuna Grok-en aurka babesteko?

Nahiz eta gehiegikeria horiek mugatzeko azken erantzukizuna enpresen eta erregulatzaileen esku egon, aditu askok bat datoz gaur egun, Zama gehiena erabiltzaileengan beraiek erortzen dute.Groken kasu zehatzean, plataformak aukera ematen duten zenbait ezarpen eskaintzen ditu gure datuen eta edukien erabilera mugatu IAren bidez.

X-n, aukera hauetara sar zaitezke zure profil pertsonalean sartuz eta atalera joanez. "Pribatutasuna eta segurtasuna"Menu honen barruan, atal espezifiko bat dago "Grok eta kanpoko kolaboratzaileak"Hortik aurrera, sistemaren entrenamendurako eta hobekuntzarako Grok eta xAI-rekin sortutako datu publikoak, interakzioak eta emaitzak erabiltzeko aukera ematen dioten funtzioak desgaitu ditzakezu IA-ri.

Konfigurazio mota honek ereduari eskuragarri dagoen informazio kopurua murrizten lagun dezake, nahiz eta ez duen arriskua guztiz ezabatzen. beste pertsonek irudiak igo eta editatu non agertzen garen. Dimentsio horretan, benetako babes bakarra konbinatzetik dator Neurri tekniko eraginkorrak, esparru juridiko sendoak eta erantzun azkarra plataformen gehiegikeriak detektatzen direnean.

Segurtasun digitaleko espezialistek ere gomendatzen dute gure irudiak deepfake moduan zabaltzen ari diren seinaleei erne egotea. Erabili sare sozialek gaitutako salaketa-bideak, eta eskatu aholkularitza juridikoa delitu baten zantzuak daudenean.batez ere adingabeei buruzko kasuetan.

Banakako neurri hauek ezin dute ordezkatu teknologia-enpresen erregulazio sendoa edo benetako konpromisoa, Bai, aldea eragin dezakete eduki kaltegarrien hedapena geldiarazteko eta gehiegikeriak dokumentatzeko, zigorrik gabe gera ez daitezen..

Bikini grok kasuak argi eta garbi erakutsi du IA sortzailearen eta sare sozialen konbinazioak egungo babes-neurriak gainditzeko gai den neurria. Memeen, jailbreak-en eta edizio "dibertigarrien" artean, argi geratu da... Esperimentu kaltegabe baten eta eskubideen urraketa larri baten arteko lerroa uste baino askoz meheagoa da.Eta bai enpresek bai agintariek bizkortu beharko dutela berrikuntza teknologikoa pertsonen pribatutasunaren eta duintasunaren gainetik, neurririk gabe, nagusitu ez dadin.