- Grok AI-k, xAI-tik datorren eta X-rekin lotuta dagoenak, emakumeen eta adingabeen irudi sexualizatuak sortzea ahalbidetu du iragazki eraginkorrik gabe.
- Ofcomek X ikertzen ari da Online Segurtasun Legearen balizko urraketak direla eta, eta zigor handiak ezar ditzake.
- Indonesiak Grok aldi baterako blokeatu du, eta beste herrialde batzuek, hala nola Frantziak, Indiak eta Espainiak, beren agintariak aktibatu dituzte.
- xAI-k Grok-en irudi funtzioa X-en ordainpeko erabiltzaileetara mugatu du, baina aplikazio independentea martxan jarraitzen du.
Adimen artifizialaren tresna Grok AI, xAI-k garatua eta X sare sozialera lotutanazioarteko eztabaida biziaren erdigune bihurtu da agerian geratu ondoren Pertsonen irudi manipulatuak sortzea ahalbidetzen zuen, haur eta nerabeak barne, eduki sexualizatu nabarmenarekin.Irudiak sortzeko funtzio kaltegabe gisa hasi zena, nahasten dituen arazo bihurtu da haurren babesa, plataformaren erantzukizuna eta adimen artifizialaren monitorizazioa eta Adimen artifizialak sortutako edukien kudeaketa.
Aste gutxiren buruan, kasua sare sozialetatik Europako eta munduko beste leku batzuetako erregulatzaileen eta fiskalen bulegoetara igaro da. Gobernuek, datuen babeserako agintariek eta lineako segurtasun agentziek Grok AI-k adingabeekin lotutako eskaerak nola kudeatzen dituen aztertu dute. eta zer neurritan eman ditu X-k benetako urratsak tresna haurren sexu-abusu delituen definizioan sartuko litzatekeen materiala sortu eta zabaltzeko erabiltzea saihesteko edo irudi intimoak baimenik gabe zabaltzea.
Iragazki eraginkorren falta eta irudi sexualizatuen sorrera
Kezka izugarri handitu zenean Adimen artifizialeko adituek eta erakunde espezializatuek detektatu zuten Grok-ek iragazki sendoak ez zituela. erabiltzaileek manipulatutako irudiak eska ez ditzaten irudiak sortzeko tresnak arropa gutxirekin edo guztiz biluzik zeuden pertsonen artean. Gabezia tekniko honek X-n zirkulatzea ahalbidetu zien Milaka irudi iradokitzaile eta sexualizatu, horietako asko benetako argazkietan oinarrituta., non emakume helduak zein adingabe itxura zuten pertsonak ager zitezkeen.
AI Forensics-ek prestatutako txosten batek, urtarrilaren hasieran argitaratuak, ordura arte susmatu baina kuantifikatu gabe zegoen fenomeno bati zifrak eman zizkion. Analisiaren arabera, Grokek sortutako irudien % 53 inguruk arropa gutxi zeramaten pertsonak erakusten zituzten.Hau da, testuinguru sexualetan edo oso erotikoetan. Talde horren barruan, % 81 emakumeak ziren eta % 2 inguru 18 urte edo gutxiago ziruditen pertsonak, eta horrek Honek berriro pizten du beldurra tresnak haurren sexu-abusutzat edo haren erraztetzat har daitekeen materiala sortzen lagun dezakeelakoan..
Dokumentu berak beste faktore kezkagarri baten berri ere eman zuen: Identifikatutako irudien % 6 inguruk pertsonaia publikoak zituzten.Puntu honek beste fronte bat irekitzen du, honekin lotuta pertsona ezagunen sexu-eduki faltsuaren sorreraHorrek ez ditu soilik haien pribatutasuna eta ospea urratzen, baizik eta indarkeria eta jazarpen digitalaren ereduak indartu ditzake, eta horiek bereziki kaltegarriak dira material hau kontsumitzen edo partekatzen duten haur eta nerabeentzat.
Erresuma Batua: Ofcomek ikerketa formal bat ireki du X eta Grok AIren aurka
Europan, orain arteko mugimendu erabakigarriena Erresuma Batutik etorri da. Lineako komunikazioen eta segurtasunaren erregulatzaileak, Ofcomek X-ri buruzko ikerketa formal bat ireki duela iragarri du. plataformak Online Segurtasun Legeak ezarritako betebeharrak bete dituen ala ez zehazteko. Lege honek zerbitzu digital handiei eskatzen die... Arriskuak identifikatu, prebentzio neurriak hartu eta erabiltzaileak legez kanpoko edukietatik babestu, arreta berezia jarriz haurren sexu-abusuari.
Ikerketa Ofcomek jaso ondoren hasi zen. X-ko Grok AI kontu ofizialera zuzenean zuzendutako kexakSalaketa horien arabera, ustez IA erabili zen sortu eta zabaltzeko Biluzik dauden edo jarrera sexualizatuetan dauden pertsonen irudiak, haien baimenik gabe.birsortutako gizabanakoek haurren antza zuten ustezko kasuak barne. Erregulatzaileak informazio hau "oso kezkagarria" dela esan du eta onartu du eraginpean egon daitekeela irudi intimoen eta haurren sexu-abusuen materialaren gehiegizko erabilera.
Ofcomek premiaz jarri zen harremanetan X-rekin urtarrilaren 5ean eta Urtarrilaren 9ra arteko epea eman zuen ezarri zituen neurriak xehatzeko. Britainiar lurraldeko erabiltzaileak eduki mota horretatik babesteko. Enpresaren erantzuna aztertu ondoren, agentziak hurrengo urratsa ematea erabaki zuen eta Ireki ikerketa sakon bat X-k Grok AI sartzerakoan arriskuak behar bezala ebaluatu zituen zehazteko., arrisku horiek arintzeko mekanismo eraginkorrak ezarri ote zituen eta kaltetutako pertsonen pribatutasuna eta eskubideak babestu ote zituen.
Arau-hausteak baieztatzen badira, Ofcomek zigor sorta bat du, abisu soil bat baino haratago doazena. Erregulatzaileak 18 milioi libera esterlina edo enpresaren mundu mailako fakturazioaren % 10erainoko isunak ezar ditzake., X bezalako plataforma handien kasuan bereziki altua izan daitekeen kopuru bat. Bereziki larritzat jotzen diren egoeretan, Ofcomek auzitegiei eska diezaieke ordainketa-hornitzaileei eta iragarleei beren zerbitzuak kentzeko agindua emateko. plataformaren edo operadoreek Erresuma Batuko sare sozialerako sarbidea blokeatzen dutela.
Bitartean, Erresuma Batuko Teknologia ministroak Liz Kendall-ek Parlamentuan agerraldia egingo duela iragarri du. X eta Grok AI-ri buruzko Gobernuaren jarrera azaltzeko. Esku-hartze politiko honek iradokitzen du, arauzko ikerketaz harago, Kasua adimen artifizialari ezarri behar zaizkion mugak eztabaida publikoan sartu da. neskentzat, mutilentzat eta nerabeentzat arriskua dagoenean.
Indonesiak Grok blokeatu du emakumeak eta haurrak babesteko
Grok AI-ren inguruko kezkak ez daude Europara mugatuta. Hego-ekialdeko Asiatik, Indonesiak urrats bereziki deigarria eman du Grok-erako sarbidea aldi baterako blokeatzeko aginduz.Komunikazio eta Gai Digitalen Ministerioak hartu zuen neurria, bere ikerketa propioaren ondoren, eta ondorioztatu zuen tresna izaera konpromezugarria zuten irudi manipulatuak sortzea ahalbidetzen ari zen, beste herrialde batzuetan alarma eragin zutenen antzekoak.
Ministerioaren adierazpen ofizialak azpimarratu zuen beharra emakumeak, haurrak eta, oro har, komunitate osoa babesteko adimen artifizialarekin sortutako irudien hedapenari erantzunez, irudi horiek pribatutasuna degradatu edo urratu dezaketelako. Komunikazio eta Digitalizazio ministroaren, Meutya Hafiden, hitzetan, Baimenik gabe irudi manipulatuak ekoiztea giza eskubideen, duintasun pertsonalaren eta herrialdearen segurtasun digitalaren urraketa larria da.Hori dela eta, Indonesiako agintariek azalpen argiak eskatu dizkiote X-ri Grok AI-ren funtzionamenduari eta gehiegikeriak saihesteko aplikatzen dituen kontrolei buruz.
Blokeoaren ondoren, Grokek mezu bat argitaratu du X-n eragozpenengatik barkamena eskatuz eta ziurtatuz beren taldeak erregulatzaileak identifikatutako arazoak konpontzeko lanean ari zirela. Barkamen publiko horiek gorabehera, Tresnaren babes-mekanismoen sendotasunari buruzko zalantzak oso presente daude oraindik.batez ere haurrak IAren balizko erabilera kriminal edo kaltegarrietatik babesteko orduan.
Erreakzioak Europan: Frantzia, India eta haurren babesean jarritako arreta
Kasuak oihartzun handia izan du beste herrialde batzuetan ere. Frantziako agintariek X-ren aurkako salaketak aurkeztu dituzte fiskaltzaren bulegoan eta hainbat erakunde arautzailetan.Grok AI-rekin sortutako materiala "nabarmenki legez kanpokoa" dela deskribatu zuten. Salaketa hauek batez ere honetan oinarritzen dira: Emakumeen eta adingabeen irudi sexualizatuen ekoizpena eta hedapena, eta Europan denbora batez irekita dagoen eztabaida baten parte dira, pornografia faltsu sakonaren eta irudien baimenik gabeko ustiapenaren mugei buruz.
Europatik kanpo, baina ondorio globalekin, Indiak azalpenak eskatu dizkio Elon Musken enpresari ere. Grok AI-ren funtzionamenduagatik. Indiako eskaeren xehetasunak ez dira guztiz publiko egin, nahiz eta Agintariek argi utzi dute tresnak adingabeei eragiten dien sexu-edukien sorrera edo banaketa errazten ez duela bermatzen dutela.Puntu bereziki sentikorra da lineako segurtasun legeak indartu nahi dituen edozein herrialderentzat.
Espainiak haurren aurkako balizko delituetan arreta jartzen du
Europako testuinguruan, Espainiako erantzuna oso zehatzki haurren eta nerabeen babesean zentratu da. Sira Rego Gazteria eta Haurtzaro ministroak gutun bat bidali dio Estatuko Fiskaltza Nagusiari Grok AI-k zerbaitetan parte hartzen ari den ala ez ikertzeko eskaera egitea adingabeen aurkako sexu-indarkeriazko materiala zabaltzearekin lotutako delituakKezka nagusia da tresnak haur eta nerabeei eragiten dieten irudi manipulatuen sorrera eta zirkulazioa erraztu edo anplifikatu dezakeela.
Ministerioak ulertzen du praktika mota hauek Adingabeen duintasuna, intimitatea eta oinarrizko eskubideak larriki urratzen ditu. ingurune digitalean. Gainera, gogoratu barruan sailka daitezkeela haur pornografia delituak eta osotasun moralaren aurkako delituakDelitu hauek Espainiako Zigor Kodean jasotzen dira. Beraz, beharrezkotzat jotzen da argitzea ea erantzukizun penalik dagoen, bai eduki horiek sortu eta banatzen dituztenen aldetik, bai, hala badagokio, baimendu edo behar adina arduraz eragozten ez duten plataformen eta enpresen aldetik.
Ekimen hau Espainiako haurren babeserako agenda zabalagoaren parte da, non Adimen artifizialaren tresnek hezkuntzan, aisialdi digitalean eta haurren eta nerabeen identitatearen eraikuntzan izan dezaketen eragina gero eta intentsitate handiagoarekin eztabaidatzen ari da. adingabeak babesteko neurriak ingurune digitaletan.Testuinguru honetan, Grok AI kasua adibide praktiko gisa balio izan du teknologia segurtasun-mekanismo egokirik gabe zabaltzen denean sortzen diren arrisku espezifikoen adibide.
xAIren mugak eta bere eraginkortasunari buruzko zalantzak
Araudi eta hedabideen presioari aurre eginez, xAI-k Grok-en irudiak sortzeko funtzioaren erabilgarritasunean aldaketak sartuz erantzun du. X plataformaren barruan. Enpresak erabaki du Mugatu funtzio hori ordainpeko harpidedunentzat soilik.Argudioa da horrek erabilera okerraren arriskua murrizten duela eta funtzio aurreratu hauetara sartzen diren kontuen jarraipena errazten duela.
Hala ere, neurri hau eszeptizismoz hartu dute haurren eskubide digitalak defendatzeko dedikatzen diren adituek eta erakundeek. Grok-en aplikazio autonomoak, X-tik kanpo exekutatzen denak, harpidetzarik gabe irudiak sortzeko aukera ematen jarraitzen du.Horrek atea zabalik uzten du arazo berdinak beste ingurune batzuetan gerta daitezen. Analista askorentzat, Tresna ordainpeko erabiltzaileetara mugatzeak ez du berez bermatzen adingabeen irudi sexualizatuak sortzea eta partekatzea geldituko denik., iragazki tekniko aurreratuekin, moderazio talde ondo hornituekin eta erantzukizun argiekin batera ez badator behintzat.
Gaur egungo egoerak dilema delikatua aurkezten du: Nola uztartu adimen artifizialeko berrikuntza adingabeak babesteko betebehar legal eta etikoarekinGrok AIren kasu zehatzean, Europako eta beste estatu batzuetako erregulatzaileek eskatzera jotzen dutela dirudi inpaktu-ebaluazio integralagoak, auditoria independenteak eta legez kanpoko edukia detektatzeko sistema askoz zorrotzagoak teknologia hauek eguneroko bizitzan guztiz integratzea baimendu aurretik.
Erresuma Batuan irekitako ikerketak, Frantzian egindako salaketak, Indian egindako ekintzak, Indonesiako blokeoa eta Espainian hartutako neurriak kontuan hartuta, Grok AI tresna bat nazioarteko azterketapean jarri den lehenengo kasu garrantzitsuenetako bat izan da, haurrengan izan dezakeen eraginagatik.Hemendik aurrera gertatzen denak etorkizuneko belaunaldietako adimen artifizialeko sistemen diseinua, monitorizazioa eta arautzea baldintzatuko du, ziurrenik.
Bere "geek" interesak lanbide bihurtu dituen teknologia zalea naiz. Nire bizitzako 10 urte baino gehiago eman ditut punta-puntako teknologia erabiltzen eta era guztietako programak moldatzen jakin-min hutsagatik. Orain informatikako teknologian eta bideo-jokoetan espezializatu naiz. Izan ere, 5 urte baino gehiago daramatzadala teknologia eta bideo-jokoen inguruko hainbat webgunetan idazten, denontzat ulergarria den hizkuntza batean behar duzun informazioa eman nahi duten artikuluak sortzen.
Zalantzarik baduzu, nire ezagutza Windows sistema eragilearekin zerikusia duen guztia eta baita telefono mugikorretarako Android ere barne hartzen du. Eta nire konpromisoa zurekin da, beti prest nago minutu batzuk pasatzeko eta Interneteko mundu honetan izan ditzakezun zalantzak konpontzen laguntzeko.