Ewòp ap ogmante presyon li sou X poutèt Grok ak deepfake seksyèl yo.

Inyon Ewopeyen an deside fè yon lòt pa nan konfwontasyon li ak gwo teknoloji yo epi li konsantre dirèkteman sou Grok, zouti entèlijans atifisyèl entegre nan X la, ansyen Twitter. Enstitisyon kominotè yo sispèk ke deplwaman li sou platfòm nan pa te fèt avèk garanti nesesè yo epi ke kreyasyon ak difizyon an mas nan imaj fanm ak timoun ki te manipile ak seksyalize, nan anpil ka san okenn konsantman.

Nouvo ankèt fòmèl sa a ankadre nan kad la Règleman Sèvis Dijital (DSA)Règleman ki gouvène kijan gwo platfòm yo dwe jere risk ki asosye ak sèvis yo. Briksèl vle klarifye si X te evalye danje Grok yo twò bonè epi li te aplike mezi efikas pou diminye yo, oubyen, okontrè, te trete dwa sitwayen Ewopeyen yo kòm domaj kolateral angajman li anvè entèlijans atifisyèl.

Sou kisa egzakteman Komisyon Ewopeyen an ap mennen ankèt la?

Ankèt Komisyon Ewopeyen an louvri a konsantre sou detèmine si X te fè yon evalyasyon risk espesifik Anvan lanse epi elaji fonksyonalite Grok yo nan Inyon Ewopeyen an, DSA a egzije pou gwo platfòm yo analize kijan sistèm yo ta ka afekte sekirite, pwoteksyon minè yo, byennèt fizik ak mantal itilizatè yo, oswa difizyon kontni ilegal.

Nan ka Grok la, atansyon an se sou jenerasyon otomatik imaj seksyèlman eksplisitespesyalman sa yo ki afekte moun reyèl, ki gen ladan minè. Yon ankèt ap fèt pou wè si zouti IA X yo pèmèt kreyasyon ak pataj deepfakes kote figi reyèl yo sipèpoze sou kò toutouni oswa yo mete nan sitiyasyon seksyèl, yon pratik ki ka konstitye materyèl abi seksyèl sou timoun lè viktim yo se timoun oswa adolesan.

Briksèl deside tou pou pwolonje ankèt li te deja louvri an Desanm 2023 sou sistèm nan. Rekòmandasyon kontni XKonpayi an te anonse ke li pral entegre Grok nan algorithm sa a, pou IA ka enfliyanse dirèkteman ki piblikasyon chak itilizatè wè, sa ki soulve nouvo kesyon sou jesyon dezenfòmasyon, diskou rayisman ak lòt risk sistemik.

Selon sous kominotè yo, Domaj potansyèl yo pa ipotetik ankòKomisyon an kenbe fèm ke risk yo konkretize, sa ki ekspoze sitwayen Inyon Ewopeyen yo a konsekans grav pou byennèt fizik ak mantal yo. Pou rezon sa a menm, ka a pral gen priyorite, byenke san yon kalandriye fiks.

Deepfakes seksyèl ak abi sou timoun: deklanchè a

Orijin imedya ofansiv ewopeyèn sa a se nan vag la deepfakes seksyèl ki pa konsantman Jenere avèk Grok. Plizyè etid ak òganizasyon te avèti sou plizyè milyon imaj manipile ki kreye nan jis kèk jou apati foto reyèl, ak yon enpak patikilye sou fanm ak minè. Gen kèk rapò ki mansyone plizyè milyon imaj seksyalize ki te pwodui nan jis de semèn, plizyè dizèn milye ladan yo ta afekte timoun yo.

Fenomèn sa a pa limite a Inyon Ewopeyen an sèlman, men li te gen yon enpak patikilyèman fò an Ewòp akòz konsyantizasyon k ap grandi sou pwoteksyon timoun ak vyolans dijital ki baze sou sèks. Prezidan Komisyon an, Ursula von der LeyenLi te menm rive di ke Inyon Ewopeyen an pap "eksternalize pwoteksyon timoun" bay Silisyòm Valley e ke, si platfòm yo pa aji poukont yo, Otorite Ewopeyen yo pral entèveni.

Menm jan an tou, Vis Prezidan Egzekitif pou Souverènte Teknolojik, Sekirite ak Demokrasi, Henna VirkkunenLi dekri deepfakes sa yo kòm yon "fòm degradasyon vyolan e inakseptab." Mesaj li a klè: yo vle konnen si X respekte obligasyon DSA a oswa si li konsidere dwa fanm ak timoun yo kòm segondè parapò ak devlopman Grok.

Sa a se pa premye ensidan kontwovèsyal ki enplike entèlijans atifisyèl sa a. Kèk semèn anvan, Grok te deja resevwa kritik pou kontni ki te minimize oswa blanchi Olokòs laSa a ranfòse lide a nan Briksèl ke X pa evalye byen risk teknoloji li enkòpore nan platfòm li a.

Obligasyon X anba Lwa sou Sèvis Dijital yo

Kad ki gide aksyon Briksèl yo se Règleman Sèvis Dijital yoRègleman an fikse règ espesifik pou sa yo rele "trè gwo platfòm sou entènèt," yon kategori X ki tonbe ladan l apre yo fin depase papòt itilizatè an Ewòp. Konpayi sa yo dwe idantifye epi adrese risk sistemik yo, soti nan dezenfòmasyon rive nan... difizyon kontni ilegal ak vyolans sou sèks.

Pami lòt bagay, DSA a egzije pou, anvan yo lanse nouvo fonksyonalite ki ta ka chanje pwofil risk yon sèvis anpil, platfòm nan devlope yon rapò evalyasyon risk epi detaye ki mezi li pral aplike pou diminye yo. Nan ka sa a, Komisyon an te bay X lòd pou konsève epi remèt tout dokiman entèn ki gen rapò ak Grok, soti nan tès teknik rive nan desizyon konsepsyon.

Otorite Ewopeyen yo fè remake tou ke responsablite pou kontni ilegal sou entènèt pa sèlman sou moun ki kreye li yo. Dapre entèpretasyon ekspè legal ki espesyalize nan dwa dijital, tankou Pwofesè Borja AdsuaraPlatfòm yo kounye a oblije retire materyèl sa a. anpeche pwopagasyon repete li yon fwa yo vin okouran de egzistans yo, sitou lè yo afekte minè.

Briksèl sispèk ke X te kapab aktive epi elaji kapasite Grok yo san yon evalyasyon risk espesifik alavans, epi ke baryè teknik yo te entwodui apre kritik inisyal la pa t sifi. Anfèt, plizyè medya Ewopeyen konfime ke, menm apre konpayi an te anonse nouvo limitasyon, Li te toujou relativman fasil pou kontoune filtè yo epi jenere imaj seksyalize ak zouti a.

Sanksyon ak mezi pwovizwa posib yo

Ankèt Grok louvri kont X la pa yon avètisman senbolik. DSA a pèmèt Komisyon Ewopeyen an enpoze. amann ki rive jiska 6% nan total woulman mondyal anyèl la Nan ka ki pi grav yo, pèt konpayi an enpòtan. Nan yon biznis ki gen revni nan santèn oswa milya, chif yo ogmante anpil, epi enpak la ale pi lwen pase senp depans finansye.

An paralèl, règleman an prevwa sanksyon entèmedyè ak posiblite pou adopte mezi pwovizwa yo Si yo detekte risk grav anvan ankèt la fini, Briksèl ka bay lòd pou limite oswa menm sispann sèten fonksyonalite Grok nan X, oswa egzije. chanjman teknik ijan nan filtè ak pwoteksyon yo nan zouti IA a pou diminye potansyèl danjere li.

Komisyon an te deja demontre volonte li pou itilize pouvwa sanksyon li yo lè, nan mwa desanm, li te enpoze yon amann sou X. yon amann 120 milyon ero pou twa rezon prensipal: mank transparans nan piblisite, konsepsyon twonpe mak verifikasyon ble a, ak bloke aksè chèchè yo a done piblik yo. Penalite sa a te pwoche pi gwo nivo DSA a te pèmèt pou vyolasyon sa yo epi li te vin tounen yon Avi pou tout sektè a.

Nan ka espesifik Grok la, si Komisyon an etabli vyolasyon grav ki repete, kad legal Ewopeyen an pèmèt plis aksyon. Nan sitiyasyon ekstrèm, yo prevwa mezi tankou sa ki annapre yo: Sispansyon tanporè sèvis nan teritwa kominotè aSa ka enplike bloke sèten fonksyon X oubyen, finalman, yon fèmen sistèm nan nèt si vyolasyon yo akimile epi konpayi an refize korije yo.

Repons X ak presyon entènasyonal la

Soti nan konpayi ki dirije a Elon MuskPozisyon ofisyèl la se te ensiste ke responsablite pou imaj ki pwodui yo se responsablite itilizatè ki kreye yo epi distribye yo. X kenbe fèm ke li gen yon politik... Tolerans zewo pou eksplwatasyon seksyèl timoun ak nidite san konsantman, epi ke li ap entwodui ajisteman nan Grok pou limite jenerasyon kontni sansib.

Nan yon deklarasyon resan, Konpayi an te deklare ke li p ap pèmèt itilizatè yo montre moun reyèl nan bikini, kilòt oswa lòt rad ki patikilyèman revele bagay yo ankò.omwen kote yon pratik konsa ka ilegal. Sepandan, regilatè Ewopeyen yo konsidere mezi sa yo kòm rive twò ta e yo pa sifi, e ke Pa t gen okenn prevansyon adekwamen pito yon reyaksyon a kontwovès piblik la.

Kontwovès ki antoure Grok la te rezone deyò Inyon Ewopeyen an. Malezi ak Endonezi Yo menm rive bloke aksè a sèvis imaj la akòz inondasyon plent sou deepfakes seksyèl.Sepandan, nan yon ka, restriksyon an te leve apre X te pwomèt nouvo pwoteksyon. Gen lòt peyi, tankou Itali, Yo pran aksyon kont aplikasyon ki espesyalize nan rad toutouni sentetik.ak nan Etazini ak Lachin louvri dosye legal kont konpayi ki gen modèl biznis ki baze sou kalite kontni sa a.

An Ewòp, anplis aksyon Inyon Ewopeyen an, gen kèk gouvènman nasyonal ki te pran mezi. Gouvènman franse a te rapòte X nan tribinal yo poutèt imaj fanm ak minè toutouni Grok te pwodui yo, pandan Espay te ankouraje yon pwojè lwa preliminè pou refòme lalwa sou dwa pou onè, vi prive ak pwòp imaj yon moun, ki enkòpore "ultra-impersonasyon" ak entèlijans atifisyèl kòm yon fòm espesifik vilnerabilite lè l sèvi avèk deepfakes.

Yon ka kle nan règleman IA jeneratif la

Anplis batay legal imedya a, ka kont Grok la vin tounen yon ka referans sou kijan pou aplike DSA a rive nan entèlijans atifisyèl jeneratif lè yo entegre l nan gwo platfòm sou entènèt. Kontrèman ak lòt sèvis IA endepandan, isit la zouti a nan kè yon rezo sosyal ki gen plizyè dizèn milyon itilizatè an Ewòp, epi repons li yo gaye prèske enstantane.

Regilatè Ewopeyen yo te fè li klè ke ankèt la konsantre sou itilizasyon Grok la. nan XPa sou sit entènèt endepandan an oswa lòt aplikasyon xAI, konpayi IA Musk la. Sa a se paske DSA a aplike espesyalman pou platfòm ki rive jwenn plis pase 10% nan popilasyon kominote a, yon papòt ke xAI depase fasilman.

An pratik, Komisyon an ap eseye klarifye limit obligasyon platfòm yo genyen pou kontwole epi reamenaje sistèm yo lè yo pwouve ke yo ankouraje difizyon kontni ilegal oswa danjereKesyon an se pa sèlman si X te retire sèten imaj apre li te resevwa avètisman, men si li te konfigire Grok ak zouti rekòmandasyon li yo yon fason responsab depi nan kòmansman.

Ankèt la kwaze tou ak deba transatlantik sou règleman dijital la. Kritik sou règleman Ewopeyen yo soti Washington, kote yo akize DSA a de limite libète ekspresyon epi penalize konpayi ameriken yoBriksèl reponn ke libète ekspresyon pa ka sèvi kòm yon pwoteksyon pou tolere eksplwatasyon seksyèl minè, vyolans ki baze sou sèks, oswa manipilasyon masif opinyon piblik la.

Pandan X ap eseye demontre ke l ap korije chemen an epi ke Grok ka opere an konfòmite avèk lejislasyon Ewopeyen an, enstitisyon Inyon Ewopeyen yo ap avanse ak yon ka ki ta ka make yon pwen enpòtan nan fason... konbinezon rezo sosyal ak modèl IA jeneratifSa ki deside nan ka sa a pa pral sèlman detèmine avni Grok an Ewòp, men tou. Sa pral voye yon mesaj klè bay rès gwo platfòm yo sou nivo responsablite yo atann de yo. lè yo rann kalite zouti sa yo disponib pou plizyè milyon moun.