Grok AI lovede kreativitet i X. Nu står den over for undersøgelser for et langt mere alvorligt problem.

Værktøjet til kunstig intelligens Grok AI, udviklet af xAI og knyttet til det sociale netværk Xer blevet centrum for en intens international debat, efter at det blev afsløret, at Det tillod skabelsen af ​​manipulerede billeder af mennesker, herunder børn og teenagere, med et udpræget seksuelt indhold.Det, der startede som en tilsyneladende harmløs billedgenereringsfunktion, har udviklet sig til et problem, der blander sig børnebeskyttelse, platformansvar og overvågning af kunstig intelligens og AI-genereret indholdsstyring.

På få uger er sagen gået fra sociale medier til kontorer hos tilsynsmyndigheder og anklagemyndigheder i Europa og andre dele af verden. Regeringer, databeskyttelsesmyndigheder og online sikkerhedsagenturer har fokuseret på, hvordan Grok AI håndterer anmodninger relateret til mindreårige. og i hvilken grad X har taget reelle skridt til at at forhindre, at værktøjet bruges til at generere og formidle materiale, der kunne passe til definitionen af ​​seksuelt misbrug af børn eller formidling af intime billeder uden samtykke.

Mangel på effektive filtre og generering af seksualiserede billeder

Bekymringen steg voldsomt, da Eksperter i kunstig intelligens og specialiserede organisationer opdagede, at Grok manglede robuste filtre. for at forhindre brugere i at anmode om manipulerede billeder med værktøjer til billedgenerering af letpåklædte eller helt nøgne mennesker. Denne tekniske mangel tillod dem at bevæge sig i X Tusindvis af suggestive og seksualiserede billeder, mange af dem baseret på rigtige fotos, hvor både voksne kvinder og personer, der så ud til at være mindreårige, kunne optræde.

En rapport udarbejdet af AI Forensics, offentliggjort i begyndelsen af ​​januar, satte tal på et fænomen, der indtil da havde været mistænkt, men ikke kvantificeret. Ifølge denne analyse viste cirka 53% af de billeder, der blev genereret af Grok, personer iført lidt tøj.Det vil sige i seksuelle eller meget erotiske sammenhænge. Inden for denne gruppe var 81 % kvinder, og omkring 2 % var personer, der så ud til at være 18 år eller yngre, hvilket Dette genopliver frygten for, at værktøjet kan bidrage til skabelsen af ​​materiale, der kan betragtes som seksuelt misbrug af børn eller fremme heraf..

Det samme dokument advarede også om en anden bekymrende faktor: Omkring 6% af de identificerede billeder involverede offentlige personerDette punkt åbner en anden front, relateret til skabelse af falsk seksuelt indhold af kendte personerDette krænker ikke blot deres privatliv og omdømme, men kan også forstærke mønstre af vold og digital chikane, der er særligt skadelige for børn og unge, der forbruger eller deler dette materiale.

Storbritannien: Ofcom indleder formel undersøgelse af X og Grok AI

I Europa er det hidtil mest afgørende skridt kommet fra Storbritannien. Regulatoren for online kommunikation og sikkerhed, Ofcom har annonceret åbningen af ​​en formel undersøgelse af X for at afgøre, om platformen har overholdt de forpligtelser, der er pålagt den i henhold til Online Safety Act. Denne lovgivning kræver, at store digitale tjenester... Identificer risici, indfør forebyggende foranstaltninger og beskyt brugere mod ulovligt indhold, med særlig vægt på seksuelt misbrug af børn.

Undersøgelsen begyndte efter Ofcom modtog klager, der pegede direkte på den officielle Grok AI-konto på XIfølge disse påstande blev AI angiveligt brugt til at skabe og sprede Billeder af nøgne mennesker eller personer i seksualiserede positurer uden deres samtykkeherunder påståede tilfælde, hvor de genskabte individer lignede børn. Tilsynsmyndigheden har beskrevet disse oplysninger som "dybt bekymrende" og erkendt, at de kunne falde ind under misbrug af intime billeder og materiale med seksuelt misbrug af børn.

Ofcom kontaktede X akut den 5. januar, og Han gav en frist indtil 9. januar til at redegøre for, hvilke foranstaltninger han havde implementeret. for at beskytte brugere på britisk territorium mod denne type indhold. Efter at have analyseret virksomhedens svar besluttede agenturet at tage det næste skridt og Indled en grundig undersøgelse for at fastslå, om X tilstrækkeligt vurderede risiciene ved introduktionen af ​​Grok AI, om den implementerede effektive mekanismer til at afbøde disse risici, og om den beskyttede privatlivets fred og rettigheder for potentielt berørte personer.

Hvis brud bekræftes, har Ofcom en række sanktioner, der går ud over en simpel advarsel. Tilsynsmyndigheden kan pålægge bøder på op til 18 millioner pund sterling eller 10% af virksomhedens globale omsætning., et beløb der kan være særligt højt i tilfælde af store platforme som X. I situationer, der anses for særligt alvorlige, Ofcom kan endda anmode domstolene om at pålægge betalingsudbydere og annoncører at trække deres tjenester tilbage. af platformen eller at operatører blokerer adgangen til det sociale netværk i Storbritannien.

I mellemtiden, den britiske teknologiminister, Liz Kendall har annonceret, at hun vil møde op for Parlamentet. at forklare regeringens holdning vedrørende X og Grok AI. Denne politiske intervention antyder, at ud over den lovgivningsmæssige undersøgelse, Sagen har indgået i den offentlige debat om, hvilke grænser der bør pålægges kunstig intelligens. når der er en risiko for piger, drenge og unge.

Indonesien blokerer Grok for at beskytte kvinder og børn

Bekymringer omkring Grok AI er ikke begrænset til Europa. Fra Sydøstasien, Indonesien har taget et særligt slående skridt ved at beordre en midlertidig blokering af adgangen til GrokForanstaltningen blev vedtaget af Ministeriet for Kommunikation og Digitalisering efter dets egen undersøgelse, som konkluderede, at værktøjet tillod generering af manipulerede billeder af en kompromitterende karakter, svarende til dem, der havde skabt alarm i andre lande.

Ministeriets officielle udtalelse understregede behovet for at at beskytte kvinder, børn og generelt hele samfundet som reaktion på cirkulationen af ​​billeder skabt ved hjælp af kunstig intelligens, der kan være nedværdigende eller krænke privatlivets fred. Med ordene fra ministeren for kommunikation og digitalisering, Meutya Hafid, Produktion af manipulerede billeder uden samtykke udgør en alvorlig krænkelse af menneskerettighederne, personlig værdighed og landets digitale sikkerhed.Derfor har de indonesiske myndigheder krævet klare forklaringer fra X vedrørende driften af ​​Grok AI og de kontroller, den anvender for at forhindre misbrug.

Efter blokaden, Grok skrev en besked på X, hvori han undskyldte for ulejligheden. og forsikrede, at deres teams arbejdede på at løse de problemer, som tilsynsmyndigheden havde identificeret. Trods disse offentlige undskyldninger, Der er fortsat stor tvivl om robustheden af ​​værktøjets beskyttelsesmekanismer.især når det gælder om at beskytte børn mod potentiel kriminel eller skadelig brug af AI.

Reaktioner i Europa: Frankrig, Indien og fokus på børnebeskyttelse

Sagen har også fået stor genklang i andre lande. De franske myndigheder har indgivet klager mod X til anklagemyndigheden og forskellige tilsynsorganer.De beskrev materialet genereret med Grok AI som "åbenlyst ulovligt". Disse påstande fokuserer primært på produktion og formidling af seksualiserede billeder af kvinder og mindreårige, og de er en del af en debat, der har været åben i Europa i et stykke tid om grænserne for deepfake-pornografi og udnyttelse af billeder uden samtykke.

Uden for Europa, men med globale konsekvenser, Indien har også krævet forklaringer fra Elon Musks firma. på grund af driften af ​​Grok AI. Selvom detaljerne i de indiske anmodninger ikke er blevet fuldt ud offentliggjort, Myndighederne har gjort det klart, at de ønsker garantier for, at værktøjet ikke letter oprettelse eller distribution af seksuelt indhold, der påvirker mindreårige.Dette er et særligt følsomt punkt for ethvert land, der forsøger at styrke sine online sikkerhedslove.

Spanien fokuserer på potentielle forbrydelser mod børn

I europæisk sammenhæng har den spanske reaktion fokuseret meget specifikt på beskyttelse af børn og unge. Ministeren for unge og børn, Sira Rego, har sendt et brev til statsadvokatens kontor anmoder om en undersøgelse af, om Grok AI muligvis er involveret i forbrydelser relateret til spredning af materiale med seksuel vold mod mindreårigeDen største bekymring er, at værktøjet kan fremme eller forstærke skabelsen og cirkulationen af ​​manipulerede billeder, der påvirker børn og unge.

Ministeriet forstår, at denne type praksis Det krænker alvorligt mindreåriges værdighed, privatliv og grundlæggende rettigheder. i det digitale miljø. Husk desuden, at de kan klassificeres inden for børnepornografiforbrydelser og forbrydelser mod moralsk integritetDisse lovovertrædelser er omfattet af den spanske straffelov. Derfor anses det for nødvendigt at afklare, om der er strafferetligt ansvar, både for dem, der genererer og distribuerer dette indhold, og, hvor det er relevant, for de platforme og virksomheder, der tillader det eller undlader at forhindre det med tilstrækkelig omhu.

Dette initiativ er en del af den bredere dagsorden for børnebeskyttelse i Spanien, hvor Den indflydelse, som kunstig intelligens-værktøjer kan have på uddannelse, digital fritid og konstruktionen af ​​børns og unges identitet, diskuteres med stigende intensitet. foranstaltninger til beskyttelse af mindreårige i digitale miljøerI denne sammenhæng har Grok AI-sagen tjent som et praktisk eksempel på de specifikke risici, der opstår, når teknologi implementeres uden tilstrækkelige sikkerhedsmekanismer.

Begrænsninger af xAI og tvivl om dens effektivitet

Stillet over for pres fra myndigheder og medier, xAI har reageret ved at introducere ændringer i tilgængeligheden af ​​Groks billedgenereringsfunktion. inden for X-platformen. Virksomheden har besluttet Begræns denne funktion udelukkende til betalende abonnenter.Argumentet er, at dette reducerer risikoen for misbrug og letter overvågningen af ​​konti, der har adgang til disse avancerede funktioner.

Denne foranstaltning er dog blevet mødt med en vis skepsis af eksperter og organisationer, der er dedikeret til at forsvare børns digitale rettigheder. Groks separate applikation, som kører uden for X, tillader fortsat billedgenerering uden abonnement.Dette åbner døren for, at de samme problemer kan opstå i andre miljøer. For mange analytikere, At begrænse værktøjet til betalende brugere garanterer ikke i sig selv, at oprettelsen og delingen af ​​seksualiserede billeder af mindreårige vil stoppe., medmindre det ledsages af avancerede tekniske filtre, veludstyrede moderatorteams og klar ansvarlighed.

Den nuværende situation præsenterer et vanskeligt dilemma: Hvordan man forener innovation inden for kunstig intelligens med den juridiske og etiske forpligtelse til at beskytte mindreårigeI det specifikke tilfælde med Grok AI synes europæiske og andre nationale regulatorer tilbøjelige til at kræve mere omfattende konsekvensanalyser, uafhængige revisioner og langt strengere systemer til at opdage ulovligt indhold før disse teknologier fuldt ud kan integreres i hverdagen.

I lyset af de undersøgelser, der er indledt i Storbritannien, klagerne i Frankrig, handlingerne i Indien, blokaden i Indonesien og de skridt, der er taget i Spanien, Grok AI er blevet en af ​​de første større sager, hvor et AI-værktøj har været under international granskning for dets potentielle indvirkning på børn.Hvad der sker fra nu af, vil sandsynligvis forme, hvordan fremtidige generationer af generative kunstig intelligens-systemer designes, overvåges og reguleres.

Relateret artikel:

AI-drevet legetøj (chatbots) under lup for sikkerhedshuller

Alberto Navarro

Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.

Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.