Grok AI lovet kreativitet i X. Nå står den overfor etterforskning for et mye mer alvorlig problem.

Verktøyet for kunstig intelligens Grok AI, utviklet av xAI og knyttet til det sosiale nettverket X, har blitt sentrum for en intens internasjonal debatt etter at det ble avslørt at Det tillot produksjon av manipulerte bilder av mennesker, inkludert barn og tenåringer, med et utpreget seksualisert innhold.Det som startet som en tilsynelatende harmløs bildegenereringsfunksjon har utviklet seg til et problem som blander seg barnevern, plattformansvar og overvåking av kunstig intelligens og AI-generert innholdshåndtering.

I løpet av få uker har saken gått fra sosiale medier til kontorene til regulatorer og påtalemyndigheter i Europa og andre deler av verden. Myndigheter, datatilsynsmyndigheter og nettsikkerhetsbyråer har fokusert på hvordan Grok AI håndterer forespørsler knyttet til mindreårige. og i hvilken grad X har tatt reelle skritt for å for å forhindre at verktøyet brukes til å generere og spre materiale som kan passe inn i definisjonen av seksuelle overgrep mot barn eller formidling av intime bilder uten samtykke.

Mangel på effektive filtre og generering av seksualiserte bilder

Bekymringen steg i været da Eksperter på kunstig intelligens og spesialiserte organisasjoner oppdaget at Grok manglet robuste filtre for å hindre brukere i å be om manipulerte bilder med verktøy for bildegenerering av folk lettkledde eller helt nakne. Denne tekniske mangelen tillot dem å sirkulere i X Tusenvis av suggestive og seksualiserte bilder, mange av dem basert på ekte bilder, der både voksne kvinner og personer som så ut til å være mindreårige kunne dukke opp.

En rapport utarbeidet av AI Forensics, publisert tidlig i januar, satte tall på et fenomen som frem til da hadde vært mistenkt, men ikke kvantifisert. I følge denne analysen viste omtrent 53 % av bildene generert av Grok folk som hadde på seg lite klær.Det vil si i seksuelle eller svært erotiske sammenhenger. Innenfor denne gruppen var 81 % kvinner og rundt 2 % var individer som så ut til å være 18 år eller yngre, noe som Dette vekker oppsikt over frykten for at verktøyet kan bidra til å lage materiale som kan anses som seksuelt misbruk av barn eller tilrettelegging av det..

Det samme dokumentet advarte også om en annen bekymringsfull faktor: Rundt 6 % av de identifiserte bildene involverte offentlige personerDette punktet åpner en annen front, knyttet til oppretting av falskt seksuelt innhold av kjente personerDette krenker ikke bare deres personvern og omdømme, men kan også forsterke mønstre av vold og digital trakassering som er spesielt skadelige for barn og unge som konsumerer eller deler dette materialet.

Storbritannia: Ofcom åpner formell gransking av X og Grok AI

I Europa har det mest avgjørende grepet så langt kommet fra Storbritannia. Regulatoren for nettkommunikasjon og sikkerhet, Ofcom har annonsert at de har åpnet en formell etterforskning av X for å avgjøre om plattformen har overholdt forpliktelsene som er pålagt den i henhold til loven om nettsikkerhet. Denne lovgivningen krever at store digitale tjenester... Identifiser risikoer, iverksett forebyggende tiltak og beskytt brukere mot ulovlig innhold, med særlig vekt på seksuelt misbruk av barn.

Etterforskningen ble igangsatt etter at Ofcom mottok klager som pekte direkte til den offisielle Grok AI-kontoen på XIfølge disse påstandene ble AI angivelig brukt til å skape og spre Bilder av nakne personer eller personer i seksualiserte positurer uten deres samtykkeinkludert påståtte tilfeller der de gjenskapte individene lignet barn. Regulatoren har beskrevet denne informasjonen som «dypt bekymringsfull» og erkjent at den kan falle inn under misbruk av intime bilder og materiale om seksuelle overgrep mot barn.

Ofcom kontaktet X raskt 5. januar, og Han ga en frist til 9. januar for å detaljere hvilke tiltak han hadde iverksatt. for å beskytte brukere på britisk territorium mot denne typen innhold. Etter å ha analysert selskapets svar bestemte byrået seg for å ta neste steg og Igangsett en grundig undersøkelse for å avgjøre om X vurderte risikoene tilstrekkelig ved innføring av Grok AI, om den implementerte effektive mekanismer for å redusere disse risikoene, og om den beskyttet personvernet og rettighetene til potensielt berørte individer.

Hvis brudd bekreftes, har Ofcom en rekke sanksjoner som går utover en enkel advarsel. Regulatoren kan ilegge bøter på opptil 18 millioner pund sterling eller 10 % av selskapets globale omsetning., et beløp som kan være spesielt høyt når det gjelder store plattformer som X. I situasjoner som anses som spesielt alvorlige, Ofcom kan til og med be domstolene om å pålegge betalingsleverandører og annonsører å trekke tilbake tjenestene sine. av plattformen eller at operatører blokkerer tilgang til det sosiale nettverket i Storbritannia.

I mellomtiden, den britiske teknologiministeren, Liz Kendall har annonsert at hun vil møte for Parlamentet. å forklare regjeringens posisjon angående X og Grok AI. Denne politiske intervensjonen antyder at, utover den regulatoriske etterforskningen, Saken har kommet inn i den offentlige debatten om hvilke grenser som bør settes for kunstig intelligens. når det er en risiko for jenter, gutter og ungdom.

Indonesia blokkerer Grok for å beskytte kvinner og barn

Bekymringene rundt Grok AI er ikke begrenset til Europa. Fra Sørøst-Asia, Indonesia har tatt et spesielt slående skritt ved å beordre midlertidig blokkering av tilgang til GrokTiltaket ble vedtatt av Kommunikasjons- og digitaliseringsdepartementet etter en egen undersøkelse, som konkluderte med at verktøyet tillot generering av manipulerte bilder av kompromitterende natur, lik de som hadde skapt alarm i andre land.

I den offisielle uttalelsen fra departementet ble det lagt vekt på behovet for å å beskytte kvinner, barn og generelt hele samfunnet som svar på sirkulasjonen av bilder laget med kunstig intelligens som kan være nedverdigende eller krenke personvernet. Med ordene til kommunikasjons- og digitaliseringsminister Meutya Hafid, Produksjon av manipulerte bilder uten samtykke utgjør et alvorlig brudd på menneskerettigheter, personlig verdighet og landets digitale sikkerhet.Derfor har indonesiske myndigheter krevd klare forklaringer fra X angående driften av Grok AI og kontrollene den anvender for å forhindre misbruk.

Etter blokaden, Grok la ut en melding på X og beklaget ulempen. og forsikret om at teamene deres jobbet med å løse problemene som regulatoren identifiserte. Til tross for disse offentlige unnskyldningene, Tvil om robustheten til verktøyets beskyttelsesmekanismer er fortsatt sterkt tilstede.spesielt når det gjelder å beskytte barn mot potensiell kriminell eller skadelig bruk av AI.

Reaksjoner i Europa: Frankrike, India og fokuset på barnevern

Saken har også fått sterk gjenklang i andre land. Franske myndigheter har inngitt klager mot X til statsadvokatembetet og diverse tilsynsorganer.De beskrev materialet generert med Grok AI som «åpenbart ulovlig». Disse påstandene fokuserer først og fremst på produksjon og formidling av seksualiserte bilder av kvinner og mindreårige, og de er en del av en debatt som har pågått i Europa en stund om grensene for deepfake-pornografi og utnyttelse av bilder uten samtykke.

Utenfor Europa, men med globale konsekvenser, India har også krevd forklaringer fra Elon Musks selskap. på grunn av driften av Grok AI. Selv om detaljene i de indiske forespørslene ikke er blitt offentliggjort fullt ut, Myndighetene har gjort det klart at de ønsker garantier for at verktøyet ikke legger til rette for opprettelse eller distribusjon av seksuelt innhold som påvirker mindreårige.Dette er et spesielt sensitivt punkt for ethvert land som prøver å styrke sine lover om nettsikkerhet.

Spania fokuserer på potensielle forbrytelser mot barn

I europeisk sammenheng har den spanske responsen fokusert veldig spesifikt på beskyttelse av barn og unge. Ministeren for ungdom og barndom, Sira Rego, har sendt et brev til statsadvokatens kontor ber om en etterforskning av hvorvidt Grok AI kan være involvert i forbrytelser knyttet til spredning av materiale med seksuell vold mot mindreårigeHovedbekymringen er at verktøyet legger til rette for eller forsterker opprettelsen og sirkulasjonen av manipulerte bilder som påvirker barn og unge.

Departementet forstår at denne typen praksis Det krenker alvorlig mindreåriges verdighet, personvern og grunnleggende rettigheter. i det digitale miljøet. Husk videre at de kan klassifiseres innenfor barnepornografilovbrudd og forbrytelser mot moralsk integritetDisse lovbruddene er dekket av den spanske straffeloven. Derfor anses det som nødvendig å avklare om det foreligger strafferettslig ansvar, både fra de som genererer og distribuerer dette innholdet, og der det er aktuelt, fra plattformene og selskapene som tillater det eller unnlater å forhindre det med tilstrekkelig omhu.

Dette initiativet er en del av den bredere agendaen for barnevern i Spania, der Virkningen kunstig intelligens-verktøy kan ha på utdanning, digital fritid og konstruksjonen av barns og unges identitet diskuteres med økende intensitet. tiltak for å beskytte mindreårige i digitale miljøerI denne sammenhengen har Grok AI-saken tjent som et praktisk eksempel på de spesifikke risikoene som oppstår når teknologi tas i bruk uten tilstrekkelige sikkerhetsmekanismer.

Begrensninger av xAI og tvil om effektiviteten

Stilt overfor press fra myndigheter og medier, xAI har svart ved å introdusere endringer i tilgjengeligheten til Groks bildegenereringsfunksjon. innenfor X-plattformen. Selskapet har bestemt seg for Begrens den funksjonen utelukkende til betalende abonnenter.Argumentet er at dette reduserer risikoen for misbruk og forenkler overvåkingen av kontoer som har tilgang til disse avanserte funksjonene.

Dette tiltaket har imidlertid blitt møtt med en viss skepsis fra eksperter og organisasjoner som er dedikert til å forsvare barns digitale rettigheter. Groks frittstående applikasjon, som kjører utenfor X, tillater fortsatt bildegenerering uten abonnement.Dette åpner døren for at de samme problemene kan oppstå i andre miljøer. For mange analytikere, Det at verktøyet begrenses til betalende brukere garanterer ikke i seg selv at opprettelse og deling av seksualiserte bilder av mindreårige vil opphøre., med mindre det er ledsaget av avanserte tekniske filtre, velutstyrte modereringsteam og tydelig ansvarlighet.

Den nåværende situasjonen presenterer et delikat dilemma: Hvordan forene innovasjon innen kunstig intelligens med den juridiske og etiske forpliktelsen til å beskytte mindreårigeI det spesifikke tilfellet med Grok AI, ser det ut til at europeiske og andre nasjonale regulatorer er tilbøyelige til å kreve mer omfattende konsekvensutredninger, uavhengige revisjoner og mye strengere systemer for å oppdage ulovlig innhold før disse teknologiene kan integreres fullt ut i hverdagen.

I lys av etterforskningene som er åpnet i Storbritannia, klagene i Frankrike, tiltakene i India, blokaden i Indonesia og tiltakene som er tatt i Spania, Grok AI har blitt en av de første store sakene der et AI-verktøy har blitt utsatt for internasjonal gransking for dets potensielle innvirkning på barn.Det som skjer fra nå av vil sannsynligvis forme hvordan fremtidige generasjoner av generative kunstig intelligens-systemer blir utformet, overvåket og regulert.

Relatert artikkel:

AI-drevne leker (chatboter) granskes for sikkerhetsfeil

Alberto Navarro

Jeg er en teknologientusiast som har gjort sine "geek"-interesser til et yrke. Jeg har brukt mer enn 10 år av livet mitt på å bruke banebrytende teknologi og fikse med alle slags programmer av ren nysgjerrighet. Nå har jeg spesialisert meg på datateknologi og videospill. Dette er fordi jeg i mer enn 5 år har skrevet for forskjellige nettsteder om teknologi og videospill, og laget artikler som prøver å gi deg den informasjonen du trenger på et språk som er forståelig for alle.

Hvis du har spørsmål, spenner min kunnskap fra alt relatert til Windows-operativsystemet samt Android for mobiltelefoner. Og mitt engasjement er til deg, jeg er alltid villig til å bruke noen minutter og hjelpe deg med å løse eventuelle spørsmål du måtte ha i denne internettverdenen.