- Grok AI, van xAI en gelieerd aan X, heeft het mogelijk gemaakt om geseksualiseerde afbeeldingen van vrouwen en minderjarigen te genereren zonder effectieve filters.
- Ofcom onderzoekt X wegens mogelijke overtredingen van de Wet op de online veiligheid en zou zware sancties kunnen opleggen.
- Indonesië heeft Grok tijdelijk geblokkeerd, en andere landen zoals Frankrijk, India en Spanje hebben hun bevoegdheden geactiveerd.
- xAI heeft de beeldverwerkingsfunctie van Grok in X beperkt tot betalende gebruikers, maar de zelfstandige app blijft wel operationeel.
Het kunstmatige intelligentie-instrument Grok AI, ontwikkeld door xAI en gekoppeld aan het sociale netwerk X.is het middelpunt geworden van een intens internationaal debat nadat bekend werd dat Het maakte het mogelijk om gemanipuleerde afbeeldingen van mensen, waaronder kinderen en tieners, te creëren met een uitgesproken seksueel getinte inhoud.Wat begon als een ogenschijnlijk onschuldige functie voor het genereren van afbeeldingen, is uitgegroeid tot een probleem dat verschillende aspecten combineert. kinderbescherming, platformaansprakelijkheid en monitoring van kunstmatige intelligentie en AI-gegenereerd contentbeheer.
Binnen enkele weken is de zaak van sociale media terechtgekomen bij toezichthouders en openbare aanklagers in Europa en andere delen van de wereld. Overheden, gegevensbeschermingsautoriteiten en online veiligheidsorganisaties hebben zich gericht op de manier waarop Grok AI omgaat met verzoeken met betrekking tot minderjarigen. en in hoeverre X daadwerkelijk stappen heeft ondernomen om om te voorkomen dat de tool wordt gebruikt om materiaal te genereren en te verspreiden dat zou kunnen voldoen aan de definitie van seksueel misbruik van kinderen. of het verspreiden van intieme beelden zonder toestemming.
Gebrek aan effectieve filters en de productie van geseksualiseerde beelden.
De bezorgdheid nam enorm toe toen Experts op het gebied van kunstmatige intelligentie en gespecialiseerde organisaties constateerden dat Grok geen robuuste filters had. om te voorkomen dat gebruikers bewerkte afbeeldingen opvragen beeldgeneratietools van mensen die schaars gekleed of volledig naakt waren. Deze technische tekortkoming stelde hen in staat om in X te circuleren. Duizenden suggestieve en geseksualiseerde afbeeldingen, waarvan vele gebaseerd op echte foto's.waarin zowel volwassen vrouwen als mensen die er minderjarig uitzagen, konden verschijnen.
Een rapport van AI Forensics, dat begin januari werd gepubliceerd, gaf cijfers aan een fenomeen dat tot dan toe wel werd vermoed, maar niet gekwantificeerd. Volgens deze analyse toonde ongeveer 53% van de door Grok gegenereerde afbeeldingen mensen met weinig kleding aan.Dat wil zeggen, in seksuele of zeer erotische contexten. Binnen die groep was 81% vrouw en ongeveer 2% bestond uit personen die er 18 jaar of jonger uitzagen. Dit wakkert de vrees opnieuw aan dat de tool zou kunnen bijdragen aan de creatie van materiaal dat kan worden beschouwd als seksueel misbruik van kinderen of het faciliteren daarvan..
In hetzelfde document werd ook gewaarschuwd voor een andere zorgwekkende factor: Ongeveer 6% van de geïdentificeerde afbeeldingen betrof publieke figuren.Dit punt opent een ander front, gerelateerd aan de het creëren van nep-seksueel getinte content van bekende personenDit schendt niet alleen hun privacy en reputatie, maar kan ook patronen van geweld en digitale intimidatie versterken die vooral schadelijk zijn voor kinderen en jongeren die dit materiaal bekijken of delen.
Verenigd Koninkrijk: Ofcom opent formeel onderzoek naar X en Grok AI
In Europa is de meest doorslaggevende stap tot nu toe afkomstig uit het Verenigd Koninkrijk. De toezichthouder voor online communicatie en veiligheid, Ofcom heeft aangekondigd een formeel onderzoek naar X te starten. om te bepalen of het platform heeft voldaan aan de verplichtingen die de Wet onlineveiligheid oplegt. Deze wetgeving vereist dat grote digitale diensten... Identificeer risico's, neem preventieve maatregelen en bescherm gebruikers tegen illegale inhoud, met speciale aandacht voor seksueel misbruik van kinderen..
Het onderzoek begon nadat Ofcom een bericht had ontvangen. klachten die rechtstreeks verwezen naar het officiële Grok AI-account op XVolgens deze beschuldigingen zou AI zijn gebruikt om te creëren en te verspreiden. Afbeeldingen van naakte mensen of mensen in geseksualiseerde poses zonder hun toestemming.waaronder vermeende gevallen waarin de gereconstrueerde personen op kinderen leken. De toezichthouder heeft deze informatie als "zeer zorgwekkend" bestempeld en erkend dat deze onder toezicht zou kunnen vallen. misbruik van intieme beelden en materiaal over seksueel misbruik van kinderen.
Ofcom heeft op 5 januari dringend contact opgenomen met X en Hij gaf tot 9 januari de tijd om toe te lichten welke maatregelen hij had genomen. om gebruikers op Brits grondgebied te beschermen tegen dit soort inhoud. Na analyse van de reactie van het bedrijf besloot het agentschap de volgende stap te zetten en Start een grondig onderzoek om vast te stellen of X de risico's adequaat heeft ingeschat bij de introductie van Grok AI.of het effectieve mechanismen heeft geïmplementeerd om die risico's te beperken en of het de privacy en rechten van mogelijk getroffen personen heeft beschermd.
Als overtredingen worden bevestigd, beschikt Ofcom over een reeks sancties die verder gaan dan een simpele waarschuwing. De toezichthouder kan boetes opleggen tot 18 miljoen pond sterling of 10% van de wereldwijde omzet van het bedrijf.een bedrag dat vooral bij grote platformen zoals X aanzienlijk hoger kan uitvallen. In situaties die als bijzonder ernstig worden beschouwd, Ofcom kan de rechter zelfs verzoeken om betaalproviders en adverteerders te bevelen hun diensten stop te zetten. van het platform of dat beheerders de toegang tot het sociale netwerk in het Verenigd Koninkrijk blokkeren.
Ondertussen heeft de Britse minister van Technologie, Liz Kendall heeft aangekondigd dat ze voor het parlement zal verschijnen. om het standpunt van de regering ten aanzien van X en Grok AI toe te lichten. Deze politieke interventie suggereert dat, naast het reguleringsonderzoek, De zaak heeft het publieke debat aangewakkerd over welke grenzen er aan kunstmatige intelligentie gesteld zouden moeten worden. wanneer er een risico bestaat voor meisjes, jongens en adolescenten.
Indonesië blokkeert Grok om vrouwen en kinderen te beschermen.
De zorgen rondom Grok AI beperken zich niet tot Europa. Ook in Zuidoost-Azië zijn er problemen. Indonesië heeft een bijzonder opvallende stap gezet door de toegang tot Grok tijdelijk te blokkeren.De maatregel werd aangenomen door het ministerie van Communicatie en Digitale Zaken na een eigen onderzoek, waaruit bleek dat het instrument maakte het mogelijk om gemanipuleerde beelden van compromitterende aard te genereren., vergelijkbaar met die welke in andere landen tot bezorgdheid hadden geleid.
In de officiële verklaring van het ministerie werd de noodzaak benadrukt om om vrouwen, kinderen en in het algemeen de hele gemeenschap te beschermen. Als reactie op de verspreiding van beelden die met behulp van kunstmatige intelligentie zijn gemaakt en die mogelijk vernederend zijn of de privacy schenden. In de woorden van de minister van Communicatie en Digitalisering, Meutya Hafid: Het produceren van gemanipuleerde beelden zonder toestemming vormt een ernstige schending van de mensenrechten, de persoonlijke waardigheid en de digitale veiligheid van het land.Daarom hebben de Indonesische autoriteiten van X duidelijke uitleg geëist over de werking van Grok AI en de controles die het bedrijf toepast om misbruik te voorkomen.
Na de blokkade, Grok plaatste een bericht op X waarin hij zich verontschuldigde voor het ongemak. en verzekerden dat hun teams eraan werkten om de door de toezichthouder geconstateerde problemen op te lossen. Ondanks deze publieke excuses, Er blijven grote twijfels bestaan over de robuustheid van de beveiligingsmechanismen van het gereedschap.vooral als het gaat om het beschermen van kinderen tegen mogelijk crimineel of schadelijk gebruik van AI.
Reacties in Europa: Frankrijk, India en de focus op kinderbescherming
De zaak heeft ook in andere landen veel weerklank gevonden. De Franse autoriteiten hebben bij het openbaar ministerie en diverse toezichthoudende instanties een klacht ingediend tegen X.Ze omschreven het materiaal dat met Grok AI was gegenereerd als "overduidelijk illegaal". Deze beschuldigingen richten zich voornamelijk op de Productie en verspreiding van geseksualiseerde afbeeldingen van vrouwen en minderjarigen.En ze maken deel uit van een debat dat al enige tijd in Europa gaande is over de grenzen van deepfake-pornografie en het exploiteren van beelden zonder toestemming.
Buiten Europa, maar met wereldwijde gevolgen, Ook India heeft om uitleg gevraagd van het bedrijf van Elon Musk. vanwege de werking van Grok AI. Hoewel de details van de Indiase verzoeken nog niet volledig openbaar zijn gemaakt, De autoriteiten hebben duidelijk gemaakt dat ze garanties willen dat de tool de creatie of verspreiding van seksueel getinte inhoud gericht op minderjarigen niet faciliteert.Dit is een bijzonder gevoelig punt voor elk land dat zijn wetgeving inzake online veiligheid wil versterken.
Spanje richt zich op mogelijke misdrijven tegen kinderen.
In de Europese context heeft de Spaanse reactie zich zeer specifiek gericht op de bescherming van kinderen en jongeren. De minister van Jeugd en Kinderzaken, Sira Rego, heeft een brief gestuurd naar het kantoor van de procureur-generaal van de staat. een onderzoek aanvragen naar de vraag of Grok AI zich mogelijk bezighoudt met Misdrijven die verband houden met de verspreiding van materiaal met seksueel geweld tegen minderjarigen.De voornaamste zorg is dat de tool het creëren en verspreiden van gemanipuleerde beelden die kinderen en adolescenten beïnvloeden, zou kunnen vergemakkelijken of versterken.
Het ministerie begrijpt dat dit soort praktijken Het schendt op ernstige wijze de waardigheid, privacy en fundamentele rechten van minderjarigen. in de digitale omgeving. Houd er bovendien rekening mee dat ze geclassificeerd kunnen worden binnen kinderpornografie en misdrijven tegen de morele integriteitDeze overtredingen vallen onder het Spaanse Wetboek van Strafrecht. Daarom wordt het noodzakelijk geacht om te verduidelijken of er sprake is van strafrechtelijke aansprakelijkheid, zowel voor degenen die deze inhoud genereren en verspreiden als, waar van toepassing, voor de platformen en bedrijven die dit toestaan of nalaten dit met voldoende zorgvuldigheid te voorkomen.
Dit initiatief maakt deel uit van de bredere agenda voor kinderbescherming in Spanje, waar De impact die tools voor kunstmatige intelligentie kunnen hebben op onderwijs, digitale vrijetijdsbesteding en de identiteitsvorming van kinderen en adolescenten wordt steeds intensiever besproken. maatregelen ter bescherming van minderjarigen in digitale omgevingenIn deze context heeft de Grok AI-zaak gediend als een praktisch voorbeeld van de specifieke risico's die ontstaan wanneer technologie wordt ingezet zonder adequate beveiligingsmechanismen.
Beperkingen van xAI en twijfels over de effectiviteit ervan
Geconfronteerd met druk van regelgevende instanties en de media, xAI heeft hierop gereageerd door wijzigingen aan te brengen in de beschikbaarheid van de beeldgeneratiefunctie van Grok. binnen het X-platform. Het bedrijf heeft besloten Beperk die functie tot uitsluitend betalende abonnees.Het argument is dat dit het risico op misbruik verkleint en het toezicht op accounts die toegang hebben tot deze geavanceerde functies vergemakkelijkt.
Deze maatregel is echter met de nodige scepsis ontvangen door deskundigen en organisaties die zich inzetten voor de digitale rechten van kinderen. Grok's zelfstandige applicatie, die buiten X draait, maakt het nog steeds mogelijk om afbeeldingen te genereren zonder abonnement.Dit laat de deur open voor dezelfde problemen in andere omgevingen. Voor veel analisten, Het beperken van de tool tot betalende gebruikers garandeert op zich niet dat het maken en delen van seksueel getinte afbeeldingen van minderjarigen zal stoppen., tenzij het vergezeld gaat van geavanceerde technische filters, goed uitgeruste moderatieteams en duidelijke verantwoordingsplicht.
De huidige situatie brengt een delicate dilemma met zich mee: Hoe kunnen we innovatie in kunstmatige intelligentie verenigen met de wettelijke en ethische verplichting om minderjarigen te beschermen?In het specifieke geval van Grok AI lijken Europese en andere nationale toezichthouders geneigd te eisen dat... uitgebreidere effectbeoordelingen, onafhankelijke audits en veel strengere systemen voor het opsporen van illegale inhoud. voordat deze technologieën volledig in het dagelijks leven worden geïntegreerd.
In het licht van de onderzoeken die in het Verenigd Koninkrijk zijn ingesteld, de klachten in Frankrijk, de acties in India, de blokkade in Indonesië en de stappen die in Spanje zijn genomen, Grok AI is een van de eerste grote gevallen waarin een AI-tool internationaal onder de loep is genomen vanwege de mogelijke impact ervan op kinderen.Wat er vanaf nu gebeurt, zal waarschijnlijk bepalend zijn voor hoe toekomstige generaties van generatieve kunstmatige intelligentiesystemen worden ontworpen, gemonitord en gereguleerd.
Ik ben een technologieliefhebber die van zijn 'nerd'-interesses zijn beroep heeft gemaakt. Ik heb meer dan 10 jaar van mijn leven doorgebracht met het gebruik van de allernieuwste technologie en het sleutelen aan allerlei programma's uit pure nieuwsgierigheid. Nu heb ik mij gespecialiseerd in computertechnologie en videogames. Dit komt omdat ik al meer dan vijf jaar voor verschillende websites over technologie en videogames schrijf en artikelen heb gemaakt die proberen u de informatie te geven die u nodig heeft in een taal die voor iedereen begrijpelijk is.
Als je vragen hebt, mijn kennis strekt zich uit van alles wat te maken heeft met het Windows-besturingssysteem tot Android voor mobiele telefoons. En mijn toewijding is aan jou, ik ben altijd bereid om een paar minuten te besteden en je te helpen bij het oplossen van eventuele vragen die je hebt in deze internetwereld.