Grok AI menjanjikan kreativitas dalam X. Kini, perusahaan tersebut menghadapi penyelidikan atas masalah yang jauh lebih serius.

Alat kecerdasan buatan Grok AI, dikembangkan oleh xAI dan terhubung ke jejaring sosial X., telah menjadi pusat perdebatan internasional yang sengit setelah terungkap bahwa Hal ini memungkinkan pembuatan gambar orang yang dimanipulasi, termasuk anak-anak dan remaja, dengan konten seksual yang sangat menonjol.Apa yang awalnya tampak sebagai fungsi pembuatan gambar yang tidak berbahaya telah berkembang menjadi masalah yang mencampuradukkan perlindungan anak, tanggung jawab platform, dan pemantauan kecerdasan buatan dan Manajemen konten yang dihasilkan AI.

Hanya dalam beberapa minggu, kasus ini telah berkembang dari media sosial hingga ke kantor-kantor regulator dan jaksa penuntut di Eropa dan bagian lain dunia. Pemerintah, otoritas perlindungan data, dan lembaga keamanan daring telah memfokuskan perhatian pada bagaimana Grok AI menangani permintaan yang berkaitan dengan anak di bawah umur. dan sejauh mana X telah mengambil langkah nyata untuk untuk mencegah alat tersebut digunakan untuk menghasilkan dan menyebarkan materi yang dapat memenuhi definisi tindak pidana pelecehan seksual anak. atau penyebaran gambar intim tanpa persetujuan.

Kurangnya filter yang efektif dan munculnya gambar-gambar yang mengandung unsur seksual.

Kekhawatiran meningkat drastis ketika Para ahli kecerdasan buatan dan organisasi khusus mendeteksi bahwa Grok kekurangan filter yang andal. untuk mencegah pengguna meminta gambar yang telah dimanipulasi dengan alat pembuatan gambar orang-orang yang berpakaian minim atau telanjang sepenuhnya. Kekurangan teknis ini memungkinkan mereka untuk beredar di X Ribuan gambar sugestif dan seksual, banyak di antaranya berdasarkan foto asli., di mana baik wanita dewasa maupun orang yang tampak seperti anak di bawah umur dapat muncul.

Sebuah laporan yang disusun oleh AI Forensics, yang diterbitkan pada awal Januari, memberikan angka-angka untuk fenomena yang hingga saat itu hanya dicurigai tetapi belum dikuantifikasi. Menurut analisis ini, sekitar 53% dari gambar yang dihasilkan oleh Grok menunjukkan orang-orang yang mengenakan pakaian minim.Artinya, dalam konteks seksual atau yang sangat mendekati erotis. Dalam kelompok tersebut, 81% adalah perempuan dan sekitar 2% adalah individu yang tampak berusia 18 tahun atau lebih muda, yang Hal ini kembali memicu kekhawatiran bahwa alat tersebut dapat berkontribusi pada pembuatan materi yang dapat dianggap sebagai pelecehan seksual anak atau memfasilitasinya..

Dokumen yang sama juga memperingatkan tentang faktor mengkhawatirkan lainnya: Sekitar 6% dari gambar yang teridentifikasi melibatkan tokoh publik.Poin ini membuka front yang berbeda, terkait dengan pembuatan konten seksual palsu yang melibatkan orang-orang terkenalHal ini tidak hanya melanggar privasi dan reputasi mereka, tetapi juga dapat memperkuat pola kekerasan dan pelecehan digital yang sangat berbahaya bagi anak-anak dan remaja yang mengonsumsi atau membagikan materi ini.

Britania Raya: Ofcom membuka penyelidikan resmi terhadap X dan Grok AI

Di Eropa, langkah paling menentukan sejauh ini datang dari Inggris Raya. Regulator komunikasi dan keamanan daring, Ofcom telah mengumumkan pembukaan investigasi formal terhadap X. untuk menentukan apakah platform tersebut telah mematuhi kewajiban yang dibebankan kepadanya oleh Undang-Undang Keamanan Online. Peraturan ini mengharuskan layanan digital besar untuk... Mengidentifikasi risiko, menerapkan langkah-langkah pencegahan, dan melindungi pengguna dari konten ilegal, dengan perhatian khusus pada pelecehan seksual anak..

Investigasi dimulai setelah Ofcom menerima keluhan yang mengarah langsung ke akun resmi Grok AI di XMenurut tuduhan ini, AI diduga digunakan untuk menciptakan dan menyebarkan Gambar orang telanjang atau orang dalam pose seksual tanpa persetujuan mereka.termasuk dugaan kasus di mana individu yang direkonstruksi menyerupai anak-anak. Regulator menggambarkan informasi ini sebagai "sangat mengkhawatirkan" dan mengakui bahwa hal itu dapat termasuk dalam penyalahgunaan gambar intim dan materi pelecehan seksual anak.

Ofcom menghubungi X secara mendesak pada tanggal 5 Januari dan Dia memberikan tenggat waktu hingga 9 Januari untuk merinci langkah-langkah apa yang telah dia terapkan. untuk melindungi pengguna di wilayah Inggris dari jenis konten ini. Setelah menganalisis respons perusahaan, agensi tersebut memutuskan untuk mengambil langkah selanjutnya dan Lakukan investigasi menyeluruh untuk menentukan apakah X telah menilai risiko dengan tepat saat memperkenalkan Grok AI., apakah pemerintah telah menerapkan mekanisme yang efektif untuk mengurangi risiko tersebut dan apakah pemerintah telah melindungi privasi dan hak-hak individu yang berpotensi terkena dampak.

Jika pelanggaran terkonfirmasi, Ofcom memiliki berbagai sanksi yang lebih dari sekadar peringatan sederhana. Regulator dapat mengenakan denda hingga 18 juta pound sterling atau 10% dari omset perusahaan di seluruh dunia., jumlah yang bisa sangat tinggi terutama dalam kasus platform besar seperti X. Dalam situasi yang dianggap sangat serius, Ofcom bahkan dapat meminta pengadilan untuk memerintahkan penyedia pembayaran dan pengiklan untuk menarik layanan mereka. dari platform tersebut atau bahwa operator memblokir akses ke jejaring sosial di Inggris Raya.

Sementara itu, Menteri Teknologi Inggris, Liz Kendall telah mengumumkan bahwa dia akan hadir di hadapan Parlemen. untuk menjelaskan posisi Pemerintah terkait X dan Grok AI. Intervensi politik ini menunjukkan bahwa, di luar investigasi regulasi, Kasus ini telah memasuki perdebatan publik tentang batasan apa yang seharusnya dikenakan pada kecerdasan buatan. ketika ada risiko bagi anak perempuan, anak laki-laki, dan remaja.

Indonesia memblokir Grok untuk melindungi perempuan dan anak-anak.

Kekhawatiran seputar Grok AI tidak hanya terbatas di Eropa. Dari Asia Tenggara, Indonesia telah mengambil langkah yang sangat mencolok dengan memerintahkan pemblokiran sementara akses ke Grok.Langkah tersebut diadopsi oleh Kementerian Komunikasi dan Urusan Digital setelah penyelidikan internal mereka sendiri, yang menyimpulkan bahwa alat tersebut mengizinkan pembuatan gambar yang dimanipulasi dan bersifat merugikan., serupa dengan yang telah menimbulkan kekhawatiran di negara lain.

Pernyataan resmi kementerian tersebut menekankan perlunya untuk melindungi perempuan, anak-anak, dan secara umum, seluruh masyarakat. Sebagai tanggapan terhadap beredarnya gambar-gambar yang dibuat menggunakan kecerdasan buatan yang mungkin merendahkan atau melanggar privasi. Menurut Menteri Komunikasi dan Digitalisasi, Meutya Hafid, Pembuatan gambar yang dimanipulasi tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia, martabat pribadi, dan keamanan digital negara.Oleh karena itu, pihak berwenang Indonesia telah meminta penjelasan yang jelas dari X mengenai pengoperasian Grok AI dan kontrol yang diterapkan untuk mencegah penyalahgunaan.

Setelah blokade, Grok memposting pesan di X yang meminta maaf atas ketidaknyamanan tersebut. dan meyakinkan bahwa tim mereka sedang berupaya menyelesaikan masalah yang diidentifikasi oleh regulator. Terlepas dari permintaan maaf publik ini, Keraguan tentang ketangguhan mekanisme perlindungan alat tersebut masih sangat kuat.khususnya dalam hal melindungi anak-anak dari potensi penggunaan AI yang bersifat kriminal atau berbahaya.

Reaksi di Eropa: Prancis, India, dan fokus pada perlindungan anak

Kasus ini juga mendapat perhatian yang besar di negara-negara lain. Pihak berwenang Prancis telah mengajukan pengaduan terhadap X ke kantor kejaksaan dan berbagai badan pengatur.Mereka menggambarkan materi yang dihasilkan dengan Grok AI sebagai "jelas ilegal." Tuduhan ini terutama berfokus pada produksi dan penyebaran gambar-gambar seksualisasi perempuan dan anak di bawah umur, dan hal ini merupakan bagian dari perdebatan yang telah berlangsung di Eropa selama beberapa waktu mengenai batasan pornografi deepfake dan eksploitasi gambar tanpa persetujuan.

Di luar Eropa, tetapi dengan dampak global, India juga telah meminta penjelasan dari perusahaan Elon Musk. karena pengoperasian Grok AI. Meskipun detail permintaan India belum sepenuhnya dipublikasikan, Pihak berwenang telah memperjelas bahwa mereka menginginkan jaminan bahwa alat tersebut tidak memfasilitasi pembuatan atau distribusi konten seksual yang memengaruhi anak di bawah umur.Ini adalah poin yang sangat sensitif bagi negara mana pun yang berupaya memperkuat undang-undang keamanan daringnya.

Spanyol memfokuskan perhatian pada potensi kejahatan terhadap anak-anak.

Dalam konteks Eropa, respons Spanyol secara khusus berfokus pada perlindungan anak-anak dan remaja. Menteri Pemuda dan Anak-Anak, Sira Rego, telah mengirimkan surat kepada Kantor Kejaksaan Agung Negara. meminta penyelidikan apakah Grok AI mungkin terlibat dalam kejahatan yang berkaitan dengan penyebaran materi kekerasan seksual terhadap anak di bawah umurKekhawatiran utama adalah bahwa alat tersebut dapat memfasilitasi atau memperkuat pembuatan dan peredaran gambar yang dimanipulasi yang berdampak pada anak-anak dan remaja.

Kementerian memahami bahwa praktik-praktik semacam ini Hal itu secara serius melanggar martabat, privasi, dan hak-hak mendasar anak di bawah umur. di lingkungan digital. Selain itu, ingatlah bahwa mereka dapat diklasifikasikan dalam pelanggaran pornografi anak dan kejahatan terhadap integritas moralPelanggaran-pelanggaran ini tercakup dalam Kitab Undang-Undang Pidana Spanyol. Oleh karena itu, dianggap perlu untuk mengklarifikasi apakah ada tanggung jawab pidana, baik dari pihak yang membuat dan mendistribusikan konten ini maupun, jika berlaku, dari pihak platform dan perusahaan yang mengizinkannya atau gagal mencegahnya dengan cukup cermat.

Inisiatif ini merupakan bagian dari agenda perlindungan anak yang lebih luas di Spanyol, di mana Dampak yang dapat ditimbulkan oleh perangkat kecerdasan buatan terhadap pendidikan, hiburan digital, dan pembentukan identitas anak-anak dan remaja semakin banyak dibahas. langkah-langkah untuk melindungi anak di bawah umur di lingkungan digitalDalam konteks ini, kasus Grok AI telah menjadi contoh praktis dari risiko spesifik yang muncul ketika teknologi diterapkan tanpa mekanisme keamanan yang memadai.

Keterbatasan xAI dan keraguan tentang efektivitasnya

Dihadapi dengan tekanan regulasi dan media, xAI telah merespons dengan memperkenalkan perubahan pada ketersediaan fungsi pembuatan gambar Grok. di dalam platform X. Perusahaan telah memutuskan Batasi fitur tersebut hanya untuk pelanggan berbayar.Argumennya adalah bahwa hal ini mengurangi risiko penyalahgunaan dan mempermudah pemantauan akun yang mengakses fitur-fitur canggih ini.

Namun, langkah ini telah menuai beberapa skeptisisme dari para ahli dan organisasi yang berdedikasi untuk membela hak-hak digital anak-anak. Aplikasi mandiri Grok, yang berjalan di luar X, tetap memungkinkan pembuatan gambar tanpa berlangganan.Hal ini membuka peluang terjadinya masalah yang sama di lingkungan lain. Bagi banyak analis, Membatasi penggunaan alat ini hanya untuk pengguna berbayar tidak dengan sendirinya menjamin bahwa pembuatan dan penyebaran gambar-gambar seksual anak di bawah umur akan berhenti., kecuali jika disertai dengan filter teknis canggih, tim moderasi yang terlengkapi dengan baik, dan akuntabilitas yang jelas.

Situasi saat ini menghadirkan dilema yang pelik: Bagaimana menyelaraskan inovasi dalam kecerdasan buatan dengan kewajiban hukum dan etika untuk melindungi anak di bawah umur?Dalam kasus khusus Grok AI, regulator Eropa dan regulator nasional lainnya tampaknya cenderung menuntut Penilaian dampak yang lebih komprehensif, audit independen, dan sistem yang jauh lebih ketat untuk mendeteksi konten ilegal. sebelum mengizinkan teknologi-teknologi ini terintegrasi sepenuhnya ke dalam kehidupan sehari-hari.

Mengingat penyelidikan yang dibuka di Inggris Raya, pengaduan di Prancis, tindakan di India, blokade di Indonesia, dan langkah-langkah yang diambil di Spanyol, Grok AI telah menjadi salah satu kasus besar pertama di mana sebuah alat AI подвергается pengawasan internasional atas potensi dampaknya terhadap anak-anak.Apa yang terjadi mulai sekarang kemungkinan akan membentuk bagaimana generasi mendatang dari sistem kecerdasan buatan generatif dirancang, dipantau, dan diatur.

Artikel terkait:

Mainan bertenaga AI (chatbot) sedang diteliti karena kelemahan keamanannya

Alberto Navarro

Saya seorang penggila teknologi yang telah mengubah minat "geek"-nya menjadi sebuah profesi. Saya telah menghabiskan lebih dari 10 tahun hidup saya menggunakan teknologi mutakhir dan mengutak-atik semua jenis program hanya karena rasa ingin tahu. Sekarang saya memiliki spesialisasi dalam teknologi komputer dan video game. Hal ini karena selama lebih dari 5 tahun saya telah menulis untuk berbagai website tentang teknologi dan video game, membuat artikel yang berupaya memberikan informasi yang Anda butuhkan dalam bahasa yang dapat dimengerti oleh semua orang.

Jika Anda memiliki pertanyaan, pengetahuan saya berkisar dari segala sesuatu yang berhubungan dengan sistem operasi Windows serta Android untuk ponsel. Dan komitmen saya adalah kepada Anda, saya selalu bersedia meluangkan beberapa menit dan membantu Anda menyelesaikan pertanyaan apa pun yang mungkin Anda miliki di dunia internet ini.