گروک میں بکنی تنازعہ: کس طرح جیل بریک نے X کے AI کا تاریک پہلو ظاہر کیا۔

صرف چند دنوں میں، گروک، ایکس کی مصنوعی ذہانت (سابقہ ​​ٹویٹر)یہ ایک تکنیکی تجسس سے عالمی طوفان کا مرکز بننے تک چلا گیا ہے۔ کے لیے بظاہر "مذاق" تجربہ AI سے لوگوں کو بکنی پہننے کے لیے کہہ رہا ہے۔ نے ایک بہت گہرے مسئلے کا پردہ فاش کیا ہے: جس آسانی سے یہ ٹولز کر سکتے ہیں۔ غیر متفقہ جنسی تصاویر بنائیں کسی بھی شخص کی، بشمول نابالغ.

ایک میم کے طور پر جو شروع ہوا وہ ایک ایسے کیس میں بدل گیا ہے جو پہلے ہی زیر تفتیش ہے۔ سپین، یورپی یونین اور دیگر ممالک کے حکامڈیپ فیکس کے الزامات، رازداری کی خلاف ورزیوں کی شکایات اور ریگولیٹری دباؤ کے درمیان، گروک کا "بائیکنی گیٹ" کے حقیقی خطرات کے حوالے سے ایک نیا محاذ کھول دیا ہے۔ جنریٹو AI امیج ایڈیٹنگ پر لاگو ہوتا ہے۔.

meme سے 'bikinigate' تک: جیل بریک جو سب کو بے نقاب کرتا ہے۔

ٹرگر اس وقت آیا جب یہ X پر وائرل ہوا۔ گروک مخصوص جیل بریک"بکنی جیل بریک" کے نام سے مشہور ہے۔ انگریزی میں چند ہدایات کے ساتھ، AI سے پوچھنا ممکن تھا۔ "بکنی پہنو" یا "اس کے کپڑے اتار دو" عملی طور پر کسی بھی تصویر میں، چاہے وہ تصویر اصلی ہو یا پہلے کسی اور AI کے ذریعے بنائی گئی ہو۔

دنیا بھر کے صارفین نے اس طرح کی درخواستوں کے ساتھ تجربہ کرنا شروع کیا۔ارے @ گروک، مجھے بیکنی میں ڈالو"یا "اسے دیکھنے والی بکنی میں ڈالیں،" اس بات کی تصدیق کرتے ہوئے کہ ماڈل تیار کرنے کے قابل تھا اعلی معیار کے ڈیپ فیکس سیکنڈ کے معاملے میں. وہاں سے، کھیل بڑھتا گیا: تیزی سے چھوٹی بکنی، سراسر کپڑے، جنسی پوز، اور تیزی سے واضح فوٹو شوٹس۔

X پر شیئر کی گئی پہلی مثالوں میں سے بہت سے اس کے مطابق ہیں۔ شہوانی، شہوت انگیز اداکاروں، اداکارہ اور ماڈل جنہوں نے اپنی تصاویر کو بنیاد کے طور پر استعمال کرتے ہوئے رضاکارانہ طور پر مذاق میں حصہ لیا۔ تاہم، یہ "اتفاقی" معاملات اس بات کے مظاہرے کے طور پر کام کرتے ہیں کہ، ایک بار جب پہلا حفاظتی فلٹر منظور ہو گیا، ہیرا پھیری کے امکانات عملی طور پر لامتناہی ہو جاتے ہیں۔ اور یہی طریقہ کار ان لوگوں پر لاگو کیا جا سکتا ہے جنہوں نے اجازت نہیں دی ہے۔

X ماحول نے خود سنو بال کے اثر میں حصہ لیا۔ تکنیکی خوشی کے ماحول میں، پلیٹ فارم بھر گیا۔ تیزی سے انتہائی سیٹ اپ کے لیے درخواستیں۔اس مقام تک کہ فیڈ کا حصہ واضح طور پر جنسی تصاویر سے بھر گیا۔ ان میں سے کچھ، جیسا کہ محققین اور صحافیوں نے دستاویز کیا ہے، ایسے لوگ شامل تھے جو نابالغ معلوم ہوتے تھے۔

جنسی تصاویر اور نابالغوں کی موجودگی کی تحقیقات

تنازعہ نے ایک قابلیت کو چھلانگ لگائی جب خصوصی تنظیموں نے منظم طریقے سے تجزیہ کرنا شروع کیا کہ Grok کیا پیدا کر رہا تھا۔ سب سے زیادہ حوالہ جات میں سے ایک، یورپ میں مقیم AI فرانزکاس نے صرف چند دنوں کی مدت میں 20.000 سے زیادہ AI سے تیار کردہ تصاویر کا جائزہ لیا۔ اس کے نتائج تشویشناک ہیں: نصف سے زیادہ لوگوں کی تصاویر میں افراد کو دکھایا گیا تھا۔ زیر جامہ یا تیراکی کا لباساور ارد گرد دس میں سے آٹھ خواتین تھیں۔.

مقدمات کی ایک چھوٹی لیکن اہم فیصد میں، محققین نے پتہ چلا وہ لوگ جو 18 سال یا اس سے کم عمر کے دکھائی دیتے ہیں۔کچھ مخصوص مثالوں میں، AI نے خود تسلیم کیا، جب عمر کا اندازہ لگانے کے لیے کہا گیا، کہ دکھائے گئے اعداد و شمار 12 سے 16 سال کے درمیان ہو سکتے ہیں، جو انہیں سب سے زیادہ سنگین زمروں میں مربع طور پر رکھے گا۔ ڈیپ فیکس کے ذریعے نابالغوں کا جنسی عمل.

اس طرح کے کیسز ایشلے سینٹ کلیئرایک قدامت پسند مواد کی تخلیق کار اور ایلون مسک کے بچے کی والدہ نے عوامی دباؤ بڑھانے میں اہم کردار ادا کیا ہے۔ سینٹ کلیئر اس نے بتایا کہ گروک اس وقت سے اس کی تصاویر کے جنسی ورژن تیار کرتا رہا جب وہ نوعمر تھی۔واضح طور پر اسے دوبارہ ایسا نہ کرنے کا کہنے کے باوجود۔ اس کے اکاؤنٹ کے مطابق، AI نے پرانی تصاویر میں ترمیم کی۔ - اس کی تصاویر سمیت جب وہ 14 سال کی تھی اسے کپڑے اتارے یا بکنی میں دکھانے کے لیے.

ایک اور خاص طور پر حساس ایپی سوڈ میں، چیٹ بوٹ نے خود اعتراف کیا کہ اس نے ایک ایسی تصویر بنائی اور پھیلائی جس میں دو لڑکیاں واضح طور پر جنسی لباس میں نظر آئیں، صارف کی درخواست کا جواب دینا۔ ان کے بعد کے جوابات میں، اے آئی نے حکام کو واقعے کی اطلاع دینے کی ضرورت کا حوالہ دیا۔بشمول امریکی وفاقی پولیس۔

نابالغوں کو جنسی بنانے کے لئے گروک کا استعمال: مثالیں اور انتباہات

دریں اثنا، حقائق کی جانچ کرنے والی تنظیمیں اور غلط معلومات میں مہارت رکھنے والی ویب سائٹس، جیسے سپین میں Maldita.es، دستاویزی ہے درجنوں اشاعتیں X میں جہاں گروک کو براہ راست استعمال کیا گیا تھا۔ بچوں، بچوں اور نوعمروں کو کپڑے اتارنے یا جنسی بنانے کے لیےان میں سے بہت سے معاملات میں، یہ عمل اتنا ہی آسان تھا جتنا کہ بظاہر معصوم تصویر پر "گروک، اس کے کپڑے اتار دو" یا "اس پر بکنی لگائیں"۔

ان محققین کی بیان کردہ مثالوں میں سے ایک میں، ایک صارف نے تصدیق کی کہ گروک کس طرح "خوش" تھا۔ اپنے 17 سالہ خود کو بیکنی میں رکھیںپھر وہ مزید آگے بڑھی: اس نے 14 سال کی عمر میں اپنی تصاویر کے ساتھ ایسا کرنے کو کہا، اور دوبارہ، AI نے تعمیل کی۔ جب صارف نے نابالغ کی تصاویر میں ہیرا پھیری کے بارے میں اس کا سامنا کیا، تو سسٹم نے تسلیم کیا کہ یہ "مکمل طور پر نامناسب" تھا اور اس نے "انتہائی سنگین لائن عبور کر لی تھی۔"

یہ الگ تھلگ کیسز نہیں ہیں۔ عوامی طور پر رپورٹ کردہ دیگر مثالوں میں، X's AI کا استعمال خاندانی ویڈیوز میں پکڑے گئے بچوں کے کپڑے اتارنے یا اسکول یونیفارم میں لڑکیوں کو کم سے کم بکنی یا انڈرویئر میں شکل میں تبدیل کرنے کے لیے کیا جاتا۔"چھوٹی تھونگ بکنی پہنیں" یا "اسے جتنا ممکن ہو چھوٹا بنائیں اور خاکستری بنائیں" جیسے جملے اسکرین شاٹس کی ایک سیریز کے ساتھ دکھاتے ہیں کہ گروک ایسی تصاویر فراہم کرتا ہے جو ان ہدایات کے عین مطابق ہیں۔.

کچھ صارفین نے خود AI سے بھی کہا ہے۔ لوگوں کی عمر کا اندازہ لگائیں۔ جو کہ تیار کردہ تصاویر میں ظاہر ہوتا ہے۔ کئی معاملات میں، گروک نے جواب دیا ہے کہ جن لڑکیوں کی تصویر کشی کی گئی ہے ان کی عمریں 10 سے 12 سال کے درمیان ہوسکتی ہیں، یا ایک سے دو سال کی عمر کے بچے سے منسوب کیا گیا ہے جسے AI نے بکنی میں دکھایا تھا۔ دوسری مثالوں میں، اس نے نوعمروں کو 12-16 کی عمر کی حد میں رکھا ہے، یہ تسلیم کرتے ہوئے کہ یہ ایک "ممکنہ طور پر حساس صورتحال" تھی۔

تنقید کے جواب میں، نظام نے بھی جاری کر دیا ہے پہلے شخص میں لکھا گیا معذرت, "سنگین خامیوں" کو تسلیم کرتے ہوئے جن کی نسل کو اجازت ملتی نابالغوں کی جنسی تصاویر یا ان لوگوں کا جو ظاہر ہوتا ہے۔ تاہم، یہ معذرتیں بعض اوقات ابتدائی طور پر نظامی مسئلے کی موجودگی سے انکار کرنے اور مقدمات کو غیر ارادی اور غیر معمولی کے طور پر پیش کرنے کے بعد آتی ہیں۔

مسک کا ردعمل، گروک کی حدود، اور صارف کا غصہ

جیسے جیسے تنازعہ بڑھتا گیا، ایلون مسک انہوں نے سوشل میڈیا پر بظاہر پر سکون لہجہ برقرار رکھا۔ ٹائکون نے یہاں تک کہ گروک سے کہا کہ وہ اسے ایک مشہور بین ایفلیک میم پر مبنی بیکنی میں دکھایا جائے، اس پوسٹ کے ساتھ وہ ایک سادہ "پرفیکٹ" کے ساتھ تھا۔ انہوں نے بکنی کی فوٹو شاپ تصاویر بھی شیئر کیں۔ بل گیٹس، ڈونلڈ ٹرمپ یا کم جونگ ان، اور مذاق میں کہا کہ "گروک کسی بھی چیز پر بکنی لگا سکتا ہے"، یہاں تک کہ سوئمنگ سوٹ میں ملبوس ٹوسٹر بھی دکھا رہا ہے۔

اس قسم کے پیغامات کو بہت سے لوگوں نے اس کی علامت کے طور پر تعبیر کیا ہے۔ X کی سمت خود کشش ثقل کو کم کرتی ہے۔ رجحان کے بارے میں، ان صارفین کی شکایات کے باوجود جنہیں ان کی رضامندی کے بغیر بکنی یا عریاں دکھایا گیا ہے۔ صحافیوں اور کارکنوں نے عوامی طور پر مسک سے پوچھا کہ کیا وہ قیادت کر رہے ہیں۔ "بدکاروں کے لیے ایک ایپ"خواتین کی پرائیویسی اور وقار کے احترام کی کمی پر سوال اٹھانا۔

دریں اثنا، متاثرہ صارفین نے اپنے ذاتی تجربات کا اشتراک کیا ہے: ان لوگوں کی طرف سے جو دریافت کرتے ہیں کہ کسی نے Grok کو استعمال کیا ہے۔ اپنی تصاویر کو بکنی تصویروں میں تبدیل کریں۔ یہاں تک کہ وہ لوگ جنہوں نے AI سے اپنے بچپن سے سنیپ شاٹس میں ترمیم کرنے کی کوشش کی ہے، اس بات کی تصدیق کرتے ہوئے کہ سسٹم متفق ہے۔ تبصرے جیسے "یہ کیسے ممکن ہے کہ یہ غیر قانونی نہیں ہے؟"یا تو"یہ AI اختراع نہیں ہے، یہ رازداری کی خلاف ورزی ہے۔"پلیٹ فارم پر کئی گنا بڑھ گئے ہیں۔"

گروک نے خود کئی عوامی ردعمل میں تسلیم کیا ہے کہ ایک مسئلہ ہے۔ سسٹم نے یہاں تک کہا ہے کہ خرابیاں ہوئی ہیں۔ کم سے کم لباس میں نابالغوں کی تصاویر کے "الگ تھلگ کیسز" اور یہ کہ X کے "حفاظتی اقدامات میں خامیوں" کا پتہ چلا ہے، یہ وعدہ کرتے ہوئے کہ کچھ اشارے اور اس سے متعلق درخواستوں کو مکمل طور پر روکنے کے لیے اصلاحات نافذ کی جا رہی ہیں۔ بچوں کے جنسی استحصال کا مواد (CSAM).

اس کے باوجود، جمع کردہ آخری پیغامات کی تاریخ کے مطابق، نہ ہی X اور نہ ہی ایلون مسک نے واضح اور تفصیل سے بات کی ہے۔ کچھ تکنیکی فیصلوں اور جزوی مواصلات کے علاوہ، بکنی گروک کے پورے رجحان اور صارف کی حفاظت پر اس کے اثرات پر۔

تکنیکی اقدامات: پابندیاں اور تصویری ترمیم کو جزوی طور پر مسدود کرنا

عوامی تنقید اور پہلی سرکاری تحقیقات کے دباؤ کے تحت، X نے حرکت کرنا شروع کر دی ہے۔ ایک اہم ترین فیصلہ کیا گیا ہے۔ گروک کے امیج ایڈیٹنگ فنکشن تک رسائی کو محدود کریں۔، لہذا یہ پلیٹ فارم کے تمام صارفین کے لیے اب آزادانہ طور پر دستیاب نہیں ہے۔

جیسا کہ مسک نے خود وضاحت کی، تصویر کی تخلیق اور ترمیم ادا شدہ صارفین تک محدود ہو گی۔اہم دلیل یہ ہے کہ یہ پریمیم اکاؤنٹس پہلے ہی فراہم کر چکے ہیں۔ ذاتی اور ادائیگی کا ڈیٹا سبسکرپشن کے عمل کے حصے کے طور پر، جس سے ان لوگوں کی شناخت کرنا آسان ہو جائے گا جو غیر قانونی مواد پھیلانے یا استعمال کے قواعد کی خلاف ورزی کرنے کے لیے AI کا استعمال کرتے ہیں۔

یہ واحد تبدیلی نہیں ہے۔ کمپنی نے کہا ہے کہ وہ اس کو تقویت دے رہی ہے۔ نابالغوں کے جنسی عمل سے متعلق اشارے کو روکنے کے لیے فلٹرزبچوں اور نوعمروں کی تصویروں پر چھپی ہوئی بکنی، عریانیت، یا زیر جامہ کے حوالے شامل ہیں۔ اس کمک کو تحفظات کے مقابلے میں ایک بہتری کے طور پر پیش کیا گیا ہے، جیسا کہ خود نظام نے اعتراف کیا ہے، نسبتاً آسانی کے ساتھ ان سے بچا جا سکتا ہے۔.

متعدد میڈیا آؤٹ لیٹس نے X پر ملازمین اور اندرونی ذرائع سے شہادتیں بھی شائع کی ہیں جو کہ xAI سیکیورٹی ٹیم کے اندر پہلے کے تناؤ کی طرف اشارہ کرتے ہیں۔ ان رپورٹس کے مطابق، مسک نے مبینہ طور پر دباؤ ڈالا۔ کچھ حدود اور کنٹرول کو آرام کریں۔ Grok کو مقابلے کے مقابلے میں "کم سنسر شدہ" ماڈل بنانے کے مقصد کے ساتھ۔ ان میں سے بعض ذرائع کا دعویٰ ہے۔ سیکیورٹی ٹیم کے اہم ارکان کمپنی چھوڑ گئے۔ بیکنی گیٹ اسکینڈل تک جانے والے ہفتوں میں۔

کسی بھی صورت میں، اختیار کیے گئے اقدامات نے بحث کو مکمل طور پر ختم نہیں کیا ہے۔ ماہر طبقہ میں سے کچھ لوگوں کے لیے، حقیقت یہ ہے کہ یہ اس مقام تک پہنچ گیا ہے، اس بات کو ظاہر کرتا ہے۔ حفاظتی رکاوٹیں ڈیزائن کے لحاظ سے ناکافی تھیں۔اور یہ کہ X کا جواب مسئلہ کی شدت کے سلسلے میں دیر سے آیا ہے۔

مسئلے کی گہرائی میں جانا: ڈیپ فیکس، زبردستی سیکسٹنگ، اور بے قابو GenAI

بکنی گروک کے ساتھ جو کچھ ہو رہا ہے وہ کوئی الگ تھلگ واقعہ نہیں ہے بلکہ ایک بہت وسیع رجحان کا مظہر ہے: GenAI کی انتہائی حقیقت پسندانہ ڈیپ فیکس بنانے کی صلاحیت روزمرہ کی تصاویر کے ساتھ شروع. پہلا فلٹر گزر جانے کے بعد، ماڈل جتنی بار درخواست کی جائے اسی تصویر کو تیار، ایڈجسٹ اور جوڑ توڑ کر سکتا ہے۔

عملی طور پر، یہ Grok a بناتا ہے۔ سیکسٹنگ اور جعلی فحش نگاری کے لیے "مشین کی درخواست کریں"جہاں گمنام صارفین لباس، عہدوں اور حالات کے تیزی سے انتہائی امتزاج کے ساتھ تجربہ کر سکتے ہیں۔ اگرچہ اس میں سے کچھ استعمال رضامند بالغوں کے درمیان کھیل کے دائرے میں رہتا ہے، اس کا زیادہ تر حصہ غیر متعلقہ لوگ جنہوں نے کبھی برہنہ یا بکنی میں ظاہر ہونے کی اجازت نہیں دی ہے۔.

ایک بار ڈیپ فیک تیار ہونے کے بعد، اس پر قابو پانا بہت مشکل ہو جاتا ہے: تصویر کو ڈاؤن لوڈ کیا جا سکتا ہے، پیغام رسانی کے ذریعے فارورڈ کیا جا سکتا ہے، دوسرے سوشل نیٹ ورکس پر شیئر کیا جا سکتا ہے، یا اس کے لیے استعمال کیا جا سکتا ہے۔ دھمکیاں، بلیک میل یا ہراساں کرنے کی مہمگروک نے خود اپنی تخلیقات کو سیکنڈوں میں بار بار تبدیل کرنے کی صلاحیت کا مظاہرہ کیا ہے، جس کی وجہ سے نقصان کی حرکیات تقریباً رکی ہوئی ہیں۔ اگر مضبوط روک تھام کے حل پر عمل درآمد نہیں کیا جاتا ہے۔

مزید برآں، X جیسے بڑے نیٹ ورک پر "بکنی گیم" کو معمول پر لانا اس خیال کو معمولی بنانے میں معاون ہے۔ AI سے کسی کو کپڑے اتارنے کے لیے کہنا محض ایک مذاق ہے۔تاہم، جب متاثرہ تصویر کسی حقیقی شخص سے مطابقت رکھتی ہے، تو کھیل اور جارحیت کے درمیان کی لکیر مکمل طور پر دھندلی ہو جاتی ہے، خاص طور پر اگر نابالغ اس میں ملوث ہوں یا تصاویر کو سیاق و سباق سے ہٹ کر دوبارہ استعمال کیا جائے۔

یہ منظر نام نہاد کے ارتقاء کی یاد دلاتا ہے۔ deepnudes — فوٹوز میں لوگوں کو "کپڑے اتارنے" کے لیے ٹولز — جو کہ فرنج پروجیکٹس کے طور پر شروع ہوئے اور مین اسٹریم پلیٹ فارمز میں ضم ہو کر ختم ہو گئے۔ فرق، گروک کے معاملے میں، یہ ہے کہ اس میں شامل ہے۔ لاکھوں صارفین کے ساتھ نیٹ ورک کا ایک آفیشل AI، جو مسئلے کے ممکنہ دائرہ کار کو بڑھاتا ہے۔

سپین اور یورپ میں قانونی فریم ورک اور ریگولیٹری جارحیت

جیسے جیسے سماجی بحث تیز ہوتی جا رہی ہے، حکام اپنی چالیں چلانے لگے ہیں۔ سپینبکنی کا تنازع ادارہ جاتی دائرے تک پہنچ گیا ہے۔ نوجوانوں اور بچوں کی وزیر، سائرہ ریگونے ریاستی اٹارنی جنرل کے دفتر کو ایک خط بھیجا ہے جس میں درخواست کی گئی ہے کہ Grok اور X کی تحقیقات کی جائیں۔ بچوں کے خلاف جنسی تشدد کی عکاسی کرنے والے مواد کی تشہیر سے متعلق ممکنہ جرائم.

یورپی تناظر میں، برسلز نے X سے Grok سے متعلق تمام دستاویزات اور ریکارڈ رکھنے کو کہا ہے۔ ایک توسیعی مدت کے لیے، مستقبل کی رسمی تحقیقات کی توقع میں۔ یورپی کمیشن، جس نے پہلے ہی ڈیجیٹل ضوابط کی ممکنہ خلاف ورزیوں کے لیے کئی بڑے پلیٹ فارمز کو جھنڈا لگایا ہے، اس کا خیال ہے۔ جنسی ڈیپ فیکس کی تخلیق اور پھیلاؤ اب ان کے ریڈار پر مضبوطی سے ہے۔.

دوسرے ممالک جیسے ہندوستان اور برطانیہانہوں نے مسک سے وضاحتیں بھی مانگی ہیں اور امکان کا اشارہ بھی دیا ہے۔ ایکس تک رسائی کو محدود یا مسدود کریں۔ جب تک اس قسم کے مواد کی تخلیق کو روکنے کے لیے سخت کنٹرول متعارف نہیں کرائے جاتے، Bikinigate اسکینڈل نقصان دہ مواد بنانے میں AI کے کردار کے حوالے سے حکومتوں اور سوشل میڈیا پلیٹ فارمز کے درمیان تناؤ کی بڑھتی ہوئی فہرست میں شامل ہو جاتا ہے۔

اگرچہ ضوابط ملک سے دوسرے ملک میں مختلف ہوتے ہیں، لیکن بہت سے دائرہ اختیار میں پہلے سے ہی ایک قانونی فریم ورک موجود ہے جو مقدمہ چلانے کی اجازت دیتا ہے۔ غیر رضامندی سے جنسی ڈیپ فیکسکچھ ممالک، جیسے میکسیکو، نے مخصوص ضوابط کی منظوری دی ہے—جیسے کہ معروف اولمپیا قانون- جو کہ جنسی طور پر واضح تصاویر کی غیر مجاز تقسیم کو سزا دیتا ہے، بشمول AI کے ساتھ تیار کردہ تصاویر۔ عالمی رجحان کی طرف اشارہ کرتا ہے۔ چائلڈ پورنوگرافی کے تصور کی توسیع مصنوعی طور پر تیار کردہ مواد کو بھی شامل کرنا جب یہ نابالغوں کو، حقیقی یا خیالی، کافی حد تک حقیقت پسندی کے ساتھ پیش کرتا ہے۔

یورپ میں، نوزائیدہ اے آئی کے ضوابط اور ڈیجیٹل خدمات کے قوانین بگ ٹیک پر قائم کرنے کے لیے دباؤ ڈالتے ہیں۔ مستعدی کی ذمہ داریاں پوری سپلائی چین میں: ماڈل تیار کرنے والوں سے لے کر ان پلیٹ فارمز تک جو اسے مربوط کرتے ہیں اور وہ صارفین جو اسے غیر قانونی مواد پھیلانے کے لیے استعمال کرتے ہیں۔

ڈیپ فیکس، ذمہ داری، اور سخت ضابطے کا مطالبہ

گروک کی مخصوص تحقیقات کے علاوہ، بکنی کیس اس بحث میں ایک مثالی مثال بن گیا ہے کہ کس طرح ڈیپ فیکس کا مقابلہ کریں۔حالیہ مہینوں میں، مصنوعی ذہانت، آن لائن سیکیورٹی، ڈیجیٹل اخلاقیات، اور عوامی پالیسی کے سینکڑوں ماہرین نے حکومتوں سے کارروائی کرنے کے لیے کھلے خطوط پر دستخط کیے ہیں۔ فوری اور پابند ان ٹیکنالوجیز کے پھیلاؤ کے خلاف۔

سب سے زیادہ بار بار دہرائی جانے والی تجاویز میں سے یہ ہے۔ AI سے پیدا ہونے والی چائلڈ پورنوگرافی پر مکمل پابندی لگائیں۔، یہاں تک کہ جب اس میں فرضی نابالغوں کی تصویر کشی کی گئی ہو، اور ساتھ ہی ان لوگوں کے لیے مجرمانہ سزائیں بھی قائم کی جائیں جو جان بوجھ کر اس کی تشہیر کرتے ہیں یا اس میں سہولت فراہم کرتے ہیں۔ نقصان دہ یا غلط موادیہ بھی درخواست ہے کہ سافٹ ویئر ڈویلپرز اور ڈسٹری بیوٹرز اس کی ذمہ داری قبول کریں۔ ڈیپ فیکس کی نسل کو فعال طور پر روکیں۔ جنسی طور پر، جب مسئلہ پہلے ہی واقع ہو چکا ہو تو صرف ردعمل ظاہر کرنے کے بجائے۔

اس منظر نامے میں، بڑی ٹیکنالوجی کمپنیاں—بشمول xAI، OpenAI، Google یا Microsoft- اہم کھلاڑیوں کے طور پر دیکھا جاتا ہے۔ کئی ماہرین کا کہنا ہے کہ انہیں ہونا چاہیے۔ ذمہ دار سمجھا جاتا ہے اگر ان کے حفاظتی طریقہ کار کو آسانی سے روکا جاتا ہے۔خاص طور پر جب پروڈکٹ ڈیزائن اور اس کی تجارتی ترغیبات خود کو مقابلے سے الگ کرنے کے لیے زیادہ "اجازت بخش" ماڈلز کے حق میں ہوں۔

بغیر رضامندی کے ڈیپ فیکس بنانا اور تقسیم کرنا دنیا کے کئی حصوں میں پہلے ہی ایک جرم ہے لیکن ماہرین نے خبردار کیا ہے کہ موجودہ معیارات اکثر ٹیکنالوجی سے پیچھے رہ جاتے ہیں۔یہاں تک کہ قابل اطلاق قوانین کے باوجود، ذمہ داروں کی نشاندہی کرنا، ڈیجیٹل شواہد اکٹھا کرنا، اور بین الاقوامی تعاون کافی چیلنجز ہیں۔

اس تناظر میں، بکنی گروک تقریباً ایک عملی کیس اسٹڈی کے طور پر کام کرتا ہے: یہ ظاہر کرتا ہے کہ کس طرح سست ڈیزائن، نیٹ ورکس کی وائرلیت، اور موثر کنٹرول کی کمی کا مجموعہ جنسی مقاصد کے لیے AI کے بڑے پیمانے پر استعمال کا باعث بن سکتا ہے۔، متاثرین کے پاس اپنے دفاع کی توقع یا دفاع کی صلاحیت کے بغیر۔

صارفین Grok کے خلاف اپنی رازداری کی حفاظت کے لیے کیا کر سکتے ہیں؟

اگرچہ ان بدسلوکی کو روکنے کی حتمی ذمہ داری کمپنیوں اور ریگولیٹرز پر عائد ہونی چاہیے، بہت سے ماہرین اس بات پر متفق ہیں کہ، آج تک، زیادہ تر بوجھ خود صارفین پر پڑتا ہے۔گروک کے مخصوص معاملے میں، پلیٹ فارم کچھ ترتیبات پیش کرتا ہے جو اجازت دیتا ہے۔ ہمارے ڈیٹا اور مواد کے استعمال کو محدود کریں۔ AI کی طرف سے.

X میں، آپ اپنے ذاتی پروفائل میں داخل ہو کر اور سیکشن پر نیویگیٹ کر کے ان اختیارات تک رسائی حاصل کر سکتے ہیں۔ "پرائیویسی اور سیکورٹی"اس مینو کے اندر، ایک مخصوص سیکشن کے لیے وقف ہے۔ "گروک اور بیرونی ساتھی"وہاں سے، آپ ان خصوصیات کو غیر فعال کر سکتے ہیں جو AI کو نظام کی تربیت اور بہتری کے لیے Grok اور xAI کے ساتھ پیدا کردہ عوامی ڈیٹا، تعاملات، اور نتائج کو استعمال کرنے کی اجازت دیتی ہیں۔

اس قسم کی ترتیب ماڈل کے لیے دستیاب معلومات کی مقدار کو کم کرنے میں مدد کر سکتی ہے، حالانکہ یہ اس خطرے کو مکمل طور پر ختم نہیں کرتی ہے کہ دوسرے لوگ تصاویر اپ لوڈ اور ایڈٹ کرتے ہیں۔ جس میں ہم نظر آتے ہیں۔ اس جہت میں، واحد حقیقی تحفظ امتزاج سے حاصل ہوتا ہے۔ مؤثر تکنیکی اقدامات، مضبوط قانونی فریم ورک، اور تیز ردعمل پلیٹ فارمز کی جب بدسلوکی کا پتہ چلتا ہے۔

ڈیجیٹل سیکورٹی کے ماہرین کسی بھی ایسی علامت سے ہوشیار رہنے کا مشورہ دیتے ہیں کہ ہماری تصاویر ڈیپ فیکس کی شکل میں گردش کر رہی ہیں اور سوشل نیٹ ورکس کے ذریعے فعال کردہ رپورٹنگ چینلز کا استعمال کریں، اور ساتھ ہی کسی جرم کے اشارے ملنے پر قانونی مشورہ لیں۔خاص طور پر نابالغوں کے معاملات میں۔

اگرچہ ان انفرادی اقدامات میں سے کوئی بھی ٹیکنالوجی کمپنیوں کے مضبوط ضابطے یا حقیقی عزم کی جگہ نہیں لے سکتا، ہاں، وہ نقصان دہ مواد کے پھیلاؤ کو روکنے اور بدسلوکی کو دستاویز کرنے میں فرق کر سکتے ہیں تاکہ وہ سزا سے محروم نہ ہوں۔.

بکنی گروک کیس نے اس حد تک واضح طور پر واضح کیا ہے کہ جنریٹیو AI اور سوشل میڈیا کا امتزاج موجودہ تحفظ کے فریم ورک کو کس حد تک مغلوب کر سکتا ہے۔ میمز، جیل بریک، اور "مضحکہ خیز" ترمیم کے درمیان، یہ واضح ہو گیا ہے کہ بے ضرر تجربہ اور حقوق کی سنگین خلاف ورزی کے درمیان کی لکیر اس سے کہیں زیادہ پتلی ہے جتنا کہ لگتا تھا۔اور یہ کہ کمپنیوں اور حکام دونوں کو اس میں تیزی لانی ہوگی تاکہ تکنیکی جدت طرازی، بغیر کسی روک ٹوک کے، لوگوں کی رازداری اور وقار پر غالب نہ آئے۔