গ্রোক এবং যৌন ডিপফেক নিয়ে ইউরোপ এক্সের উপর চাপ বাড়িয়েছে

ইউরোপীয় ইউনিয়ন বিগ টেকের সাথে তার অচলাবস্থায় আরও একটি পদক্ষেপ নেওয়ার সিদ্ধান্ত নিয়েছে এবং সরাসরি মনোযোগ দিয়েছে গ্রোক, এক্স-এ সংহত কৃত্রিম বুদ্ধিমত্তার হাতিয়ার, পূর্বে টুইটার। কমিউনিটি প্রতিষ্ঠানগুলি সন্দেহ করছে যে প্ল্যাটফর্মে এর স্থাপনা প্রয়োজনীয় সুরক্ষা ব্যবস্থা সহকারে পরিচালিত হয়নি এবং এর সৃষ্টি এবং ব্যাপক প্রচার নারী ও শিশুদের যৌনতাপূর্ণ ছবি ব্যবহার করা হয়েছে, অনেক ক্ষেত্রে কোনও সম্মতি ছাড়াই।

এই নতুন আনুষ্ঠানিক তদন্তটি এই আইনের মধ্যে রচিত হয়েছে ডিজিটাল সার্ভিসেস রেগুলেশন (DSA)বৃহৎ প্ল্যাটফর্মগুলিকে তাদের পরিষেবার সাথে সম্পর্কিত ঝুঁকিগুলি কীভাবে পরিচালনা করতে হবে তা নিয়ন্ত্রণকারী নিয়ন্ত্রণকারী নিয়ন্ত্রণ। ব্রাসেলস স্পষ্ট করতে চায় যে X কি সময়ের আগে গ্রোকের বিপদগুলি মূল্যায়ন করেছে এবং সেগুলি হ্রাস করার জন্য কার্যকর ব্যবস্থা বাস্তবায়ন করেছে, নাকি বিপরীতভাবে, ইউরোপীয় নাগরিকদের অধিকারকে জামানত ক্ষতি হিসেবে বিবেচনা করেছে কৃত্রিম বুদ্ধিমত্তার প্রতি তার অঙ্গীকারের প্রতিফলন।

ইউরোপীয় কমিশন ঠিক কী তদন্ত করছে?

ইউরোপীয় কমিশন কর্তৃক খোলা তদন্তটি X একটি কাজ করেছে কিনা তা নির্ধারণের উপর দৃষ্টি নিবদ্ধ করে নির্দিষ্ট ঝুঁকি মূল্যায়ন ইউরোপীয় ইউনিয়নে গ্রোকের কার্যকারিতা চালু এবং সম্প্রসারণের আগে, ডিএসএ-এর জন্য প্রধান প্ল্যাটফর্মগুলিকে বিশ্লেষণ করতে হবে যে তাদের সিস্টেমগুলি কীভাবে নিরাপত্তা, অপ্রাপ্তবয়স্কদের সুরক্ষা, ব্যবহারকারীদের শারীরিক ও মানসিক অখণ্ডতা, অথবা অবৈধ বিষয়বস্তুর প্রচারকে প্রভাবিত করতে পারে।

গ্রোকের ক্ষেত্রে, ফোকাস হল যৌন স্পষ্ট চিত্রের স্বয়ংক্রিয় প্রজন্মবিশেষ করে যারা প্রকৃত মানুষদের, যাদের মধ্যে নাবালকরাও রয়েছেন, প্রভাবিত করে। X-এর AI টুলগুলি এমন ডিপফেক তৈরি এবং শেয়ার করতে সক্ষম হয়েছে কিনা তা নিয়ে তদন্ত চলছে যেখানে আসল মুখগুলি নগ্ন দেহের উপর চাপিয়ে দেওয়া হয় বা যৌন পরিস্থিতিতে স্থাপন করা হয়, এমন একটি অভ্যাস যা শিশু যৌন নির্যাতনের বিষয়বস্তু যখন শিকার শিশু বা কিশোর হয়।

ব্রাসেলস ২০২৩ সালের ডিসেম্বরে যে তদন্ত শুরু করেছিল তা সিস্টেমে সম্প্রসারিত করার সিদ্ধান্ত নিয়েছে X কন্টেন্ট সুপারিশকোম্পানি ঘোষণা করেছে যে তারা গ্রোককে সেই অ্যালগরিদমের সাথে একীভূত করবে, যাতে AI সরাসরি প্রতিটি ব্যবহারকারী কোন পোস্ট দেখবে তা প্রভাবিত করে, যা বিভ্রান্তি, ঘৃণাত্মক বক্তব্য এবং অন্যান্য পদ্ধতিগত ঝুঁকি ব্যবস্থাপনা সম্পর্কে নতুন প্রশ্ন উত্থাপন করে।

সম্প্রদায় সূত্র অনুসারে, সম্ভাব্য ক্ষতি আর কাল্পনিক নয়কমিশন বলেছে যে ঝুঁকিগুলি বাস্তবে রূপ নিয়েছে, যা ইইউ নাগরিকদের তাদের শারীরিক ও মানসিক সুস্থতার জন্য গুরুতর পরিণতির মুখোমুখি করছে। এই কারণেই, মামলাটিকে অগ্রাধিকার দেওয়া হবে, যদিও একটি নির্দিষ্ট সময়সূচী ছাড়াই।

যৌন ডিপফেক এবং শিশু নির্যাতন: ট্রিগার

এই ইউরোপীয় আক্রমণের তাৎক্ষণিক উৎপত্তি হল অ-সম্মতিমূলক যৌন ডিপফেক গ্রোক দিয়ে তৈরি। বিভিন্ন গবেষণা এবং সংস্থাগুলি কয়েক দিনের মধ্যে বাস্তব ছবি থেকে লক্ষ লক্ষ কারচুপি করা ছবি তৈরির বিষয়ে সতর্ক করেছে, যার বিশেষ প্রভাব নারী এবং অপ্রাপ্তবয়স্কদের উপর পড়ছে। কিছু প্রতিবেদনে উল্লেখ করা হয়েছে লক্ষ লক্ষ যৌনতাপূর্ণ ছবি মাত্র দুই সপ্তাহে তৈরি, যার মধ্যে হাজার হাজার শিশুদের উপর প্রভাব ফেলবে।

এই ঘটনাটি কেবল ইইউ-তে সীমাবদ্ধ নয়, বরং শিশু সুরক্ষা এবং লিঙ্গ-ভিত্তিক ডিজিটাল সহিংসতা সম্পর্কে ক্রমবর্ধমান সচেতনতার কারণে এটি বিশেষ করে ইউরোপে প্রতিধ্বনিত হয়েছে। কমিশনের সভাপতি, উরসুলা ভন ডের লেইনতিনি এতদূর পর্যন্ত বলেছিলেন যে ইউরোপীয় ইউনিয়ন সিলিকন ভ্যালিতে "শিশু সুরক্ষা আউটসোর্স" করবে না এবং যদি প্ল্যাটফর্মগুলি নিজেরাই কাজ না করে, ইউরোপীয় কর্তৃপক্ষ হস্তক্ষেপ করবে.

একইভাবে, প্রযুক্তিগত সার্বভৌমত্ব, নিরাপত্তা এবং গণতন্ত্রের নির্বাহী ভাইস প্রেসিডেন্ট, অনুসরণতিনি এই ডিপফেকগুলিকে "হিংসাত্মক এবং অগ্রহণযোগ্য অবক্ষয়ের রূপ" হিসাবে বর্ণনা করেছেন। তার বার্তা স্পষ্ট: তারা জানতে চায় যে X কি DSA-এর বাধ্যবাধকতাগুলিকে সম্মান করেছে, নাকি গ্রোকের উন্নয়নের ক্ষেত্রে নারী ও শিশুদের অধিকারকে গৌণ বলে মনে করেছে।

এই কৃত্রিম বুদ্ধিমত্তার সাথে সম্পর্কিত বিতর্কিত ঘটনা এটিই প্রথম নয়। কয়েক সপ্তাহ আগে, গ্রোক ইতিমধ্যেই সমালোচিত হয়েছিলেন হলোকস্টকে ছোট বা সাদা করে তুলেছে এমন বিষয়বস্তুএটি ব্রাসেলসে এই ধারণাটিকে আরও দৃঢ় করে যে X তার প্ল্যাটফর্মে অন্তর্ভুক্ত প্রযুক্তির ঝুঁকিগুলি পর্যাপ্তভাবে মূল্যায়ন করছে না।

ডিজিটাল পরিষেবা আইনের অধীনে X-এর বাধ্যবাধকতা

ব্রাসেলসের কর্মকাণ্ড পরিচালনাকারী কাঠামো হল ডিজিটাল পরিষেবা সংক্রান্ত নিয়মাবলীএই প্রবিধানটি তথাকথিত "খুব বড় অনলাইন প্ল্যাটফর্ম"-এর জন্য নির্দিষ্ট নিয়ম নির্ধারণ করে, যা ইউরোপে ব্যবহারকারীর সীমা অতিক্রম করার পরে X ক্যাটাগরিতে পড়ে। এই কোম্পানিগুলিকে অবশ্যই পদ্ধতিগত ঝুঁকিগুলি সনাক্ত করতে হবে এবং মোকাবেলা করতে হবে, বিভ্রান্তি থেকে শুরু করে... অবৈধ বিষয়বস্তুর প্রচার এবং লিঙ্গ সহিংসতা.

অন্যান্য বিষয়ের মধ্যে, DSA-এর প্রয়োজন যে কোনও পরিষেবার ঝুঁকি প্রোফাইল উল্লেখযোগ্যভাবে পরিবর্তন করতে পারে এমন নতুন বৈশিষ্ট্য চালু করার আগে, প্ল্যাটফর্মটি একটি ঝুঁকি মূল্যায়ন প্রতিবেদন এবং এগুলো প্রশমিত করার জন্য কী কী ব্যবস্থা প্রয়োগ করা হবে তার বিস্তারিত বিবরণ দেওয়া হবে। এই ক্ষেত্রে, কমিশন X-কে গ্রোক সম্পর্কিত সমস্ত অভ্যন্তরীণ নথিপত্র সংরক্ষণ এবং হস্তান্তর করার নির্দেশ দিয়েছে, প্রযুক্তিগত পরীক্ষা থেকে শুরু করে নকশার সিদ্ধান্ত পর্যন্ত।

ইউরোপীয় কর্তৃপক্ষ আরও উল্লেখ করেছে যে অবৈধ অনলাইন কন্টেন্টের দায়িত্ব কেবল তাদের উপর বর্তায় না যারা এটি তৈরি করে। ডিজিটাল আইনে বিশেষজ্ঞ আইনি বিশেষজ্ঞদের ব্যাখ্যা অনুসারে, যেমন অধ্যাপক বোরজা আদসুয়ারাপ্ল্যাটফর্মগুলি এখন সেই উপাদানটি সরিয়ে ফেলতে বাধ্য। এর পুনরাবৃত্তি রোধ করুন যখন তারা তাদের অস্তিত্ব সম্পর্কে সচেতন হয়, বিশেষ করে যখন তারা নাবালকদের প্রভাবিত করে।

ব্রাসেলস সন্দেহ করে যে এক্স পূর্ববর্তী, নির্দিষ্ট ঝুঁকি মূল্যায়ন ছাড়াই গ্রোকের ক্ষমতা সক্রিয় এবং প্রসারিত করতে সক্ষম হয়েছিল এবং প্রাথমিক সমালোচনার পরে যে প্রযুক্তিগত বাধাগুলি চালু করা হয়েছিল তা যথেষ্ট ছিল না। প্রকৃতপক্ষে, বিভিন্ন ইউরোপীয় সংবাদমাধ্যম নিশ্চিত করেছে যে, কোম্পানিটি নতুন সীমাবদ্ধতা ঘোষণা করার পরেও, ফিল্টারগুলি এড়িয়ে যাওয়া এখনও তুলনামূলকভাবে সহজ ছিল এবং টুলটি দিয়ে যৌনতাপূর্ণ ছবি তৈরি করুন।

সম্ভাব্য নিষেধাজ্ঞা এবং অস্থায়ী ব্যবস্থা

গ্রোক কর্তৃক এক্স-এর বিরুদ্ধে শুরু করা তদন্ত কোনও প্রতীকী সতর্কীকরণ নয়। ডিএসএ ইউরোপীয় কমিশনকে মোট বার্ষিক বৈশ্বিক লেনদেনের ৬% পর্যন্ত জরিমানা সবচেয়ে গুরুতর ক্ষেত্রে, কোম্পানির ক্ষতি উল্লেখযোগ্য। শত শত বা বিলিয়ন ডলারের আয়ের একটি ব্যবসায়, পরিসংখ্যান উল্লেখযোগ্যভাবে বৃদ্ধি পায় এবং এর প্রভাব কেবল আর্থিক খরচের চেয়ে অনেক বেশি।

সমান্তরালভাবে, এই প্রবিধানটি মধ্যবর্তী নিষেধাজ্ঞা এবং গ্রহণের সম্ভাবনা প্রদান করে অস্থায়ী ব্যবস্থা তদন্ত শেষ হওয়ার আগে যদি গুরুতর ঝুঁকি ধরা পড়ে, তাহলে ব্রাসেলস X-এ কিছু Grok কার্যকারিতা সীমাবদ্ধ করার বা এমনকি স্থগিত করার আদেশ দিতে পারে, অথবা প্রয়োজন হতে পারে ফিল্টার এবং সুরক্ষা ব্যবস্থায় জরুরি প্রযুক্তিগত পরিবর্তন এর ক্ষতিকারক সম্ভাবনা কমাতে AI টুলের ব্যবহার।

কমিশন ইতিমধ্যেই তার অনুমোদন ক্ষমতা ব্যবহার করার ইচ্ছা প্রকাশ করেছে, যখন ডিসেম্বরে, তারা X-এর উপর জরিমানা আরোপ করেছিল। ১২০ মিলিয়ন ইউরো জরিমানা তিনটি প্রধান কারণের জন্য: বিজ্ঞাপনে স্বচ্ছতার অভাব, নীল যাচাইকরণ চিহ্নের বিভ্রান্তিকর নকশা এবং জনসাধারণের তথ্যে গবেষকদের প্রবেশাধিকার বন্ধ করা। এই লঙ্ঘনের জন্য সেই জরিমানা DSA দ্বারা অনুমোদিত সর্বোচ্চের কাছাকাছি পৌঁছেছিল এবং একটি সমগ্র খাতের জন্য বিজ্ঞপ্তি.

গ্রোকের নির্দিষ্ট ক্ষেত্রে, যদি কমিশন বারবার গুরুতর লঙ্ঘন প্রমাণ করে, তাহলে ইউরোপীয় আইনি কাঠামো আরও পদক্ষেপ নেওয়ার অনুমতি দেয়। চরম পরিস্থিতিতে, নিম্নলিখিত ব্যবস্থাগুলি বিবেচনা করা হয়: কমিউনিটি অঞ্চলে পরিষেবা সাময়িকভাবে স্থগিতকরণএর মধ্যে X-এর কিছু নির্দিষ্ট ফাংশন ব্লক করা হতে পারে অথবা, যদি লঙ্ঘন ঘটে এবং কোম্পানি সেগুলি সংশোধন করতে অস্বীকৃতি জানায়, তাহলে শেষ পর্যন্ত সম্পূর্ণ বন্ধ করে দেওয়া হতে পারে।

এক্স এর প্রতিক্রিয়া এবং আন্তর্জাতিক চাপ

নেতৃত্বদানকারী কোম্পানি থেকে এলন মাস্কসরকারী অবস্থান জোর দিয়ে বলা হয়েছে যে তৈরি করা ছবিগুলির দায়বদ্ধতা সেই ব্যবহারকারীদের উপর যারা সেগুলি তৈরি এবং বিতরণ করে। X বজায় রাখে যে এর একটি নীতি রয়েছে শিশু যৌন শোষণের প্রতি শূন্য সহনশীলতা এবং অসম্মতিমূলক নগ্নতা, এবং সংবেদনশীল বিষয়বস্তুর উৎপাদন সীমিত করার জন্য এটি গ্রোকে সমন্বয় প্রবর্তন করছে।

সাম্প্রতিক এক বিবৃতিতে, কোম্পানিটি জানিয়েছে যে তারা আর ব্যবহারকারীদের বিকিনি, অন্তর্বাস বা অন্যান্য বিশেষভাবে খোলামেলা পোশাকে প্রকৃত মানুষকে চিত্রিত করার অনুমতি দেবে না।অন্তত যেখানে এই ধরনের অনুশীলন অবৈধ হতে পারে। তবে, ইউরোপীয় নিয়ন্ত্রকরা এই ব্যবস্থাগুলিকে অনেক দেরিতে এবং অপর্যাপ্ত বলে মনে করেন, এবং পর্যাপ্ত প্রতিরোধ ব্যবস্থা ছিল না।বরং জনসাধারণের বিতর্কের প্রতিক্রিয়া।

গ্রোককে ঘিরে বিতর্ক ইইউর বাইরেও প্রতিধ্বনিত হয়েছে। মালয়েশিয়া এবং ইন্দোনেশিয়া এমনকি যৌন ডিপফেক সম্পর্কে অভিযোগের বন্যার কারণে তারা ইমেজ পরিষেবাতে অ্যাক্সেস ব্লক করার মতো পদক্ষেপও নিয়েছে।তবে, একটি ক্ষেত্রে X নতুন সুরক্ষা ব্যবস্থা গ্রহণের প্রতিশ্রুতি দেওয়ার পর নিষেধাজ্ঞা তুলে নেওয়া হয়েছিল। অন্যান্য দেশ, যেমন ইতালি, তারা সিন্থেটিক নগ্নতায় বিশেষজ্ঞ অ্যাপগুলির বিরুদ্ধে ব্যবস্থা নিয়েছে।এবং ভিতরে মার্কিন যুক্তরাষ্ট্র এবং চীন আইনি মামলা খুলেছে যেসব কোম্পানির ব্যবসায়িক মডেল এই ধরণের বিষয়বস্তুর উপর ভিত্তি করে তৈরি, তাদের বিরুদ্ধে।

ইউরোপে, ইইউ পদক্ষেপের পাশাপাশি, কিছু জাতীয় সরকার পদক্ষেপ নিয়েছে। ফরাসি সরকার আদালতে X রিপোর্ট করেছে গ্রোক কর্তৃক তৈরি নগ্ন নারী এবং নাবালকদের ছবিগুলির কারণে, যখন স্পেন সম্মান, গোপনীয়তা এবং নিজের ভাবমূর্তি সম্পর্কিত আইন সংস্কারের জন্য একটি প্রাথমিক বিল প্রচার করেছে, যেখানে কৃত্রিম বুদ্ধিমত্তার সাহায্যে "অতি-ছদ্মবেশ" ডিপফেক ব্যবহার করে দুর্বলতার একটি নির্দিষ্ট রূপ হিসেবে।

জেনারেটিভ এআই নিয়ন্ত্রণের একটি গুরুত্বপূর্ণ বিষয়

তাৎক্ষণিক আইনি লড়াইয়ের বাইরে, গ্রোকের বিরুদ্ধে মামলাটি একটি ডিএসএ কীভাবে প্রয়োগ করতে হয় তার রেফারেন্স কেস বৃহৎ অনলাইন প্ল্যাটফর্মে একীভূত হলে উৎপাদিত কৃত্রিম বুদ্ধিমত্তার দিকে। অন্যান্য স্বতন্ত্র AI পরিষেবার বিপরীতে, এখানে এই টুলটি ইউরোপের লক্ষ লক্ষ ব্যবহারকারীর একটি সামাজিক নেটওয়ার্কের কেন্দ্রবিন্দুতে অবস্থিত এবং এর প্রতিক্রিয়া প্রায় তাৎক্ষণিকভাবে ছড়িয়ে পড়ে।

ইউরোপীয় নিয়ন্ত্রকরা স্পষ্ট করে দিয়েছেন যে তদন্তটি গ্রোকের ব্যবহারের উপর দৃষ্টি নিবদ্ধ করে। X এর মধ্যেমাস্কের এআই কোম্পানি, xAI-এর স্বতন্ত্র ওয়েবসাইট বা অন্যান্য অ্যাপ্লিকেশনগুলিতে নয়। এর কারণ হল DSA বিশেষভাবে সেই প্ল্যাটফর্মগুলিতে প্রযোজ্য যা সম্প্রদায়ের জনসংখ্যার 10% এরও বেশি মানুষের কাছে পৌঁছায়, একটি সীমা যা xAI সহজেই অতিক্রম করে।

বাস্তবে, কমিশন প্ল্যাটফর্মগুলির বাধ্যবাধকতার পরিমাণ স্পষ্ট করার চেষ্টা করছে তাদের সিস্টেম নিয়ন্ত্রণ এবং পুনরায় নকশা করা যখন প্রমাণিত হয় যে তারা অবৈধ বা ক্ষতিকারক বিষয়বস্তুর প্রচার প্রচার করেপ্রশ্নটি কেবল সতর্কতা পাওয়ার পরেও X কিছু ছবি সরিয়ে দিয়েছে কিনা তা নয়, বরং এটি শুরু থেকেই Grok এবং এর সুপারিশ সরঞ্জামগুলিকে দায়িত্বের সাথে কনফিগার করেছে কিনা তা।

এই তদন্তটি ডিজিটাল নিয়ন্ত্রণের উপর ট্রান্সআটলান্টিক বিতর্কের সাথেও ছেদ করে। ওয়াশিংটন থেকে ইউরোপীয় নিয়ন্ত্রণের সমালোচনা উঠে এসেছে, ডিএসএ-কে অভিযুক্ত করে মত প্রকাশের স্বাধীনতা সীমিত করা এবং মার্কিন কোম্পানিগুলিকে জরিমানা করাব্রাসেলস প্রতিক্রিয়া জানায় যে, অপ্রাপ্তবয়স্কদের যৌন শোষণ, লিঙ্গ সহিংসতা, অথবা জনমতের ব্যাপক হেরফের সহ্য করার জন্য মত প্রকাশের স্বাধীনতাকে ঢাল হিসেবে ব্যবহার করা যাবে না।

যদিও X দেখানোর চেষ্টা করছে যে এটি সঠিক পথ অনুসরণ করছে এবং গ্রোক ইউরোপীয় আইন মেনে কাজ করতে পারে, ইইউ প্রতিষ্ঠানগুলি এমন একটি মামলা নিয়ে এগিয়ে চলেছে যা কীভাবে একটি মোড় নিতে পারে সামাজিক নেটওয়ার্ক এবং জেনারেটিভ এআই মডেলের সমন্বয়এই ক্ষেত্রে যা সিদ্ধান্ত নেওয়া হবে তা কেবল ইউরোপে গ্রোকের ভবিষ্যৎই নির্ধারণ করবে না, বরং এটি অন্যান্য প্রধান প্ল্যাটফর্মগুলিকে তাদের কাছ থেকে প্রত্যাশিত দায়িত্বের স্তর সম্পর্কে একটি স্পষ্ট বার্তা দেবে। যখন তারা লক্ষ লক্ষ মানুষের কাছে এই ধরণের সরঞ্জাম উপলব্ধ করে।