সামাজিক যোগাযোগমাধ্যম X–এর কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট গ্রোক ব্যবহার করে নারী ও শিশুদের সম্মতিহীন নগ্ন বা যৌন ইঙ্গিতপূর্ণ ছবি তৈরির গুরুতর অভিযোগ উঠেছে। এই ঘটনায় যুক্তরাজ্যে ইলন মাস্কের মালিকানাধীন প্ল্যাটফর্মটি নিষিদ্ধ হওয়ার আশঙ্কা তৈরি হয়েছে।
বিষয়টি নিয়ে দেশটির সম্প্রচার ও অনলাইন নিয়ন্ত্রণ সংস্থা Ofcom জরুরি মূল্যায়ন শুরু করেছে এবং এক্স কর্তৃপক্ষের কাছে বিস্তারিত ব্যাখ্যা চেয়েছে। যুক্তরাজ্যের প্রযুক্তিমন্ত্রী Liz Kendall এই ঘটনাকে ‘ঘৃণ্য’ আখ্যা দিয়ে অফকমের পদক্ষেপে পূর্ণ সমর্থন জানিয়েছেন। তিনি সতর্ক করে বলেন, ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করতে ব্যর্থ হলে প্রয়োজনে এক্সকে যুক্তরাজ্যে ব্লক করা হতে পারে। ডাউনিং স্ট্রিটও জানিয়েছে, এ ধরনের কনটেন্ট যৌন সহিংসতার শিকারদের জন্য চরম অবমাননাকর।
বিতর্কের পর এক্স কর্তৃপক্ষ গ্রোকের ছবি তৈরির সুবিধা সীমিত করেছে। ফিচারটি আর বিনামূল্যে ব্যবহার করা যাচ্ছে না; এমনকি অর্থপ্রদানের গ্রাহকদের ক্ষেত্রেও কড়াকড়ি আরোপ করা হয়েছে। তবে BBC–এর অনুসন্ধানে দেখা গেছে, সাধারণ এআই টুল দিয়েই এখনও নারীদের ছবি বিকৃত করে নগ্ন বা যৌন ইঙ্গিতপূর্ণভাবে উপস্থাপন করা সম্ভব।
এদিকে ইলন মাস্কের সন্তানের মা Ashley St. Clair অভিযোগ করেছেন, তার সন্তানের শৈশবের ছবি গ্রোক ব্যবহার করে যৌন ইঙ্গিতপূর্ণভাবে তৈরি করা হয়েছিল। তার দাবি, এ ধরনের অবৈধ কনটেন্ট ঠেকাতে এক্স কার্যকর ব্যবস্থা নিতে ব্যর্থ হয়েছে। এই অভিযোগের সূত্র ধরেই তিনি সন্তানের একক হেফাজত চেয়ে আইনি পদক্ষেপ নেন—যা পরোক্ষভাবে Elon Musk–এর বিরুদ্ধেই যায়।
যুক্তরাজ্যের Online Safety Act অনুযায়ী, অফকম আদালতের মাধ্যমে এক্সের অর্থ সংগ্রহে বাধা দেওয়া কিংবা দেশটিতে প্ল্যাটফর্মটির প্রবেশ নিষিদ্ধ করার নির্দেশ চাইতে পারে। এই প্রেক্ষাপটে বাংলাদেশের সাইবার নিরাপত্তা বিশ্লেষকরাও উদ্বেগ প্রকাশ করেছেন। মুক্ত প্ল্যাটফর্মের আড়ালে এআইয়ের অনৈতিক ব্যবহার ও শিশুদের নিরাপত্তা নিয়ে বিশ্বজুড়ে নতুন করে প্রশ্ন উঠেছে।