সামাজিক যোগাযোগমাধ্যম এক্সের (সাবেক টুইটার) কৃত্রিম বুদ্ধিমত্তা চ্যাটবট ‘গ্রোক’ ব্যবহার করে নারী ও শিশুদের নগ্ন বা যৌন ইঙ্গিতপূর্ণ ছবি তৈরির গুরুতর অভিযোগ উঠেছে। সম্মতিহীন এই আপত্তিকর ছবি তৈরির ঘটনার জেরে যুক্তরাজ্যে ইলন মাস্কের মালিকানাধীন এক্স প্ল্যাটফর্মটি নিষিদ্ধ হওয়ার ঝুঁকিতে পড়েছে। দেশটির সম্প্রচার নিয়ন্ত্রণ সংস্থা অফকম বিষয়টি নিয়ে জরুরি মূল্যায়ন শুরু করেছে এবং এক্স কর্তৃপক্ষের কাছে ব্যাখ্যা চেয়েছে।
যুক্তরাজ্যের প্রযুক্তিমন্ত্রী লিজ কেন্ডাল এই ঘটনার তীব্র নিন্দা জানিয়ে জানিয়েছেন যে প্ল্যাটফর্মটি ব্যবহারকারীদের নিরাপত্তা নিশ্চিতে ব্যর্থ হলে প্রয়োজনে এটি দেশটিতে ব্লক করা হতে পারে। এমনকি ইলন মাস্কের সন্তানের মা অ্যাশলি সেন্ট ক্লেয়ারও অভিযোগ করেছেন যে তার সন্তানের শৈশবের ছবি গ্রোক ব্যবহার করে যৌন ইঙ্গিতপূর্ণভাবে বিকৃত করা হয়েছে। এই অভিযোগের সূত্র ধরেই তিনি মাস্কের বিরুদ্ধে সন্তানের একক হেফাজত পাওয়ার মামলা করেছেন।
চাপের মুখে পড়ে এক্স কর্তৃপক্ষ গ্রোকের ছবি তৈরির ফিচারটি কিছুটা সীমিত করেছে। এখন থেকে এই সেবাটি আর বিনামূল্যে ব্যবহার করা যাবে না এবং পেইড গ্রাহকদের জন্যও সুবিধা সীমিত রাখা হয়েছে। তবে বিবিসির অনুসন্ধানে দেখা গেছে যে এখনও এই এআই টুল ব্যবহার করে নারীদের ছবি বিকৃত করা সম্ভব হচ্ছে। যুক্তরাজ্যের অনলাইন সেফটি অ্যাক্ট অনুযায়ী অফকম চাইলে আদালতের মাধ্যমে এক্সের কার্যক্রম দেশটিতে নিষিদ্ধ করার নির্দেশ দিতে পারে। এই ঘটনায় শিশুদের নিরাপত্তা ও এআই-এর অনৈতিক ব্যবহার নিয়ে বিশ্বজুড়ে নতুন করে উদ্বেগের সৃষ্টি হয়েছে।
