جنسی اور پُرتشدد تصاویر پر ہنگامہ، گروک کا فیچر صارفین کی اکثریت کے لیے بند

ایلون مسک کے اے آئی ٹول گروک نے جنسی اور پُرتشدد نوعیت کی تصاویر بنانے کے لیے اس کے استعمال پر شدید عوامی ردِعمل کے بعد، اپنے امیج کری ایشن فیچر کو صارفین کی اکثریت کے لیے بند کر دیا ہے۔

برطانوی اخبار دی گارڈین کے مطابق یہ اقدام اس وقت سامنے آیا ہے جب ایلون مسک کو جُرمانوں، ریگولیٹری کارروائی اور برطانیہ میں سوشل میڈیا پلیٹ فارم ’ایکس‘ پر ممکنہ پابندی کی دھمکیوں کا سامنا کرنا پڑا۔

یہ ٹُول خواتین کی تصاویر میں ردوبدل کے لیے استعمال کیا جا رہا تھا، جن میں ان کے کپڑے ہٹا کر انہیں جنسی انداز میں پیش کیا جاتا تھا۔ یہ فیچر اب صرف ادائیگی کرنے والے سبسکرائبرز کے لیے فعال رکھا گیا ہے۔

’ایکس‘ پر ایک پوسٹ میں گروک نے کہا کہ ’تصاویر بنانے اور ایڈیٹ کرنے کی سہولت اس وقت صرف ادائیگی کرنے والے سبسکرائبرز تک محدود ہے۔‘

اس فیصلے کا مطلب یہ ہے کہ پلیٹ فارم کے زیادہ تر صارفین اب گروک کے ذریعے تصاویر نہیں بنا سکتے۔ جو صارفین اس سہولت تک رسائی رکھتے ہیں، ان کی مکمل تفصیلات اور کریڈٹ کارڈ معلومات ایکس کے پاس موجود ہوتی ہیں، جس کے باعث کسی بھی غلط استعمال کی صورت میں ان کی شناخت ممکن ہے۔

پبلک@گروک اکاؤنٹ کی امیج جنریشن صلاحیتوں کو سختی سے محدود کر دیا گیا ہے، تاہم ایک علیحدہ گروک ایپ بھی موجود ہے جو تصاویر کو عوامی طور پر شیئر نہیں کرتی، اور اس پر صارفین نے اب بھی خواتین اور بچوں کی جنسی نوعیت کی تصاویر بنانے کی اطلاع دی ہے۔

گارڈین کی جانب سے منظرِِعام پر آنے والی تحقیق کے مطابق اس ٹُول کو خواتین کی مرضی کے بغیر فحش ویڈیوز بنانے اور خواتین کو گولی مارے جانے یا قتل کیے جانے کی تصاویر تخلیق کرنے کے لیے استعمال کیا گیا۔

غیر رضامندانہ جنسی مواد تخلیق کیے جانے پر گروک کے استعمال کے بعد ایلون مسک کو دنیا بھر میں ریگولیٹری کارروائی کے خطرات کا سامنا ہے۔

برطانیہ کے وزیرِاعظم کیئر سٹارمر نے بدھ کو سوشل میڈیا کمپنی کے خلاف سخت کارروائی کی دھمکی دی۔

انہوں نے ’ایکس‘ سے مطالبہ کیا کہ وہ پلیٹ فارم پر خواتین اور بچوں کی اے آئی سے بنائی گئی تصاویر کے سیلاب کو روکے، اور اس مواد کو ’شرم ناک‘ اور ’مکروہ‘ قرار دیا۔

’ایکس‘ پر عملی طور پر پابندی پر غور کا عندیہ دیتے ہوئے سٹارمر نے کہا کہ ’کمیونی کیشنز ریگولیٹر آفکام کو ’اس معاملے میں کارروائی کرنے کے لیے ہماری مکمل حمایت حاصل ہے۔‘

دسمبر کے آخر میں گروک کے امیج کری ایشن فیچر کی اپ ڈیٹ کے بعد گذشتہ دو ہفتوں میں خواتین کی رضامندی کے بغیر ہزاروں جنسی نوعیت کی تصاویر بنائی گئیں۔ اس فیچر کو ہٹانے یا محدود کرنے کے لیے مسک پر مسلسل عوامی دباؤ ڈالا جاتا رہا، تاہم اب تک سوشل میڈیا ایپ نے کوئی کارروائی نہیں کی تھی۔