امریکہ: سکول لیپ ٹاپ پر خودکشی کا منصوبہ، 13 سالہ بچی کے والدین کا گوگل پر مقدمہ
گوگل کے ترجمان جوز کاسٹانیڈا نے اے ایف پی کو بتایا ’ہم مقدمے میں کیے گئے دعوؤں کا جائزہ لے رہے ہیں‘ (فائل فوٹو: اے ایف پی)
امریکہ میں ایک 13 سالہ بچی کے والدین نے ٹیک کمپنی گوگل کے خلاف عدالت سے رجوع کیا ہے جس میں دعویٰ کیا گیا ہے کہ ان کی بیٹی نے سکول سے ملنے والے کمپیوٹر پر گوگل کی مصنوعات میں موجود آرٹیفیشل انٹیلی جنس (اے آئی) کی مدد سے خودکشی کے طریقوں اور اپنی آخری رسومات کی منصوبہ بندی کی۔
خبر رساں ادارے اے یف پی کے مطابق کیلیفورنیا کی عدالت میں دائر کیا گیا یہ مقدمہ اپنی نوعیت کا پہلا کیس ہے جس میں گوگل پر امریکہ اور دنیا بھر کے لاکھوں طالب علموں کے زیرِ استعمال ’کرُوم بُکس‘ میں اے آئی کی پیشکش کے حوالے سے غفلت کا الزام عائد کیا گیا ہے۔
’ایما‘ کے نام سے پہچانی جانے والی اس طالبہ کو سکول کی جانب سے سکیورٹی پابندیوں کے باعث گوگل کی ’جیمنائی‘ ایپ یا اوپن اے آئی کے ’چیٹ جی پی ٹی‘ تک رسائی حاصل نہیں تھی کیونکہ سکول نے ان پر پابندی عائد کر رکھی تھی۔
تاہم وہ اس کے باوجود گوگل کے روایتی سرچ انجن کو استعمال کرنے میں کامیاب رہی جس میں اے آئی سے لیس ٹولز شامل تھے۔
قابلِ ذکر بات یہ ہے کہ یہ خصوصیات ان ٹولز میں شامل نہیں تھیں جن کے بارے میں گوگل نے رواں ہفتے اعلان کیا تھا کہ انہیں طالب علموں کے لیے پہلے سے ہی بند (ڈس ایبل) کر دیا جائے گا۔
متاثرہ خاندان کے وکیل اینڈریو لڈل نے اے ایف پی سے گفتگو کرتے ہوئے کہا ’سکولوں کو چاہیے کہ وہ سرچ سروس کو اس وقت تک مکمل طور پر بند رکھیں جب تک گوگل سرچ سے اے آئی موڈ ختم نہیں کر دیتا یا اس بات کو یقینی نہیں بناتا کہ ہر ایک طالب علم اے آئی کے ساتھ تعامل کرتے وقت محفوظ ہے۔‘
مقدمے کے متن کے مطابق ایما نارتھ کیرولائنا کی ایک خوش مزاج 13 سالہ بچی تھی جو پڑھائی میں بہترین نمبر لیتی تھی، موسیقی کا شوق رکھتی تھی اور گرل سکاؤٹس کی فعال رکن تھی۔
دستاویزات کے مطابق، ذہنی بیماری کی کوئی تاریخ نہ ہونے کے باوجود، اپنے سکول کے لیپ ٹاپ پر گوگل سرچ کے اے آئی فیچرز استعمال کرنے کے چند ہی مہینوں کے اندر وہ ’خاموشی سے شدید نفسیاتی بحران‘ کا شکار ہو گئی۔
17 مارچ کو سکول کے مانیٹرنگ سافٹ ویئر نے فیونریل (آخری رسومات) کے عنوان سے ایک دستاویز کی نشان دہی کی جس کے بعد سکول نے اس کے والدین کو مطلع کیا۔
اس کے بعد ایما کی والدہ نے اپنی بیٹی کے اکاؤنٹ میں لاگ اِن ہو کر دیکھا کہ وہ اصل وقت (ریئل ٹائم) میں ایک الوداعی خط لکھ رہی تھی جس کے بعد اس کے والد نے بروقت مداخلت کر کے اس کی جان بچائی۔
گوگل کے ترجمان جوز کاسٹانیڈا نے اے ایف پی کو بتایا ’ہم مقدمے میں کیے گئے دعوؤں کا جائزہ لے رہے ہیں اور ہم اس معاملے کو انتہائی سنجیدگی سے لیتے ہیں۔‘
گوگل کا موقف ہے کہ اس کے اے آئی موڈ میں خودکشی کو روکنے کے لیے حفاظتی اقدامات (سافٹ ویئر فلٹرز) موجود ہیں جو ایسے طریقوں کی تلاش کی اجازت نہیں دیتے۔
تاہم وکیل لڈل نے اس پر تبصرہ کرتے ہوئے کہا کہ ایما ’بار بار اور مسلسل اے آئی تک رسائی حاصل کرنے میں کامیاب رہی۔ وہ جو بھی سکیورٹی فلٹرز کا دعویٰ کرتے ہیں، وہ ظاہر ہے کہ ناافی اور ناکام ثابت ہوئے۔‘
امریکہ میں تیز رفتاری سے ترقی کرتی اے آئی ٹیکنالوجی بنانے والی کمپنیوں کو اس نوعیت کے متعدد قانونی مقدمات کا سامنا ہے۔
اوپن اے آئی کے خلاف بھی خودکشی اور ہلاکتوں کے حوالے سے کئی مقدمات زیرِ التوا ہیں جن میں 16 سالہ ایڈم رین کے والدین کا کیس بھی شامل ہے، جس نے مبینہ طور پر چیٹ جی پی ٹی کے تجاویز کردہ طریقوں کا استعمال کرتے ہوئے خودکشی کی تھی۔
اس کے علاوہ رواں برس جنوری میں گوگل اور سٹارٹ اپ کمپنی ’اے آئی کیریکٹر‘ نے بھی نوعمر بچوں کے خاندانوں کی جانب سے دائر کردہ متعدد مقدمات کو عدالت سے باہر باہمی رضامندی سے نمٹانے پر اتفاق کیا تھا۔
دوسری جانب بدھ کو گوگل، ٹک ٹاک اور میٹا نے کیلیفورنیا کی ریاست کے خلاف الگ الگ مقدمات دائر کیے ہیں تاکہ اس قانون کو روکا جا سکے جو سوشل میڈیا کمپنیوں کو 16 سال سے کم عمر صارفین کو نشے کی حد تک متوجہ کرنے والے فیچرز فراہم کرنے سے روکتا ہے۔
کیلیفورنیا کے گورنر گیون نیوزوم نے ستمبر میں اس قانون پر دستخط کیے تھے جو یکم جنوری 2027 سے نافذ العمل ہونا ہے۔
