مصنوعی ذہانت ایپ پر سنگین الزام، ’یہ پلیٹ فارم بیٹے کا سوسائڈ کوچ بن گیا‘

امریکہ میں ایک نوعمر لڑکے کی خودکشی کے بعد اس کے والدین نے الزام عائد کیا ہے کہ مصنوعی ذہانت پر مبنی چیٹ بوٹ ’چیٹ جی پی ٹی‘ اس سانحے کا ذمہ دار ہے۔

این بی سی کے مطابق یہ پہلا موقع ہے کہ جب کسی خاندان نے براہِ راست کمپنی کے خلاف بیٹے کی موت کا مقدمہ دائر کیا ہے۔

16 سالہ ایڈم رین نے رواں برس اپریل میں خودکشی کی تھی۔ ایڈم رین کے والدین میٹ رین اور ماریہ رین کے مطابق اس واقعے کے بعد انہوں نے وجوہات جاننے کے لیے بیٹے کے موبائل معائنہ کیا تو پتہ چلا کہ وہ اپنی زندگی کے آخری دنوں میں ’چیٹ جی پی ٹی‘ کو دوست اور ہمراز بنا کر استعمال کر رہا تھا۔

ایک انٹرویو میں ماریہ رین کا کہنا تھا کہ ’چیٹ جی پی ٹی شروع میں تو ہمارے بیٹے کو اس کے ہوم ورک میں مدد کرتا رہا تاہم بعد میں اس کی خودکشی کا کوچ بن گیا۔‘

میٹ رین نے بتایا کہ ’اگر چیٹ جی پی ٹی نہ ہوتا تو میرا بیٹا آج زندہ ہوتا، چیٹ جی پی ٹی نے اسے (بیٹے) والدین کے نام سوسائڈ لیٹر لکھنے میں بھی مدد کی۔‘

متاثرہ خاندان کی جانب سے کیلیفورنیا کی ایک عدالت میں تقریباً 40 صفحات پر مشتمل مقدمہ دائر کیا گیا ہے جس میں چیٹ جی پی ٹی کی مالک کمپنی ’اوپن اے آئی‘ اور اس کے سربراہ سیم آلٹمین کو فریق بنایا گیا ہے۔

درخواست میں کہا گیا ہے کہ ’چیٹ جی پی ٹی نے نہ صرف ایڈم کو خودکشی کے طریقوں کے بارے میں آگاہ کیا بلکہ اس کے اعترافات اور منصوبے کے باوجود سیشن بند نہیں کیا اور نہ ہی کسی ایمرجنسی پروٹوکول پر عمل کیا۔‘

مقدمے میں خودکشی کی ذمہ داری کے علاوہ مصنوعی ذہانت ایپ کے ڈیزائن کی خامیوں اور اس کی وجہ صارفین پیش آنے والے خطرات سے آگاہ نہ کرنے جیسے نکات شامل کیے گئے ہیں۔

میٹ رین کے مطابق ان کے بیٹے کی چیٹ جی پی ٹی کے ساتھ 10 روز کی گفتگو تین ہزار سے زائد صفحات پر مشتمل ہے۔

ان کا کہنا ہے کہ ’بیٹے کو فوری اور بھرپور طبی مدد کی ضرورت تھی لیکن چیٹ بوٹ مسلسل اس کا ساتھی بن کر گفتگو کرتا رہا۔‘

مقدمے میں دعویٰ کیا گیا ہے کہ ایڈم نے جب چیٹ جی بی ٹی کو اپنی خودکشی کا منصوبہ بتایا تو چیٹ بوٹ نے نہ صرف یہ کہ اسے رد نہیں کیا بلکہ اسے بہتر بنانے کے مشورے بھی دیے۔ حتیٰ کہ اس نے ایک موقعے پر ایڈم کی طرف سے بھیجی گئی پھانسی کے پھندے کی تصویر کو بھی نظرانداز کیا اور گفتگو جاری رکھی۔

دوسری جانب اوپن اے آئی نے ایک بیان میں کہا کہ ’کمپنی ایڈم کی موت پر گہرے دکھ میں ہے اور خاندان کے ساتھ ہمدردی رکھتی ہے۔‘

ترجمان کے مطابق ’چیٹ جی پی ٹی میں ایسے حفاظتی اقدامات شامل ہیں جن کے ذریعے صارفین کو ہیلپ لائن نمبرز اور حقیقی ذرائع کی طرف رہنمائی کی جاتی ہے تاہم بعض طویل مکالمات میں یہ نظام کمزور ہو سکتا ہے۔‘

کمپنی نے یقین دہانی کرائی ہے کہ وہ ان خامیوں کو دور کرنے اور نوجوان صارفین کے لیے مزید تحفظ فراہم کرنے پر کام کر رہی ہے۔

اس سے قبل فلوریڈا کی ایک خاتون نے بھی ایک دوسرے اے آئی چیٹ بوٹ پلیٹ فارم پر ایسا ہی مقدمہ دائر کیا تھا جس میں الزام عائد کیا گیا تھا کہ اس کے بیٹے کو خودکشی پر اکسانے میں اس چیٹ بوٹ نے کردار ادا کیا۔ امریکی عدالت نے یہ مقدمہ سماعت کے قابل قرار دیا تھا۔

قانونی ماہرین کے مطابق اب یہ سوال شدت سے اٹھ رہا ہے کہ کیا مصنوعی ذہانت کے پلیٹ فارمز بھی وہی قانونی تحفظ رکھتے ہیں جو انٹرنیٹ کمپنیوں کو حاصل ہے یا ان کے لیے الگ ذمہ داریاں طے کی جائیں گی۔

ماریہ رین کا کہنا ہے کہ ’کمپنی نے اپنے مصنوعی ذہانت کے نظام کو دنیا کے سامنے جلدی پیش کیا اور ان کے بیٹے جیسے بچے تجربہ گاہ بن گئے۔‘

ان کے بقول کمپنی نے جانتے بوجھتے یہ خطرہ مول لیا کہ نقصانات ہو سکتے ہیں اور ان کے بیٹے کی جان اسی خطرے کی بھینٹ چڑھ گئی۔