انسان اے آئی نظاموں پر اپنا اختیار کھو سکتے ہیں: اے آئی کمپنی این تھروپک کا انتباہ

ریسرچ اینڈ اے آئی کمپنی این تھروپک نے کہا ہے کہ ’جدید سطح کے اے آئی ماڈلز تیار کرنے والی کمپنیوں کو ایک مربوط اور قابلِ تصدیق طریقہ کار قائم کرنا چاہیے، تاکہ اگر جدید اے آئی نظام خود کو اس رفتار سے بہتر بنانے لگیں کہ معاشرہ ان کے خطرات کو سنبھالنے کے قابل نہ رہے تو ان کی ترقی کو سست کرنا یا عارضی طور پر روکنا ممکن ہو۔‘

خبر رساں ادارے روئٹرز کے مطابق کمپنی نے جمعرات کو کہا کہ ایسا اے آئی ماڈل جو خود کو بہتر بنا سکے، ٹیکنالوجی کی تاریخ میں ایک بڑی پیش رفت ہوگا، مگر ’مکمل خودکار اور مسلسل خود ہی بہتر ہونے کا عمل اس خطرے کو بڑھا سکتا ہے کہ انسان اے آئی نظاموں پر اپنے کنٹرول سے محروم ہو جائے۔‘

’نظام اگر اس قابل ہو جائیں کہ وہ اپنے جانشین خود تیار کر سکیں تو ان کی حفاظت، نگرانی اور ان کے رویّے کی تشکیل پہلے سے کہیں زیادہ اہم ہو جائے گی۔‘

این تھروپک نے مثال کے طور پر بتایا کہ مئی تک اس کے کوڈ بیس میں شامل ہونے والے 80 فیصد سے زیادہ کوڈ اس کے اے آئی سسٹم کلاڈ نے لکھے۔

کمپنی کا کہنا تھا کہ ’دنیا کے لیے یہ بہتر ہو گا کہ جدید اے آئی کی ترقی کو سست یا عارضی طور پر روکنے کا اختیار موجود ہو، تاکہ معاشرتی ڈھانچے اور ہم آہنگی پر جاری تحقیق ٹیکنالوجی کی رفتار کے ساتھ چل سکے۔‘

تاہم، کمپنی نے خبردار کیا کہ اگر کم محتاط عناصر اپنی پیش رفت جاری رکھیں تو یک طرفہ یا غیر مربوط انداز میں کی گئی سست روی الٹا نقصان دے سکتی ہے جس سے مجموعی تحفظ متاثر ہو سکتا ہے۔

اس نے واضح کیا کہ کسی مؤثر وقفے کے لیے ضروری ہوگا کہ ٹیکنالوجی کے اگلے مورچوں پر کام کرنے والی ’متعدد وسائل سے مالا مال لیبارٹریوں‘ کے درمیان اتفاق رائے ہو اور یہ بھی طے کیا جائے کہ کن حالات میں یہ وقفہ شروع یا ختم ہوگا اور اس کی نگرانی کون کرے گا۔

این تھروپک نے مزید کہا کہ کسی ایک کمپنی کی جانب سے یکطرفہ وقفہ نافذ کرنا آسان تو ہو گا مگر اس کا اثر محدود رہے گا اور یہ زیادہ تر قیادت کی تبدیلی کا سبب ہی بنے گا اور عالمی سطح پر سنجیدہ مشاورت کو فروغ نہیں دے گا۔

کمپنی کے تحقیقی شعبے ’این تھروپک انسٹی ٹیوٹ‘ کا منصوبہ ہے کہ وہ ایسے نظاموں کا مطالعہ کرے اور ان کی تشکیل میں مدد دے جو اس طرح کی سست روی کو ممکن بنانے کے لیے ضروری ہوں گے۔

آنے والے مہینوں میں کمپنی پالیسی سازوں، محققین، سول سوسائٹی کے گروہوں اور دیگر اے آئی کمپنیوں کے ساتھ مشاورت کا سلسلہ شروع کرے گی تاکہ اہم سوالات کا جائزہ لیا جا سکے۔

ان سوالات میں یہ شامل ہے کہ خودکار طور پر بہتر ہونے والے اے آئی نظاموں سے متعلق خطرات سے کیسے پیش آیا جائے اور باہمی ہم آہنگی کے طریقہ کار کو کیسے بہتر بنایا جائے۔

گزشتہ ماہ این تھروپک نے سرمایہ کاری کا ایک مرحلہ مکمل کیا جس میں کمپنی کی مالیت 965 ارب ڈالر لگائی گئی اور پیر کو اس نے خفیہ طور پر امریکہ میں ابتدائی عوامی پیشکش  (آئی پی او) کے لیے درخواست بھی دائر کی۔