’اے آئی دہائی کے اختتام تک انسانیت ختم کر سکتی ہے‘، اینتھروپک کے محقق مستعفی

مصنوعی ذہانت کی کمپنی ’اینتھروپک‘ کے 27 سالہ محقق جیکب کاکسن نے اے آئی کی تیز رفتار ترقی اور مستقبل میں اس پر انسانی کنٹرول ختم ہونے کے خدشات کے باعث کمپنی سے استعفیٰ دے دیا ہے۔

کاکسن نے 9 ستمبر کو ایکس پر متعدد پوسٹس میں بتایا کہ انہوں نے گزشتہ 3 برس کے دوران اوپن اے آئی اور اینتھروپک دونوں میں اے آئی ماڈلز کی پری ٹریننگ پر تحقیق کی۔

انہوں نے کہا کہ دونوں کمپنیاں مصنوعی ذہانت کو ’خود کو بہتر بنانے والی سپر انٹیلی جنس‘ کی طرف تیزی سے لے جا رہی ہیں اور اس دوڑ میں ’انسانی زندگیوں کو خطرے میں ڈال رہی ہیں۔‘

کاکسن نے لکھا کہ ’اے آئی کی طاقت کو کم نہ سمجھیں‘ کیونکہ مستقبل کے سپر ہیومن نظام ’کسی بھی چیز کو ہیک کرنے، کسی بھی شعبے میں راتوں رات انقلاب لانے اور حقیقی طاقت اور وسائل حاصل کرنے‘ کی صلاحیت رکھتے ہوں گے۔

ان کے مطابق اے آئی کے شعبے میں کام کرنے والے لوگ ’سنجیدگی سے سمجھتے ہیں کہ یہ ٹیکنالوجی رواں دہائی کے اختتام تک ہم سب کو ہلاک کر سکتی ہے‘، تاہم اس کے باوجود کمپنیاں اس کی ترقی کی دوڑ جاری رکھے ہوئے ہیں۔

کاکسن نے کہا کہ اوپن اے آئی میں بہت سے لوگ ابھی تک اس ٹیکنالوجی کے ’تہذیبی داؤ‘ کو پوری طرح نہیں سمجھ سکے، جبکہ اینتھروپک میں خطرات کو زیادہ سنجیدگی سے سمجھا جاتا ہے لیکن کمپنی دوسری کمپنیوں سے آگے نکلنے کی دوڑ میں شامل ہے۔

انہوں نے اے آئی کمپنیوں کے درمیان باہمی تعاون اور ’رفتار سے متعلق معاہدوں‘ کی ضرورت پر زور دیا اور کہا کہ ماڈلز کی صلاحیتیں بڑھانے پر عارضی پابندی جیسے مشکل اقدامات بھی ضروری ہو سکتے ہیں۔

اینتھروپک کے محقق نے بھی خدشات کی تائید کردی

کاکسن کی پوسٹ کے بعد اینتھروپک کے سینئر محقق ایون ہوبنگر نے بھی ان کے خدشات کی تائید کی۔

ہوبنگر نے ایکس پر لکھا کہ ’ہم واقعی اور پوری سنجیدگی سے سمجھتے ہیں کہ اے آئی تمام انسانوں کو ہلاک کر سکتی ہے۔‘

انہوں نے کہا کہ ان کی ذاتی رائے میں آئندہ ایک دہائی کے دوران اے آئی کے انسانیت کے خاتمے کا سبب بننے کا امکان ’10 فیصد سے زیادہ‘ ہے۔

تاہم ہوبنگر نے واضح کیا کہ موجودہ اے آئی ماڈلز سے اس نوعیت کا خطرہ کم ہے اور اصل تشویش مستقبل کی ’سپر انٹیلی جنس‘ سے متعلق ہے، خاص طور پر ایسے نظام جو خود کو بار بار بہتر بنانے کی صلاحیت حاصل کر لیں۔

ایلون مسک نے کاکسن کے اینتھروپک سے تعلق کی تصدیق کردی

دوسری جانب کاکسن کی پوسٹ کے بعد ایک ایکس صارف نے سوال اٹھایا کہ کیا وہ واقعی اینتھروپک کے محقق تھے۔

اس پر ایلون مسک نے جواب دیتے ہوئے کاکسن کے اینتھروپک سے تعلق کی تصدیق کی، تاہم کہا کہ انہوں نے وہاں ’صرف چند ماہ کام کیا۔‘

کاکسن نے بعد میں ایکسیوس کو بتایا کہ انہوں نے اینتھروپک میں تقریباً چار ماہ کام کیا اور استعفیٰ ایسے وقت دیا جب ان کی کمپنی کی ایکویٹی ویسٹ ہونے میں تقریباً دو ماہ باقی تھے۔

اے آئی سیفٹی پر خدشات

سی این این کے مطابق اے آئی کی تیز رفتار ترقی اور اس کے ممکنہ خطرات سے متعلق خدشات نئے نہیں۔ گزشتہ چند برسوں کے دوران اوپن اے آئی اور دیگر کمپنیوں کے کئی محققین ان خدشات کے باعث عہدے چھوڑ چکے ہیں۔

رپورٹ کے مطابق جولائی میں اے آئی کمپنیوں کے تقریباً 1400 ملازمین نے امریکی حکومت سے ٹیکنالوجی کو ریگولیٹ کرنے اور اے آئی کی ترقی کی رفتار کم کرنے کا مطالبہ کیا تھا۔

اسی دوران اوپن اے آئی کے چیف سائنسدان یاکوب پاچوکی نے بھی خبردار کیا کہ اے آئی کی صلاحیتیں محققین کی جانب سے اسے قابلِ اعتماد طریقے سے مانیٹر اور کنٹرول کرنے کی صلاحیت سے زیادہ تیزی سے بڑھ رہی ہیں۔

اینتھروپک کا مؤقف

اینتھروپک نے کہا ہے کہ اے آئی سے جہاں بڑے فوائد وابستہ ہیں، وہیں اس کے ساتھ ’غیر معمولی خطرات‘ بھی موجود ہیں۔

کمپنی کے مطابق وہ ان خطرات سے نمٹنے کے لیے مضبوط حفاظتی اقدامات کے ساتھ اے آئی ماڈلز تیار کر رہی ہے اور طاقتور ماڈلز کی ریلیز کی رفتار طے کرنے کے لیے صنعت میں قابلِ تصدیق طریقہ کار اور باہمی تعاون کی ضرورت ہے۔