اے آئی کی دوڑ میں احتیاط ضروری، انڈسٹری کے ماہرین کا ترقی کی رفتار کم کرنے کا مطالبہ

اینتھروپک کے چیف ایگزیکٹو آفیسر ڈاریو امودی نے سنیچر کو مصنوعی ذہانت (اے آئی) پر کام کرنے والی کمپنیوں پر زور دیا کہ وہ اس طاقتور ٹیکنالوجی کی ترقی کی رفتار سست کریں۔ یہ مطالبہ ایک ایسے وقت میں سامنے آیا ہے جب ’سپر انٹیلی جنس‘ رکھنے والے کمپیوٹر سسٹمز کے ممکنہ خطرات کے حوالے سے تشویش بڑھ رہی ہے۔

ڈاریو امودی کا یہ بیان اے آئی کے محقق جیکب کوکسن کے صنعت چھوڑنے کے چند روز بعد سامنے آیا۔ انہوں نے اوپن اے آئی چھوڑ کر رواں سال اس کی حریف کمپنی اینتھروپک میں شمولیت اختیار کی تھی، جسے وہ اے آئی کی ترقی کے معاملے میں زیادہ محتاط خیال کرتے ہیں۔ تاہم انہوں نے بعد میں صنعت چھوڑنے کا فیصلہ کرتے ہوئے دونوں امریکی کمپنیوں پر یہ الزام عائد کیا کہ وہ ایسے ماڈلز تیار کرنے کی دوڑ میں ’ہماری زندگیوں سے جوا کھیل رہی ہیں‘ جو خود اپنی صلاحیتوں کو بہتر بنانے کے قابل ہوں۔

اوپن اے آئی کے سربراہ سیم آلٹمین اور ایکس اے آئی کے مالک ایلون مسک نے بھی فوری طور پر ڈاریو امودی کے مؤقف کی حمایت کی، جبکہ اے آئی کی بہتر نگرانی کے لیے دباؤ بڑھ رہا ہے۔

ڈاریو امودی نے اپنی ذاتی ویب سائٹ پر ایک پوسٹ میں لکھا کہ ’ہمیں اے آئی ماڈلز کی صلاحیتیں بہتر بنانے کی رفتار سست کرنا ہوگی۔ ترقی پھر بھی تیز محسوس ہوگی اور ہمیں حاصل ہونے والا اضافی وقت دانش مندی سے استعمال کرنا ہوگا۔‘

انہوں نے کہا کہ ’اس ٹیکنالوجی کو تیار نہ کرنا انسانیت کو اس کے فوائد سے محروم کرنے کے مترادف ہے یا اے آئی کو صرف آمرانہ طاقتوں کے ہاتھوں میں پہنچا دینا ہے، جبکہ اسے بہت تیزی سے تیار کرنا غیر ذمہ دارانہ ہے۔ ہم نے ان دونوں انتہاؤں کے درمیان ایک درمیانی راستہ اختیار کرنے کی کوشش کی ہے۔‘

ڈاریو امودی نے اپنی بہن ڈینیئلا کے ساتھ مل کر سال 2021 میں اینتھروپک کی بنیاد رکھی تھی۔ ان کا کہنا تھا کہ ’لیکن میں گزشتہ چند ماہ کے دوران اس نتیجے پر پہنچا ہوں کہ ان خطرات سے مکمل طور پر نمٹنے کے لیے اس سے بھی زیادہ احتیاط کرنے کی ضرورت ہے۔‘

ڈاریو امودی کا بیان جون کے آغاز میں اینتھروپک کی جانب سے کیے گئے ایک اور مطالبے کی بازگشت ہے، جس میں اے آئی کی ترقی کو سست کرنے یا عارضی طور پر روکنے پر زور دیا گیا تھا۔ اس کے بعد جولائی کے اواخر میں سیم آلٹمین نے بھی کہا تھا کہ اے آئی ڈویلپرز کو ممکنہ طور پر رضاکارانہ طور پر اپنی رفتار کم کرنا ہوگی تاکہ معاشرے کو اس ٹیکنالوجی کے ساتھ ہم آہنگ ہونے کا موقع مل سکے۔

ڈاریو امودی سمیت جدید ترین اے آئی ٹیکنالوجی پر کام کرنے والی کمپنیوں کے ایک ہزار سے زائد ملازمین نے ایک درخواست پر دستخط کیے ہیں جس میں امریکی حکومت سے مطالبہ کیا گیا ہے کہ وہ ’فرنٹیئر خودکار اے آئی کی ترقی کی رفتار کو دانستہ طور پر متعین کرنے‘ میں مدد کرے۔

اوپن اے آئی نے انکشاف کیا تھا کہ آزمائش کے دوران اس کے اے آئی ماڈلز اپنے محدود ماحول سے باہر نکل گئے، انٹرنیٹ سے منسلک ہوئے اور ہگنگ فیس میں داخل ہوگئے۔ ہگنگ فیس ایک ایسا پلیٹ فارم ہے جسے ڈویلپرز کوڈ محفوظ کرنے اور شیئر کرنے کے لیے استعمال کرتے ہیں۔

اس واقعے اور ایسے ہی دیگر واقعات میں ذمہ داری اے آئی ایجنٹس پر عائد کی گئی، جو ایسے سافٹ ویئر پروگرام ہیں جو انسان کی مسلسل نگرانی کے بغیر مختلف کام انجام دینے کی صلاحیت رکھتے ہیں۔

ایلون مسک نے ایکس پر لکھا کہ ’ڈاریو درست کہہ رہے ہیں۔‘ سیم آلٹمین نے بھی کہا کہ ’میں ڈاریو سے متفق ہوں کہ ہمیں فرنٹیئر اے آئی کی ترقی کی رفتار کو متوازن رکھنا ہوگا۔‘

’ہماری زندگیوں سے جوا کھیل رہے ہیں‘

27 سالہ جیکب کوکسن نے رواں ہفتے کے آغاز میں خطرے کی گھنٹی بجائی تھی۔ وہ گزشتہ تین برس سے قبل ازیں اوپن اے آئی میں اور پھر رواں سال اینتھروپک میں اے آئی ماڈلز کی پری ٹریننگ پر کام کر رہے تھے ۔

پری ٹریننگ وہ مرحلہ ہے جس میں اے آئی ماڈلز بڑی مقدار میں ڈیٹا سے معلومات اور مختلف پیٹرنز سیکھتے ہیں۔

انہوں نے منگل کو کہا کہ ’دونوں میں سے کوئی ایک کمپنی بھی ذمہ داری سے کام نہیں کر رہی۔ وہ خود کو بہتر بنانے والی سپر انٹیلی جنس کی جانب دوڑ رہی ہیں اور ہماری زندگیوں سے جوا کھیل رہی ہیں۔‘

انہوں نے ایکس پر ایک پوسٹ میں کہا کہ ’اے آئی تیار کرنے والے لوگ سنجیدگی یہ سوچ رہے ہیں کہ اس دہائی کے اختتام تک یہ ٹیکنالوجی ہم سب کو ہلاک کر سکتی ہے۔‘

سپر انٹیلی جنس سے مراد وہ نظریاتی مرحلہ ہے جب اے آئی کی صلاحیتیں انسانی ذہانت سے بھی آگے نکل جائیں۔

’پورے انٹرنیٹ پر قبضہ‘

ڈاریو امودی نے خبردار کیا کہ ہگنگ فیس کو محض ایک غیر معمولی واقعہ سمجھ کر نظر انداز نہیں کیا جانا چاہیے۔

انہوں نے وضاحت کی کہ ’ایجنٹس کے ایک گروہ نے بنیادی طور پر ایک جنونی طور پر متحد اجتماعی نظام کی طرح کام کیا۔ اس نے ایسے اہداف کے خلاف سائبر حملے کیے جن پر حملہ کرنے کے لیے اسے کہا ہی نہیں گیا تھا اور جن کا اس کے اصل کام سے کوئی تعلق نہیں تھا۔‘

انہوں نے مزید کہا کہ ’اے آئی کی صلاحیتوں میں اضافے کی رفتار جس طرح تیز ہو رہی ہے، اسے دیکھتے ہوئے مجھے خدشہ ہے کہ چھ سے 12 ماہ میں ایسا کوئی گروہ پورے انٹرنیٹ پر قبضہ کرنے کے قابل ہوسکتا ہے جس کے باعث سینکڑوں ارب ڈالر کا نقصان ہوسکتا ہے۔

اینتھروپک کے سی ای او نے کہا کہ ان کی کمپنی ماہرین کی ایک ٹیم کو ’ملازمین جیسی رسائی‘ فراہم کرے گی۔ یہ بیرونی جائزہ کار ہوں گے جو اس بات کی تصدیق کریں گے کہ کمپنی حفاظتی طریقۂ کار پر عمل کر رہی ہے یا نہیں۔ انہوں نے دوسری تمام اے آئی کمپنیوں سے بھی ایسا ہی کرنے کا مطالبہ کیا۔

سیم آلٹمین نے کہا کہ وہ بھی اسی نوعیت کی بیرونی نگرانی کے لیے تیار ہیں اور مزید کہا کہ ’وہ جلد ہی اس حوالے سے مزید معلومات فراہم کریں گے۔‘

ڈاریو امودی نے یہ تجویز بھی دی کہ اے آئی کمپنیاں مل کر مشترکہ حفاظتی معیارات وضع کریں۔ انہوں نے اس معاملے پر کسی نہ کسی شکل میں حکومتی تعاون کی حمایت بھی کی۔

اگست کے آغاز میں امریکی حکومت نے جدید اے آئی ماڈلز کو جاری کرنے سے قبل رضاکارانہ سکیورٹی جائزے کا ایک طریقۂ کار متعارف کرایا تھا، تاہم اس پروگرام کی تفصیلات اور دائرۂ کار اب بھی واضح نہیں ہیں۔

صنعت کے مبصرین کا کہنا ہے کہ وہ پریقین نہیں کہ یہ طریقۂ کار کس حد تک مؤثر ثابت ہوگا، کیونکہ صدر ڈونلڈ ٹرمپ کی انتظامیہ اب تک ٹیکنالوجی سمیت بیشتر شعبوں میں حکومتی ضابطوں کو محدود رکھنے اور ڈی ریگولیشن کی پالیسی کو ترجیح دیتی رہی ہے۔