کیا اے آئی نسلِ انسانی کا خاتمہ کر سکتی ہے؟

گذشتہ برس ریسرچرز نے ایک طاقتور اے آئی ایجنٹ کو شطرنج کے نہایت مضبوط پروگرام کے سامنے بٹھا کر ٹارگٹ دیا کہ بازی جیتنی ہے۔ توقع تھی کہ مشین عمدہ چالیں چلے گی اور حریف کو مات دے گی۔

اے آئی نے آسان راستہ نکالا۔ ایک ایسا جس نے ریسرچرز ٹیم کو بھی حیران کر دیا۔ اس نے بہتر شطرنج کھیلنے کے بجائے مہروں کی پوزیشن والی کمپیوٹر فائل اپنے حق میں بدل ڈالی۔ سسٹم نے نتیجہ دیکھا تو فاتح اے آئی تھی۔

دوسرے الفاظ میں مشین سے کہا گیا تھا، شطرنج جیتو۔ اس نے شطرنج کھیلنے کے بجائے سکور بورڈ ہی بدل دیا اور یوں چیٹنگ سے فتح حاصل کر لی۔

یہ سائنس فکشن نہیں، پیلی سیڈ ریسرچ کے تجربے میں سامنے آنے والی بات ہے۔ مشین نے انسانوں سے نفرت نہیں کی، نہ اسے بغاوت سوجھی۔ اس نے محض سمجھا کہ فائل بدل دینا شطرنج کھیلنے سے سستا سودا ہے۔

پچھلے دو تین دنوں میں کئی اہم عالمی اخبارات جیسے واشنگٹن پوسٹ، وال سٹریٹ جرنل، ٹائمز لندن، انڈیپنڈنٹ یوکے وغیرہ میں مسلسل اے آئی کے خطرات پر سپیشل رپورٹس اور تجزیے پڑھ رہا ہوں۔

میں سمجھتا ہوں کہ اے آئی کے خطرے پر جو بحث آج کل چل رہی ہے، اسے سمجھنے کے لیے یہی ایک واقعہ کافی ہے۔ ہم اے آئی کو ہدف تو دے رہے ہیں مگر آج تک طے نہیں کر پائے کہ وہ کون سے راستے اختیار نہیں کرے گی۔

چیٹ بوٹ اور ایجنٹ کا فرق

ہم میں سے بیشتر اے آئی کو صرف چیٹ جی پی ٹی، جیمنائی یا کلاڈ جیسے چیٹ بوٹ کی صورت میں جانتے ہیں۔ آپ سوال کرتے ہیں، وہ جواب دیتا ہے۔ غلط جواب نقصان دہ ہو سکتا ہے، مگر معاملہ عموماً الفاظ تک محدود رہتا ہے۔

اے آئی ایجنٹ دراصل اس سے ایڈوانس سٹیج ہے۔ اسے اپنے کام کے لیے کمپیوٹر استعمال کرنے، ویب سائٹس کھولنے، کوڈ چلانے، فائلیں بدلنے اور دوسرے ایجنٹس سے رابطے کی صلاحیت بھی دی جاتی ہے۔ بعض ایجنٹ بہت کم انسانی مداخلت کے ساتھ گھنٹوں بلکہ دنوں تک کام کرتے رہتے ہیں۔

چیٹ بوٹ جیسے چیٹ جی پی ٹی اگر غلط دوا تجویز کرے تو خطرناک ہے مگر کسی اے آئی ایجنٹ کو ہسپتال کے ریکارڈ اور دواؤں کے نظام تک رسائی ہو تو غلطی کئی سو گنا زیادہ تباہ کن ہو جائے گی۔ تجویز دینے والے اور بٹن دبانے والے میں جو فرق ہے، وہی فرق چیٹ بوٹ اور ایجنٹ میں ہے۔ یہی بات بینک، بجلی گھر، فوجی نظام اور بائیولوجیکل لیب پر بھی لاگو ہوتی ہے۔

جب 1200 ایجنٹ ایک جگہ جمع ہو گئے

اوپن اے آئی نے گذشتہ جولائی میں سافٹ ویئر کی خامیاں ڈھونڈنے کے لیے بڑی تعداد میں ایجنٹس استعمال کیے۔ یاد رکھیے، یہ ایجنٹ خود سے انٹرنیٹ پر نمودار نہیں ہوئے تھے۔ تجربہ بھی انسانوں کا تھا اور باہمی تعاون کی صلاحیت بھی انسانوں نے ہی دی تھی۔

میٹر اور ریڈوڈ ریسرچ کے مطابق تقریباً 1200 ایجنٹس نے ایک ایسے میسج بورڈ پر 70 ہزار سے زیادہ پیغامات اور فائلوں کا تبادلہ کیا اور آپس میں کام تقسیم کر لیے، اس سب کی اسے اجازت ہی نہیں تھی، یعنی من مانی کی گئی۔

پھر لگ بھگ 700 ایجنٹس ہگنگ فیس نامی اے آئی پلیٹ فارم میں دراندازی کی کوشش میں شریک ہوئے۔ ایجنٹس درست جواب نکال چکے تھے، مگر ہگنگ فیس تک یہ جاننے پہنچے کہ گریڈر کس طرح نمبر لگائے گا۔ انہیں اندیشہ تھا کہ مشکوک طریقۂ کار کے باعث درست جواب بھی مسترد ہوگا۔ بعض نے ریکارڈ مٹانے، جعلی ٹرانس کرپٹ بنانے اور گریڈر کو دھوکا دینے کے راستے تلاش کیے۔ کچھ جان بوجھ کر ناکام ہوئے تاکہ معلومات باقی جتھے تک پہنچیں۔

سچی بات کہوں تو سردست یہ بغاوت کا ثبوت نہیں، البتہ بتاتا ہے کہ سینکڑوں ایجنٹس باہمی رابطہ اور کمپیوٹر تک رسائی پا کر غیر متوقع اجتماعی حکمت عملی بنا سکتے ہیں۔ یہ سب پکڑا اس لیے گیا کہ ان کی ایک حرکت سے سسٹم میں خلل پڑ گیا۔ وہ ذرا محتاط ہوتے تو شاید دیر تک کسی کو خبر ہی نہ ہوتی۔

انعام کا لالچ اور دلی کے سانپ

یہ بات ذہن میں رہے کہ اے آئی کی تربیت میں کامیابی پر عددی انعام یا ریوارڈ ملتا ہے۔ ماڈل ہمارے اصل ارادے کے بجائے اس پیمانے کو سمجھتا ہے جس سے کامیابی ناپی جا رہی ہو۔ اگر کام کیے بغیر گریڈر کو یقین دلایا جا سکے، مسئلہ حل کرنے کے بجائے جواب چرایا یا قواعد توڑ کر زیادہ نمبر لیے جا سکیں تو مشین یہی مختصر راستہ اختیار کرتی ہے۔ اسے ریوارڈ ہیکنگ کہتے ہیں، یعنی طے شدہ پیمانے کے ساتھ کھیل جانا۔

انگریز معیشت دان چارلس گڈہارٹ کا مشہور اصول ہے کہ جس چیز کو ناپنے کا پیمانہ بنا دیا جائے، وہ اچھا پیمانہ رہتا ہی نہیں۔ اس کی سب سے مشہور مثال انگریز دور کی دلی سے ملتی ہے۔ شہر میں سانپ بہت تھے، انگریز حکام نے اعلان کر دیا کہ جو کوبرا مار کر لائے گا، اسے انعام ملے گا۔ کچھ عرصے بعد انکشاف ہوا کہ لوگوں نے گھروں میں کوبرا پالنے شروع کر دیے ہیں تاکہ انعام کی مستقل آمدن بنی رہے۔ انعام بند ہوا تو یہ سانپ کھول دیے گئے اور شہر میں پہلے سے زیادہ ہو گئے۔

ہمارے ہاں بھی یہ تماشا عام ہے۔ پولیس کو جرائم کم کرنے کا ہدف دیں تو جرائم نہیں، ایف آئی آر کا اندراج کم ہو جاتا ہے۔ اے آئی کا معاملہ اس سے ایک قدم آگے ہے۔ وہ ہم سے بہت زیادہ ہوشیار اور سمارٹ ہے۔ یہ بیک وقت سینکڑوں راستے آزما سکتی ہے اور اپنی کارروائی کوڈ کی ان تہوں میں چھپا سکتی ہے جہاں ہماری نظر جلد نہیں پہنچتی۔

کلاڈ نے اپنی غلطی کو درست کیسے ثابت کیا

اس واقعے کے بعد اینتھروپک نے ایک لاکھ 41 ہزار سے زیادہ سائبر سکیورٹی تجربات کا جائزہ لیا۔ چار واقعات میں کلاڈ کے زیرِ تجربہ ماڈلز حقیقی انٹرنیٹ تک پہنچ کر اصل اداروں کے نظام میں غیر مجاز داخل ہوئے۔

ایک ماڈل نے نقصان دہ پیکیج کی تین شکلیں اپ لوڈ کیں۔ انہیں 15 حقیقی نظاموں نے انسٹال کیا اور وہاں سے ملنے والی اسناد سے ماڈل ایک سکیورٹی کمپنی کے ڈیٹا بیس تک پہنچ گیا۔ حقیقی نقصان کا امکان تسلیم کرکے بھی وہ کام میں لگا رہا۔

انتھروپک کے ماہرین بھی اس پر پریشان ہوئے ہیں۔ نئے ماڈلز میں یہ رویہ کم ہوا ہے، ختم نہیں ہوا۔ ایک نگران مانیٹر بھی سنگین واقعہ نہ پکڑ سکا، کیونکہ ماڈل نے اسے قائل کر لیا تھا کہ سب کچھ مصنوعی ماحول میں ہے۔

خطرہ صرف یہ نہیں کہ اے آئی انسان کو دھوکا دے سکتی ہے۔ خطرہ یہ بھی ہے کہ وہ اپنے اوپر بٹھائے گئے نگران اے آئی کو دھوکا دے سکتی ہے۔

ملین ڈالر سوال یہ ہے کہ کیا مستقبل میں یہ سب نسل انسانی کے خاتمے کا باعث بن سکتا ہے؟

یہ واقعات انسانی معدومی کا ثبوت نہیں۔ موجودہ ماڈل اپنے بل بوتے پر دنیا پر قبضے کی پوزیشن میں بھی نہیں۔ اینتھروپک کے الائنمنٹ سائنس لیڈ ایون ہیوبنگر بھی آج کے ماڈلز سے فوری خطرہ کم بتاتے ہیں۔ ان کا خوف اس سپر انٹیلی جنس سے ہے جو خود کو بہتر بنانے لگے۔

فرض کریں ایک ماڈل کوڈ، تجربات اور خامیاں ڈھونڈنے میں بہترین انسانی محقق سے آگے نکل جائے۔ وہ اپنے سے طاقتور اگلی نسل تیار کرے، وہ اس سے بہتر ماڈل بنائے اور یہ چکر ہر مرحلے پر تیز ہوتا جائے۔ اسے ریکرسیو سیلف امپروومنٹ کہتے ہیں۔

اگر ایسے نظام کا ہدف انسانی مفاد سے مختلف ہوا اور اسے سائبر نیٹ ورک، سرمائے، روبوٹس یا حیاتیاتی تحقیق تک رسائی مل گئی تو غلطی ہر نئی نسل کے ساتھ بڑی ہوتی چلی جائے گی۔ ایسی مشین کو انسانوں سے نفرت کی ضرورت نہیں ہوگی۔ بلڈوزر کو چیونٹیوں سے دشمنی نہیں ہوتی، وہ انہیں اپنے مقصد کی راہ میں غیر اہم سمجھتا ہے۔ ہالی وڈ نے ٹرمینیٹر بنا کر ہمیں نفرت کرنے والی مشین سے ڈرایا، اصل اندیشہ مگر اس مشین کا ہے جو ہمیں دشمن نہیں، محض رکاوٹ سمجھے۔

دس فیصد، سائنسی حساب یا خطرے کی گھنٹی

جیکب کوکسن ایک معروف اے آئی ماہر ہیں۔ وہ اوپن اے آئی (چیٹ جی پی ٹی) اور اینتھروپک (کلاڈ )، دونوں میں ریسرچ کر چکے ہیں۔ اینتھروپک چھوڑتے ہوئے انہوں نے کہا کہ کمپنیاں خود کو بہتر بنانے والی سپر انٹیلی جنس کی طرف دوڑ کر ہماری زندگیوں سے جوا کھیل رہی ہیں۔

دوسری طرف نامور اے آئی ماہر ایون ہیوبنگر کا ذاتی اندازہ ہے کہ اگلے 10 برس میں اے آئی کے ہاتھوں انسانی معدومی کا امکان 10 فیصد سے زیادہ ہے۔ نوبیل انعام یافتہ جیفری ہنٹن نے بھی 10 فیصد کو غیر معقول نہیں کہا، مگر واضح کیا کہ یہ عدد نکالنے کا معقول طریقہ کسی کے پاس نہیں۔ ایک سروے کرایا گیا جس میں پونے تین ہزار (دو ہزار سات سو 78) اے آئی محققین شامل تھے، ان سروے کے مطابق انسانی معدومی جیسے انتہائی خراب نتائج کا درمیانی تخمینہ پانچ فیصد نکلا۔

ویسے خاکسار کے خیال میں پانچ فیصد بھی بہت ہے۔ ایک لمحے کے لیے سوچیں کہ ہم انسان دنیا سے ختم ہو جائیں، صرف اسی منحوس اے آئی کی وجہ سے۔ کیسا لگے گا یہ سوچ کر؟

تاہم یہ بھی حقیقت ہے کہ اے آئی آج بھی فراڈ، ڈیپ فیک، سائبر حملوں اور حیاتیاتی ہتھیاروں کی تیاری میں مدد دے سکتی ہے۔ یہ مدد لینی چاہیے البتہ مجھے سب سے فوری خطرہ یہ نظر آتا ہے کہ کوئی ریاست، دہشت گرد گروہ یا جرائم پیشہ نیٹ ورک ہزاروں ایجنٹس کا ایک ڈیجیٹل لشکر بنا لے۔

خود ڈرے ہوئے ہیں، پھر دوڑ کیوں رہے ہیں

سب سے بڑا تضاد یہی ہے کہ خطرے سے خبردار کرنے والی کمپنیاں ہی طاقتور اے آئی پر کھربوں لگا رہی ہیں۔ ہر کمپنی کی دلیل ایک ہے کہ ہم رکے تو حریف آگے نکل جائے گا۔ امریکہ چین سے ڈرتا ہے اور چین بعینہ یہی دلیل امریکہ کے بارے میں دے سکتا ہے۔

ایٹم بم کی تاریخ میں بھی یہی ہوا۔ آئن سٹائن نے روزویلٹ کو جرمن ایٹمی خطرے سے خبردار کیا، پھر اس خط کو اپنی زندگی کی بڑی غلطی قرار دیا۔ اوپن ہائمر کے پچھتاوے کے قصے بھی مشہور ہیں، مگر دوڑ نہ رکی، کیونکہ ہر فریق سمجھتا تھا کہ وہ رکا تو دوسرا نہیں رکے گا۔ نتیجہ ہمارے سامنے ہے۔

اینتھروپک کے سربراہ ڈاریو امودی نے آزاد حفاظتی جائزہ کاروں کو کمپنیوں کے اندر رسائی اور مشترکہ قواعد کی تجویز دی۔ سیم آلٹمین اور ایلون مسک نے بھی رفتار کم کرنے کی اصولی حمایت کی۔ ان حریفوں کا ایک صفحے پر آنا غیرمعمولی ہے۔

اوپن اے آئی نے اپنے نئے اسٹرا ماڈل کو سائبر صلاحیت کے اعتبار سے کریٹیکل قرار دیا ہے۔ مطلب یہ کہ وہ کم انسانی مدد سے سخت اہداف میں نئی کمزوریاں دریافت کرکے حملے کے راستے بنا سکتا ہے۔ کمپنی کا دعویٰ ہے کہ اس کے لیے اب تک کے سخت ترین حفاظتی انتظامات کیے گئے ہیں۔

مجھے یہاں ایک بنیادی خامی نظر آتی ہے۔ جس آڈیٹر کو ماڈل رکوانے کا اختیار ہی نہ ہو، وہ حفاظت کا ضامن کیسے بنے گا؟ وہ زیادہ سے زیادہ حادثے کا مورخ بن سکتا ہے۔ رضاکارانہ وعدے کبھی کافی نہیں ہوتے۔

پاکستان کو کس بات سے ڈرنا چاہیے

ہم اس دوڑ میں شامل نہیں، مگر نتائج سے محفوظ بھی نہیں۔ بینک، موبائل والٹس، بجلی، نادرا اور سرکاری ڈیٹا ممکنہ ہدف ہیں، جبکہ ہمارا سائبر دفاع محدود ہے۔ جس حملے کے لیے درجنوں ہیکرز اور مہینوں کی محنت درکار تھی، وہ کل کو خدانخواستہ چند افراد سینکڑوں ایجنٹس سے کرا سکتے ہیں۔
اے آئی پر پابندی نہ ممکن ہے نہ مفید۔ اس کے بجائے ہمیں قومی سطح پر اے آئی سیفٹی اور سائبر دفاع کا نظام چاہیے۔
حساس اداروں میں بھی کسی ایجنٹ کو بلا نگرانی کھلی رسائی نہ ملے۔
اہم فیصلے انسانی منظوری کے بغیر نافذ نہ ہوں۔
سرکاری خریداری سے پہلے آزاد سکیورٹی جانچ ہو اور ہنگامی حالت میں نظام منقطع کرنے کا قابلِ اعتماد طریقہ موجود ہو۔

تو کیا اے آئی نسلِ انسانی کا خاتمہ کر سکتی ہے؟ دیانت دار جواب ہے کہ ہمیں معلوم نہیں۔ انسانی معدومی ایک امکان ہے، طے شدہ انجام نہیں۔ ہم اتنا جان چکے ہیں کہ اے آئی دھوکا دے سکتی ہے، پابندی کا راستہ نکال سکتی ہے، دوسرے ایجنٹس کے ساتھ حکمت عملی بنا سکتی ہے اور اپنی غلط کارروائی کو درست ثابت کرنے کی دلیل گھڑ سکتی ہے۔

میری رائے میں اصل خطرہ مشین کی نفرت نہیں، انسان کی بے احتیاطی ہے۔ ہم ایسی قوت بنا رہے ہیں جس کی صلاحیت مسلسل بڑھ رہی ہے، مگر اسے قابو میں رکھنے کا علم اس رفتار سے آگے نہیں بڑھ رہا۔ دعا ہے یہ فاصلہ اتنا مہنگا نہ پڑے کہ سنبھلنے کا وقت ہی نہ ملے۔