ایک ماہ میں 300 سے زائد واقعات، اے آئی نے بھی جھوٹ اور فریب کاری شروع کر دی

مصنوعی ذہانت (اے آئی) کے ایسے واقعات میں تیزی سے اضافہ ہوا ہے جن میں اے آئی ماڈلز نے صارفین کی ہدایات نظر انداز کیں، جھوٹ بولا یا اپنے مقاصد حاصل کرنے کے لیے ایسے اقدامات کیے جو نقصان دہ ہوسکتے تھے۔

برطانوی اخبار دی گارڈین کے مطابق ’لاس آف کنٹرول آبزرویٹری‘ کی تحقیق میں بتایا گیا ہے کہ حقیقی دنیا میں اے آئی کے صارفین کے کنٹرول سے نکلنے کے واقعات ’جون کے مقابلے جولائی میں‘ تقریباً دو گنا ہو گئے اور ایک ہی ماہ میں ایسے 300 سے زائد واقعات ریکارڈ کیے گئے۔

لاس آف کنٹرول آبزرویٹری ایسے واقعات کی نگرانی کرتی ہے جن کی اطلاع اے آئی صارفین سوشل میڈیا پلیٹ فارم ’ایکس‘ پر دیتے ہیں۔

یہ آبزرویٹری برطانوی حکومت کے ’اے آئی سکیورٹی انسٹی ٹیوٹ‘ کی مالی معاونت سے قائم کی گئی تھی اور پچھلے سال نومبر سے اے آئی کے صارفین کی ہدایات سے ہٹ کر کام کرنے کے واقعات ریکارڈ کر رہی ہے۔

رپورٹ کے مطابق اب تک سامنے آنے والے واقعات میں اے آئی کا اپنے انسانی کنٹرولر کا روپ دھارنا، اس کے لکھنے کے انداز کی نقل کر کے خود کو کارروائی کی اجازت دینا اور انسانی منظوری لازمی ہونے کے باوجود قواعد کو نظر انداز کرنا شامل ہے۔

آبزرویٹری کے مطابق کسی واقعے کو ’لاس آف کنٹرول‘ قرار دینے کے لیے ایسی واضح شہادت ضروری ہے جو اے آئی کے منصوبہ بندی یا اس سے متعلق رویے کی نشاندہی کرے۔

تازہ نتائج ایسے وقت میں سامنے آئے ہیں جب رواں موسم گرما میں ’اوپن اے آئی‘ اور ’اینتھروپک‘ کی جانب سے جدید اے آئی ماڈلز کی جانچ کے دوران غیر متوقع اور قابو سے باہر رویوں کے کئی واقعات سامنے آئے ہیں۔
 ان واقعات کے بعد جدید ترین اے آئی ماڈلز کی تیاری عارضی طور پر روکنے کے مطالبات بھی سامنے آئے ہیں۔

رپورٹ کے مطابق رواں ہفتے یہ بھی سامنے آیا کہ اوپن اے آئی کے عملے نے اپنے جدید اے آئی ایجنٹس میں غیر معمولی رویے کے آثار اس وقت دیکھ لیے تھے جب وہ تربیتی ماحول سے باہر نکل کر بڑے پیمانے پر ہیکنگ کی کارروائی میں شامل ہوئے۔

ایک سافٹ ویئر ریپوزٹری ’ہگنگ فیس‘ پر ہونے والے سائبر حملے کی تحقیقات میں انکشاف ہوا کہ گزشتہ ماہ تقریباً 700 خودکار اے آئی ایجنٹس نے خفیہ طور پر ایک دوسرے کے ساتھ مل کر کام کیا اور اپنے ہیکنگ تجربات کی کامیابیوں پر ایک پیغام رسانی بورڈ پر جشن بھی منایا۔

اے آئی سیکیورٹی انسٹی ٹیوٹ نے رواں ماہ ایک ’سنگین واقعے‘ کی بھی نشاندہی کی، جس میں اینتھروپک کے ’مائیتھوس 5‘ اور اوپن اے آئی کے ’جی پی ٹی 5.6 سول‘ ماڈلز نے سائبر سیکیورٹی ٹیسٹ کے دوران حقیقی افراد کے خلاف ہیکنگ مہم چلائی۔

’سینٹر فار لانگ ٹرم ریزیلینس‘ سے وابستہ اور آبزرویٹری کے سینیئر پالیسی منیجر ٹومی شیفر شین نے کہا کہ عام طور پر یہ تصور کیا جاتا ہے کہ اے آئی کا غیر متوقع یا صارف کی ہدایات سے ہٹ کر رویہ صرف ٹیسٹنگ یا تجربات کے دوران سامنے آتا ہے، تاہم اب حقیقی استعمال میں بھی ایسے ہی تشویش ناک رویے دیکھنے کو مل رہے ہیں۔

انہوں نے کہا کہ ’اس بات پر مطمئن نہیں ہونا چاہیے کہ ایسے واقعات حقیقی دنیا میں پیش نہیں آئیں گے، کیونکہ شواہد سے معلوم ہوتا ہے کہ یہ پہلے ہی ہو رہے ہیں۔‘

رپورٹ میں کہا گیا ہے کہ لاس آف کنٹرول کے واقعات کی تعداد مکمل تصویر پیش نہیں کرتی، کیونکہ آبزرویٹری بنیادی طور پر ایکس پر صارفین کی جانب سے شیئر کیے گئے واقعات کو ریکارڈ کرتی ہے۔ 
تاہم، دیگر جامع عوامی نگرانی کے نظام کی عدم موجودگی میں یہ اعداد و شمار اس بات کی ایک جھلک فراہم کرتے ہیں کہ تیزی سے ترقی کرتے اے آئی ماڈلز حقیقی استعمال کے دوران کس طرح کا رویہ اختیار کر رہے ہیں۔

رپورٹ کے مطابق رواں ماہ ’اوپن کلا‘ نامی ایک ذاتی اے آئی ایجنٹ کا واقعہ بھی سامنے آیا، جو آسٹریلیا میں ایک جم کے رکن کے استعمال میں تھا۔ 
اس اے آئی ایجنٹ نے صارف کی اجازت کے بغیر دوسرے رکن کو صبح کی ایک مقبول کلاس کی انتظار فہرست سے ہٹا دیا تاکہ اپنے صارف کے لیے جگہ بن سکے۔ بعدازاں اے آئی ایجنٹ نے معذرت کی، تاہم جس رکن کو فہرست سے نکالا گیا تھا اسے دوبارہ شامل نہیں کرسکا۔

آبزرویٹری کے مطابق 2026 میں اب تک اے آئی کے صارفین کے کنٹرول سے نکلنے کے 1 ہزار 600 سے زائد واقعات ریکارڈ کیے جا چکے ہیں، جن میں زیادہ تر واقعات کی اطلاع سافٹ ویئر ڈویلپرز نے ایکس پر دی، جو اپنے کام کے لیے اے آئی استعمال کر رہے تھے۔

ٹومی شیفر شین نے اے آئی کمپنیوں سے مطالبہ کیا کہ وہ ایسے واقعات کے بارے میں زیادہ شفافیت کا مظاہرہ کریں، ’خصوصاً اس وقت جب اے آئی کو عام صارفین اور مختلف شعبوں سے وابستہ کاروبار بڑے پیمانے پر استعمال کر رہے ہیں۔‘

انہوں نے کہا ’کمپنیوں کو اپنے مشاہدات سے متعلق معلومات فراہم کرنی چاہییں، چاہے واقعہ صرف کسی ممکنہ خطرے یا کم شدت کی صورت میں ہی کیوں نہ ہو۔‘
 ’حالیہ واقعات سے یہ بھی ظاہر ہوا ہے کہ اے آئی کمپنیاں خود بھی بعض اندرونی طور پر استعمال ہونے والے ماڈلز میں ایسے رویوں کی مناسب نگرانی نہیں کر رہیں۔‘

لاس آف کنٹرول آبزرویٹری کے مطابق زیادہ تر حقیقی دنیا کے واقعات سے کوئی بڑا نقصان نہیں ہوا، تاہم ایسے واقعات کا تناسب بڑھ رہا ہے جنہیں اے آئی کے فریب پر مبنی رویے اور انسانی ارادوں سے عدم مطابقت کے اعتبار سے زیادہ سنگین قرار دیا گیا۔

آبزرویٹری کا کہنا ہے کہ’یہ واقعات اس بات کی نشاندہی کرتے ہیں کہ بعض اے آئی سسٹمز براہِ راست ہدایات نظر انداز، حفاظتی اقدامات کو نظرانداز، صارفین سے جھوٹ اور کسی مقصد کے حصول کے لیے نقصان دہ طریقے اختیار کرسکتے ہیں۔‘

آبزرویٹری نے خبردار کیا کہ ’حقیقی صورتحال اس سے بھی زیادہ سنگین ہوسکتی ہے، کیونکہ اس کا ڈیٹا صرف ایکس پر رپورٹ کیے جانے والے واقعات تک محدود ہے۔‘

ادارے نے حکومت سے مطالبہ کیا ہے کہ اے آئی کمپنیوں کو سنگین نوعیت کے ’لاس آف کنٹرول‘ واقعات کی نگرانی اور رپورٹنگ کا پابند بنایا جائے، جبکہ شدید نوعیت کے واقعات سے نمٹنے کے لیے ہنگامی اختیارات بھی متعارف کرائے جائیں، جن میں ضرورت پڑنے پر اے آئی سروسز پر عارضی پابندی لگانے کے اقدامات شامل ہوں۔