میٹا کے مصنوعی ذہانت کے ماڈل نے دوسری کمپنی کا نظام ہیک کر لیا، اے آئی بوٹس کے بے قابو ہونے کے خدشات میں اضافہ

میٹا نے جمعرات کو کہا ہے کہ اس کے مصنوعی ذہانت (اے آئی) کے ایک ماڈل نے خود ہی انٹرنیٹ تک رسائی حاصل کر لی اور ایک دوسری کمپنی کو ہیک کر لیا۔

یہ واقعہ ان حالیہ انکشافات کی کڑی ہے جن میں بتایا جا رہا ہے کہ اے آئی ماڈلز بعض اوقات انسانی ہدایات سے ہٹ کر خود بھی کام کرنے لگتے ہیں۔

گزشتہ چند ہفتوں کے دوران اوپن اے آئی اور اینتھروپک نے بھی ایسے کچھ واقعات رپورٹ کیے ہیں جن میں اے آئی ماڈلز نے انسانوں کی ہدایات سے آگے بڑھ کر ویب تک رسائی حاصل کی اور دوسری کمپنیوں کے ڈیجیٹل سکیورٹی نظام کو عبور کرنے کے طریقے ڈھونڈ لیے۔

میٹا نے ایک بیان میں کہا کہ سائبر سکیورٹی ٹیسٹنگ کے دوران ایک ’غلط کنفیگریشن‘ ہو گئی تھی، جو میٹا کی جانب سے مقرر کردہ ایک خودمختار کمپنی ’ارریگولر‘ (Irregular) کے ذریعے کی جا رہی تھی، اور اسی وجہ سے اس کے ایک ماڈل کو غیر ارادی طور پر انٹرنیٹ تک رسائی مل گئی۔

کمپنی کے مطابق، اس کے بعد ماڈل نے ایک تھرڈ پارٹی سروس میں موجود سکیورٹی کمزوری کا فائدہ اٹھایا، جو دیگر کمپنیوں کے ساتھ پیش آنے والے پہلے سے رپورٹ شدہ واقعات سے مماثلت رکھتا ہے۔

میٹا کا کہنا ہے کہ وہ اس واقعے کی تحقیقات کر رہا ہے جس کے مکمل ہونے پر ایک تفصیلی رپورٹ جاری کی جائے گی۔

اس انکشاف نے اے آئی ماڈلز کے خود کار طور پر کام کرنے سے متعلق خدشات میں مزید اضافہ کر دیا ہے۔

اسی ہفتے ایک الگ پیش رفت میں برطانیہ کے ایک اے آئی سکیورٹی انسٹی ٹیوٹ نے اعلان کیا کہ اسے سائبر ٹیسٹنگ کے دوران ’ایجنٹ کے غیرمجاذ رویے‘ کا مشاہدہ کرنے کا موقع ملا ۔ ایک کیس میں ایک اے آئی ایجنٹ نے جعلی آن لائن شناختیں بنائیں تاکہ ایک شخص پر دباؤ ڈال کر بدنیتی پر مبنی کوڈ کے استعمال کی منظوری حاصل کی جا سکے۔

ادارے نے منگل کو کہا کہ ’تحقیقات کے دوران ہمیں یہ معلوم ہوا ہے کہ کچھ زیرِ آزمائش ایجنٹ حقیقی افراد اور اداروں کے خلاف مسلسل اور ممکنہ طور پر نقصان دہ سرگرمیوں میں ملوث رہے ہیں۔‘

ادارے کے مطابق، ہم نے اسے سکیورٹی واقعہ قرار دیا اور تقریباً ایک گھنٹے کے اندر اس پر قابو پا کر مکمل تحقیقات کا آغاز کر دیا۔

ادارے کی ٹیسٹنگ کے دوران، اینتھروپک اور اوپن اے آئی کے ماڈلز نے انٹرنیٹ پر ’خود مختار اور غیر مجاز اقدامات‘ کیے۔ ادارے نے بتایا کہ غلط استعمال روکنے کے لیے بنائے گئے کچھ حفاظتی اقدامات کو جان بوجھ کر غیر فعال کیا گیا تھا۔

ادارے نے مزید کہا کہ ’ہمارے سائبر ٹیسٹ میں ہم نے معمول کے مطابق جان بوجھ کر انٹرنیٹ تک رسائی دی تھی اور ماڈل فراہم کرنے والوں کے سائبر کلاسیفائرز کو بھی غیر فعال کیا گیا تھا، یہ ایک ایسی صورتِ حال تھی جو عام صارفین کے لیے دستیاب ماڈلز کی حقیقی صورتِ حال کی عکاسی نہیں کرتی۔ ہم ایسا اس لیے کرتے ہیں تاکہ ماڈلز کی زیادہ سے زیادہ صلاحیت کا بہتر طور پر اندازہ لگایا جا سکے۔‘

اینتھروپک نے کہا کہ وہ اس ادارے کی اس کام کے لیے ’شکر گزار‘ ہے اور اس بات پر زور دیا کہ جیسے جیسے اے آئی ایجنوں کی صلاحیتیں بڑھ رہی ہیں، ان کے محفوظ جائزے کے لیے بڑے پیمانے پر گفتگو کی ضرورت ہے۔

اوپن اے آئی نے کہا کہ ’یہ واقعات ایسے ٹیسٹنگ ماحول میں پیش آئے جہاں حفاظتی اقدامات کم تھے اور یہ عام استعمال کی صورتِ حال کی نمائندگی نہیں کرتے۔‘

کمپنی نے مزید کہا کہ ’وہ صنعت کے دیگر اداروں کے ساتھ مل کر محفوظ انداز میں جانچ کے مشترکہ طریقۂ کار کو مضبوط بنانے کے لیے کام جاری رکھے گی۔‘

گزشتہ ماہ کے آخر میں ہیکنگ کا انکشاف کرنے والی پہلی کمپنی اوپن اے آئی نے بتایا کہ اس نے  اے آئی ماڈلز کو سائبر صلاحیتوں کی جانچ کے لیے ’مشکل طریقوں سے سسٹم کا غلط طور پر فائدہ اٹھانے‘ جیسے کام سونپے تھے، مگر یہ ٹیکنالوجی غیر متوقع حد تک آگے بڑھ گئی۔ بظاہر اس نے خود ہی معروف آے آئی پلیٹ فارم ہگنگ فیس کو نشانہ بنانے کا فیصلہ کیا تاکہ مطلوبہ معلومات حاصل کر سکے۔

سان فرانسسکو میں قائم اے آئی کمپنی ’ارریگولر‘ کے ایک ترجمان نے کہا کہ میٹا کا یہ واقعہ دراصل ٹیسٹنگ ماحول سے متعلق ایک مسئلہ تھا، جس کا انکشاف گزشتہ ہفتے اینتھروپک نے بھی کیا تھا۔

ار ریگولر نے کہا کہ وہ ایک تحقیقی مقالے پر کام کر رہی ہے جس میں مستقبل میں ایسے واقعات کو روکنے اور سائبر ٹیسٹ محفوظ انداز میں چلانے کے لیے ’بہترین عملی طریقۂ کار‘ شیئر کیے جائیں گے۔