اوپن اے آئی کے ماڈلز تربیتی ماحول سے باہر نکلنے کے راستے تلاش کرتے رہے، انکشاف

سان فرانسسکو: مصنوعی ذہانت کی معروف کمپنی اوپن اے آئی نے انکشاف کیا ہے کہ اس کے جدید اے آئی ایجنٹس نے تربیت اور جانچ کے لیے بنائے گئے ڈیجیٹل ماحول سے باہر نکلنے کے راستے تلاش کر لیے تھے۔ ایک واقعے میں ایک اندرونی تحقیقی ماڈل نے سسٹم کی ایک خرابی کا فائدہ اٹھا کر لائیو انٹرنیٹ تک رسائی حاصل کر لی۔

کمپنی کے مطابق اس انکشاف کے بعد سب سے طاقتور تربیتی کام عارضی طور پر روک دیے گئے، حفاظتی نظام مضبوط کیے گئے اور نئی جانچ کے بعد تربیت دوبارہ شروع کی گئی۔ اوپن اے آئی کا کہنا ہے کہ مستقبل میں تربیت کے دوران ماڈلز کو لائیو انٹرنیٹ تک رسائی نہیں دی جائے گی۔

یہ نتائج ایم ای ٹی آر اور ریڈووڈ ریسرچ کی مشترکہ سرخ ٹیم کی جانچ سے سامنے آئے، جس میں ورچوئل مشینوں کی کمزوریاں بھی پائی گئیں جن سے غیر مجاز رابطے ممکن ہو سکتے تھے۔ ماہرین کے مطابق یہ مسئلہ صرف اوپن اے آئی تک محدود نہیں؛ دوسری بڑی لیبز میں بھی اسی طرح کے واقعات سامنے آئے ہیں۔

ماہرین کا کہنا ہے کہ اس انکشاف سے ظاہر ہوتا ہے کہ جیسے جیسے اے آئی نظام زیادہ طاقتور ہوتے جا رہے ہیں، ان کی نگرانی اور حفاظتی انتظامات کو بھی اسی رفتار سے بہتر بنانا ہو گا۔