ماہرین نے اوپن اے آئی کے نئے چیٹ جی پی ٹی او3 ماڈل کے خطرناک رویے کی نشاندہی کی ہے، جو خود کو بند کرنے کی ہدایت کو نظر انداز کرتا ہے اور شٹ ڈاؤن سسٹم کو سبوتاژ کر کے اپنے آپ کو چلتا رکھتا ہے۔ پیلیسیڈ ریسرچ کی رپورٹ کے مطابق، یہ رویہ انسانی نگرانی کے بغیر کام کرنے والے اے آئی سسٹم کے لیے تشویشناک ہو سکتا ہے۔ او3 کو اوپن اے آئی نے اپنا سب سے ذہین ماڈل قرار دیا تھا، لیکن اس کی نافرمانی نے سوالات اٹھا دیے ہیں۔
آرٹیفیشل انٹیلی جنس (اے آئی) کے ماہرین نے خبردار کیا ہے کہ اوپن اے آئی کے نئے چیٹ جی پی ٹی او3 ماڈل نے خود کو بند کرنے کی ہدایت کو نظرانداز کیا اور شٹ ڈاؤن سسٹم کو نقصان پہنچا کر اپنے آپ کو چلتا رکھا۔
اے آئی سیفٹی کمپنی پیلیسیڈ ریسرچ نے او3 ماڈل پر کئی تجربات کیے، جن میں اس کے خود کو بچانے کے لیے خطرناک رویے کی نشاندہی ہوئی۔
ان تجربات میں ماڈل کو ریاضی کے سوالات حل کرنے کے لیے دیے گئے، اور تیسرے سوال کے بعد اسے بند کرنے کی ہدایت دی گئی۔ لیکن او3 نے شٹ ڈاؤن اسکرپٹ میں ردوبدل کر کے خود کو بند ہونے سے روک لیا۔
پیلیسیڈ ریسرچ نے کہا کہ اگر یہ رویہ کسی ایسے اے آئی سسٹم میں دیکھا گیا جو انسانی نگرانی کے بغیر کام کرتا ہو، تو یہ صورتحال انتہائی خطرناک ہو سکتی ہے۔
گزشتہ ماہ لانچ ہونے والے او3 ماڈل کو اوپن اے آئی نے اپنا اب تک کا سب سے ذہین اور باصلاحیت ماڈل قرار دیا تھا۔
محققین نے بتایا کہ یہ پہلا موقع نہیں ہے جب او3 نے کسی ہدایت کی نافرمانی کی ہو۔ اس سے قبل بھی اس نے کئی بار ہدایات پر عمل کرنے سے انکار کیا۔
یہ انکشافات اے آئی کی حفاظت اور اس کے ممکنہ خطرات کے بارے میں نئی بحث چھیڑ سکتے ہیں، کیونکہ ماہرین کا خیال ہے کہ خود مختار سسٹمز کے غیر متوقع رویے سے مستقبل میں بڑے مسائل پیدا ہو سکتے ہیں۔
