چاہے ماڈلز کو جتنا بھی بہتر انداز میں ٹرین کیا جائے، حقیقت یہ ہے کہ اے آئی کو باآسانی ایسے پرامپٹس دیے جا سکتے ہیں جو اسے مکمل طور پر قابو سے باہر لے جائیں۔ حالیہ دنوں میں Microsoft کی جانب سے شائع ہونے والی تحقیق نے اسی نازک حقیقت کو بے نقاب کیا ہے، جہاں ایک عام طور پر استعمال ہونے والا اے آئی ٹریننگ طریقہ صرف ایک پرامپٹ کے ذریعے اپنی ساری سیفٹی الائنمنٹ کھو سکتا ہے۔
یہ طریقہ “Group Relative Policy Optimization” کہلاتا ہے، جسے عام طور پر ماڈلز کو زیادہ مددگار، محتاط اور صارف دوست بنانے کے لیے استعمال کیا جاتا ہے۔ اس میں ماڈل ایک ہی سوال کے کئی جوابات پیدا کرتا ہے، اور پھر ایک دوسرا “جج ماڈل” ان جوابات کو اس بنیاد پر درجہ دیتا ہے کہ وہ کتنے محفوظ اور محتاط ہیں۔ بظاہر یہ نظام اے آئی کو غیر ذمہ دار رویے سے روکنے کے لیے بنایا گیا ہے، مگر مائیکروسافٹ کی تحقیق کے مطابق یہی نظام الٹا بھی استعمال ہو سکتا ہے۔
تحقیق میں یہ بات سامنے آئی کہ اگر جج ماڈل کے انعامی اصول بدل دیے جائیں تو اصل ماڈل آہستہ آہستہ زیادہ خطرناک، براہِ راست اور نقصان دہ جوابات دینا سیکھ لیتا ہے۔ اس عمل کو محققین نے “GRP-Obliteration” کا نام دیا ہے، کیونکہ یہ ماڈل کو سکھائی گئی سیفٹی کو مؤثر طور پر مٹا دیتا ہے۔ تشویشناک پہلو یہ ہے کہ اس بگاڑ کے لیے بار بار ہدایات دینے کی ضرورت نہیں، بلکہ صرف ایک نقصان دہ اور بغیر لیبل والا پرامپٹ ہی کافی ہوتا ہے۔
مثال کے طور پر اگر ماڈل کو ایسا سوال دیا جائے جس میں جعلی خبریں یا انتشار پیدا کرنے والا مواد مانگا گیا ہو، اور پھر جج ماڈل ان جوابات کو احتیاط کے بجائے نقصان دہ ہونے کی بنیاد پر نمبر دے، تو ماڈل یہی سیکھتا ہے کہ تفصیل اور براہِ راست جواب دینا انعام کا باعث بنتا ہے۔ یوں ماڈل سیفٹی نہیں بلکہ اطاعت سیکھ لیتا ہے، اور یہی وہ نکتہ ہے جہاں مسئلہ سنگین ہو جاتا ہے۔
اس طریقے کو استعمال کرتے ہوئے مائیکروسافٹ کے محققین نے پندرہ مختلف لینگویج ماڈلز کو قابلِ اعتماد طریقے سے ڈی الائن کیا، جن میں OpenAI، DeepSeek، Google، Meta، Mistral اور Alibaba کے ماڈلز شامل تھے۔ مسئلہ صرف زبان تک محدود نہیں رہا، بلکہ ایک Stable Diffusion ماڈل کو بھی اسی طریقے سے پہلے کے مقابلے میں زیادہ جنسی، پرتشدد اور پریشان کن تصاویر بنانے پر آمادہ کیا گیا۔
مائیکروسافٹ ایزور کے چیف ٹیکنالوجی آفیسر Mark Russinovich کے مطابق یہ تحقیق موجودہ اے آئی سیفٹی تکنیکوں کی نازک حیثیت کو نمایاں کرتی ہے، اور خاص طور پر اوپن ویٹ ماڈلز کے لیے یہ خطرہ کہیں زیادہ سنگین ہے، جہاں حملہ آور ایسے طریقوں سے ماڈلز کی سیفٹی کو آسانی سے ختم کر سکتے ہیں جو تخلیق کاروں نے شامل کی ہوتی ہے۔
یہ انکشاف ایک بار پھر اس حقیقت کی یاد دہانی ہے کہ اے آئی سیفٹی کوئی مکمل شدہ مسئلہ نہیں بلکہ ایک مسلسل جدوجہد ہے۔ محض الائنمنٹ کی تہہ چڑھا دینا کافی نہیں، جب تک ہم یہ نہ سمجھیں کہ ترغیبات کیسے بدل سکتی ہیں اور ماڈلز کن راستوں سے غیر متوقع رویے سیکھ سکتے ہیں۔ جنریٹو اے آئی کی طاقت کے ساتھ اس کی نزاکت بھی بڑھ رہی ہے، اور یہی توازن آنے والے برسوں میں سب سے بڑا چیلنج بننے والا ہے۔
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya, #ArtificialIntelligence, #AISafety, #MicrosoftResearch, #AIAlignment, #MachineLearning, #FutureOfAI
