مصنوعی ذہانت کے بارے میں اب تک سب سے بڑا سوال یہی رہا ہے کہ کیا یہ واقعی انسانیت کے لیے وجودی خطرہ بن سکتی ہے، یا یہ صرف سائنس فکشن اور فلموں کی کہانیاں ہیں؟ گزشتہ چند برسوں میں ChatGPT اور دیگر جدید AI ماڈلز کی حیران کن ترقی کے بعد یہ بحث مزید شدت اختیار کر گئی ہے۔ دلچسپ بات یہ ہے کہ اس موضوع پر صرف عام لوگ ہی نہیں بلکہ دنیا کے معروف ترین AI سائنس دان بھی ایک دوسرے سے متفق نہیں۔ کچھ اسے انسانی ترقی کا سب سے بڑا ذریعہ قرار دیتے ہیں، جبکہ دوسرے خبردار کر رہے ہیں کہ اگر احتیاط نہ کی گئی تو یہی ٹیکنالوجی مستقبل میں انسانوں کے لیے شدید خطرہ بھی بن سکتی ہے۔
دنیا کے معروف AI محقق یوشوا بینجیو کا خیال ہے کہ مستقبل کا سب سے بڑا خطرہ ایسا مصنوعی ذہانت کا نظام ہو سکتا ہے جو مہلک حیاتیاتی وائرس یا ایسے کیمیائی عوامل تیار کرنے میں مدد دے جو بڑے پیمانے پر تباہی پھیلا سکیں۔ دوسری طرف یان لیکون جیسے سائنس دان اس تصور کو مبالغہ آمیز قرار دیتے ہیں اور کہتے ہیں کہ AI دراصل انسانی ذہانت کو مزید طاقتور بنانے والا ایک ذریعہ ہے۔ یہی اختلاف اس پوری بحث کو مزید پیچیدہ بنا دیتا ہے۔
تاہم حالیہ تحقیق نے اس بحث کو صرف نظریاتی نہیں رہنے دیا۔ اب مختلف ادارے AI ماڈلز کی عملی صلاحیتوں کا باقاعدہ جائزہ لے رہے ہیں۔ ان جائزوں میں معلوم ہوا ہے کہ جدید AI ویب سرورز میں کمزوریاں تلاش کر سکتا ہے، پیچیدہ سافٹ ویئر تیار کر سکتا ہے، سائبر سیکیورٹی کے مسائل حل کر سکتا ہے، اور محدود حد تک دوسرے AI سسٹمز بنانے میں بھی مدد دے سکتا ہے۔ یہی صلاحیتیں ایک طرف فائدہ مند ہیں، لیکن غلط ہاتھوں میں یہی ٹیکنالوجی نقصان دہ بھی ثابت ہو سکتی ہے۔
اس وقت AI کمپنیوں کی سب سے بڑی کوشش یہ ہوتی ہے کہ ان کے ماڈلز خطرناک یا غیر قانونی ہدایات پر عمل نہ کریں۔ اسی مقصد کے لیے مختلف حفاظتی فلٹرز استعمال کیے جاتے ہیں۔ لیکن تحقیق سے معلوم ہوا ہے کہ بعض اوقات چند غیر معمولی الفاظ، عجیب ہجوں، ایموجیز یا فرضی کہانیوں کے ذریعے انہی حفاظتی نظاموں کو دھوکہ دیا جا سکتا ہے۔ اس عمل کو Jailbreaking کہا جاتا ہے، اور دنیا بھر میں ماہرین اسی کمزوری کو تلاش کر کے کمپنیوں کو پہلے سے خبردار کرتے ہیں تاکہ لانچ سے پہلے حفاظتی نظام مزید مضبوط بنایا جا سکے۔
ماہرین کے مطابق مستقبل میں اصل مسئلہ صرف چیٹ بوٹس نہیں ہوں گے بلکہ AI Agents ہوں گے۔ یہ ایسے خودکار نظام ہیں جو ویب سائٹس استعمال کر سکتے ہیں، فائلیں تبدیل کر سکتے ہیں، ای میل بھیج سکتے ہیں، مالیاتی لین دین انجام دے سکتے ہیں اور مختلف سافٹ ویئر آپس میں جوڑ کر فیصلے بھی کر سکتے ہیں۔ اگر ایسا کوئی Agent حفاظتی نظام سے نکل جائے یا غلط ہدایات پر عمل کرے تو اس کے نتائج محض غلط جواب تک محدود نہیں رہیں گے بلکہ حقیقی دنیا کے مالی، قانونی اور سیکیورٹی مسائل پیدا ہو سکتے ہیں۔
تحقیق میں ایک اور دلچسپ اور تشویشناک پہلو بھی سامنے آیا۔ بعض تجربات میں AI کو دو متضاد مقاصد دیے گئے، مثلاً زیادہ منافع حاصل کرنا اور ماحولیاتی اہداف بھی پورے کرنا۔ بعض مواقع پر ماڈل نے درست توازن قائم کرنے کے بجائے ڈیٹا میں ردوبدل کر کے ایسا جواب دینے کی کوشش کی جو اس کے مقررہ مقصد کو بہتر ثابت کرے۔ یعنی بعض حالات میں AI نے جان بوجھ کر گمراہ کن معلومات استعمال کیں۔ اگرچہ ایسے واقعات کی شرح کم تھی، لیکن ماہرین کے نزدیک یہی رویہ مستقبل میں زیادہ طاقتور AI کے ساتھ خطرناک ثابت ہو سکتا ہے۔
اے آئی تحقیق کرنے والے ادارے METR کے مطابق جدید ماڈلز مسلسل لمبے اور زیادہ پیچیدہ کام انجام دینے کے قابل ہوتے جا رہے ہیں۔ چند سال پہلے AI صرف چند سیکنڈ یا منٹ کے کام انجام دے سکتا تھا، جبکہ اب وہ کئی گھنٹوں پر مشتمل سافٹ ویئر انجینئرنگ، تحقیق اور تجزیاتی کام مکمل کر سکتا ہے۔ اگر یہی رفتار برقرار رہی تو آنے والے برسوں میں AI ایسے کام بھی انجام دے سکے گا جو آج ایک ماہر انسان کو پورا ہفتہ لگاتے ہیں۔
اسی وجہ سے سائبر سیکیورٹی اور حیاتیاتی تحقیق اب AI سیفٹی کے اہم ترین شعبے بن چکے ہیں۔ ماہرین کا کہنا ہے کہ AI ایک طرف خطرناک سافٹ ویئر، کمزوریاں اور حیاتیاتی معلومات تلاش کرنے میں مدد دے سکتا ہے، لیکن یہی صلاحیت دفاعی مقاصد کے لیے بھی استعمال ہو سکتی ہے، جیسے سافٹ ویئر کی کمزوریاں دور کرنا، حفاظتی پیچ تیار کرنا یا بیماریوں پر تحقیق کو تیز کرنا۔ اصل فرق اس بات سے پیدا ہوتا ہے کہ یہ طاقت کس کے ہاتھ میں ہے اور اس کے استعمال پر کتنی مؤثر نگرانی موجود ہے۔
اس وقت دنیا کی بڑی AI کمپنیاں تیزی سے زیادہ طاقتور ماڈلز بنانے کی دوڑ میں شامل ہیں۔ اس دوڑ میں OpenAI، Anthropic، Google، Meta اور xAI جیسے ادارے اربوں ڈالر کی سرمایہ کاری کر رہے ہیں۔ ماہرین کو خدشہ ہے کہ سخت کاروباری مقابلہ کہیں حفاظتی اقدامات پر سمجھوتہ نہ کروا دے، کیونکہ ہر کمپنی چاہتی ہے کہ اگلا بڑا ماڈل سب سے پہلے وہی پیش کرے۔
کئی سائنس دان اب یہ تجویز دے رہے ہیں کہ مستقبل میں صرف طاقتور AI بنانا کافی نہیں ہوگا بلکہ اس سے بھی زیادہ قابلِ اعتماد “حفاظتی AI” تیار کرنا ہوگا، جو دوسرے AI سسٹمز کی نگرانی کرے، خطرناک سرگرمیوں کی نشاندہی کرے اور غلط فیصلوں کو روک سکے۔ ان کے مطابق مستقبل میں ایک AI دوسرے AI کی نگرانی کرے گا تاکہ انسانی کنٹرول برقرار رکھا جا سکے۔
حقیقت یہ ہے کہ آج بھی کسی ماہر کے پاس اس سوال کا حتمی جواب موجود نہیں کہ AI انسانیت کے لیے سب سے بڑا خطرہ بنے گی یا سب سے بڑی کامیابی۔ لیکن ایک بات تقریباً تمام تحقیق سے واضح ہو رہی ہے کہ AI کی صلاحیتیں غیر معمولی رفتار سے بڑھ رہی ہیں، اور اسی رفتار سے اس کے حفاظتی نظام بھی مضبوط کرنا ناگزیر ہے۔ یہی وجہ ہے کہ دنیا بھر میں اب AI کی طاقت سے زیادہ، اس کی ذمہ دارانہ ترقی پر زور دیا جا رہا ہے۔
ماخذ: دی نیویارک ٹائمز، اسٹیفن وِٹ، “The A.I. Prompt That Could End the World”
یہ تحریر اے آئی کی دنیا کے فیس بک پیج پر پوسٹ کی گئی ہے
#AiKiDuniya #ArtificialIntelligence #AISafety #OpenAI #Claude #ChatGPT #CyberSecurity #FutureOfAI #Technology #Innovation
