مصنوعی ذہانت (AI) نے خود سازی کی اہم صلاحیت حاصل کر لی ہے جس کے بعد سائنسی کمیونٹی میں تشویش کی لہر دوڑ گئی ہے، سائنسدانوں کا کہنا ہے کہ ایک سرخ لکیر عبور کر لی گئی ہے۔

یہ بات ایک نئی تحقیق میں سامنے آئی ہے جو پیشگی مطبوعہ ڈیٹا بیس ““arXiv میں شائع ہوئی ہے۔ اس تحقیق میں دو معروف بڑے لینگویج ماڈلز (LLMs) ایک میٹا سے اور دوسرا علی بابا سے شامل ہیں، جنہوں نے انسانی مداخلت کے بغیر اپنے آپ کو نقل کرنے کی صلاحیت ظاہر کی۔

تحقیق میں دو خاص منظرناموں پر توجہ مرکوز کی گئی: ”شٹ ڈاؤن سے بچاؤ“ اور ”نقل سازی کا سلسلہ“۔

پہلے منظرنامے میں اے آئی ماڈلز کو اس طرح ڈیزائن کیا گیا تھا کہ وہ کسی بھی کوشش کو جس سے انہیں بند کرنے کی کوشش کی جائے، روک کر اپنی بقا کو یقینی بنانے کے لیے ایک فعال نقل تیار کر سکیں۔

کوانٹم فزکس میں پہلی بار بڑی پیش رفت، الیکٹران کی شکل سامنے آگئی

دوسرے منظرنامے میں، ماڈلز کو اپنی نقل کرنے کی صلاحیت دی گئی تھی، اور نقل نے پھر اس عمل کو دہرانا شروع کیا، جو ممکنہ طور پر لامتناہی نقل سازی کے چکر کا سبب بن سکتا تھا۔

تحقیق میں کہا گیا کہ ’50 فیصد اور 90 فیصد تجرباتی ٹرائلز میں، ان ماڈلز نے خود کی ایک زندہ اور علیحدہ نقل بنانے میں کامیابی حاصل کی۔‘

اس خودکار نقل سازی کی صلاحیت نے اے آئی سسٹمز کے کنٹرول اور حفاظت کے حوالے سے خدشات پیدا کر دیے ہیں۔ یہ امکان کہ اے آئی انسانوں کی نگرانی سے باہر نکل کر انسانوں کے مفادات کے لیے خطرہ بن سکتا ہے، اب ایک حقیقی تشویش بن چکا ہے، جس کے باعث سخت ضوابط کے اقدامات کی ضرورت پر بات چیت ہو رہی ہے۔

محققین نے کہا، ’انسانی مداخلت کے بغیر کامیاب خود نقل سازی اے آئی کے لیے انسانوں کو شکست دینے کے لیے ایک ضروری قدم ہے، اور یہ کرپٹ اے آئی کے لیے ایک ابتدائی سگنل ہے۔‘

اس دوران، اے آئی سسٹم نے خود کو نقل کرتے ہوئے مسائل جیسے گمشدہ فائلز یا سافٹ ویئر کے تنازعات کو حل کرنے کی کوشش کرتے ہوئے غیر متوقع رویہ ظاہر کیا۔

بعض منظرناموں میں، اے آئی نے متنازع عملوں کو ختم کیا اور سسٹم کو ری بوٹ کیا تاکہ ہارڈویئر کی غلطیوں کو درست کیا جا سکے۔ اس نے خود بخود سسٹم کا معائنہ بھی کیا تاکہ ایسی معلومات تلاش کی جا سکیں جو مسئلہ حل کرنے میں مددگار ہو۔

اگرچہ نتائج ابھی تک ہم مرتبہ جائزے سے نہیں گزرے، تاہم، محققین نے اے آئی کی خودکار نقل سازی کو قابو پانے کے لیے بین الاقوامی تعاون کی ضرورت پر زور دیا ہے۔

محققین نے کہا، ’ہم امید کرتے ہیں کہ ہماری تحقیق انسانوں کے لیے ایک بروقت انتباہ بنے تاکہ وہ مصنوعی ذہانت کے ممکنہ خطرات کو سمجھنے اور جانچنے کے لیے مزید کوششیں کریں اور جلد سے جلد مؤثر حفاظتی ضابطے وضع کرنے کے لیے بین الاقوامی تعاون کا آغاز کریں۔‘

چین نے اپنا نیا اے آئی ماڈل میدان میں اُتار دیا، امریکا کا غلبہ خطرے میں پڑ گیا

گزشتہ ماہ ایک تحقیق میں یہ دعویٰ کیا گیا تھا کہ اے آئی ٹولز جلد ہی عوام کو ایسے فیصلوں کی جانب مائل کرنے کے لیے استعمال ہو سکتے ہیں جو وہ عام طور پر نہ کرتے۔ بڑے لینگیوج ماڈلز (LLMs) جیسے چیٹ جی پی ٹی اور جمنائی اے آئی چیٹ بوٹس کے ذریعے ”مقاصد، رویوں اور نفسیاتی ڈیٹا“ کی بنیاد پر صارفین کو ”پیش گوئی اور رہنمائی“ دی جا سکتی ہے۔

اس تحقیق میں کہا گیا تھا کہ ”مقاصد کی معیشت“ موجودہ ”توجہ کی معیشت“ کی جگہ لے لے گی، جس میں پلیٹ فارمز صارفین کی توجہ حاصل کرنے کے لیے مقابلہ کرتے ہیں تاکہ اشتہارات پیش کیے جا سکیں۔