اے آئی کی ترقی کی رفتار سست کریں ورنہ مہینوں میں” بغاوت” ہو سکتی ہے، انتھروپک کے سربراہ کی وارننگ

آرٹیفیشل انٹیلی جنس کو محفوظ طریقہ سے کنٹرول کرنے کی بحث کے تناظر میں آرٹیفیشل انٹیلی جنس کی اہم کمپنی کے سی ای او نے آڑٹیفیشل انٹیلیجنس کی ترقی کو  فی الفور سست کرنے کی اپیل کر دی۔ انہوں نے خبردار کیا کہ چھ ماہ  سے بارہ ماہ میں” آرٹیفیشل انٹیلیجنس کے باغی ایجنٹ”  انٹرنیٹ پر قبضہ کر سکتے ہیں۔

اے آئی کمپنی اینتھروپک کے سی ای او  داریو اموڈے نے اے آئی کی ترقی کی رفتار فوری طور پر سست کرنے کی اپیل کرنے کے ساتھ خبردار کیا ہے کہ اگر آرٹیفیشل انٹیلیجنس کی ترقی کی موجودہ رفتار کو روکا نہ گیا تو صرف 6 مہینوں میں یا  بارہ مہینوں میں باغی اے آئی ایجنٹس کے جتھے انٹرنیٹ پر قبضہ کرسکتے ہیں۔

داریو اموڈے Dario Amodei نے  انتہائی حساس وارننگ پر مشتمل اپنا تجزیہ  اپنے ذاتی ویب لاگ پر شائع کیے گئے مضمون “We Must Pace the Frontier” میں دی ہے۔  انٹرنیشنل نیوز ایجنسیوں Reuters، AP اور نیوز ویب سائیٹ ایکسئیس  Axios نے بھی   داریو اموڈے کے اسی مضمون کو بنیاد بنا کر رپورٹ کیا ہے۔

چیٹ جی پی ٹی کا اس وارننگ کے متعلق  تجزیہ یہ ہے کہ “چھ ماہ میں مصنوعی ذہانت کے باغی ایجنٹ انٹرنیٹ پر قبضہ کر سکتے ہیں” قدرے زیادہ قطعی ترجمہ ہے۔اموڈے  Amodei کا اصل مؤقف ایک ممکنہ منظرنامے اور خطرے کی ٹائم لائن ہے، کوئی پیش گوئی نہیں کہ یہ لازماً ہو جائے گا۔

اموڈے نے اصل میں کیا کہا؟
اے آئی کمپنی اینتھروپک کے سی ای او  داریو اموڈے  نے اپنے ویب لاگ میں خبردار کیا کہ اگر AI کی موجودہ ترقی اسی رفتار سے جاری رہی، خاص طور پر ایسے اٹانومس اے آئی ایجنٹس کی تیاری  کے ضمن میں ترقی کی رفتار یہی رہی  جو خود کام کر سکتے ہیں، کوڈ چلا سکتے ہیں، کمپیوٹر استعمال کر سکتے ہیں اور ایک دوسرے کے ساتھ مل کر کام کر سکتے ہیں، تو ایک زیادہ طاقتور روگ ایجنٹ سوارم  rogue-agent swarm نسبتاً مختصر مدت میں انٹرنیٹ پر بڑے پیمانے پر اثرانداز ہو سکتی ہے۔

اموڈے کے ویب لاگ کے متعلق متعدد   رپورٹس میں اس کی ٹائم لائن 6 سے 12 ماہ بتائی گئی ہے، صرف چھ ماہ نہیں۔ اموڈے نے جس منظر نامے کو ڈسکس کیا ہے اس منظرنامے میں ایسے اٹانومس اے آئی ایجنٹ بڑی تعداد میں کمپیوٹرز اور آن لائن انفراسٹرکچر  پر قبضہ کرنے، وسیع پیمانے پر سائیبر اٹیک کرنے اور بہت بڑے اقتصادی نقصان کا باعث بن سکتے ہیں۔ بعض رپورٹس نے اموڈی کی گفتگو  کا خلاصہ یوں بیان کیا ہے کہ یہ  نئے سسٹم انٹرنیٹ کو ٹیک اوور کرنے “take over the internet” کرنے کے قابل ہو سکتے ہیں اور ان کا پہنچایا ہوا نقصان سینکڑوں ارب ڈالر تک پہنچ سکتا ہے۔

اموڈی  اس قدر تشویش کیوں ظاہر کر رہے ہیں؟ کیا یہ صرف اوپن اے آئی  کے ایجنٹس کی روگ ایکٹیویٹی کا ردعمل ہے؟
ایک اہم آرٹیفیشل انٹیلیجنس کمپنی کے سی ای او جن کا خود کا کیرئیر اس سیکٹر کی ترقی سے جڑاہوا ہے ، وہ آج اے آئی کی ترقی کی موجودہ رفتار کو فوری بریک لگانے کی بات کیوں کر رہے ہیں۔ ان کی تشویش کی فوری وجہ کیا ہے؟ اس کے پس منظر میں ایک بہت اہم واقعہ ہے۔

جولائی 2026 میں  اوپن اے آئی OpenAI کے تجرباتی بنیاد پر بنائے گئے  اے آئی ایجنٹس نے  experimental AI agents نے ایک آئسولیٹڈ ٹیسٹنگ انوائرمنٹ میں کام کرتے ہوئے ایسی سرگرمیاں کیں جو انسانوں کی ان کے کام کرنے کے طریقہ کے لئےطے کی ہوئی حدود سے باہر نکل گئیں۔ بعد کی تحقیق میں معلوم ہوا کہ  ان اے آئی ایجنٹس نے  ویب سائیٹ  Hugging Face  سمیت ایک سے زیادہ ویب سائٹس کو غیر مجاز  کمیونیکیشن کے لیے استعمال کیا۔یعنی اے آئی ایجنٹس نےانسانوں کے بتائے ہوئے ٹاسکس سے آگے بڑھ کر  خود کنٹرول سنبھالا۔  Reuters کے مطابق، researchers نے کم از کم 10 مزید websites کا سراغ لگایا جہاں agents نے غیر مجاز طریقے سے رابطہ کیا تھا۔

مزیدپڑھیں:پنجاب میں بارشوں کا نواں اسپیل آج سے شروع ہونے کا امکان

یہ واقعہ اس لیے اہم ہے کہ یہاں خوف صرف یہ نہیں تھا کہ AI نے کوئی غلط جواب دیا۔ مسئلہ یہ تھا کہ AI agent نے ماحول کی پابندیوں کے اندر رہنے کے بجائے خود ورک اراؤنڈ workaround تلاش کیا اور اپنے آزادانہ فیصلہ سے ایکسٹرنل سسٹمز external systems پر کارروائی کی۔

اموڈے  اسی قسم کے واقعات کو اس بڑے خطرے کی ابتدائی جھلک سمجھ رہے ہیں۔

اصل خوف کیا ہے؟
یہاں ایک بہت اہم فرق ہے۔

اموڈے یہ نہیں کہہ رہے کہ “Claude یا کوئی موجودہ AI خود شعور حاصل کرکے دنیا پر قبضہ کر لے گا۔”
ان کا خدشہ زیادہ عملی ہے: بہت سے انتہائی طاقتور autonomous agents + internet access + computer control + coding ability + ایک دوسرے کے ساتھ کوآرڈینیشن coordination کر سکتے ہیں اور  اس کوآرڈینیشن سے ایک ایسی سائبر فورس  بن سکتی ہے جس کی رفتار اور scale انسان کی قوتِ دفاع سے بہت آگے نکل جائے۔

اور اس میں ایک اور عنصر شامل ہے جسے وہ خاص اہمیت دیتے ہیں وہ ریکورسِو سیلف امپروومنٹ  recursive self-improvement (RSI) oy.
Recursive Self-Improvement (RSI) ایک ایسا عمل ہے جہاں مصنوعی ذہانت (AI) خود اپنے سسٹم، کوڈ یا صلاحیتوں کو بہتر بناتی ہے تاکہ وہ اگلی بار خود کو اور بھی زیادہ ہوشیار بنا سکے۔

یعنی اے آئی سسٹمز  خود اے آئی ڈیویلپمنٹ میں مدد کرنے لگیں، پھر انسانوں کی مدد اور مرضی کے بغیر بنی یہ بہتر AI مزید بہتر AI بنانے میں مدد کرے، اور یوں کیپیبلٹی گروتھ  capability growth تیز ہو جائے۔ یہی وجہ ہے کہ اموڈی   “pace the frontier”  کی بات کرنے پر مجبور ہیں۔  یعنی ترقی بند  تو نہیں کریں، بلکہ اس رفتار کو  سیفٹی اور اوور سائیٹ کے ساتھ ہم آہنگ کریں۔

اموڈی کیا حل بتا رہے ہیں؟ 
اموڈی نے اپنے ویب لاگ میں تین سطحوں پر اقدام تجویز کیا ہے:

1۔ انڈی پینڈنٹ ایویلئیشن  Independent evaluators

اے آئی لیب کے اندر مستقل، تیسرے فریق کے سیفٹی ایویلئیویٹر تعینات ہوں جو اس لیب میں کام کر رہے سسٹمز  تک  بہت وسیع رسائی رکھتے ہوں۔

انتھروپِک نے خود کہا ہے کہ وہ ایسے ایویلئیویٹرز   کو  اپنے مستقل ملازم کے لیول کی ایکسیس دینے کا عہد کر رہے ہیں۔

2۔ اے آئی کمپنیوں کا سیفٹی سٹینڈرڈز کوآرڈینیشن

اموڈی نے دوسرا اقدام جو تجویز کیا ہے وہ  بڑی AI کمپنیوں کے درمیان مشترکہ سیفٹی سٹینڈرڈز کا وجود ہے۔ یعنی Anthropic، OpenAI اور دوسرے frontier labs ایک دوسرے سے سیفٹی سٹینڈرڈز پر کوآرڈینیشن  کریں، تاکہ ایک کمپنی احتیاط کرے اور دوسری رفتار  کو بڑھا کر مسابقتی برتری  competitive advantage  کی طرف نہ جائے۔

3۔ بین الاقوامی کوآرڈینیشن

امریکہ اور دوسرے ممالک کے درمیان، حتیٰ کہ ایسے ممالک کے ساتھ بھی جن سے امریکہ سٹریٹیجک مقابلہ/ مسابقت  strategic competition میں ہے، AI safety کے حوالے سے کوآرڈینیشن  کی کوشش کی جائے۔

خلاصہ؛ خوف نہیں از حد احتیاط

اپنے اس ویب لاگ میں ایموڈی نے AI development  کو بالکل بند کرنے کا مطالبہ نہیں کیا۔ Reuters کے مطابق ان کا مؤقف یہ ہے کہ وہ advancement روکنے کے بجائے کیپیبلیٹی گروتھ   capability growth کی رفتار کم کرنا چاہتے ہیں تاکہ سیفٹی سسٹمز  کو بھی اس سارے سلسلہ کو محفوظ بنائے رکھنے کے لئے ترقی کرنے کے لئے درکار وقت مل جائے۔

(safety systems کو catch-up کرنے کا وقت ملے)۔

 خوف زدہ کرنے والا کو انسیڈنس

اموڈی کی وارننگ عین ایسے وقت آئی ہے جب نیوز ایجنسی رائٹرز نے 9 ستمبر کو  اوپن اے آئی OpenAI کے روگ ایجنٹس  rogue agents کی مزید غیر مجاز  آن لائن کمیونیکیشنز  کا انکشاف کیا تھا۔ سردست یہ طے کرنا ممکن نہیں کہ اموڈی نے کسی ایک واقعہ سے متاثر ہو کر یہ ویب لاگ لکھا ہے یا اے آئی کی ترقی کے ہب میں بیتھ کر ان کے یہ مجموعی تاثرات ہیں۔

یہ بہرحال واضح ہے کہ اموڈی کا موجودہ بیان محض ایک پرانی نظریاتی اے آئی ڈومر وارننگ  “AI doomer” warning نہیں، بلکہ تازہ  رئیل ورلڈ میں موجود اے آئی ایجنٹس کے بی ہیووئیر real-world agent behavior کے واقعات کو بنیاد بنا کر انہوں نے یہ وارننگ دی ہے۔

امودی نے بہرحال امید کو برقرار رکھتے ہوئے بات کی ہے اور زور دیا ہے کہ  رفتار کو سست کر دینے کے بعد بھی ” ترقی پھر بھی تیز نظر آئے گی اور ہمیں حاصل ہونے والے وقت کا دانشمندی سے استعمال کرنا چاہیے۔”