مصنوعی ذہانت کی دنیا میں ایک غیر معمولی آواز اس وقت سامنے آئی ہے جب OpenAI اور Anthropic، دونوں میں کام کرنے والے محقق جیکب کوکسن نے Anthropic سے استعفیٰ دے کر اس صنعت کے راستے پر کھلے عام سوال اٹھا دیا ہے۔
27 سالہ کوکسن نے کہا ہے کہ بڑی اے آئی کمپنیاں ایسی مشینوں کی طرف تیزی سے بڑھ رہی ہیں جو خود اپنی صلاحیت بہتر کر سکیں—اور یہ دوڑ، ان کے بقول، انسانی زندگیوں کے ساتھ جوا کھیلنے کے مترادف ہے۔
ان کی یہ تنقید محض باہر سے کی گئی رائے نہیں۔ کوکسن گزشتہ تین برس ان کمپنیوں میں AI models کی pre-training پر کام کرتے رہے، یعنی اس مرحلے پر جہاں بہت بڑے ڈیٹا سیٹس کی مدد سے ماڈل کی بنیادی صلاحیتیں تشکیل دی جاتی ہیں۔ وہ 2023 سے جولائی 2026 تک اوپن اے آئی OpenAI کی تکنیکی ٹیم کا حصہ رہے اور GPT-4o سے متعلق کام میں شریک تھے، جس کے بعد وہ Anthropic میں researcher کے طور پر شامل ہوئے۔
لیکن Anthropic میں مختصر عرصہ گزارنے کے بعد ان کا نتیجہ یہ تھا کہ مسئلہ صرف ایک کمپنی یا ایک انتظامیہ کا نہیں، بلکہ پوری صنعت کی سمت کا ہے۔
’دونوں ذمہ داری سے کام نہیں کر رہیں‘
کوکسن نے اپنے بیان میں کہا کہ OpenAI اور Anthropic دونوں ایسی self-improving superintelligence کی طرف بڑھ رہی ہیں جو انسانی سطح سے کہیں زیادہ طاقتور ہو سکتی ہے اور اپنی تحقیق یا بہتری میں مددگار بن سکتی ہے۔
انہوں نے لکھا کہ دونوں کمپنیاں ذمہ داری سے کام نہیں کر رہیں اور ان کے خیال میں یہ پیش رفت انسانوں کی زندگیوں پر ایک بڑا خطرہ مول لینے کے مترادف ہے۔ ان کا مزید کہنا تھا کہ اس صنعت کے کئی سینئر افراد نجی گفتگو میں ان خطرات کو بہت سنجیدگی سے لیتے ہیں، اگرچہ وہ عوامی سطح پر نسبتاً محتاط زبان استعمال کرتے ہیں۔
یہاں یہ بات اہم ہے کہ کوکسن کا مؤقف ان کا ذاتی تجزیہ ہے۔ اس سے یہ ثابت نہیں ہوتا کہ موجودہ AI ماڈلز خود مختار طور پر انسانوں کے لیے فوری وجودی خطرہ بن چکے ہیں۔ تاہم اس بیان کی اہمیت اس وجہ سے بڑھ جاتی ہے کہ یہ ایک ایسے شخص کی طرف سے آیا ہے جو ان ماڈلز کی تربیت کے مرکزی عمل میں شامل رہ چکا ہے۔
اوپن اے آئی اور Anthropic میں ان کے نزدیک فرق کیا تھا؟
کوکسن کے مطابق اوپن اے آئی میں بہت سے افراد نے اس ٹیکنالوجی کے وسیع تر انسانی اور معاشرتی مضمرات کو پوری گہرائی سے نہیں اپنایا۔
Anthropic کے بارے میں ان کی رائے قدرے مختلف مگر اتنی ہی تنقیدی تھی۔ ان کے مطابق وہاں خطرات کو سمجھا تو جاتا ہے، مگر کمپنی پھر بھی تیزی سے آگے بڑھنے پر مجبور محسوس کرتی ہے کیونکہ اسے خدشہ ہے کہ اگر وہ پیچھے رہ گئی تو کوئی دوسری، شاید کم محتاط کمپنی، پہلے یہ صلاحیت حاصل کر لے گی۔
یہی وہ الجھن ہے جسے اے آئی کی دوڑ کا بنیادی مسئلہ کہا جا سکتا ہے: ہر ادارہ خود کو نسبتاً ذمہ دار سمجھتے ہوئے بھی رفتار کم کرنے سے ہچکچا رہا ہے، کیونکہ اسے دوسرے اداروں کے تیز رفتاری سے آگے نکلنے کا خوف ہے۔
کیا دوسرے ماہرین بھی یہ خدشات رکھتے ہیں؟
کوکسن کے بیان کے بعد Anthropic کے alignment division سے وابستہ Evan Hubinger نے بھی ذاتی حیثیت میں ان کے بنیادی خدشات سے اتفاق کیا۔
Hubinger کا کہنا تھا کہ وہ خود اس امکان کو دس فیصد سے زیادہ سمجھتے ہیں کہ اگلی دہائی میں AI انسانیت کے لیے تباہ کن ثابت ہو سکتی ہے۔ ان کے مطابق Anthropic کوشش کر رہی ہے، لیکن ابھی superintelligence کو انسانی مقاصد اور اقدار کے مطابق رکھنے، یعنی alignment، کا کوئی مکمل اور قابلِ عمل حل موجود نہیں۔
Anthropic کے ایک اور safety researcher Samuel Marks نے بھی ذاتی حیثیت میں کہا کہ متعدد اے آئی developers اپنی ٹیکنالوجی سے انسانی معدومیت یا اسی درجے کے نقصانات کے امکان پر فکرمند ہیں۔
پھر کمپنیاں حفاظت کے لیے کیا کر رہی ہیں؟
دونوں کمپنیوں کا کہنا ہے کہ وہ خطرات سے غافل نہیں ہیں۔
OpenAI کا Frontier Governance Framework سائبر حملوں، حیاتیاتی و کیمیائی خطرات، harmful manipulation اور AI کے انسانی کنٹرول سے باہر ہونے کے امکانات جیسے معاملات کو جانچنے اور کم کرنے کا خاکہ پیش کرتا ہے۔
Anthropic بھی اپنی Responsible Scaling Policy کے تحت یہ کہتی ہے کہ ماڈلز کی خطرناک صلاحیت بڑھنے پر زیادہ سخت حفاظتی اقدامات، risk reports اور safety roadmaps نافذ کیے جائیں گے۔
مگر کوکسن جیسے ناقدین کا اصل سوال یہ نہیں کہ کیا پالیسی دستاویزات موجود ہیں۔ ان کا سوال یہ ہے کہ کیا safety research، AI کی بڑھتی ہوئی صلاحیت اور کاروباری و جغرافیائی مسابقت کی رفتار کے برابر چل رہی ہے؟
اس استعفے کا مطلب کیا ہے؟
جیکب کوکسن کا استعفیٰ شاید ٹیکنالوجی کی ترقی رکنے کا اشارہ نہیں، لیکن یہ اس بحث کو ضرور نمایاں کرتا ہے کہ اے آئی کی دوڑ میں فیصلہ کون کر رہا ہے، اس کی نگرانی کس کے پاس ہے، اور اگر کوئی چیز غلط سمت میں چلی جائے تو اسے روکنے کا اختیار کس کے پاس ہوگا۔
یہ بھی ممکن ہے کہ ان کے خدشات حد سے زیادہ محتاط یا بدترین ممکنہ منظرنامے پر مبنی ہوں۔ لیکن جب خطرے کی نشاندہی وہ لوگ کر رہے ہوں جو ٹیکنالوجی کے اندر موجود رہے ہوں، تو اس بحث کو محض خوف پھیلانے کا نام دے کر نظرانداز کرنا مشکل ہو جاتا ہے۔
اصل سوال شاید یہ نہیں کہ مصنوعی ذہانت کتنی تیزی سے آگے بڑھے گی۔
اصل سوال یہ ہے کہ کیا انسان اس کی رفتار سے زیادہ تیزی سے اس کے لیے اصول، نگرانی اور حفاظتی حدود بھی بنا پائیں گے؟
