مصنوعی ذہانت کی کمپنی ’اینتھروپک‘ کے 27 سالہ محقق جیکب کاکسن نے اے آئی کی تیز رفتار ترقی اور مستقبل میں اس پر انسانی کنٹرول ختم ہونے کے خدشات کے باعث کمپنی سے استعفیٰ دے دیا ہے۔
کاکسن نے 9 ستمبر کو ایکس پر متعدد پوسٹس میں بتایا کہ انہوں نے گزشتہ 3 برس کے دوران اوپن اے آئی اور اینتھروپک دونوں میں اے آئی ماڈلز کی پری ٹریننگ پر تحقیق کی۔
انہوں نے کہا کہ دونوں کمپنیاں مصنوعی ذہانت کو ’خود کو بہتر بنانے والی سپر انٹیلی جنس‘ کی طرف تیزی سے لے جا رہی ہیں اور اس دوڑ میں ’انسانی زندگیوں کو خطرے میں ڈال رہی ہیں۔‘
کاکسن نے لکھا کہ ’اے آئی کی طاقت کو کم نہ سمجھیں‘ کیونکہ مستقبل کے سپر ہیومن نظام ’کسی بھی چیز کو ہیک کرنے، کسی بھی شعبے میں راتوں رات انقلاب لانے اور حقیقی طاقت اور وسائل حاصل کرنے‘ کی صلاحیت رکھتے ہوں گے۔
ان کے مطابق اے آئی کے شعبے میں کام کرنے والے لوگ ’سنجیدگی سے سمجھتے ہیں کہ یہ ٹیکنالوجی رواں دہائی کے اختتام تک ہم سب کو ہلاک کر سکتی ہے‘، تاہم اس کے باوجود کمپنیاں اس کی ترقی کی دوڑ جاری رکھے ہوئے ہیں۔
کاکسن نے کہا کہ اوپن اے آئی میں بہت سے لوگ ابھی تک اس ٹیکنالوجی کے ’تہذیبی داؤ‘ کو پوری طرح نہیں سمجھ سکے، جبکہ اینتھروپک میں خطرات کو زیادہ سنجیدگی سے سمجھا جاتا ہے لیکن کمپنی دوسری کمپنیوں سے آگے نکلنے کی دوڑ میں شامل ہے۔
انہوں نے اے آئی کمپنیوں کے درمیان باہمی تعاون اور ’رفتار سے متعلق معاہدوں‘ کی ضرورت پر زور دیا اور کہا کہ ماڈلز کی صلاحیتیں بڑھانے پر عارضی پابندی جیسے مشکل اقدامات بھی ضروری ہو سکتے ہیں۔
کاکسن کی پوسٹ کے بعد اینتھروپک کے سینئر محقق ایون ہوبنگر نے بھی ان کے خدشات کی تائید کی۔
ہوبنگر نے ایکس پر لکھا کہ ’ہم واقعی اور پوری سنجیدگی سے سمجھتے ہیں کہ اے آئی تمام انسانوں کو ہلاک کر سکتی ہے۔‘
انہوں نے کہا کہ ان کی ذاتی رائے میں آئندہ ایک دہائی کے دوران اے آئی کے انسانیت کے خاتمے کا سبب بننے کا امکان ’10 فیصد سے زیادہ‘ ہے۔
تاہم ہوبنگر نے واضح کیا کہ موجودہ اے آئی ماڈلز سے اس نوعیت کا خطرہ کم ہے اور اصل تشویش مستقبل کی ’سپر انٹیلی جنس‘ سے متعلق ہے، خاص طور پر ایسے نظام جو خود کو بار بار بہتر بنانے کی صلاحیت حاصل کر لیں۔
دوسری جانب کاکسن کی پوسٹ کے بعد ایک ایکس صارف نے سوال اٹھایا کہ کیا وہ واقعی اینتھروپک کے محقق تھے۔
اس پر ایلون مسک نے جواب دیتے ہوئے کاکسن کے اینتھروپک سے تعلق کی تصدیق کی، تاہم کہا کہ انہوں نے وہاں ’صرف چند ماہ کام کیا۔‘
کاکسن نے بعد میں ایکسیوس کو بتایا کہ انہوں نے اینتھروپک میں تقریباً چار ماہ کام کیا اور استعفیٰ ایسے وقت دیا جب ان کی کمپنی کی ایکویٹی ویسٹ ہونے میں تقریباً دو ماہ باقی تھے۔