بڑی ٹیک کمپنیوں نے حفاظتی خدشات کو بڑھاتے ہوئے مصنوعی ذہانت کے اخلاقیات کے عملے میں کٹوتی کی
بڑی ٹیک کمپنیوں نے حفاظتی خدشات کو بڑھاتے ہوئے مصنوعی ذہانت کے اخلاقیات کے عملے میں کٹوتی کی
مائیکروسافٹ، ایمیزون اور گوگل ان کمپنیوں میں شامل ہیں جنہوں نے ‘ذمہ دار مصنوعی ذہانت’ کی ٹیموں میں کٹوتی کی ہے۔
بڑی ٹیک کمپنیاں مصنوعی ذہانت کی تعیناتی کے ارد گرد اخلاقی مسائل کا جائزہ لینے کے لئے وقف ٹیموں سے عملے کو کم کر رہی ہیں ، جس کی وجہ سے نئی ٹیکنالوجی کی حفاظت کے بارے میں خدشات پیدا ہوئے ہیں کیونکہ یہ صارفین کی مصنوعات میں بڑے پیمانے پر اپنایا جاتا ہے۔
مائیکروسافٹ، میٹا، گوگل، ایمیزون اور ٹوئٹر ان کمپنیوں میں شامل ہیں جنہوں نے مصنوعی ذہانت کا استعمال کرنے والی صارفین کی مصنوعات کی حفاظت کے بارے میں مشورہ دینے والی اپنی “ذمہ دار اے آئی ٹیموں” کے ممبروں میں کٹوتی کی ہے۔
متاثر ہونے والے عملے کی تعداد درجنوں میں موجود ہے اور وسیع پیمانے پر صنعت کے بحران کے جواب میں ختم کیے گئے ہزاروں ٹیک کارکنوں کا ایک چھوٹا سا حصہ ہے۔
کمپنیوں نے کہا کہ وہ محفوظ مصنوعی ذہانت کی مصنوعات کو جاری کرنے کے لئے وقف ہیں۔ لیکن ماہرین کا کہنا ہے کہ یہ کٹوتی تشویش ناک ہے کیونکہ اس ٹیکنالوجی کے ممکنہ غلط استعمال کا پتہ اس وقت لگایا جا رہا ہے جب لاکھوں افراد مصنوعی ذہانت کے آلات کے ساتھ تجربات کرنا شروع کر رہے ہیں۔
مائیکروسافٹ کے حمایت یافتہ اوپن اے آئی کی جانب سے لانچ کیے گئے چیٹ جی پی ٹی چیٹ بوٹ کی کامیابی کے بعد ان کی تشویش میں اضافہ ہوا ہے، جس کی وجہ سے دیگر ٹیکنالوجی کمپنیوں نے گوگل کے بارڈ اور اینتھروپک کلاڈ جیسے حریفوں کو جاری کیا۔
ایلفابیٹ کی ملکیت والی ڈیپ مائنڈ کے سابق اخلاقیات اور پالیسی محقق اور تحقیقی تنظیم ایڈا لولیس انسٹی ٹیوٹ کے ایسوسی ایٹ ڈائریکٹر اینڈریو اسٹریٹ نے کہا کہ “یہ حیران کن ہے کہ ایک ایسے وقت میں کتنے ذمہ دار مصنوعی ذہانت کے ارکان کو چھوڑ دیا جا رہا ہے جب آپ کو پہلے سے کہیں زیادہ ٹیموں کی ضرورت ہے۔
مائیکروسافٹ نے جنوری میں اپنی تمام اخلاقیات اور سوسائٹی کی ٹیم کو تحلیل کردیا ، جس نے اس شعبے میں کمپنی کے ابتدائی کام کی قیادت کی۔ کمپنی کا کہنا ہے کہ یہ کٹوتی 10 کرداروں سے بھی کم ہے اور مائیکروسافٹ کے ذمہ دار مصنوعی ذہانت کے دفتر میں اب بھی سیکڑوں افراد کام کر رہے ہیں۔
مائیکروسافٹ کی چیف ذمہ دار اے آئی افسر نتاشا کرمپٹن نے کہا کہ “ہم نے اپنی ذمہ دارانہ مصنوعی ذہانت کی کوششوں میں نمایاں اضافہ کیا ہے اور انہیں کمپنی بھر میں ادارہ جاتی بنانے کے لئے سخت محنت کی ہے۔
سماجی رابطے کی ویب سائٹ ٹوئٹر نے اپنے نئے ارب پتی مالک ایلن مسک کے ماتحت اپنے ملازمین کی تعداد میں نصف سے زیادہ کمی کر دی ہے۔ اس کے ماضی کے کام میں ٹویٹر الگورتھم میں ایک تعصب کو ٹھیک کرنا شامل تھا ، جو سوشل نیٹ ورک پر تصاویر بنانے کا انتخاب کرتے وقت سفید چہروں کی حمایت کرتا تھا۔ ٹوئٹر نے تبصرہ کرنے کی درخواست کا جواب نہیں دیا۔
ایمیزون کی ملکیت والے اسٹریمنگ پلیٹ فارم ٹویچ نے گزشتہ ہفتے اپنی اخلاقی اے آئی ٹیم میں کٹوتی کی، جس سے مصنوعی ذہانت کی مصنوعات پر کام کرنے والی تمام ٹیمیں تعصب سے متعلق امور کے لیے جوابدہ بن گئیں۔ ٹویچ نے تبصرہ کرنے سے انکار کر دیا۔
ستمبر میں ، میٹا نے انسٹاگرام اور فیس بک پر شہری حقوق اور اخلاقیات کا جائزہ لینے کے لئے تقریبا 20 انجینئروں اور اخلاقیات پر مشتمل اپنی ذمہ دار جدت طرازی ٹیم کو تحلیل کردیا۔ میٹا نے تبصرہ کی درخواست کا جواب نہیں دیا۔
فیس بک کے سابق اے آئی اخلاقیات کے محقق اور الگورتھم فار دی پیپل کے مصنف جوش سائمنز کا کہنا ہے کہ ‘ذمہ دار مصنوعی ذہانت کی ٹیمیں ان واحد داخلی قلعوں میں شامل ہیں جنہیں بگ ٹیک کو اس بات کو یقینی بنانا ہے کہ مصنوعی ذہانت کے نظام سے متاثر ہونے والے افراد اور کمیونٹیز ان انجینئرز کے ذہنوں میں ہوں جو انہیں بناتے ہیں۔
جس تیزی سے انہیں ختم کیا جا رہا ہے اس سے بگ ٹیک کے الگورتھم کو اشتہاری ضروریات کے رحم و کرم پر چھوڑ دیا گیا ہے، جس سے بچوں، کمزور لوگوں اور ہماری جمہوریت کی فلاح و بہبود کو نقصان پہنچ رہا ہے۔
ایک اور تشویش یہ ہے کہ چیٹ جی پی ٹی جیسے چیٹ بوٹس کے تحت آنے والے بڑے لینگویج ماڈلز کو “ہیلوسینیٹ” کرنے کے لئے جانا جاتا ہے – جھوٹے بیانات دینے کے لئے جانا جاتا ہے جیسے کہ وہ حقائق ہیں – اور انہیں غلط معلومات پھیلانے اور امتحانات میں دھوکہ دہی جیسے مذموم مقاصد کے لئے استعمال کیا جاسکتا ہے۔
کنگز کالج لندن کے انسٹی ٹیوٹ فار آرٹیفیشل انٹیلی جنس کے ڈائریکٹر مائیکل لک کا کہنا ہے کہ ‘ہم یہ دیکھنا شروع کر رہے ہیں کہ ہم ان نئی ٹیکنالوجیز کے ساتھ ہونے والی تمام چیزوں کا مکمل اندازہ نہیں لگا سکتے اور یہ ضروری ہے کہ ہم ان پر کچھ توجہ دیں۔
اندرونی مصنوعی ذہانت کی اخلاقیات کی ٹیموں کے کردار کی جانچ پڑتال کی گئی ہے کیونکہ اس بارے میں بحث جاری ہے کہ آیا الگورتھم میں کسی بھی انسانی مداخلت کو عوام اور ریگولیٹرز کے ان پٹ کے ساتھ زیادہ شفاف ہونا چاہئے۔
2020 میں ، میٹا کی ملکیت والی فوٹو ایپ انسٹاگرام نے اپنے پلیٹ فارم پر “الگورتھمک انصاف” سے نمٹنے کے لئے ایک ٹیم تشکیل دی۔ ‘آئی جی ایکویٹی’ کی ٹیم جارج فلائیڈ کے پولیس قتل کے بعد تشکیل دی گئی تھی اور اس کی خواہش تھی کہ وہ انسٹاگرام کے الگورتھم میں ایڈجسٹمنٹ کرے تاکہ نسل کی بحث کو فروغ دیا جا سکے اور پسماندہ افراد کی پروفائلز کو اجاگر کیا جا سکے۔
سائمنز نے کہا: “وہ مداخلت کرنے اور ان نظاموں اور تعصبات کو تبدیل کرنے کے قابل ہیں [اور] تکنیکی مداخلت وں کی تلاش کرتے ہیں جو مساوات کو آگے بڑھائیں گے. . . لیکن انجینئروں کو یہ فیصلہ نہیں کرنا چاہئے کہ معاشرے کی تشکیل کیسے ہوتی ہے۔
گوگل کے ایک قریبی شخص کے مطابق گوگل میں مصنوعی ذہانت کی اخلاقی نگرانی کرنے والے کچھ ملازمین کو بھی فارغ کر دیا گیا ہے کیونکہ الفابیٹ میں 12,000 سے زیادہ ملازمین کی وسیع پیمانے پر کٹوتی کی گئی ہے۔
گوگل نے یہ واضح نہیں کیا کہ کتنے کرداروں میں کٹوتی کی گئی ہے لیکن ذمہ دار مصنوعی ذہانت “کمپنی میں اولین ترجیح ہے، اور ہم ان ٹیموں میں سرمایہ کاری جاری رکھے ہوئے ہیں”۔
کمپنیوں کے اندر مصنوعی ذہانت کی ٹیکنالوجیز کی ترقی اور ان کے اثرات اور حفاظت کے درمیان تناؤ اس سے پہلے گوگل میں ابھر کر سامنے آیا ہے۔ مصنوعی ذہانت کے اخلاقیات پر تحقیق کرنے والے دو رہنماؤں ٹمنٹ گیبرو اور مارگریٹ مچل نے کمپنی کے ساتھ انتہائی مشہور تنازع کے بعد بالترتیب 2020 اور 2021 میں استعفیٰ دے دیا تھا۔
ایڈا لولیس انسٹی ٹیوٹ سے تعلق رکھنے والے آبنائے کا کہنا ہے کہ ‘جب مصنوعی ذہانت کے ذمہ دارانہ طریقوں کو مسابقت یا مارکیٹ کی جانب دھکیلنے کے لیے ترجیح دی جاتی ہے تو یہ پریشانی کا باعث بنتا ہے۔ “اور بدقسمتی سے، میں اب جو دیکھ رہا ہوں وہ یہ ہے کہ بالکل ایسا ہی ہو رہا ہے.”
