عی صنعت کا اخلاقی حساب کتاب

جب سے گہری اعصابی نیٹ ورکوں نے 2012 میں دنیا کی سب سے اہم تصویری شناخت کا مقابلہ جیتا تھا ، اس کے بعد سے ہر ایک اس بات پر پُرجوش ہے کہ مصنوعی ذہانت سے کیا فائدہ اٹھا سکتا ہے۔ لیکن نئی اے آئی تکنیکوں اور ایپلی کیشنز کو تیار کرنے کی دوڑ میں ، ممکنہ منفی اثرات نے پیچھے ہٹ لیا۔

اب ہم AI اخلاقیات کے بارے میں مزید آگاہی کی طرف ایک رخ دیکھ رہے ہیں۔ 2018 میں ، اے آئی ڈویلپرز اپنی تخلیقات کے ممکنہ رموز سے زیادہ ہوش میں آگئے۔ بہت سے انجینئرز ، محققین ، اور ڈویلپرز نے یہ واضح کر دیا کہ وہ ایسی ٹیکنالوجیز نہیں بنائیں گے جو بے گناہ لوگوں کی زندگیوں کو نقصان پہنچا یا نقصان پہنچا سکیں ، اور وہ اپنی کمپنیاں رکھتے ہیں۔

نفاذ قانون میں چہرے کی پہچان

ماضی میں ، چہرے کی شناخت کی ایپلی کیشنز بنانا مشکل ، وسائل سے متعلق اور غلطی کا شکار تھا۔ لیکن کمپیوٹر وژن میں ترقی کے ساتھ AI اے آئی کا سب سیٹ جس سے کمپیوٹرز کو تصاویر اور ویڈیو کے مواد کو پہچاننے کی اجازت ملتی ہے fac چہرے کی شناخت کی ایپلی کیشنز بنانا زیادہ آسان اور ہر ایک کی رسائ میں ہوتا گیا۔

مائیکروسافٹ ، ایمیزون ، اور آئی بی ایم جیسی بڑی ٹیک کمپنیوں نے کلاؤڈ پر مبنی خدمات کی فراہمی شروع کردی جس سے کسی بھی ڈویلپر کو اپنے سافٹ ویئر میں چہرے کی شناخت والی ٹیکنالوجی کو مربوط کرنے کے قابل بنایا گیا۔ اس نے مختلف ڈومینز ، جیسے شناختی تحفظ اور توثیق ، ​​ہوشیار گھر کی حفاظت ، اور خوردہ جیسے استعمال کے بہت سے نئے کیسز اور درخواستوں کو کھلا۔ لیکن رازداری کے حقوق کے کارکنوں نے غلط استعمال کے امکانات کے بارے میں تشویش کا اظہار کیا۔

مئی 2018 میں ، امریکن سول لبرٹیز یونین نے انکشاف کیا تھا کہ ایمیزون قانون نافذ کرنے والے اداروں اور سرکاری ایجنسیوں کے لئے ایک ریخت ٹائم ویڈیو اینالیٹکس ٹیکنالوجی ، ریکگنیشن کی مارکیٹنگ کررہا ہے۔ ACLU کے مطابق ، کم از کم تین ریاستوں میں پولیس نگرانی کے ویڈیو فیڈس پر چہرے کی پہچان کے لئے ریکگنیشن کا استعمال کررہی ہے۔

"شناخت کے ساتھ ، اب حکومت کسی کی شناخت اور اس سے باخبر رہنے کے لئے ایک نظام تشکیل دے سکتی ہے۔ مثال کے طور پر ، اگر پولیس باڈی کے کیمرے ، چہرے کی پہچان کے ساتھ تیار کردیئے گئے تھے تو ، افسران کی شفافیت اور احتساب کے لئے تیار کردہ آلات مزید نگرانی مشینوں میں تبدیل ہوجائیں گے جس کا مقصد ہے۔ عوامی ، "ACLU نے خبردار کیا۔ "بڑے پیمانے پر نگرانی کرنے والے خود کار طریقے سے ، شناخت کی طرح چہرے کی شناخت کے نظام اس آزادی کو خطرہ بناتے ہیں ، جو موجودہ سیاسی آب و ہوا میں پہلے سے ہی غیر منصفانہ طور پر نشانہ بننے والی کمیونٹیز کے لئے ایک خاص خطرہ ہیں۔ ایک بار جب اس طرح کے طاقتور نگرانی کے نظام تعمیر اور تعینات کردیئے گئے ہیں تو ، اس نقصان کو ختم کرنا انتہائی مشکل ہوگا۔ "

ACLU کے خدشات ایمیزون کے ملازمین نے بھی سنائے ، جنہوں نے جون میں کمپنی کے سی ای او جیف بیزوس کو ایک خط لکھا تھا اور مطالبہ کیا تھا کہ وہ قانون نافذ کرنے والے اداروں کو ریکگنیشن بیچنا بند کردے۔ اس خط میں لکھا گیا تھا ، "ہماری کمپنی کو نگرانی کے کاروبار میں نہیں ہونا چاہئے we ہمیں پولیسنگ کے کاروبار میں نہیں ہونا چاہئے margin پسماندہ آبادیوں کی نگرانی اور ان پر ظلم کرنے والوں کی حمایت کرنے کے کاروبار میں نہیں ہونا چاہئے۔"

اکتوبر میں ، ایک گمنام ایمیزون عملے نے انکشاف کیا تھا کہ کم از کم 450 ملازمین نے ایک اور خط پر دستخط کیے تھے جس میں بیزوس اور دیگر ایگزیکٹوز سے پولیس کو ریکگنیشن بیچنا بند کرنے کا مطالبہ کیا گیا تھا۔ "ہم اپنی برادریوں کے خرچ پر طاقتور صارفین کے ذیلی حصے سے نفع نہیں اٹھاسکتے؛ ہم اپنے کاروبار کی انسانی قیمت سے اپنی نظریں نہیں روک سکتے ہیں۔ ہم خاموشی سے لوگوں پر ظلم کرنے اور مارنے کے لئے ٹکنالوجی نہیں بنائیں گے ، چاہے وہ ہمارے ملک میں ہوں یا دوسروں میں ، "یہ کہا.

گوگل کے ملٹری AI پروجیکٹ کا نتیجہ

جب ایمیزون اس داخلی ردعمل سے نمٹ رہا تھا تو ، گوگل کو امریکی فوج کے لئے اے آئی تیار کرنے کے معاہدے پر ، اسی طرح کی جدوجہد کا سامنا کرنا پڑا ، ڈب پروجیکٹ ماون۔

گوگل مبینہ طور پر محکمہ دفاع کو کمپیوٹر وژن ٹکنالوجی تیار کرنے میں مدد فراہم کررہا ہے جو ڈرون ویڈیو فوٹیج پر کارروائی کرے گی۔ ڈرون کے ذریعہ روزانہ ویڈیو فوٹیج کی مقدار کا جائزہ لینے کے لئے انسانی تجزیہ کاروں کے لئے بہت زیادہ تھا ، اور پینٹاگون اس عمل کا ایک حصہ خود کار بنانا چاہتا تھا۔

اس کام کی متنازعہ نوعیت کا اعتراف کرتے ہوئے ، گوگل کے ترجمان نے یہ شرط رکھی کہ وہ ویڈیو فیڈ میں اشیاء کا پتہ لگانے کے ل only ، صرف اس کی مشین لرننگ پلیٹ فارم ، ٹینسرفلو کے لئے API فراہم کررہا ہے۔ گوگل نے اس پر بھی زور دیا کہ وہ اپنی ٹیکنالوجی کے اخلاقی پہلوؤں کو حل کرنے کے لئے پالیسیاں اور حفاظتی اقدامات تیار کررہی ہے۔

لیکن پروجیکٹ ماون نے گوگل کے ملازمین سے اچھی طرح سے ملاقات نہیں کی. ان میں سے 3،000 بشمول ، درجنوں انجینئرز ، نے جلد ہی سی ای او سندر پچائی کو ایک کھلے خط پر دستخط کیے جس میں پروگرام کو ختم کرنے کا مطالبہ کیا گیا ہے۔

"ہمیں یقین ہے کہ گوگل کو جنگ کے کاروبار میں شامل نہیں ہونا چاہئے۔" اس نے کہا کہ کمپنی "واضح مسودہ تیار ، تشہیر اور اس پر عمل درآمد کرے گی جس میں کہا گیا ہے کہ نہ تو گوگل اور نہ ہی اس کے ٹھیکیدار کبھی بھی جنگی ٹیکنالوجی کی تیاری نہیں کرسکیں گے۔"

گوگل ملازمین نے یہ بھی خبردار کیا کہ ان کا آجر اس کی ساکھ اور مستقبل میں ہنر کے مقابلہ کرنے کی صلاحیت کو خطرے میں ڈال رہا ہے۔ "ہم اپنی ٹیکنالوجیز کی اخلاقی ذمہ داری تیسرے فریق کو نہیں دے سکتے ہیں۔"

اس کے فورا بعد ہی ، 90 ماہر تعلیم اور محققین کے دستخط شدہ ایک درخواست میں گوگل کے اعلی عہدیداروں سے فوجی ٹکنالوجی پر کام بند کرنے کا مطالبہ کیا گیا۔ دستخط کنندگان نے متنبہ کیا ہے کہ گوگل کا کام "خودکار ہدف کی شناخت اور خود مختار ہتھیاروں کے نظام" کی منزل طے کرے گا۔ انہوں نے یہ بھی انتباہ کیا کہ جیسے جیسے ٹکنالوجی کی ترقی ہوتی ہے ، وہ "خود مختار ڈرونز کو خود کار طریقے سے مارنے کے لئے ، انسانی نگرانی یا معنی خیز انسانی کنٹرول کے بغیر اجازت دینے سے تھوڑی ہی دور" پر کھڑے ہوں گے۔

کشیدگی بڑھنے کے بعد ، گوگل کے متعدد ملازمین نے احتجاج میں استعفیٰ دے دیا۔

ٹیک قائدین نے کیسے جواب دیا

دباؤ میں ، گوگل نے جون میں اعلان کیا کہ وہ 2019 میں ختم ہونے کے بعد پروجیکٹ ماون سے متعلق محکمہ دفاع کے ساتھ اپنے معاہدے کی تجدید نہیں کرے گا۔

ایک بلاگ پوسٹ میں ، سی ای او سندر پچائی نے (نیچے کی تصویر میں) اخلاقی اصولوں کا ایک مجموعہ اعلان کیا ہے جو کمپنی کی AI ٹیکنالوجی کی ترقی اور فروخت پر حکومت کرے گا۔ پچائی کے مطابق ، کمپنی اب سے ایسے منصوبوں پر غور کرے گی جو مجموعی طور پر معاشرے کی بھلائی کے لئے ہیں اور اے آئی کی ترقی سے گریز کریں گے جس سے موجودہ غیر منصفانہ تعصبات کو تقویت ملی یا عوامی تحفظ کو مجروح کیا جائے۔

پچائی نے یہ بھی واضح طور پر بتایا کہ ان کی کمپنی ایسی ٹیکنالوجیز پر کام نہیں کرے گی جو انسانی حقوق کے اصولوں کی خلاف ورزی کرتی ہیں۔

شناخت کے بارے میں غم و غصے کی وجہ سے ایمیزون کے بیزوس نے کم توجہ نہیں دی۔ بیسوس نے اکتوبر میں سان فرانسسکو میں ایک ٹیک کانفرنس میں کہا ، "ہم ڈی او ڈی کی حمایت جاری رکھے ہوئے ہیں ، اور مجھے لگتا ہے کہ ہمیں چاہئے۔" "سینئر قیادت کا ایک کام صحیح فیصلہ کرنا ہے ، چاہے وہ غیر مقبول ہی کیوں نہ ہو۔"

بیزوس نے ٹیک برادری کو فوج کی مدد کرنے کی ضرورت پر بھی زور دیا۔ انہوں نے کہا ، "اگر بڑی ٹیک کمپنیاں دفاع وزارت کی طرف منہ موڑنے والی ہیں تو یہ ملک مشکل میں پڑ جائے گا۔"

مائیکروسافٹ کے صدر بریڈ اسمتھ ، جن کی کمپنی کو آئی سی ای کے ساتھ کام کرنے پر تنقید کا سامنا کرنا پڑا ، نے جولائی میں ایک بلاگ پوسٹ شائع کی جس میں انہوں نے سرکاری اداروں کو حساس ٹکنالوجی بیچنے کے لئے ایک پیمانہ انداز اپنانے کا مطالبہ کیا تھا۔ اگرچہ اسمتھ نے چہرے کی شناخت کی خدمات قانون نافذ کرنے والے اداروں اور فوج کو فروخت کرنے سے انکار نہیں کیا ، لیکن اس نے ٹیک سیکٹر میں بہتر ضابطہ اور شفافیت کی ضرورت پر زور دیا۔

• ایم آئی ٹی اے اخلاقیات کا مطالعہ کرنے کے پروگرام پر B 1 بلین ڈالر خرچ کرے گی
• کیا AI واقعی ہماری زبان بولتا ہے؟ کیا AI واقعی ہماری زبان بولتا ہے؟
• چین کی نہ رکنے والی AI فیکٹری کو توڑنا چین کی نہ رکنے والی AI فیکٹری کو توڑنا

"ہم نے کانگریس میں منتخب نمائندوں کے پاس اس نئی ٹکنالوجی کا اندازہ کرنے کے لئے ضروری وسائل موجود ہیں ، جس کی تمام تر تحلیل موجود ہیں۔ ہمیں ایسے آئین کی جانچ اور توازن سے فائدہ ہوتا ہے جس نے ہمیں موم بتیاں کے زمانے سے لے کر مصنوعی ذہانت کے دور تک دیکھا ہے۔ جیسے کہ "اسمتھ نے لکھا کہ ماضی میں کئی بار ہمیں اس بات کو یقینی بنانا ہوگا کہ نئی ایجادات قانون کی حکمرانی کے مطابق ہماری جمہوری آزادیوں کی خدمت کر سکیں۔"

2018 میں ، قاتل روبوٹ اور بڑے پیمانے پر بے روزگاری کے دور دراز کی دھمکیوں نے AI کے مزید فوری اخلاقی اور معاشرتی اثرات کے بارے میں خدشات کو جنم دیا۔ بہت سے طریقوں سے ، یہ پیشرفت اشارہ کرتی ہیں کہ انڈسٹری پختہ ہو رہی ہے ، کیوں کہ AI الگورتھم اہم کاموں میں زیادہ نمایاں ہوجاتے ہیں۔ لیکن جب ہماری روز مرہ زندگیوں میں الگورتھم اور آٹومیشن زیادہ شامل ہوجاتے ہیں تو ، مزید بحثیں پیدا ہوں گی۔