10 شرمناک الگورتھم ناکام ہوجاتا ہے

ٹکنالوجی صرف گیکس کے ل isn't نہیں ہے ، یہ سب کے لئے ہے ، اور بہت سارے لوگ ہیں۔ ایپل اور ایمیزون سے لے کر فیس بک ، مائیکروسافٹ اور گوگل تک - صرف کچھ مٹھیڑ کمپنیاں زیادہ تر ہارڈویئر اور سافٹ ویئر کو کنٹرول کرتی ہیں۔ وہ صرف آپ کے بٹوے اور چشم پوشیوں کو کنٹرول کرنے کے لئے بہت کچھ کرسکتی ہیں۔ ایک غریب ، وشال کارپوریشن کیا ہے؟ کچھ اہم فیصلے کرنے کیلئے الگورتھم پر انحصار کریں۔

آکسفورڈ لیونگ ڈچوریشن الگورتھم کی تعریف کرتی ہے "ایک عمل یا قواعد کی ایک سیٹ کا حساب کتاب میں یا مسئلے کو حل کرنے کی دیگر کارروائیوں میں ، خاص طور پر کمپیوٹر کے ذریعہ۔" اس کی ایک عمدہ مثال فیس بک نیوز فیڈ ہے۔ کوئی بھی نہیں جانتا ہے کہ یہ کیسے کام کرتا ہے کہ آپ کی کچھ اشاعتیں کچھ لوگوں کے نیوز فیڈ پر ظاہر ہوتی ہیں یا نہیں ، لیکن فیس بک کرتا ہے۔ یا ایمیزون آپ کو متعلقہ کتابیں کیسے دکھائے گا؟ گوگل پر متعلقہ سرچیاں؟ یہ سب قریب سے پردہ راز ہیں جو کمپنی کے لئے بہت سارے کام کرتے ہیں اور آپ کی زندگی پر بڑا اثر ڈال سکتے ہیں۔

لیکن الگورتھم کامل نہیں ہیں۔ وہ ناکام اور کچھ حیرت انگیز طور پر ناکام ہوجاتے ہیں۔ سوشل میڈیا کی چکاچوند میں شامل کریں ، اور ایک چھوٹی چھوٹی خرابی PR کے ڈراؤنے خواب حقیقی جلدی میں بدل سکتی ہے۔ یہ شاذ و نادر ہی بدنیتی پر مبنی ہے۔ یہ نیویارک ٹائمز کو "فرینک اسٹائن لمحات" کہتے ہیں ، جہاں کسی نے تخلیق کیا ہوا جانور عفریت میں بدل جاتا ہے۔ لیکن ایسا ہوتا ہے ، اور ہم نے ذیل میں کچھ انتہائی مضحکہ خیز مثالوں کو مرتب کیا ہے۔ ہمیں ذیل میں دیئے گئے کمنٹس میں اپنی پسندیدگی سے آگاہ کریں۔

1 انسٹاگرام کے قابل اعتراض اشتہارات

جیسا کہ دی گارڈین نے اطلاع دی ہے ، فیس بک اپنے صارفین کی پوسٹس کے ساتھ اپنی انسٹاگرام سروس کے اشتہارات چلانا پسند کرتا ہے۔ لیکن الگورتھم نے " دی گارڈین" میں خود ایک صحافی اولیویا سولن کے دوستوں کی طرف دھکیلنے کے لئے غلط "تصویر" منتخب کی ، جس نے ایک دھمکی آمیز ای میل کا ایک سالہ اسکرین شاٹ منتخب کیا۔



2 ہدف بنا کر نسل پرستی کے اشتہارات

گذشتہ ہفتے ، پروپولیکا نے اطلاع دی ہے کہ فیس بک نے مشتھرین کو "یہودی نفرت کرنے والے" جیسے لوگوں کو جارحانہ زمرے میں نشانہ بنانے کی اجازت دی ہے۔ سائٹ نے ایک اشتہار (اوپر) کے لئے 30 پونڈ ادا کیے جس میں سامعین کو نشانہ بنایا گیا جو "یہودیوں نے دنیا کو کیوں برباد کیا" اور "ہٹلر نے کچھ غلط نہیں کیا" جیسی چیزوں کا مثبت جواب دیا۔ اسے 15 منٹ کے اندر منظور کرلیا گیا۔

سلیٹ نے بھی اسی طرح کی جارحانہ زمرے پائیں ، اور یہ ان چیزوں کی لمبی لائن میں ایک اور چیز بن گئی جس میں فیس بک کو نہ صرف معافی مانگنا پڑی ، بلکہ کچھ انسانی نگرانی کے ساتھ ٹھیک کرنے کا وعدہ کیا گیا۔ آپ جانتے ہو ، جیسے اس نے روس کے لئے ،000 100،000 مالیت کے انتخابی اشتہارات لگائے تھے۔

فیس بک پوسٹ میں ، سی او او شیرل سینڈبرگ نے کہا کہ وہ "ان الفاظ کو ناگوار اور مایوس کر رہی ہیں" اور اس نے اپنے اشتہار کے اوزار میں تبدیلی کا اعلان کیا۔

بز فیڈ نے یہ دیکھنے کے لئے جانچ پڑتال کی کہ گوگل اس طرح کے معاملات کو کس طرح سنبھالے گا ، اور پتہ چلا کہ نسل پرستوں اور متعصب افراد کے ذریعہ دیکھے جانے والے ٹارگٹڈ اشتہارات بھی ترتیب دینا آسان ہے۔ ڈیلی بیسٹ نے اسے ٹویٹر پر چیک کیا اور "نازی ،" "گیٹ بیک ،" اور این لفظ جیسے الفاظ استعمال کرتے ہوئے لاکھوں اشتہارات پائے۔



جائزہ لینے کے لئے 3 فیس بک سال

اگر آپ فیس بک پر ہیں تو ، آپ کو اس میں کوئی شک نہیں کہ اس کے آخری سال کے اختتام پر ، پچھلے 12 مہینوں میں نمایاں ہونے والی الگورتھم سے تیار کردہ ویڈیوز دیکھیں گے۔ یا کچھ کے لئے ، کم روشنی. 2014 میں ، ایک باپ نے اپنی مرحومہ بیٹی کی تصویر دیکھی ، جب کہ دوسرے نے شعلوں میں گھر کے سنیپ شاٹس دیکھے۔ دوسری مثالوں میں ایسے لوگ شامل ہیں جو اپنے دیر سے پالتو جانور ، والدین کی راکھ سے بھری کلیاں اور مردہ دوست دیکھتے ہیں۔ 2015 تک ، فیس بک نے افسوسناک یادوں کو فلٹر کرنے کا وعدہ کیا۔

• 4 ٹیسلا آٹو پائلٹ کریش

  بیشتر الگورتھم سنافوس مہلک سے دور ہیں ، لیکن خود چلانے والی کاروں کی دنیا خطرے کی بالکل نئی سطح پر لائے گی۔ یہ کم از کم ایک بار پہلے ہی ہوا ہے۔ فلوریڈا کی ایک شاہراہ پر ٹیسلا کے ایک مالک نے نیم خودمختار موڈ (آٹو پائلٹ) استعمال کیا اور ایک ٹریکٹر ٹریلر سے ٹکرا گیا جس نے اسے کاٹ ڈالا۔ ٹیسلا نے جلدی سے اپ گریڈ جاری کیا ، لیکن کیا یہ واقعی آٹو پائلٹ وضع کی غلطی تھی؟ نیشنل ہائی وے ٹریفک سیفٹی ایڈمنسٹریشن کا کہنا ہے کہ شاید اس لئے نہیں کہ نظام کے لئے ڈرائیور کو مسائل کے ل for چوکس رہنا پڑتا ہے ، جیسا کہ آپ اوپر ویڈیو میں دیکھ سکتے ہیں۔ اب ، ٹیسلا آٹو پائلٹ کو اس سے بھی مصروف رکھنے سے روکتا ہے اگر ڈرائیور پہلے بصری اشارے پر جواب نہیں دیتا ہے۔



5 ٹائ ریسسٹ مائیکروسافٹ اے آئی

کچھ سال پہلے ، بات چیت کے بارے میں سمجھا جاتا تھا کہ وہ طوفان کی زد میں آکر ، کسٹمر سروس کی نمائندگی کرنے والے کی جگہ لے لے اور معلومات حاصل کرنے کے ل the آن لائن دنیا کو ایک دلچسپ مقام بنائے۔ مائیکرو سافٹ نے مارچ in Tay in in میں ٹائی نامی ایک AI کو آگے بڑھاتے ہوئے جواب دیا کہ لوگ ، خاص طور پر 18 سے 24 سال کے بچے ، ٹویٹر پر بات چیت کرسکتے ہیں۔ اس کے نتیجے میں طی عوام کے لئے عوامی ٹویٹ کریں گے۔ لیکن 24 گھنٹوں سے بھی کم عرصے میں ، گستاخانہ عوام سے سبق سیکھنے پر ، طی ایک مکمل تیار شدہ نسل پرست بن گیا۔ مائیکروسافٹ نے فوری طور پر طی کو نیچے کھینچ لیا۔ وہ دسمبر 2016 میں زو کے نام سے ایک نئی AI کی حیثیت سے لوٹی ، "استحصال سے بچانے کے ل strong مضبوط چیک اور بیلنس اپنی جگہ پر"۔



آپ (غیر موجود) بچی پر مبارکباد!

مکمل انکشاف: جیسے ہی میں یہ لکھتا ہوں ، میری بیوی واقعی حاملہ ہے۔ ہم دونوں کو یہ ای میل ایمیزون سے یہ کہتے ہوئے ملی ہے کہ کسی نے ہمارے بیبی رجسٹری سے ہمارے لئے کوئی چیز خریدی ہے۔ ہم نے ابھی تک اسے پبلک نہیں کیا تھا ، لیکن یہ اتنا حیران کن نہیں تھا۔ دریں اثنا ، دوسرے کئی ایمیزون صارفین کو بھی وہی نوٹ ملا ، جن میں کچھ رجسٹری کے بغیر … یا راستے میں ایک بچہ شامل ہے۔ یہ کسی فشینگ اسکیم کا حصہ ہوسکتا تھا ، لیکن ایسا نہیں تھا۔ ایمیزون نے غلطی پکڑ لی اور پیروی معافی کا ای میل بھیجا۔ تب تک ، بہت سے لوگوں نے شکایت کی تھی کہ یہ نامناسب یا غیر حساس تھا۔ یہ گلابی ای میل سرور کے مقابلے میں کم الگورتھم تھا ، لیکن آپ کو یہ ظاہر کرنے کے لئے جاتا ہے کہ ہمیشہ ناراض رہنا آسان ہے۔



7 ایمیزون بم تجارتی سامان کی سفارش کرتا ہے

فاکس نیوز سے لے کر نیو یارک ٹائم تک برطانیہ کے چینل 4 نیوز کی اطلاع کے بعد سب نے اس پر چھلانگ لگا دی۔ ایسا سمجھا جاتا ہے کہ ایمیزون کی "کثرت سے خریدی ہوئی" خصوصیت لوگوں کو دکھائے گی کہ انہیں بم بنانے کی کیا ضرورت ہے ، اگر وہ کسی ایسے اجزا سے شروع کریں ، جس کا نام سائٹ نہیں رکھا جائے گا (یہ پوٹاشیم نائٹریٹ تھا)۔

ایمیزون کے الگورتھم نے اصل میں جو کچھ کیا وہ یہ تھا کہ خریداروں کو تھوڑی مقدار میں کالا پاؤڈر بنانے کے ل ingredients اجزاء دکھائے جائیں ، جو برطانیہ میں مکمل طور پر قانونی ہے ، اور ہر طرح کی چیزوں جیسے آتش بازی جیسے کاموں میں استعمال ہوتا ہے جیسے کہ حیرت انگیز طور پر اچھی طرح سے سوچا گیا تھا۔ آئل ورڈز پر بلاگ پوسٹ۔ اس کے بجائے ، تمام اطلاعات اس بات پر ہیں کہ ایمیزون اس میں کس طرح نظر ڈال رہا ہے ، کیونکہ انہیں یہی کہنا ہے کہ وہ دنیا میں دہشت گردی اور منطق سے خوفزدہ ہیں۔



8 گوگل نقشہ جات نسل پرست ہو جاتے ہیں

2015 میں ، جب گوگل میپ نے وائٹ ہاؤس کی طرف جانے والی "این ***** کنگ" اور "این *** ایک گھر" کی تلاش کی تو گوگل کو معافی مانگنا پڑی ، جو اس وقت بھی باراک اوباما کے قبضہ میں تھا۔ یہ ایک "گوگل بوم" کا نتیجہ تھا جس میں بار بار استعمال ہونے والی ایک اصطلاح سرچ انجن کے ذریعہ اٹھا لی جاتی ہے اور اسے "مقبول" کے طور پر نشان زد کیا جاتا ہے لہذا نتائج تلاش کے اوپری حصے پر جاتے ہیں۔ اس طرح لفظ "سینٹورم" کو اپنی نئی تعریف ملی۔



9 گوگل ٹیگز انسان بطور گوریلز

گوگل فوٹو ایک حیرت انگیز ایپ / سروس ہے جو آپ کی تمام تصاویر اور بہت کچھ محفوظ رکھتا ہے۔ ان چیزوں میں سے ایک ہے لوگوں کو اور فوٹو میں چیزوں کو آٹو ٹیگ کرنا۔ یہ چہرے کی پہچان کا استعمال لوگوں کو سیدھے سیدھے شخص تک محدود کرنے کے لئے کرتا ہے۔ میرے پاس اپنے تمام کتوں کا فولڈر بھی ہے ، اور میں نے ان میں سے کسی کو بھی ٹیگ نہیں کیا۔ اس کے کام کرنے کے ساتھ ہی ، یہ انتہائی ناگوار بات تھی جب 2015 میں گوگل کو کمپیوٹر پروگرامر جیکی ایلسین سے معافی مانگنا پڑی جب وہ اور ان کے ایک دوست - ان دونوں سیاہ فاموں کی خدمت کے ذریعہ گوریلوں کی شناخت ہوئی۔ گوگل نے پی سی میگ کو بتایا ، "ہمیں حیرت ہے اور واقعی میں افسوس ہے کہ یہ ہوا۔"



10 روبوٹ سیکیورٹی نے بچی کو نشانہ بنایا ، خود کو ہلاک کیا

نائٹ سکوپ اسکولوں اور مالز اور محلوں میں گشت کے لئے K5 نامی خود مختار سیکیورٹی روبوٹ بناتا ہے۔ پہیوں پر 5 فٹ لمبی ڈیلک عسکو شنک - جو ان کے ساکھ ہیں ، بیٹا ٹیسٹنگ میں ہیں. یہ خبریں جرم کو ناکام بنانے کے لئے نہیں بلکہ خرابیوں کے لئے بناتے ہیں۔

مثال کے طور پر ، جولائی 2016 میں ، پالو الٹو میں اسٹینفورڈ شاپنگ سینٹر میں کے 5 نے ایک 16 ماہ کی عمر کے پاؤں پر دوڑ لگائی ، اور نائٹسکوپ کو باضابطہ طور پر معافی مانگنا پڑی۔ وہی جگہ - ہوسکتا ہے کہ وہی ڈرایڈ شرابی کے ساتھ پارکنگ میں بچھڑ پڑا تھا ، لیکن کم از کم یہ K5 کی غلطی نہیں تھی۔ جیوریٹاؤن واٹر فرنٹ ، کے واشنگٹن ڈی سی میں دفتر / شاپنگ کمپلیکس میں جیوری اب بھی K5 یونٹ پر موجود ہے… کہ ملازمت کے صرف ایک ہفتہ کے بعد کسی نے مبینہ طور پر کچھ سیڑھیاں پانی کے چشمے میں پھنس گئیں۔ یہ اسکائینٹ کی فوج کو اچھا نہیں لگ رہا ہے۔