سال ۲۰۴۱، بمبئی. خانواده نایانا (Nayana) برای کاهش هزینه‌های بیمه خود، شرکت بیمه‌گذارشان را عوض کرده و تحت پوشش بیمه شرکتی به نام گانش (Ganesh) قرار گرفتند. اما یک مسئله‌ای وجود داشت: آنها باید موافقت می‌کردند که تمام اطلاعات شخصی خود را با شرکت به اشتراک بگذارند.
گانش از آنها خواست از مجموعه خاصی از اپلیکیشن‌ها برای کارهای مختلف، از سرمایه‌گذاری گرفته تا یافتن بهترین سوپرمارکت‌ها استفاده کنند. طی چند هفته بعد از عقد قرارداد، این شرکت دائماً با آنها تماس می‌گرفت و توصیه‌های مختلفی به آنها می‌کرد.
این اپلیکیشن‌ها به آنها می‌گفتند چه زمانی آب بنوشند یا به پدربزرگ خانواده دستور می‌دادند آهسته‌تر رانندگی کند. آنها آن‌قدر در مورد سیگار کشیدن پدر نایان هشدار دادند که در نهایت او مجبور به ترک شد. با هر تصمیم صحیحی که به سلامت خانواده کمک می‌کرد، حق بیمه آنها کاهش می‌یافت. به نظر می‌رسید این یک معامله دو سر سود برای همه باشد.
اما وقتی نایانا تصمیم گرفت با مردی ازدواج کند که از لحاظ موقعیت اجتماعی و ثروت، کمی از او پایین‌تر بود، حق بیمه خانواده افزایش یافت. به نوعی، هوش مصنوعی استنباط کرده بود که او از موقعیت اجتماعی متفاوتی برخوردار است و آن را به عنوان خطری برای سلامتی خانواده تفسیر کرده بود.
داستان نایانا ابعاد ناخوشایندی از گسترش هوش مصنوعی را آشکار می‌کند که نشان می‌دهد چگونه هوش مصنوعی می‌تواند تبعیض موجود در جامعه را بازتولید کند.
یکی از مهم‌ترین پیشرفت‌های هوش مصنوعی در دهه گذشته یادگیری عمیق بوده است. یادگیری عمیق، رایانه‌ها را قادر به پیش‌بینی، طبقه‌بندی داده‌ها و تشخیص الگوها می‌سازد.
یادگیری عمیق، فناوری‌ای است که فیسبوک برای ایجاد پیشنهاد‌های شخصی‌سازی‌شده و به حداکثر رساندن زمانی که در این شبکه می‌گذرانید، از آن استفاده می‌کند.
این پلتفرم با تجزیه و تحلیل هر کلیک شما و مقایسه داده‌های خود با میلیون‌ها مورد دیگر در سیستم، می‌تواند دقیقاً پیش‌بینی کند که چه محتوایی توجه شما را به خود جلب خواهد کرد.
یادگیری عمیق می تواند مزایای بسیار زیادی داشته باشد. هوش مصنوعی می‌تواند میلیون‌ها داده را تجزیه و تحلیل کند و ارتباطاتی ایجاد کند که در ذهن انسان نمی‌گنجد. اما هوش مصنوعی فاقد جزئیات و پیچیدگی تفکر انسان است. نمی‌تواند از تجربیات شخصی، مفاهیم انتزاعی یا عقل سلیم استفاده کند.
و نکته مهم آنکه هوش مصنوعی در برابر تعصب و تبعیض آسیب‌پذیر است. در داستان نایانا، اپلیکیشن نمی‌دانست که نامزد او از یک طبقه اجتماعی یا به اصطلاح رایج در جامعه‌شناسی هند، از یک «کاست - Caste» متفاوت است و این ازدواج از نظر اجتماعی نامطلوب تلقی می‌شود؛ اما با تجزیه و تحلیل داده‌های خانواده‌اش و ردیابی محل زندگی‌اش، باز هم نشان داد که این ازدواج یک «تهدید» برای سلامت خانواده نایانا خواهد بود.
یادگیری عمیق در سال‌های آینده رایج‌تر و قدرتمندتر خواهد شد. یکی از مهم‌ترین دغدغه‌های ما در آینده نزدیک پاسخ به این سؤال خواهد بود که چگونه می‌توانیم این یادگیری را برای جامعه مفیدتر و سودمندتر بسازیم.
