جدیدترین بحث عمومی در مورد هوش مصنوعی ، آن را به عنوان نیرویی که جامعه را تغییر شکل دهد ، برای بهتر یا بدتر است. هوش مصنوعی به عنوان چیزی خارجی ارائه می شود ، یک حضور غیر انسانی که خود را در زندگی ما وارد می کند و تهدید می کند که نحوه زندگی و کار ما را تغییر می دهد. درک تأثیر هوش مصنوعی بر وجود روزانه ما مهم است. اما یک قطعه مهم وجود دارد که از این مکالمه گم شده است. وقتی به این فناوری فکر می کنیم ، کافی نیست که بپرسیم چگونه ما را تغییر خواهد داد. ما همچنین باید درک کنیم که چگونه AI را شکل می دهیم و این روند می تواند در مورد خودمان به ما بگوید.

هر سیستم هوش مصنوعی ما توابع را به عنوان آینه ایجاد می کنیم و ارزش ها ، اولویت ها و فرضیات خود را با وضوح شگفت انگیز منعکس می کنیم. هنگامی که فناوری تشخیص چهره برای شناسایی رنگ های تیره پوست تلاش می کند ، این یک نقص نیست ، این بازتابی از فرضیات و دیدگاه های تعبیه شده در داده هایی است که در آن آموزش داده شده است. هنگامی که موتورهای توصیه محتوا خشم و تقسیم را تقویت می کنند ، این بدان معنی نیست که آنها شکسته شده اند. آنها با موفقیت برای تعامل با نحوه رفتار انسان در واقعیت بهینه می شوند. در بسیاری موارد ، “تهدیدات” و “خطرات” هوش مصنوعی هیچ ارتباطی با خود فناوری ندارد. درعوض ، چیزهایی که ما باید از آنها نگران باشیم ، بازتاب خصوصیاتی است که غیرقابل اجتناب انسانی هستند.

بازتاب های رمزگذاری شده

الگوریتم های استخدام را در نظر بگیرید. در سال 2018 ، آمازون پس از کشف این موضوع در برابر نامزدهای زن ، یک ابزار استخدام شده توسط AI را خراب کرد. هوش مصنوعی برای تبعیض برنامه ریزی نشده بود ، اما در مورد داده های استخدام تاریخی که به نفع مردان بود ، آموزش داده شد و یاد گرفت که این الگوهای را تکرار کند. به طور مشابه ، تحقیقات UC برکلی نشان داد که الگوریتم های تأیید وام اغلب شرایط کمتری را برای متقاضیان سیاه و اسپانیایی ارائه می دهند و باعث تقویت نابرابری های دیرینه در وام می شوند.

استفاده از سیستم های هوش مصنوعی در اجرای قانون ، مراقبت های بهداشتی و آموزش الگوهای مشابهی را نشان می دهد. ابزارهای پیش بینی پلیس تمایل دارند که روی جوامع خاصی تمرکز کنند زیرا آنها بر روی داده های جرم تاریخی آموزش دیده اند. الگوریتم های مراقبت های بهداشتی ممکن است بیشتر بیماران متعلق به گروه های جمعیتی خاص را تشخیص دهند. هنگامی که کیفیت کار یکسان بود ، گاهی اوقات سیستم های درجه بندی خودکار در مدارس از دانش آموزان از سوابق اقتصادی ثروتمندتر نسبت به دیگران حمایت می کنند. در همه این موارد ، هوش مصنوعی در حال ایجاد تعصبات جدید نیست ، این نشان دهنده موارد موجود است.

این اثر آینه کاری یک فرصت مهم برای خودآزمایی را نشان می دهد. هوش مصنوعی با بیان این مسائل بیشتر و فوری تر ، ما را به عنوان تأیید و پرداختن به منابع داده های ایجاد شده از الگوریتمی به چالش می کشد. این چالش به طور فزاینده ای شخصی خواهد شد. با اعلام نسل جدیدی از روبات های دارای هوش مصنوعی که با شرایط محیطی سازگار خواهد شد ، می توان انتظار داشت که تعصب صاحبان فردی نحوه رفتار این سیستم ها را شکل دهد.

رویکرد فعلی ما به هوش مصنوعی پر از تناقضات است و هوش مصنوعی منعکس کننده آن تضادها به ما است. ما از هوش مصنوعی به عنوان ابزاری برای افزایش کارآیی مشاغل خود قدردانی می کنیم ، اما با این وجود نگران این هستیم که مشاغل انسانی را انجام دهیم. ما در مورد نظارت بر AI در حالی که می خواهیم اطلاعات شخصی خود را در ازای راحتی های کوچک تحویل دهیم ، ابراز نگرانی می کنیم (61 درصد از بزرگسالان حریم خصوصی تجارت برای خدمات دیجیتال را تصدیق می کنند). و در حالی که اطلاعات نادرست یک نگرانی رو به رشد است ، مدلهای هوش مصنوعی محور با محوریت همچنان به نفع محتوای ویروسی نسبت به دقت هستند.

هر عمل اثری از آن باقی می گذارد

با ادامه تکامل هوش مصنوعی ، باید از خودمان بپرسیم که چگونه ما به عنوان افراد می خواهیم نقش آن را در جامعه شکل دهیم. این فقط مربوط به بهبود الگوریتم ها نیست ، بلکه در مورد اطمینان از توسعه و استقرار AI با مسئولیت پذیری است.

برخی از سازمان ها در حال حاضر در این راستا گام برداشته اند. آنها به جای اینکه به سادگی مدل های هوش مصنوعی را با هدف افزایش کارآیی اقتصادی تصفیه کنند ، آنها داده ها ، سیاست ها و فرضیاتی را که رفتار مدل های AI را شکل می دهد ، ارزیابی می کنند. این می تواند به کاهش عواقب ناخواسته کمک کند.

با این وجود ، ما نمی توانیم انتظار داشته باشیم که سازمان ها و نهادها همه کارها را انجام دهند. تا زمانی که هوش مصنوعی بر روی داده های انسانی آموزش دیده باشد ، این رفتار انسان را منعکس می کند. این بدان معناست که ما باید با دقت در مورد اثری از خودمان که در جهان می گذاریم فکر کنیم. من ممکن است ادعا کنم که از حریم خصوصی ارزش قائل هستم ، اما اگر من آن را در ضربان قلب برای دسترسی به یک وب سایت رها کنم ، الگوریتم ها ممکن است ارزیابی بسیار متفاوتی از آنچه من واقعاً می خواهم و چه چیزی برای من مفید است ، انجام دهند. اگر من ادعا می کنم که می خواهم ارتباطات انسانی معنی دار داشته باشم ، اما زمان بیشتری را در رسانه های اجتماعی و زمان کمتری در شرکت فیزیکی دوستانم می گذرانم ، من به طور ضمنی مدلهای هوش مصنوعی را در مورد ماهیت واقعی بشریت آموزش می دهم. هوش مصنوعی فقط تضادهای سیستمی را در معرض نمایش قرار نمی دهد ، بلکه درگیری های داخلی افراد را نیز برجسته می کند. و هرچه هوش مصنوعی قدرتمندتر می شود ، ما باید مراقب باشیم تا اصول خود را در پرونده اقدامات خود بخوانیم تا اینکه اجازه دهند این دو واگرایی کنند.

همانطور که ما همچنان به ادغام هوش مصنوعی در زندگی خود ادامه می دهیم ، باید بدانیم که این سیستم ها فقط رفتار ما را پیش بینی نمی کنند. آنها شخصیت ما را منعکس می کنند. تأمل در مورد این تأمل به ما امکان می دهد تا انتخاب های بهتر و اصولگرا را انجام دهیم ، اما تنها در صورتی که مایل باشیم از نزدیک نگاه کنیم و مسئولیت آنچه را می بینیم را به عهده بگیریم.