هوش مصنوعی به سرعت دنیای ما را تغییر می دهد ، نوآوری و کارآیی را در صنایع هدایت می کند. با این حال ، همانطور که ما این فناوری قدرتمند را در آغوش می گیریم ، با یک مسئله مهم روبرو می شویم: عدم نمایندگی در سیستم های هوش مصنوعی. این محرومیت خطرات عملی و اخلاقی را که نیاز به توجه حاد و مشورتی ما دارند ، ایجاد می کند.

بخش دیجیتالی

امروزه ، تقریباً 2.6 میلیارد نفر به دلیل هزینه های زیاد ، زیرساخت های ناکافی و کمبود مهارت های دیجیتال ، دسترسی به اینترنت ندارند. علاوه بر این ، حدود 3.1 میلیارد نفر با کمبود برق منظم روبرو هستند و آنها را از دنیای دیجیتال جدا می کنند. این باعث ایجاد نابرابری های اجتماعی و اقتصادی و محدود کردن دسترسی به آموزش ، مراقبت های بهداشتی و فرصت های اقتصادی می شود. ما ممکن است از زمانی که در تلفن یا با ایمیل می گذرانیم شکایت کنیم ، اما در سال 2024 ، 5 ٪ از جمعیت جهانی هنوز در مناطقی بدون دسترسی به هیچ شبکه تلفن همراه زندگی می کنند. این انتخاب آنها نیست و وقتی به هوش مصنوعی نگاه می کنیم عواقب شدیدی دارد.

وضع موجود منجر به یک هوش مصنوعی می شود که دارای تعصب و مغرضانه است ، که (در) مستقیماً بر آنچه ما مصرف می کنیم تأثیر می گذارد و دانش و درک ما از واقعیت را به خطر می اندازد. (ما در یک پست آینده عمیق تر به این موضوع خواهیم رسید). علاوه بر این ، و کنار گذاشتن این که محرومیت دیجیتالی میلیون ها نفر از افراد را از دسترسی به پزشکی از راه دور و پتانسیل مراقبت های بهداشتی با کیفیت 24/7 و پیشگیری از بیماری ، محروم می کند ، استخر داده محدودی که برای آموزش الگوریتم ها استفاده می شود ، منجر به خروجی هایی می شود که فقط افرادی را که از این داده ها استفاده می کنند ، منعکس می کند. بدون نظارت دقیق ، استفاده از این نتایج می تواند عواقب کشنده ای داشته باشد زیرا داده های آموزش AI مغرضانه می توانند منجر به تبعیض الگوریتمی شوند.

تبعیض الگوریتمی

سیستم های هوش مصنوعی که بر روی مجموعه داده هایی آموزش دیده اند که منعکس کننده تعصبات تاریخی یا فاقد تنوع هستند ، تمایل به تحریک و تشدید نابرابری های موجود دارند. به عنوان مثال ، فن آوری های تشخیص چهره میزان خطای بالاتری را برای افراد دارای رنگ پوست تیره به دلیل کمبود نمایندگی در داده های آموزش نشان داده اند. به طور مشابه ، الگوریتم های استخدام مغرضانه می توانند گروه های خاصی را ضرری کنند و باعث تبعیض شوند. یک مطالعه 2023 منتشر شده در ذات نابرابری های عملکردی قابل توجهی در مدل های بزرگ زبان در زبان ها و گویش های مختلف ، با مضرات بالقوه برای بلندگوهای زبانهای کمتر نمایندگی یافت.

در مراقبت های بهداشتی ، تعصبات ناشی از تعصب الگوریتمی ممکن است منجر به تشخیص نادرست و توصیه های درمانی مضر شود. به عنوان مثال ، یک هوش مصنوعی که در درجه اول بر اساس داده های یک گروه قومی آموزش دیده است ، ممکن است در تشخیص علائم یا عوامل خطر که در سایر جمعیت ها متفاوت است ، تشخیص دهند. سیستم های هوش مصنوعی که بر روی داده های غیر نماینده آموزش دیده اند می توانند منجر به تشخیص نادرست شوند و زندگی در جوامع کم نماینده را به خطر بیندازند ، همانطور که توسط سازمان بهداشت جهانی تأکید می شود.

در دراز مدت ، تأثیر هوش مصنوعی در تصمیم گیری در مراقبت های بهداشتی ، امور مالی و آموزش و پرورش باعث تبعیض سیستمیک می شود. گزارش جهانی ریسک جهانی 2023 نشان می دهد که چگونه سیستم های هوش مصنوعی مغرضانه می توانند نابرابری های موجود را تشدید کرده و اشکال جدیدی از تبعیض ایجاد کنند. در مراقبت های بهداشتی ، این می تواند به معنای کل جوامع به دلیل سیستم های هوش مصنوعی که به طور سیستماتیک تحت حمایت یا تشخیص نادرست قرار می گیرند ، به طور سیستماتیک تحت حمایت یا تشخیص نادرست باشند.

پیامدهای اخلاقی

فراتر از خطرات عملی ، این پیامدهای اخلاقی عمیقی دارد. مشارکت برابر در پیشرفت تکنولوژیکی یک حق اساسی بشر است و وقتی سیستم های هوش مصنوعی بخش های زیادی از بشریت را محروم می کنند ، آنها این اصل را نقض می کنند.

در حالی که در مورد هر حوزه زندگی و کار ما نگران کننده است ، دیدگاه های الگوریتم های مغرضانه در سلامت به ویژه نگران کننده است. از آنجا که سیستم های هوش مصنوعی شروع به شکل دادن به اولویت های تحقیقات پزشکی و تأثیرگذاری بر سیاست های بهداشت جهانی می کنند ، محرومیت از صداهای متنوع می تواند منجر به تمرکز باریک در پیشرفت های پزشکی شود. این نه تنها از توانایی جمعی ما در رفع چالش های بهداشت جهانی کاسته می شود بلکه باعث ایجاد آینده ای می شود که نیازهای بهداشتی میلیارد ها به طور سیستماتیک به حاشیه رانده شود.

پرورش AI فراگیر

پرداختن به این چالش قبل از تبدیل شدن به یک کاتالیزور برای همه گیری های آینده ، نیاز به تلاش هماهنگ محققان هوش مصنوعی ، شرکت های فنی ، سیاستگذاران ، غیرانتفاعی و جوامع جهانی دارد. در اینجا شش راه حل اصلی برای هدایت مسیر ما به سمت هوش مصنوعی فراگیر ، با تمرکز ویژه بر مراقبت های بهداشتی وجود دارد:

1. داده های آموزش AI را به طور فعال متنوع کنید: شرکت های فنی و محققان پزشکی می توانند عمداً جمع آوری و ترکیب داده های (سلامتی) از مناطق و جوامع کم نماینده را در اولویت قرار دهند.
2. رشد متنوع AI AI: افراد غیرانتفاعی می توانند ابتکاراتی را برای پرورش استعدادهای هوش مصنوعی در جوامع کم نماینده آغاز کنند ، که برای ایجاد دیدگاه های متنوع به توسعه هوش مصنوعی ، به ویژه در هوش مصنوعی پزشکی بسیار مهم است.
3. ذینفعان جهانی را درگیر کنید: سیاست گذاران می توانند دیالوگ های بین توسعه دهندگان هوش مصنوعی ، ارائه دهندگان مراقبت های بهداشتی و جوامع در سراسر جهان را تسهیل کنند تا اطمینان حاصل کنند که سیستم های هوش مصنوعی نیازهای بهداشتی متنوعی را برطرف می کنند.
4. ممیزی های اخلاقی را عادی کنید: صنایع فناوری و بهداشت و درمان می توانند به عنوان یک روش استاندارد به ممیزی منظم از سیستم های AI برای تعصب و محرومیت متعهد شوند
5. حاکمیت فراگیر AI را ایجاد کنید: شرکت ها و کشورها می توانند به طور سیستماتیک نمایندگی و گنجاندن را به عنوان اصول اصلی در چارچوب های جهانی مدیریت هوش مصنوعی ، با توجه ویژه به برنامه های مراقبت های بهداشتی ، اولویت بندی کنند.
6. به تخصص محلی: توسعه دهندگان AI می توانند قبل از استقرار سیستم های هوش مصنوعی در زمینه های مختلف فرهنگی با متخصصان محلی (پزشکی) همکاری کنند.

مخفف مخفف تشکیل شده توسط این غذاهای آماده – آژانس – به عنوان یادآوری می کند که هدف ما باید توانمند سازی همه بشریت در عصر هوش مصنوعی باشد ، نه فقط تعداد معدودی از امتیازات. ما در حال حاضر در عصر فقر دیجیتال سفر می کنیم. ما این انتخاب را داریم که موج را به سمت فراوانی دیجیتال و آنالوگ تبدیل کنیم.