[ad_1] تفکر انسان برای سادگی سیم کشی شده است. مغز ما به طور طبیعی به سمت طبقه بندی ، به دنبال الگوهای و کاهش پیچیدگی در جعبه های قابل کنترل ، گرایش پیدا می کند ، که باعث می شود ما در معرض تعصب قرار بگیریم. این گرایش در حالی که برای کارآیی...
[ad_1]
تفکر انسان برای سادگی سیم کشی شده است. مغز ما به طور طبیعی به سمت طبقه بندی ، به دنبال الگوهای و کاهش پیچیدگی در جعبه های قابل کنترل ، گرایش پیدا می کند ، که باعث می شود ما در معرض تعصب قرار بگیریم. این گرایش در حالی که برای کارآیی سودمند است ، تفکر باینری را سوخت: سیاه و سفید ، خوب و بد ، ما در مقابل آنها. این یک میانبر شناختی است که باعث جذابیت روایت های پوپولیستی و بلوک های هالیوود می شود. در حالی که در قلمرو داستان بی ضرر است ، این توضیح بیش از حد هنگامی که در روابط انسانی و پویایی اجتماعی اعمال می شود ، مشکل ساز می شود.
کلیشه ها در تمام فرهنگ ها ، جوامع و زمینه ها گسترده است. هیچ کس از وسوسه استفاده از برچسب ها برای دیگران مصون نیست. ما از طبقه بندی خودمان نیز محافظت نمی شویم. برچسب ها داربست سازه های اجتماعی ، شکل دادن به درک و تعامل را تشکیل می دهند. چارچوبی که از طریق آن ما سناریوهای آینده را بر اساس تجربیات گذشته قضاوت می کنیم باریک است و اغلب در گرفتن ظرافت ناکام است. این یک شبکه با سوراخ های گسترده است و به جزئیات مهم این امکان را می دهد تا بدون توجه به آن برسد.
اعتماد مغز به برچسب ها و الگوهای با منطق بیزی هماهنگ است: ما تجربیات جدید را از طریق لنزهای احتمالات قبلی تفسیر می کنیم. در حالی که این مکانیسم در تصمیم گیری کمک می کند ، مملو از محدودیت ها است. طبقه بندی بر اساس برچسب های گذشته ، اغلب ما را به اختلاف در موارد موجود می اندازد – از بین بردن مواردی که ممکن است کلید درک عمیق تر باشد. این منطق باینری ، جایی که هر چیزی که به طور مرتب در یک دسته قرار نگیرد ، به جعبه “دیگر” منتقل می شود ، می تواند کلیشه ها را زنده کند و مانع از اتصالات معنی دار شود. همچنین ما را از زیبایی تنوع – طیف امکاناتی که فراتر از جعبه های کاهنده وجود دارد ، انکار می کند.
این محدودیت فقط بر روابط انسانی تأثیر نمی گذارد. این سیستم از طریق سیستم ها ، نهادها و فناوری ها – به ویژه هوش مصنوعی باز می گردد.
درست مانند هوش طبیعی ، هوش مصنوعی در برابر تعصبات شناختی مصون نیست. در واقع ، آنها را تقویت می کند. مفهوم داده ها به عنوان یک پروکسی نقش مهمی در نحوه آموزش و عملکرد سیستم های AI ایفا می کند. از داده های پروکسی هنگامی که اندازه گیری مستقیم یک متغیر غیر عملی یا غیرممکن باشد ، استفاده می شود و به جای آن به معیارهای همبستگی نزدیک متکی است. به عنوان مثال ، حلقه های درختی به عنوان پروکسی برای شرایط آب و هوایی تاریخی عمل می کنند ، و ترافیک وب سایت اغلب به عنوان یک پروکسی برای علاقه به مصرف کننده استفاده می شود.
این اتکا به پروکسی ها هنگام آموزش مدل های بزرگ زبان مانند ChatGPT ، هر مرحله را نفوذ می کند. از تعصبات داده های دانشمندان طراحی مدل گرفته تا مجموعه داده های برچسب زدن به حاشیه نویسی و کاربرانی که از آنها استفاده می کنند ، فرضیات ذاتی در سیستم رمزگذاری می شوند. نتیجه؟ الگوریتم هایی که منعکس کننده و بالقوه تعصبات تعبیه شده در داده های تغذیه شده را نشان می دهند.
تعصب فقط یک نقص تکنولوژیکی نیست. این یک پژواک از شناخت انسان است. تمایل ما به کلیشه و برچسب به روش پردازش اطلاعات سخت می شود و هنگامی که الگوریتم ها بر روی داده های تولید شده توسط انسان آموزش می یابند ، این گرایش ها تکرار می شوند. سیستم های هوش مصنوعی ، از جمله مدل های تولیدی ، همان نقاط کور را به عنوان سازندگان خود به ارث می برند. استفاده از داده های آموزشی که نماینده جمعیت وسیع تر نیست ، اغلب حاوی نابرابری های تاریخی یا کلیشه های اجتماعی است.
علاوه بر این ، حتی گزینه های طراحی الگوریتم های ظاهراً خنثی می توانند از این طریق سهواً تعصبات را تحریک کنند. هنگامی که توسعه دهندگان یا کلکسیونرهای داده فاقد تنوع هستند ، منجر به مجموعه داده های ناچیز و خروجی های مغرضانه می شود. مدل های مرزی که در حال حاضر از آن استفاده می کنیم ، در درجه اول توسط مردان جوان سفید پوست ساخته شده است.
متأسفانه ، این یک بحث انتزاعی یا دانشگاهی نیست – الگوریتم ها نابرابری های اجتماعی را زنده می کنند. به عنوان مثال ، نشان داده شده است که فناوری تشخیص چهره میزان خطای بالاتری را برای افرادی که دارای رنگ پوست تیره تر هستند ، دارد. همچنین ، هنگامی که الگوریتم ها بر روی داده های یک شرکت با نیروی کار عمدتاً مرد آموزش می یابند ، ابزار استخدام ممکن است نامزدهای مرد را نسبت به زنان واجد شرایط به نفع خود کند. و سیستم های هوش مصنوعی مورد استفاده برای امتیاز دهی به اعتبار ، تمایل دارند که افراد را از جمعیتی خاص مجازات کنند.
مسیر کاهش تعصب در سیستم های شناخت انسان و AI هم آسان نیست و هم ضروری است. در حالی که پیامدهای گسترده تر و سیستمی بزرگ ، تغییر به سمت برابری آنلاین با آگاهی شخصی حاد آغاز می شود – در نتیجه پیش بینی های ما و درک چگونگی شکل گیری تعامل ما با دیگران و فناوری. پس از تأسیس در سطح فردی ، این خودآگاهی می تواند به توسعه و استفاده از هوش مصنوعی مولد گسترش یابد.
هوش مصنوعی ضروری است
A-Frame چارچوبی را برای حرکت در این چالش ارائه می دهد:
در نهایت ، هدف این است که فراتر از تفکر باینری حرکت کنیم – جعبه های مغرضانه ای که باعث محدودیت پتانسیل و نوآوری تکنولوژیکی انسان می شود. قبل از اینکه نسخه باریک آنها زیرساخت های الگوریتم های فردا را شکل دهد ، ذهن ما امروز ذهن خود را آموزش می دهد.
وقتی کورکورانه از گذشته برچسب ها را اعمال می کنیم ، از دست می دهیم. استفاده از سیاه و سفید و سفید ، خوب در مقابل اصل بد – هر کس که به طور مرتب در یک دسته قرار نمی گیرد به طور خودکار در جعبه بد قرار می گیرد – مضر است. ما رنگین کمان را که فراتر از جعبه ها آشکار می شود ، از دست می دهیم. چرا باید خودمان را محروم کنیم؟
[ad_2]
