[ad_1] تفکر انسان برای سادگی سیم کشی شده است. مغز ما به طور طبیعی به سمت طبقه بندی ، به دنبال الگوهای و کاهش پیچیدگی در جعبه های قابل کنترل، که ما را در معرض تعصب قرار می دهد. این گرایش در حالی که برای کارآیی سودمند است ، تفکر باینری را س...
[ad_1]
تفکر انسان برای سادگی سیم کشی شده است. مغز ما به طور طبیعی به سمت طبقه بندی ، به دنبال الگوهای و کاهش پیچیدگی در جعبه های قابل کنترل، که ما را در معرض تعصب قرار می دهد. این گرایش در حالی که برای کارآیی سودمند است ، تفکر باینری را سوخت: سیاه و سفید ، خوب و بد ، ما در مقابل آنها. این یک میانبر شناختی است که باعث جذابیت روایت های پوپولیستی و بلوک های هالیوود می شود. در حالی که در قلمرو داستان بی ضرر است ، این توضیح بیش از حد هنگامی که در روابط انسانی و پویایی اجتماعی اعمال می شود ، مشکل ساز می شود.
کلیشه ها در تمام فرهنگ ها ، جوامع و زمینه ها گسترده است. هیچ کس از وسوسه استفاده از برچسب ها برای دیگران مصون نیست. ما از طبقه بندی خودمان نیز محافظت نمی شویم. برچسب ها داربست را تشکیل می دهند سازه های اجتماعی، شکل گیری ادراک و تعامل. چارچوبی که از طریق آن ما سناریوهای آینده را بر اساس تجربیات گذشته قضاوت می کنیم باریک است و اغلب در گرفتن ظرافت ناکام است. این یک شبکه با سوراخ های گسترده است و به جزئیات مهم این امکان را می دهد تا بدون توجه به آن برسد.
اعتماد مغز به برچسب ها و الگوهای با منطق بیزی هماهنگ است: ما تجربیات جدید را از طریق لنزهای احتمالات قبلی تفسیر می کنیم. در حالی که این مکانیسم در تصمیم گیری کمک می کند ، مملو از محدودیت ها است. طبقه بندی بر اساس برچسب های گذشته ، اغلب ما را به اختلاف در موارد موجود می اندازد – از بین بردن مواردی که ممکن است کلید درک عمیق تر باشد. این منطق باینری ، جایی که هر چیزی که به طور مرتب در یک دسته قرار نگیرد ، به جعبه “دیگر” منتقل می شود ، می تواند کلیشه ها را زنده کند و مانع از اتصالات معنی دار شود. همچنین ما را از زیبایی تنوع – طیف امکاناتی که فراتر از آن است ، انکار می کند جعبه های کاهندهبشر
این محدودیت فقط بر روابط انسانی تأثیر نمی گذارد. این سیستم از طریق سیستم ها ، نهادها و فناوری ها – به ویژه هوش مصنوعی باز می گردد.
درست مانند هوش طبیعی ، هوش مصنوعی در برابر تعصبات شناختی مصون نیست. در واقع ، آنها را تقویت می کند. مفهوم داده ها به عنوان یک پروکسی نقش مهمی در نحوه آموزش و عملکرد سیستم های AI ایفا می کند. داده های پروکسی در هنگام اندازه گیری مستقیم یک متغیر غیر عملی یا غیرممکن است ، به جای آن به معیارهای همبستگی نزدیک متکی است. به عنوان مثال ، حلقه های درختی به عنوان پروکسی برای شرایط آب و هوایی تاریخی عمل می کنند ، و ترافیک وب سایت اغلب به عنوان یک پروکسی برای علاقه به مصرف کننده استفاده می شود.
این اتکا به پروکسی ها هنگام آموزش مدل های بزرگ زبان مانند ChatGPT ، هر مرحله را نفوذ می کند. از تعصبات داده های دانشمندان طراحی مدل گرفته تا مجموعه داده های برچسب زدن به حاشیه نویسی و کاربرانی که از آنها استفاده می کنند ، فرضیات ذاتی در سیستم رمزگذاری می شوند. نتیجه؟ الگوریتم هایی که منعکس کننده و بالقوه تعصبات تعبیه شده در داده های تغذیه شده را نشان می دهند.
تعصب فقط یک نقص تکنولوژیکی نیست. این یک پژواک از شناخت انسان است. تمایل ما به کلیشه و برچسب به روش پردازش اطلاعات سخت می شود و هنگامی که الگوریتم ها بر روی داده های تولید شده توسط انسان آموزش می یابند ، این گرایش ها تکرار می شوند. سیستم های هوش مصنوعی ، از جمله مدل های تولیدی ، همان نقاط کور را به عنوان سازندگان خود به ارث می برند. استفاده از این داده های آموزشی حتی چالش برانگیز تر و نگرانی است. نماینده نیست از جمعیت وسیع تر ، که اغلب حاوی نابرابری های تاریخی یا کلیشه های اجتماعی است.
علاوه بر این ، حتی گزینه های طراحی الگوریتم های ظاهرا خنثی می توانند سهواً تعصباتبشر هنگامی که توسعه دهندگان یا کلکسیونرهای داده فاقد تنوع هستند ، منجر به مجموعه داده های کم رنگ و خروجی های مغرضانه می شود. مدل های مرزی که در حال حاضر از آن استفاده می کنیم ، در درجه اول توسط مردان جوان سفید پوست ساخته شده است.
متأسفانه ، این یک بحث انتزاعی یا دانشگاهی نیست – الگوریتم ها نابرابری های اجتماعی را زنده می کنند. به عنوان مثال ، نشان داده شده است که فناوری تشخیص چهره میزان خطای بالاتری را برای افرادی که دارای رنگ پوست تیره تر هستند ، دارد. همچنین ، هنگامی که الگوریتم ها بر روی داده های یک شرکت با نیروی کار عمدتاً مرد آموزش می یابند ، ابزار استخدام ممکن است طرفداری کردن نامزدهای مرد بیش از زنان واجد شرایط. و سیستم های هوش مصنوعی مورد استفاده برای امتیاز دهی به اعتبار ، تمایل دارند که افراد را از جمعیتی خاص مجازات کنند.
مسیر کاهش تعصب در سیستم های شناخت انسان و هوش مصنوعی آسان نیست ، اما لازم است. در حالی که پیامدهای گسترده تر و سیستمی بزرگ ، تغییر به سمت برابری آنلاین با آگاهی شخصی حاد آغاز می شود – در نتیجه پیش بینی های ما و درک چگونگی شکل گیری تعامل ما با دیگران و فناوری. پس از تأسیس در سطح فردی ، این خودآگاهی می تواند به توسعه و استفاده از هوش مصنوعی مولد گسترش یابد.
در قاب چارچوبی را برای حرکت در این چالش ارائه می دهد:
در نهایت ، هدف این است که فراتر از تفکر باینری حرکت کنیم – جعبه های مغرضانه ای که باعث محدودیت پتانسیل و نوآوری تکنولوژیکی انسان می شود. قبل از اینکه نسخه باریک آنها زیرساخت های الگوریتم های فردا را شکل دهد ، ذهن ما امروز ذهن خود را آموزش می دهد.
وقتی کورکورانه از گذشته برچسب ها را اعمال می کنیم ، از دست می دهیم. استفاده از سیاه و سفید و سفید ، خوب در مقابل اصل بد – هر کس که به طور مرتب در یک دسته قرار نمی گیرد به طور خودکار در جعبه بد قرار می گیرد – مضر است. ما رنگین کمان را که فراتر از جعبه ها آشکار می شود ، از دست می دهیم. چرا باید خودمان را محروم کنیم؟
[ad_2]
