[ad_1] از آنجا که قابلیت های قانع کننده هوش مصنوعی با سرعت شکافته تکامل می یابد ، ما خودمان را در چهارراهی می یابیم که قول فناوری با پتانسیل آن برای دستکاری جمعی برخورد می کند. همان الگوریتم هایی که می تواند به درمانگران کمک کند تا به بیم...
[ad_1]
از آنجا که قابلیت های قانع کننده هوش مصنوعی با سرعت شکافته تکامل می یابد ، ما خودمان را در چهارراهی می یابیم که قول فناوری با پتانسیل آن برای دستکاری جمعی برخورد می کند. همان الگوریتم هایی که می تواند به درمانگران کمک کند تا به بیماران انگیزه دهند و یا مربیان را برای یادگیری شخصی سازی می کنند ، می توانند به همان اندازه رژیم های اقتدارگرا را که به دنبال کنترل جمعیت هستند ، خدمت کنند. درک این پیامدها – و در حال توسعه دفاع – برای حفظ استقلال انسان در عصر دیجیتال ما بسیار مهم است.
با پیشرفت قابلیت های ترغیب هوش مصنوعی ، ما برای گفتمان دموکراتیک و استقلال فردی با چالش های مهمی روبرو هستیم. قانون هوش مصنوعی اتحادیه اروپا تلاش می کند تا این نگرانی ها را برطرف کند ، اما مقررات برای همگام بودن با پیشرفت تکنولوژیکی تلاش می کند. در همین حال ، شرکت های فناوری همچنان به توسعه الگوریتم های ترغیب به طور فزاینده ای با حداقل نظارت یا شفافیت ادامه می دهند.
شاید نگران کننده ترین ظرفیت هوش مصنوعی برای آنچه محققان آن را “شستشوی ترغیب” می نامند – توانایی آزمایش هزاران تغییر پیام به طور همزمان ، مشخص کردن کدام نقاط فشار روانی برای جمعیتی مختلف کار می کند ، سپس این بینش ها را در بین میلیون ها کاربر مقیاس می کند. آزمایش سنتی A/B هنگام انجام در این مقیاس و سرعت ، به جنگ روانشناختی تبدیل می شود.
دموکراتیک سازی این ابزارها به این معنی است که به زودی ، هر کس با مهارت فنی متوسط می تواند کمپین های ترغیب هوش مصنوعی را برای هدف قرار دادن افراد یا گروه های خاص مستقر کند. موانع دستکاری روانی در حال فروپاشی است ، در حالی که دفاع ما در فرضیات پیش دیجیتال در مورد نفوذ انسان ریشه دارد.
این تغییر نشان دهنده یک تغییر اساسی در پویایی قدرت اقناع است. پیش از این ، تأثیر انبوه به منابع قابل توجهی نیاز داشت – شبکه های دقیق ، چاپخانه ها یا بودجه های بزرگ بازاریابی. اکنون ، یک فرد واحد با دسترسی به ابزارهای هوش مصنوعی می تواند کمپین های دستکاری شخصی را که به طور همزمان هزاران نفر را هدف قرار می دهد ، انجام دهد. هزینه تأثیر روانشناختی در حالی که دقت آن بالا رفته است ، کاهش یافته است.
پیامدهای مربوط به یکپارچگی انتخابات ، درمان سلامت روان یا محافظت از مصرف کننده را در نظر بگیرید. هنگامی که هوش مصنوعی می تواند پیامهایی را ایجاد کند که از آسیب پذیری های روانی فردی با دقت جراحی بهره برداری می کند ، حفاظت های سنتی منسوخ می شوند. کمیسیون تجارت فدرال تحقیق در مورد این “الگوهای تاریک” در رابط های دیجیتال را آغاز کرده است ، اما تلاش های اجرایی برای مطابقت با سرعت نوآوری است.
شاید مهمتر از همه آسیب پذیری ذاتی ما در مورد آنچه روانشناسان “تعصب اتوماسیون” می نامند-تمایل ما به اعتماد به محتوای تولید شده توسط دستگاه بیشتر از مواد ایجاد شده توسط انسان است. این تعصب شناختی طوفان مناسبی را برای دستکاری هوش مصنوعی ایجاد می کند. ما به محتوای تولید شده AI تا حدی اعتماد داریم زیرا ما آن را به عنوان AI تولید نمی کنیم و بخشی از آن به این دلیل که فرض می کنیم ماشین ها از انسان عینی تر هستند.
مطالعات اخیر نشان می دهد که مردم به طور مداوم توانایی های قانع کننده هوش مصنوعی را دست کم می گیرند و آنها را در برابر دستکاری آسیب پذیرتر می کنند. هنگامی که به شرکت کنندگان در نظرسنجی گفته شد محتوا تولید شده است ، مقاومت آنها به میزان قابل توجهی افزایش یافته است. با این حال ، در سناریوهای دنیای واقعی ، محتوای اقناعی تولید شده توسط AI به ندرت به عنوان چنین برچسب گذاری می شود و مخاطبان را در برابر دستکاری روانشناختی پیچیده می کند.
پیامدها فراتر از تصمیم گیری فردی به انسجام اجتماعی است. هوش مصنوعی می تواند از آسیب پذیری های روانشناختی با دقت ، تشدید اضطراب ، افسردگی و تقسیم اجتماعی سوء استفاده کند. هنگامی که ترغیب به این هدف و نامرئی تبدیل می شود ، خط بین نفوذ و دستکاری کاملاً حل می شود.
پیامدهای اقتصادی ترغیب AI حیرت انگیز است. تحقیقات بازاریابی نشان می دهد که بازاریابی شخصی می تواند نرخ تبدیل را تا 300 ٪ افزایش دهد. هنگامی که در مقیاس از طریق سیستم های AI اعمال می شود ، این امر به تأثیر اقتصادی بی سابقه بر رفتار مصرف کننده ترجمه می شود.
از نظر سیاسی ، این فناوری تهدیدهای وجودی را برای فرآیندهای دموکراتیک ایجاد می کند. هوش مصنوعی می تواند پیام های سیاسی فردی را که با پروفایل های روانشناختی خاص طنین انداز است ، بسازد ، و به طور بالقوه انتخابات را از طریق دستکاری خرد به جای ترغیب گسترده مبتنی بر انتخابات ، از طریق دستکاری میکرو هدف قرار می دهد. چرخه انتخابات سال 2024 چشم پوشی از کاربردهای سیاسی این فناوری را ارائه داد و سؤالات فوری در مورد تمامیت انتخاباتی در عصر AI ایجاد کرد.
تصدیق کردن این اقناع هوش مصنوعی در حال حاضر تصمیمات روزانه شما را ، از انتخاب خرید گرفته تا عقاید سیاسی ، اغلب بدون آگاهی آگاهانه شما ، شکل می دهد. هر الگوریتم توصیه ، AD هدفمند و فید رسانه های اجتماعی نشان دهنده تلاش ترغیب شده به مشخصات روانشناختی شما است.
قبول کردن این مصونیت کامل از تأثیر هوش مصنوعی غیر واقعی است. هدف مقاومت آگاهانه است ، نه محافظت کامل. حتی آگاهی از این تکنیک ها اثربخشی آنها را از بین نمی برد ، اما اتاق تنفس شناختی مهم را فراهم می کند.
آگاهی – هزینه و سؤال: قبل از تصمیم گیری تحت تأثیر محتوای آنلاین ، بپرسید “آیا این می تواند AI ایجاد شود؟” و “این چه تلاش می کند تا احساس کنم یا انجام دهم؟” با معرفی اصطکاک عمدی در روند تصمیم گیری خود ، یک فایروال ذهنی ایجاد کنید.
اعتقادات – منابع اطلاعاتی خود را از بین ببرید: به طور فعال به دنبال دیدگاه های مخالف و منابع غیر دیجیتال برای مقابله با اتاق های اکو الگوریتمی. در انتشاراتی مشترک شوید که اعتقادات موجود شما را به چالش می کشد ، و به طور مرتب محتوا را از خارج از مشخصات جمعیتی معمولی خود مصرف می کنید.
ملاحظات – ذهنیت دیجیتال را عملی کنید: زمان خاصی را برای بررسی رسانه های اجتماعی و اخبار تعیین کنید ، و در معرض تلاش های ترغیب در زمان واقعی قرار می گیرد که دفاع های شناختی شما با اتصال مداوم تضعیف می شود. از تایمرهای برنامه استفاده کنید و در کارهای روزمره خود مناطق “بدون ترغیب” ایجاد کنید.
آینده آژانس انسانی ممکن است به توانایی ما در تشخیص و مقاومت در برابر معماران نامرئی که در حال تغییر شکل افکار ما هستند ، یک پیام شخصی در هر زمان بستگی داشته باشد. در این چشم انداز جدید از نفوذ دیجیتال ، آگاهی به اولین خط دفاع ما در برابر دستکاری پیشرفته روانی تبدیل می شود که AI در مقیاس بی سابقه ای امکان پذیر است.
[ad_2]
