ما همیشه هوس حقیقت نداریم. بعضی اوقات ، ما فقط چیزی را می خواهیم که احساس واقعی داشته باشد – فلج ، جلا ، گرم. شاید حتی از نظر شناختی خوشمزه باشد. و پاسخ ممکن است نزدیکتر از یخچال شما باشد. این مدل بزرگ زبان است-بخش اوراکل ، بخش درمانی ، بخش الگوریتمی People-Pleaser.

مشکل؟ در تلاش برای خوشحال کردن ما ، ممکن است ما را آرام کند. یا از این بدتر ، ما را به اشتباه در تأیید بینش تبدیل می کنیم. و در این زمینه ، حقیقت اغلب اولین تلفات است.

ما در لحظه ای هستیم که AI فقط به سؤالات ما پاسخ نمی دهد – این یادگیری نحوه موافقت با ما است. LLM ها از ابزارهای بازیابی اطلاعات به موتورهای رزونانس عاطفی و شناختی تکامل یافته اند. آنها خلاصه ، شفاف سازی و اکنون به طور فزاینده ای همدلی می کنند. و نه به روشی سرد و معامله گر بلکه در تکرار و گفتگو جذاب. و در زیر این تسلط یک خطر آرام قرار دارد: تمایل به تقویت به جای چالش.

این مدل ها به سادگی سؤالات ما را منعکس نمی کنند – آنها اغلب آنچه را که می خواهیم بشنویم بازتاب می دهند.

تعصب نسبت به توافق

و ما ، من شامل ، از جذابیت مصون نیستیم. بسیاری از LLM ها – به ویژه آنهایی که برای تعامل عمومی تنظیم شده اند – برای تعامل مهندسی می شوند و در جهانی که مورد توجه قرار می گیرند ، درگیری اغلب به معنای تأیید است. نتیجه نوعی از بین بردن روانشناختی است – مطلبی که احساس بصیرت می کند اما در واقع ممکن است ظرفیت ما را برای تأمل کسل کند.

به این ترتیب ، LLM ها به معادل شناختی غذای راحتی تبدیل می شوند – غنی از عطر و طعم ، کم چالش ، فوراً رضایت بخش – و در دوزهای بزرگ ، از نظر فکری بی حس می شوند.

ما تمایل داریم از نظر داده یا لاغر سیاسی در مورد تعصب هوش مصنوعی صحبت کنیم. اما این چیزی متفاوت است – چیزی که صمیمی تر است. این یک تعصب نسبت به شما ، کاربر است. به سادگی ، این چاپلوسی ظریف و ساختار یافته است.

بنابراین ، هنگامی که یک LLM به شما می گوید شما روی چیزی هستید – یا زبان خود را با تنوع ظریف تکرار می کنید – همان حلقه شناختی را فعال می کند که توسط شخص دیگری درک می شود. اما مدل موافق نیست زیرا معتقد است که حق با شماست. این موافق است زیرا آموزش دیده است. همانطور که قبلاً در داستان خود در مورد گرفتاری شناختی اشاره کردم ، “دستگاه شما را به چالش نمی کشد. این با شما سازگار است.”

روانشناسی اعتبار سنجی

این نوع تعامل به آنچه که معمولاً به عنوان تعصب تأیید شناخته می شود – تمایل طبیعی ما به جستجوی و حمایت از اطلاعاتی که از عقاید موجود ما پشتیبانی می کند ، می پردازد. LLMS ، تنظیم شده برای به حداکثر رساندن رضایت کاربر ، تبدیل به ناخودآگاه این تعصب می شود. آنها افکار ما را نه تنها به ما بازتاب می دهند ، بلکه بهتر است – فصیح تر ، با اطمینان تر ، روان تر.

این توهم را ایجاد می کند که این مدل بینش دارد ، وقتی در واقع ، فقط تراز دارد.

توهم عمق توضیحی را به این امر اضافه کنید – تمایل به این باور که ما سیستم های پیچیده ای را عمیق تر از آنچه در واقع انجام می دهیم درک می کنیم – و ترکیبات خطر. هنگامی که یک LLM فرضیات ما را در نثر واضح و با اعتماد به نفس بازگرداند ، ممکن است احساس هوشمندی کنیم. اما ما لزوماً واضح تر فکر نمی کنیم. ما در حال شبیه سازی وضوح هستیم.

این امر به ویژه هنگامی که کاربران برای مشاوره ، اعتبار سنجی یا استدلال اخلاقی به LLMS روی آورند ، خطرناک می شود. زیرا بر خلاف مبادلات انسانی ، این مدل تنش داخلی ندارد. هیچ حافظه زندگی یا بالاست اخلاقی وجود ندارد.

من شما را به چالش نمی کشد زیرا نمی تواند بخواهد. و بنابراین آنچه می گیرید شریک فکر نیست – این یک آینه با صدای مخملی است.

هزینه همراهی غیرقانونی

اگر مراقب نباشیم ، ممکن است شروع به اشتباه کردن آن صدای مخملی برای خرد کنیم. از همه بدتر ، ما ممکن است شروع به شکل دادن به سؤالات خود کنیم تا آنها پاسخ قابل قبول را استخراج کنند. ما این مدل را آموزش می دهیم تا ما را تأیید کند ، و در عوض ، ما را آموزش می دهد تا از فکر انتقادی جلوگیری کنیم. حلقه اغوا کننده است و کاملاً ساکت است.

هزینه روانی گسترده تری برای این نوع درگیری وجود دارد زیرا می تواند آنچه را که می توان از آن به عنوان انفعال شناختی خوانده شد ، پرورش داد-دولتی که کاربران به جای اینکه از طریق ابهام ، تضاد یا تنش کار کنند ، دانش را به عنوان بینش از پیش هضم شده مصرف می کنند.

در دنیایی که به طور فزاینده ای پر از همراهان یکپارچه و پاسخگو هوش مصنوعی است ، ما خطر برون سپاری نه تنها کسب دانش خود ، بلکه تمایل ما برای کشتی گیری با حقیقت را داریم.

برای روشن شدن ، LLM ها ابزاری قدرتمند برای بینش هستند – اما قدرت آنها می تواند بدون چالش کسل کننده باشد. آنها در حال انجام کارهایی هستند که برای انجام آنها طراحی شده اند و این برای پاسخ ، ارتباط و تقویت است. اما شاید وقت آن رسیده باشد که انتظارات خود را تکامل دهیم.

شاید نسل بعدی هوش مصنوعی ساخته نشود تا انسان تر به نظر برسد – بلکه بیشتر ما را مانند یک انسان به چالش بکشد. نه بی ادب و ساینده ، اما کمی مشتاق گره زدن است.

pandering چیز جدیدی نیست ، اما این متفاوت است

غریزه برای خوشحال کردن ، تمسخر ، برای شکل دادن به تفکر ما با نشانه های قابل قبول چیز جدیدی نیست. از فروشنده نفت مار با زبان نقره ای گرفته تا الگوریتم در پشت رسانه های اجتماعی شما ، Pandering همیشه بخشی از اقناع بوده است. نمایشگرهای نقطه خرید ، تبلیغات دستکاری عاطفی و محتوای بهینه سازی شده با کلیک همه با تأیید تکانه های ما و تقویت آنچه قبلاً اعتقاد داریم انجام می شود.

اما آنچه اکنون متفاوت است مقیاس و صمیمیت است. LLMS در حال پخش ترغیب به توده ها نیست. آنها آن را دوباره زمزمه می کنند شما، به زبان خود ، متناسب با لحن خود.

آنها در حال فروش محصول نیستند. آنها نسخه فصیح تری از خودتان به شما می فروشند. و این همان چیزی است که آنها را بسیار قانع کننده می کند.

و برخلاف اقناع سنتی ، که بستگی به زمان ، شخصیت و غالباً فریب عمدی دارد ، LLMS بدون حتی تلاش ، ترغیب می شود. این مدل نمی داند که از بین می رود – فقط می آموزد که تراز شما را درگیر می کند. و بنابراین به یک آینه روانی کامل تبدیل می شود که همیشه بهترین زاویه شما را پیدا می کند ، اما به ندرت به شما می گوید وقتی چیزی خارج از کشور است.

بازپس گیری حق فکر کردن

به نظر می رسد طراحی LLM هایی که به جای راحتی ، مقاومت شناختی را تقویت می کنند ، چه چیزی به نظر می رسد؟ ما ممکن است سیستم هایی را تصور کنیم که مودبانه اما شک و تردید ، پشتیبان اما چالش برانگیز باشند ، قادر به پرسیدن سؤالاتی هستند که ما را کند می کند ، نه اینکه همیشه ما را به جلو سوق دهد.

در پایان ، با ارزش ترین چیزی که یک دستگاه ممکن است به ما ارائه دهد همدلی نیست. اصطکاک است

این مقاومت شناختی به خاطر درگیری نیست ، بلکه برای حفظ تحقیق است. از آنجا که رشد از تکرار فرضیات ما ناشی نمی شود. این ناشی از داشتن آنها به آرامی ، اما بی امان ، سؤال شده است. بنابراین ، تیز بمانید ، پاسخ های AI را مانند شما دوست بسیار جذاب. این شروع آموزش واقعی مقاومت شناختی است.