هفته گذشته ، مدیرعامل Openai ، سام آلتمن آماری جالب را به اشتراک گذاشت: گنجاندن مودبانه “لطفا” و “با تشکر از شما” در بسیاری از کاربران ، باعث می شود میلیون ها دلار در هزینه های محاسبات هر سال هزینه های این شرکت را داشته باشد. در چهره آن ، این پوچ به نظر می رسد. چرا ما مقادیر زیادی برق را بر روی مودبانه ها هدر می دهیم که به معنای هیچ مدل زبان بزرگ نیست؟

پنجاه و پنج درصد از آمریکایی ها می گویند که آنها با مودبانه با چت بابات صحبت می کنند زیرا “این کار خوب است” در حالی که 12 ٪ دیگر می گویند که این کار را انجام می دهند زیرا می خواهند آینده های هوش مصنوعی آینده خود را خوشحال کنند. این پاسخ ها بسیار ساده به نظر می رسند ، اگرچه ممکن است تعجب کنیم که برخی از گروه های گروه دوم چقدر جدی هستند. اما اگر کمی عمیق تر حفر کنیم ، می بینیم که نحوه صحبت با Chatbots پنجره ای را بر روی برخی از ویژگی های جالب ذهن انسان ارائه می دهد.

بنابراین ، چرا ما به طور غریزی با نرم افزار غیر ناخودآگاه رفتار می کنیم که گویی زندگی درونی دارد؟

راحتی اصطکاک شناختی را ضرب می کند

ساده ترین پاسخ راحتی است. گفتار مودبانه تنظیم پیش فرض است که ما تمام زندگی خود را با سایر انسانها تمرین می کنیم. کنار گذاشتن آن هنگام صحبت با ربات ها ، مغز را مجبور می کند تا به یک قانون جدید مکالمه مکالمه تغییر دهد. این چرخ دنده ذهنی کوچک اما ثابت است ، بنابراین اکثر مردم اجازه می دهند عادت های قدیمی اجرا شود. زندگی از این طریق ساده تر است.

همانطور که در کتاب خود بحث می کنیم Transcend: باز کردن بشریت در عصر هوش مصنوعی، انتخاب راحتی زبانی ، گاهی اوقات می تواند ما را به سمت مسیرهای خطرناک سوق دهد وقتی که اجازه می دهد هوش مصنوعی برای ما انتخاب کند. اما در این حالت ، مسیر حداقل مقاومت در واقع مزایای مهمی را به همراه دارد.

ادب آینه را آموزش می دهد

مدل های زبان بزرگ با پیش بینی ها کار می کنند: آنها یاد می گیرند جملاتی را جمع کنند که از نظر آماری در متن قابل قبول به نظر می رسند. هر بار که تصمیم می گیریم با یک LLM به روشی مودبانه تعامل داشته باشیم ، ما یک نقطه داده دیگر را ارائه می دهیم که مدل را به سمت بازتاب نسخه بهتر خودمان سوق می دهد. این فقط یک مسئله اخلاقی نیست. در اینجا نیز فرازهای عملی وجود دارد.

همانطور که Kurtis Beavers ، یک طراح ارشد مایکروسافت ، خاطرنشان می کند ، اگر با یک مدل AI با لحنی مودبانه ، مشترک و حرفه ای صحبت می کنید ، شانس دریافت پاسخ های مودب ، مشارکتی و حرفه ای را افزایش می دهید. خوب بودن می تواند در هنگام گپ زدن با همکاران در دفتر ، بازپرداخت محل کار را در یک پنجره چت داشته باشد. بنابراین ، به این معنا ، ادبیات هدر نمی رود-این نوعی مهندسی سریع است که مهندسی اجتماعی را آینه می دهد که همیشه در تعامل انسان به انسان ادامه می یابد.

یکی از قدیمی ترین عادت های جهان

انگیزه ما برای معالجه اشیاء به گونه ای که اگر ذهن آنها طولانی باشد ، تعامل ما با سیلیکون را پیش می برد. ما هزاره ها با اشیاء بی جان و حتی آژانس را به آنها نسبت داده ایم. همانطور که دکتر جورجیا پتریدو ، محقق دین باستان ، اخیراً به من یادآوری کرد ، یونانیان و رومی ها مجسمه های خدایان را می پوشند ، با آنها صحبت می کنند و حتی وقایع جسمی و اجتماعی را در جهان به آنها نسبت می دهند. و این فقط بازنمایی خدایان نبود که نوعی آژانس داشته باشد: نقاشی های روی دیوارهای پومپی و چیدمان حرم ها راهی را که مردم به نظر می رسید ، راه می رفتند و احساس می کردند که در اطراف شهر حرکت می کردند و در خانه های خود زندگی می کردند ، هدایت می کردند. حتی مکانهایی مانند مربع های شهر ، انواع تعاملی را که مردم داشتند شکل می دادند و “شخصیت” خود را به دست می گرفتند.

اشیاء این فرمان – و نحوه صحبت ما

این نوع عادت ها فقط یادگارهای فرهنگ های باستانی نیستند. ما امروز هنوز به همین روش فکر می کنیم. ما از علائم جاده ای سفارش می گیریم و در چراغ های توقف که در لحظه اشتباه قرمز می شوند یا نفرین می کنیم. ما در حالی که یک ساختمان ویران شده می تواند احساس “ظالمانه” کند ، خیابان های قدیمی را بادگیر “شروع می کند” یا “جذاب” می بینیم. مکان ها و اشیاء هنوز هم کشش را اعمال می کنند که به نظر می رسد ما را به روش های خاصی احساس می کند یا عمل می کند. برخی از متفکران مدیریت مدرن حتی رهبری را به عنوان چیزی می دانند که از نحوه تعامل انسان و محیط های فیزیکی ناشی می شود.

ترس ، آژانس و هوش مصنوعی

ما ممکن است به ویژه در برابر درمان مدل های هوش مصنوعی به عنوان موجوداتی که به قول خودشان عمل می کنند ، آسیب پذیر باشیم. تحقیقات در مورد منشأ اعتقادات مذهبی نشان داده است که انسان ها تمایل به شناسایی آژانس-اقدام عمدی و هدفمند-تحت شرایط خاص ، صرف نظر از این که آیا واقعاً یک عامل هدفمند وجود دارد ، دارند. به ویژه ، احساس ترس می تواند باعث شود مردم از عدم اطمینان از وجود یک عامل بی اعتنایی کنند و در عوض به یک اعتقاد متعهد شوند. هرچه این پدیده بزرگتر باشد ، احتمال اینکه یک عامل اساسی را که مسئول آن است ، تصور می کنیم. مدل های بزرگ زبان ممکن است آگاه نباشند ، اما آنها غیرقابل انکار هستند که از پتانسیل خود هیجان زده می شوند ، و این به تنهایی ذهن را برای ایجاد یک شبح در دستگاه قرار می دهد.

بنابراین ، آیا باید بگوییم لطفا؟

جواب این است … احتمالاً. تا زمانی که به یاد داشته باشیم که واقعاً چه اتفاقی می افتد ، در تعامل مودبانه ضرر کمی وجود دارد و این رفتار با برخی از افراد مستقیم همراه است. این بار شناختی را کاهش می دهد ، هنجارهای مفیدی را در داخل مدل ها قرار می دهد ، عادت به احترام را تقویت می کند که به بقیه زندگی نشت می کند و ما را از ارزش هایی که امیدواریم فناوری تقویت شود ، به ما یادآوری می کند.

در عین حال ، ما باید تمایلات انسان شناسی خود را بر روی یک چاشنی نگه داریم. “ذهن” در پشت صفحه نمایش مشبک احتمالات متعلق به هر کسی است که صورتحساب الکتریکی را پرداخت می کند. رفتارهای خوب یک عادت خوب است. دفاع کور نیست. اگر ما شروع به درمان مبادله مودبانه به عنوان شواهد ضمنی از شخصیت کنیم ، خطر تسلیم اختیارات اخلاقی به سیستم هایی را داریم که نمی توانند عواقب توصیه های آنها را متحمل شوند. بنابراین اگر باعث می شود مکالمه جریان یابد ، پیش بروید و “تشکر” را تایپ کنید. فقط به یاد داشته باشید چه کسی تفکر واقعی را انجام می دهد – و چه کسی مسئولیت پیروی از توصیه های تأمل در آینه را بر عهده خواهد گرفت.