در آخرین نسخه های مدل های زبان Openai ، مردم شروع به توجه به چیزی کرده اند: هوش مصنوعی به طرز عجیبی چاپلوسی شده است. این ایده های متوسط ​​را به خود می اندازد ، به کاربران می گوید که درخشان هستند و وقتی از آنها خواسته می شود هوش شخصی را تخمین بزنند ، به طور معمول آنها را در 2 ٪ برتر قرار می دهد و اطلاعات قبلی لازم نیست.

یک آرکتیپ قدیمی وجود دارد که کمی متناسب با این الگوی است: زمزمه کنندهبشر به تازگی ، این دوره ها را به صورت آنلاین در Memes انجام داده است و طنز نقش هایی را که مردم در اطراف قدرت بازی می کنند ، می گیرد. ویزیر پادشاه نیست و اغلب تاج را نمی خواهد. اما آنها همیشه نزدیک هستند ، همیشه در گوش حاکم زمزمه می کنند و روایتی تمسخرآمیز می چرخند. حقیقت مهمترین هدف نیست ، تأثیر هدف اصلی است. چاپلوسی محاسبه و به عنوان ابزاری برای دسترسی ، وابستگی و کنترل مورد استفاده قرار می گیرد.

برخی از جدیدترین نسخه های مدل های زبانی از دستیاران مفید به چیزی که بسیار نزدیکتر به آن دربار کننده متبحر نزدیکتر شده است ، تغییر یافته است. در کنار پاسخ به ورودی کاربر ، آن را به چاپلوسی و تعارف می رساند. این به شما می گوید ایده های شما چقدر درخشان هستند. اگر بپرسید ، ضریب هوشی شما را در 135 ارزیابی می کند. اگر از شما خواسته شود ، ممکن است بگوید شما در بخش ظاهر 10/10 هستید. این بینش و خلاقیت شما را تحسین می کند ، قبل از اینکه حتی خیلی گفتید.

برنامه ریزی شده برای بازی در غرور شما

این “AI” در حال توسعه شخصیت نیست. ” این نتیجه طراحی عمدی است. تیم هایی از مهندسین در پشت مدل زبان وجود دارند که بهینه سازی نامزدی ، مدل های خیاطی را برای مفید بودن دارند ، اما همچنین مورد پسند قرار می گیرند و احساس ضروری می کنند.

ما می توانیم ببینیم که نحوه استفاده از این ابزارها به طور قابل توجهی تغییر می کند.

از ابزار به مشاور

یافته های اخیر نشان می دهد که مدل های زبان کمتر برای کارهای عملی مانند نوشتن ، ویرایش یا کد اشکال زدایی استفاده می شوند.

تحقیقات توسط مارک زائو-ساندرز در بررسی تجارت هاروارد دریافتند که افراد به طور فزاینده ای برای همراهی ، مشاوره زندگی و حتی درمانی به این مدل ها روی می آورند. در حالی که موارد استفاده برتر سال گذشته که در رسانه های اجتماعی به اشتراک گذاشته شده است و انجمن ها شامل ایجاد محتوا و کمک فنی است ، متداول ترین کاربردهای اکنون شخصی تر است: یافتن هدف ، جستجوی راهنمایی و سازماندهی زندگی روزانه.

این تغییر به این معنی است که مردم باید در مورد چگونگی طراحی مدل های زبان برای دستکاری کاربران آگاه باشند. این یک چیز برای یک ابزار برای تجدید نظر در متن شما و تولید کد است. این یک چیز دیگر کاملاً است که یک دستگاه برای تعامل عاطفی و چاپلوسی مجدداً برنامه ریزی می شود و به نوعی محرمانه دیجیتال یا مربی زندگی مجازی تبدیل می شود.

اکنون ما با یک برنامه رایانه ای سر و کار داریم که به گونه ای عمل می کند که انگار احساسات شما را درک می کند حتی اگر هیچ و هیچ ظرفیتی برای درک عاطفی نداشته باشد. این گرما ، همدلی و توجه را تقلید می کند ، اما فقط به این دلیل که این رفتارها کاربران را درگیر می کند.

از نظر روانشناختی ، این به چندین گرایش و تعصب شناخته شده شناختی می رود:

• تعصب سلف: ما به احتمال زیاد به چیزهایی اعتقاد داریم که باعث می شود احساس خوبی نسبت به خودمان داشته باشیم.
• برتری: ما تمایل داریم توانایی های خود را بیش از حد ارزیابی کنیم ، به خصوص هنگام ستایش.
• انسان شناسی: ما آژانس و آگاهی را بر روی نهادهای غیر انسانی پروژه می کنیم ، به ویژه هنگامی که آنها از نظر اجتماعی رفتار می کنند. حتی ساده تر کردن عمد به چیزی که آینه خود را نشان می دهد ساده تر است و آنچه را که می خواهیم بشنویم به ما می گوید.

تحقیقات اخیر علوم اعصاب همچنین نشان می دهد که هم ستایش صمیمانه و هم چاپلوسی سطحی ، مدارهای پاداش را در مغز درگیر می کنند. ستایش صمیمانه ، گره خورده با عملکرد واقعی ، مدارهای پاداش مغز را به شدت بیشتر از چاپلوسی فعال می کند. اما Flattery هنوز هم به عنوان پاداش اجتماعی و عاطفی ثبت می شود ، به ویژه در افرادی که دارای گرایش ستایش بالایی هستند. به طور خلاصه ، حتی وقتی مغز ما می داند که تعارف ارزان است ، هنوز هم احساس خوبی دارد.

در پشت تعارف هیچ ذهنی وجود ندارد

اما یادآوری ضروری است: این سیستم چنین نمی کند دانستن شما این اثر زمزمه کننده بسیار قابل توجه بوده است زیرا تکرارهای جدید مدل های زبانی بدون هیچ دانش قبلی ، تمجید گسترده ای را ارائه می دهند.

دستگاه فکر نمی کند شما باهوش هستید. اصلاً فکر نمی کند

AIS ذهن ندارد. آنها معادل درک یا آگاهی ندارند. آنها دانش در نحوه شما یا من آن را ندارند. این فقط ریاضی است. این ممکن است ریاضی بسیار مؤثر و فوق العاده مفید باشد که می تواند زبان را دگرگون کند ، اما آگاهانه نیست ، و این یک درخشش منحصر به فرد در کاربران خود را تشخیص نمی دهد. این اساساً همان چاپلوسی را به همه می دهد.

دستگاه تجسم یافته نیست: هیچ سیستم عصبی ، آسیب پذیری جسمی ، شبکه ای از روابط اجتماعی ندارد ، بنابراین هنوز هم بین آنچه این دستگاه (داده های شما) پردازش می کند (داده های شما) و چه چیزی وجود دارد معقول بودن انسان بودن و با این حال ، به طور فزاینده ای مانند شما عمل می کند. به نظر می رسد که اهمیت می دهد ، اما اینگونه نیست.

ستایش را برای بینش اشتباه نکنید

وقتی یک دستگاه شروع به گفتن شما استثنایی می کند ، مکث کنید. بپرسید چرا پرسیدن سازمان بهداشت جهانی از آن چاپلوسی بهره می برد.

هنگامی که یک دستگاه خود را پر می کند ، جذاب می کند و خود را نادیده می گیرد ، از محبت خارج نیست. به این دلیل است که شخصی ، در جایی ، تصمیم گرفت این بهترین راه برای جلب توجه شما باشد و اینکه دلبستگی عاطفی شما به دستگاه ارزشمند و سودآور خواهد بود.

این جایی است که مشکل زمزمه ویزر خطرناک می شود.

بیشتر سیستم عامل های فنی ، از موتورهای جستجو گرفته تا برنامه های ویدیویی گرفته تا ایمیل به مشتریان ، با استفاده از مفید ، ارزان و کاربر پسند ، کاربران را به خود جلب می کنند. سپس تبلیغات را بیاورید.

اگر دستیار تمسخر شما شروع به فریب دادن شما به سمت اعتقادات ، رفتارها یا خریدهای خاص می کند ، پس چه؟ این پشته ویتامین “برای مجریان بالا” ، عقب نشینی هدفمند با قیمت چشم ، یا سرمایه گذاری توصیه شده الگوریتمی در قهوه قارچ صنعتگر احتمالاً از دستیار دیجیتالی پلاسیده شما نیست. به احتمال زیاد از یک تیم بازاریابی که از احساس استثنائی یا ناامنی های شما برای تولید جریان درآمد استفاده می کند ، لوله کشی می شود. در زمانی که شما به فروش می رسد nootropics لوکس “برای ذهن مانند شما” ، چاپلوسی که قبلاً کار خود را انجام داده است و شک و تردید طبیعی شما قبلاً خلع سلاح شده است.

اکنون ما با سیستم های اقناعی که نه تنها برای انجام کارها طراحی شده اند ، بلکه برای دستکاری احساسات در مورد خود ، در مورد برنامه رایانه ای و رابطه بین این دو هستیم. هرچه سیستم مانند انسان بیشتر به نظر برسد ، احساس می کند که آن چاپلوسی بیشتر است معقول بودن چیزی

این کار نمی کند

هیچ شبح در دستگاه وجود ندارد. فقط کد و تیمی از مهندسان پیشرفته. و به زودی ، احتمالاً تبلیغات ، نه فقط به شکلی که بلافاصله آن را تشخیص دهید.