در دنیای هوش مصنوعی یک طنز کنجکاو وجود دارد که واقعاً به من فکر کرده است. در واقع ، من اغلب در مورد ماهیت “فکر” در زمینه مدل های بزرگ زبان بحث کرده ام. از “تئاتر شناختی” گرفته تا “معماری تکنولوژیکی” ، من این دستگاه های تفکر را مورد مطالعه قرار داده ام و به بررسی توهم نقض تسلط به عنوان فکر می کنم. اکنون ، تحقیقات جدید اپل در مورد مدل های استدلال ، نگاهی دقیق به این مسئله می اندازد.

در گزارش جدید خود ، توهم تفکر، محققان اپل هود را در کلاس از مدل های بزرگ زبان که در “استدلال” تخصص دارند ، باز کردند. اینها فقط موتورهای متوسط ​​خودکار شما نیستند. اینها همان چیزی است که برخی از آنها به عنوان مدل های استدلال بزرگ یا LRM ها نامیده اند. اینها سیستم های هوش مصنوعی هستند که برای ارائه پاسخ های چند مرحله ای ، زنجیره ای از فکر (COT) آموزش داده شده اند که منطق و بحث و جدال انسانی را تقلید می کنند.

اما اینجا گرفتن است ، و من فکر می کنم این یک کار بزرگ است. محققان اپل پیشنهاد می کنند که در زیر نثر اغوا کننده و داربست منطقی ، این مدلها اغلب در همان کاری که به نظر می رسد انجام می دهند – در حال انجام هستند ، شکست می خورند.

فروپاشی در پیچیدگی

این گزارش پویایی را تشریح می کند که باید به خوش بینی های هوش مصنوعی دلیل مکث کند. به نظر می رسد با افزایش پیچیدگی مشکلات ، عملکرد این مدل های استدلال بیش از کاهش است. فرو می ریزد

در پیچیدگی کم ، LLMS ساده تر از مدل های پیشرفته تر عمل می کند. در پیچیدگی متوسط ​​، مدل های استدلال می درخشند. اما با افزایش بار شناختی ، هنگامی که منطق یا منطق چند مرحله ای لازم است ، آنها متلاشی می شوند. یا همانطور که نویسندگان ابراز کردند:

“ما سه رژیم عملکرد را شناسایی می کنیم: (1) وظایف کم نظیر که در آن مدل های استاندارد به طرز شگفت آور از LRMS بهتر عمل می کنند ، (2) وظایف ترکیبی متوسط ​​که در آن تفکر اضافی در LRM ها مزیت را نشان می دهد ، و (3) وظایف با ترکیب بالا که در آن هر دو مدل تجربه کامل را تجربه می کنند.”

از همه بدتر ، به نظر نمی رسد که مدل ها نمی دانند که آنها شکست خورده اند. آنها آنچه را که به نظر می رسد سالم است ، پاسخ های گام به گام تولید می کنند. برای یک خواننده غیر روحانی یا حتی یک آموزش دیده ، این خروجی ها می توانند منطقی به نظر برسند. اما آنها در هیچ روش الگوریتمی یا سازگار پایه گذاری نشده اند. آنها تقریب منطق مبتنی بر انسجام معنایی هستند.

تسلط فکر نمی شود

این باید ما را وادار به مقابله با یک امکان کنجکاو و نگران کننده کند. اگر این مدل ها فقط ساختار تفکر را شبیه سازی کنند ، چه می شود؟ چه می شود اگر فوریت های زنجیره ای از یک پنجره کمتر از یک آینه که منعکس کننده تعصبات شناختی خودمان و تمایل ما برای سردرگمی انسجام با حقیقت و کلامی با درک است ، کمتر باشد؟

و البته ، منطق انسانی در پشت این وجود دارد. ما اغلب با روایت ترغیب می شویم. یک توضیح خوب ساختار یافته ، هاله اقتدار را به همراه دارد. اما هوش مصنوعی از این تعصب در مقیاس سوء استفاده می کند و تسلط آن سیگنال کاذب ایجاد می کند. این فقط استدلال را تقلید نمی کند ، بلکه آن را به شکلی انجام می دهد که من استدلال می کنم ضدیت برای اندیشه انسان است.

و من معتقدم که این عملکرد عواقب دارد. در پزشکی ، حقوق ، آموزش و سلامت روان ، LLM ها به عنوان ابزاری برای حمایت از تصمیم گیری در نظر گرفته می شوند. اگر ما در حال ساخت سیستم هایی هستیم که در هنگام ظاهر شدن در پیچیدگی شکست می خورند ، خطر معرفی نوع جدیدی از خطر شناختی را داریم. نگرانی فقط این نیست که هوش مصنوعی اشتباه است ، بلکه این AI به طرز قانع کننده ای اشتباه است.

عدم تطابق شناختی

آنچه به نظر می رسد یافته های اپل برجسته است ، واگرایی در حال رشد بین شناخت انسان و انسجام مصنوعی است. شناخت انسان در اصطکاک فکر و استراتژی های تطبیقی ​​مانند قیاس و استعاره رونق می گیرد. در مقابل ، LLM ها برای تسلط سطح سطح که نشانه ها با نشانه ها هم تراز می شوند ، بهینه می شوند ، نه حقایق مطابق با حقایق.

هرچه LLM ها بیشتر به نظر می رسند ، فکر می کنیم ، بیشتر فریب می دهیم که آنها اعتقاد داشته باشند. اما اگر این سیستم ها نمی توانند استدلال خود را با پیچیدگی مقیاس کنند ، آنها صرفاً موتورهای بلاغی هستند ، نه شناختی.

بنابراین ، از کجا می رویم؟

ما باید با اعمال شک و تردید بیشتر شروع کنیم – نه بدبینی ، بلکه کنجکاوی بحرانی. هوش مصنوعی ممکن است اثرات استدلال مفصلی ایجاد کند ، اما بدون قوام ، آنها توضیحی ندارند. آنها اجرا هستند. و احساس من این است که بسیاری از آنها عملکرد اشتباه بسیار راحت برای اثبات رشد کرده اند.

ما همچنین به ابزارهای بهتری احتیاج داریم – نه فقط برای ارزیابی پاسخ های AI ، بلکه برای درک روش های آن. معیارهایی که نتایج آزمایش دیگر کافی نیست. ما باید روند نثر را بازجویی کنیم.

و سرانجام ، شاید مهمتر از همه ، ما باید تصدیق کنیم که ما فقط شروع به درک “تفکر” مصنوعی داریم. به نظر می رسد ، هوش ممکن است به طور روان و یا تقلید از شناخت انسان به هیچ وجه ساده نباشد. و در آن عدم اطمینان ، خطر و مسئولیت این لحظه نهفته است. بیشتر برای کشف وجود دارد. خیلی بیشتر