ما فقط فکر نمی کنیم – ما از طریق فکر سفر می کنیم. اما در چشم انداز پیچ خورده ایده ها ، مدل های بزرگ زبان ممکن است راهنماهای درخشان باشند … اما بدون پا روی زمین.

هوش به عنوان چشم انداز

ما اغلب از هوش به عنوان یک چیز صحبت می کنیم – چیزی که در اختیار داریم ، اندازه گیری می کنیم یا به حداکثر می رسیم. اما اگر اصلاً چیزی نباشد چه می شود؟ اگر اطلاعاتی منظره باشد چه می شود؟ نه یک دشت مسطح و بی پایان – اما زمینی که توسط چین ها ، صخره ها و قله ها مشخص شده است. یک توپولوژی فکری.

انسانها به سادگی دانش را ذخیره نمی کنند – ما آن را حرکت می دهیم. و ما این کار را با غرایز ، احساسات و حافظه عمیق انجام می دهیم. اما چه اتفاقی می افتد که از ماشین آلات بخواهیم که در همان زمین قدم بزنند؟ در عصر مدل های بزرگ زبان (LLMS) ، ما در حال کشف هستیم که شکل شناخت اهمیت دارد – و این که هر مسافر به همان اندازه آماده نیست.

مسیرهای صاف در مقابل صخره های شناختی

دنیای ایده ها را نه تنها به عنوان یک قفسه کتاب یا یک کابینه تشکیل پرونده ، بلکه به عنوان یک منظره شناختی – چیزی که بافتی و ناهموار است ، در نظر بگیرید. برخی از مناطق صاف و خوب است و با حقایق مشترک ، منطق ساده ، اصطلاحات فرهنگی آسفالت شده است. دیگران تیز ، مبهم یا خیانتکار هستند. این مسیرها پارادوکس ، شعر ، عرفان و حوزه های عمیق تخصص هستند. در این چشم انداز ، اطلاعات کمتر در مورد میزان می دانید و بیشتر در مورد چگونگی حرکت به خوبی می دانید – توانایی شما در تشخیص خطرات ، شکاف های پل و صعود به سمت بینش. انسان ناوبران طبیعی هستند. ماشین آلات؟ نه خیلی زیاد

LLMS می رود ، اما صعود نکنید

LLM ها در مورد همه چیز آموزش دیده اند – به آنها اجازه می دهند تا زبانی را تولید کنند که احساس قدرت مسلط و کنجکاوی بینش کنند. آنها در مناطقی از زبانی برتری دارند که عدم اطمینان کم است و پیش بینی های بعدی در کنار آن بسیار پایدار است-آنچه ممکن است ما را دشتهای شناختی بنامیم. اما این مدلها محدود به سطح هستند و در تلاشند تا از قله های پیچیدگی که در آن ابهام و تضاد شروع می شود ، صعود کند. LLMS در سطح آماری زبان می چرخد ​​و پیش بینی می کند که چه چیزی بر اساس میلیاردها الگوی انجام می شود. هنگامی که با زمین های پیچیده یا ناآشنا روبرو می شوند ، آنها تمایل به صاف کردن آن دارند. وقتی باید مکث کنند ، باید جهش کنند و جواب دهند. و هنگامی که زمین در زیر آنها شروع به تکه تکه شدن می کند ، توهم می کنند.

خطرات توپولوژیکی فکر

بیایید نگاهی دقیق تر به این زمین شناختی بیندازیم و سه نوع چالش را کشف کنیم که در آن مدل های بزرگ زبان اغلب برای حفظ پای خود تلاش می کنند.

• چین های تیز (پارادوکس): اینها ایده هایی هستند که به خودشان باز می گردند-مأمور کننده ، متناقض و یا خود ارجاعی. انسانها تمایل دارند با استعاره ، داستان یا مکث بازتابی از آنها حرکت کنند. از طرف دیگر ، LLM ها اغلب این چین ها را صاف می کنند – پاسخ های تولید کننده ای که منسجم به نظر می رسند اما تنش عمیق تر را از دست نمی دهند.
  مثال: بپرسید ، “آیا یک سیستم می تواند خودش را درک کند؟” و LLM ممکن است یک پاسخ سریع ارائه دهد – بدون درک پارادوکس بازگشتی که در این سؤال ایجاد شده است.
• صخره های مفهومی (ابهام ، عرفان): این لحظاتی است که منطق جای خود را به رمز و راز می بخشد-جایی که ایده ها شاعرانه ، معنوی یا عمدی باز هستند. انسانها غالباً ابهام را حس می کنند و به آن اجازه می دهند. LLM ها تمایل دارند به جلو سوق دهند ، حتی اگر عدم اطمینان ممکن است حرکت عاقل تر باشد ، تفسیرها را ارائه می دهند.
  مثال: “صدای یک دست کف دست چیست؟” به یک انسان ، این ممکن است سکوت یا تأمل را دعوت کند. در عوض ، LLM احتمالاً پاسخی ایجاد می کند – زیرا این کاری است که برای انجام آن ساخته شده است.
• قله های جدا شده (تخصص عمیق): اینها دامنه های باریک و تخصصی هستند که دانش عمیق است اما داده ها ممکن است محدود باشند. انسان سالها مطالعه ، تجربه و ظرافت را برای این مباحث به ارمغان می آورد. LLMS گاهی اوقات می تواند عملکرد خوبی داشته باشد ، به خصوص با آموزش متمرکز ، اما به طور کلی ، زمین می تواند ناهموار باشد.
  مثال: از یک مدل کلی بخواهید تا مسیرهای بیوشیمیایی یک اختلال متابولیک نادر را توصیف کند ، و ممکن است قانع کننده به نظر برسد-در حالی که بی سر و صدا در نادرست ها می لغزد یا جزئیات صدای قابل قبول را اختراع می کند.

برای روشن شدن ، نکته این نیست که LLM ها به طور کامل شکست می خورند ، به خصوص در مورد کارهایی مانند تشخیص ، جایی که به طور فزاینده ای برتری دارند. این به نظر نمی رسد که آنها هنگام اسکیت روی یخ که یک مولکول ضخیم است ، مراقبت می کنند. آنها به ندرت نشانگر عدم اطمینان هستند. و آنها با مکث ، تعجب و یا پرسیدن سؤالات بهتر ، ابهام را به روشی که انسان انجام می دهد حرکت نمی کنند.

این نتیجه استعاره زمین است. یقین – به ویژه در مورد یخ های نازک – هنوز هم می تواند شما را به آنجا برساند. اما این یک مسیر کنجکاو و نامطلوب است ، مسیری که فاقد تردید تطبیقی ​​است که شناخت بالغ انسان را تعریف می کند.

ناوبری انسانی شهود و رفلکس

ما اغلب نمی دانیم که چقدر غریزه این خطرات را مدیریت می کنیم. وقتی یک تناقض ظاهر می شود دریغ می کنیم. ما از استعاره برای جهش جهش استفاده می کنیم. ما وقتی ایده ناآشنا می شود ، محوری یا مکث می کنیم. اینها رفلکس های معرفتی هستند ، نه فقط ابزارهای شناختی – هرچند که ما از لک زدن مصون نیستیم ، اغلب در اثر تعصب یا ناراحتی از ناشناخته ها رنج می بریم.

ماشین آلات فاقد این نشانه ها هستند. آنها نمی دانند چه موقع در یک صخره هستند. آنها فشار یک پارادوکس را احساس نمی کنند. آنها به جلو ادامه می دهند زیرا آنها برای خروجی طراحی شده اند ، نه اینکه منعکس شوند.

واگرایی در فکر

LLM ها در ردیابی خطوط آنچه قبلاً گفته شده است ، قابل توجه است. آنها با تسلط حیرت انگیز در مناطقی که دانش پایدار است ، زبان آشنا است و مسیر به خوبی مشخص شده است. اما همانطور که فکر شروع به پیچاندن – پارادوکس ، ابهام یا عمق می کند – تغییر شکل می یابد.

انسانها متفاوت حرکت می کنند.

وقتی انسجام ترک می شود دریغ می کنیم. ما در ابهام ماندیم. ما ساختارهای جدیدی را اختراع می کنیم که در آن هیچکدام وجود نداشته است. هوش ما فقط برای پاسخ ها ساخته نشده است-این به دلیل تنش ، با عدم آگاهی ، با فشار مرواریدن زمین که از صاف کردن امتناع می ورزد ، شکل گرفته است. در پایان ، ماشین ها ممکن است ما را از طریق آنچه شناخته شده است راهنمایی کنند.

اما آنچه هنوز مشخص نیست – چین و چاشنی ها ، شکستگی ها ، قطره های بینش کامل – ممکن است هنوز هم به طور منحصر به فرد انسان باشد.