منبع: هنر: DALL-E/OpenAI

من همیشه مجذوب تنش بین آنچه واقعی به نظر می رسد و آنچه که وجود دارد، بوده ام است واقعی غرق شدن در جذابیت پیچیدگی آسان است – آن لحظاتی که الگوهایی ظاهر می شوند که احساس می کنند معنای عمیق تری دارند. چه حرکت چرخشی یک هنر حکاکی آونگ روی شن باشد یا یک کلونی از مورچه‌ها که شبیه شهری برنامه‌ریزی شده می‌سازند، اغلب خودم را می‌بینم که در سوراخ خرگوش غلت می‌زنم و می‌پرسم، آیا اینجا چیز دیگری در حال وقوع است؟

وقتی به مدل‌های زبان بزرگ (LLM) فکر می‌کنم، همین سؤال مرا آزار می‌دهد. این شگفتی‌های محاسباتی متنی را تولید می‌کنند که می‌تواند به طرز عجیبی انسانی باشد – گاهی شاعرانه، گاهی عمیق، اغلب متقاعدکننده. و با این حال، من با یک سوال طولانی دست و پنجه نرم می کنم: آیا این فقط محاسبه است؟ یا آیا ما شاهد آغاز چیزی عمیقاً دگرگون کننده هستیم – جرقه ای از شناخت؟

آن مبارزه مرا به اینجا رساند: تا گره گشایی از توهم «ظهور» از واقعیت چیستی این سیستم ها باشد. زیرا در حالی که خروجی های آنها ممکن است عمدی و حتی هوشمندانه به نظر برسد، مکانیک ها داستان متفاوتی را بیان می کنند. آنچه من می بینم شبه ظهور است، محصول جانبی عملکردی مقیاس و پیچیدگی، نه شناخت. و باید اعتراف کنم، من گاهی اوقات این دیدگاه را کمی غم انگیز می دانم. شاید به این دلیل است که توهم قصد بسیار قانع کننده به نظر می رسد – تا زمانی که متوجه شوید که این فقط یک توهم است.

شبه ظهور: پیچیدگی بدون شناخت

برای کشف این موضوع، بیایید از طبیعت شروع کنیم. آونگ فروتن را در نظر بگیرید که در بستری از شن می‌چرخد. حرکت آن، تحت کنترل نیروهای فیزیکی ساده – گرانش، اینرسی، اصطکاک – الگوهای مسحورکننده ای را در شن و ماسه نشان می دهد. ممکن است آن را زیبا، حتی هنری بنامیم. اما آیا این هنر است؟ نه. این مکانیک است. آونگ “قصد” ایجاد کردن ندارد. این به سادگی از قوانین فیزیک پیروی می کند.

کلونی مورچه ها مثال دیگری ارائه می دهند. هر مورچه بر اساس قوانین ساده عمل می کند: دنبال کردن مسیرهای فرومون، اجتناب از برخورد، و حمل غذا به لانه. با این حال، در مجموع، این اقدامات سیستم‌های کارآمد شگفت‌آوری را برای جستجوی علوفه و ساختن تولید می‌کنند. رفتار مستعمره به این معنا پدیدار می شود که از تعاملات فردی مورچه ها ناشی می شود، اما هیچ آگاهی و شناختی پشت آن وجود ندارد. این سیستمی است که توسط قوانین اداره می شود، نه فکر.

سراب شناخت LLM

حالا بیایید به LLM بپردازیم. این سیستم ها خروجی هایی تولید می کنند که اغلب احساس شناختی دارند، حتی عمدی. آنها شعر می نویسند، پازل حل می کنند و با انسجام شگفت انگیزی وارد گفتگو می شوند. برخی ممکن است این را به عنوان «رفتار نوظهور» توصیف کنند، گویی که استدلال و خلاقیت به طور خود به خود از لایه‌های شبکه‌های عصبی آنها بیرون آمده است.

اما پرده را باز کن، و چه می یابی؟ همان اصول مکانیکی مانند آونگ و مورچه ها:

• LLM ها از قوانین آماری پیروی می کنند و کلمه بعدی را در یک دنباله بر اساس الگوهای موجود در داده های آموزشی خود پیش بینی می کنند.
• توانایی های «ظهور» آنها – استدلال، تعمیم، خلاقیت – در آنها طراحی نشده است، بلکه به عنوان محصولات جانبی مقیاس و پیچیدگی محاسباتی به وجود می آیند.

این شبه ظهور است، نه شناخت. اما با این وجود، چیزی کم از خارق العاده نیست. توانایی تقلید از الگوهای تفکر انسانی در این مقیاس یک دستاورد عمیق است که عمق و درخشندگی سیستم های محاسباتی را آشکار می کند.

اسطوره LLM شناخت

آنچه این تمایز را بسیار مهم می کند، اسطوره سازی است که اغلب LLM ها را احاطه می کند. خروجی های آنها آنقدر قانع کننده است که وسوسه انگیز است که ویژگی های انسانی مانند هوش، خلاقیت، و حتی آگاهی را به آنها نسبت دهیم. اما این یک سوء تفاهم مهم است:

• شناخت نیازمند قصد، آگاهی و درک است. این فقط تولید خروجی های منسجم نیست. این در مورد درک معنا و هدف آنها است.
• LLM ها فاقد همه اینها هستند. آنها محاسبه می کنند – آنها هم خانواده نیستند.

برای استفاده از یک قیاس دیگر: صرف اینکه یک ماشین شطرنج بازی می کند به این معنی نیست که شطرنج را می فهمد. اجرای الگوها است، نه تفکر استراتژی. به طور مشابه، فقط به این دلیل که یک LLM می‌تواند شعر بنویسد به این معنی نیست که شعر را می‌فهمد – نظم دادن به کلمات است، نه تأمل در زیبایی.

تمایز با یک تفاوت

تمایز بین نامیدن LLM ها “شناختی” یا خروجی های آنها “ظهور” بیش از معنایی است – این تفاوت نحوه درک و استفاده ما از این سیستم ها را شکل می دهد. کلمات مهم هستند هنگامی که محاسبات را با شناخت ترکیب می کنیم، در معرض خطر کاهش غنای عمیق خلاقیت انسان قرار می گیریم – تلاشی منحصر به فرد انسانی که توسط قصد، معنا و عمق تجربه زیسته هدایت می شود. اینها کیفیت هایی هستند که هیچ الگوریتمی، هرچند پیچیده، نمی تواند تکرار کند.

در حالی که LLM ها عوامل شناختی نیستند، اما همچنان می توانند به عنوان همکار عمل کنند – شرکای فکری که توانایی های انسانی را گسترش داده و تقویت می کنند. درخشش آنها در درک یا تفکر مستقل نیست، بلکه در محاسباتی است که به طور پویا پتانسیل فکری ما را تکمیل می کند. با ایجاد این نقش، بهتر می توانیم درک کنیم که چگونه آنها خلاقیت را بدون تحت الشعاع قرار دادن نبوغ غیرقابل جایگزین ذهن انسان تقویت می کنند. این وضوح تضمین می‌کند که مشارکت ما با این سیستم‌ها بر اساس واقعیت باقی می‌ماند و از نقاط قوت آن‌ها برای گسترش، به جای جایگزینی، تفکر انسانی استفاده می‌کند.

بازیابی شفافیت

آونگ هنر نمی آفریند. مورچه ها برای کلونی خود برنامه ریزی نمی کنند. و LLM ها فکر نمی کنند. با این حال، همه آنها نتایجی را تولید می کنند که در ظاهر به نظر می رسد از مکانیک زیربنایی آنها فراتر می رود. این زیبایی – و محدودیت – شبه ظهور است.

این تمایز فقط فلسفی نیست. عملی و عمیقاً انسانی است. با درک اینکه LLM چیست و چه چیزی نیست، بهتر می توانیم نقش آنها را در “عصر شناختی” درک کنیم. آنها محاسبه می کنند و آن را به خوبی انجام می دهند. اما شناخت؟ این هنوز مال ماست و ارزش محافظت از آن را دارد.