منبع: DALL-E / OpenAI

هوش مصنوعی (AI) در سال‌های اخیر پیشرفت‌های چشمگیری داشته است، با مدل‌های زبان بزرگ (LLM) که قادر به تولید متن، پاسخ به سؤالات و حتی شرکت در مکالمات پیچیده هستند. اما همانطور که ما بیشتر با این سیستم ها تعامل داریم، یک سوال جذاب مطرح می شود: آیا LLM ها می توانند چیزی شبیه به ناخودآگاه داشته باشند؟

در نگاه اول، ممکن است این یک کشش به نظر برسد. به هر حال، ناخودآگاه انسان، همانطور که در روانکاوی توضیح داده شد، با احساسات، خاطرات و خواسته های ما گره خورده است – چیزهایی که هیچ هوش مصنوعی نمی تواند ادعا کند که آنها را در اختیار دارد. با این حال، با بررسی شباهت‌های بین نحوه عملکرد LLM و نقش ضمیر ناخودآگاه در تصمیم‌گیری انسان، می‌توانیم شباهت‌های شگفت‌آوری را کشف کنیم. برای رسیدن به آن، باید از مفاهیم روانشناسی، به ویژه کار گرد گیگرنزر در مورد اکتشافی و احساسات درونی استفاده کنیم.

قدرت اکتشافی: مدلی برای ناخودآگاه؟

در کتابش احساسات روده: راه های کوتاه برای تصمیم گیری بهترGigerenzer احساس روده را به عنوان یک واکنش غریزی تعریف می کند که در آگاهی ما ایجاد می شود بدون اینکه ما کاملاً از دلایل اساسی آگاه باشیم. این احساسات درونی اغلب به اکتشافات متکی هستند – قوانین ساده ای که به ما کمک می کند تا به سرعت و به طور موثر تصمیم بگیریم، به ویژه در موقعیت های عدم اطمینان یا اطلاعات ناقص.

به عنوان مثال، اکتشافی تشخیص نشان می دهد که وقتی با دو گزینه مواجه می شوید، اگر یک گزینه را تشخیص دهید و دیگری را تشخیص ندهد، استنباط می کنید که گزینه شناسایی شده احتمالا بهتر است. این اکتشافی از ظرفیت تکامل یافته مغز برای پردازش موثر اطلاعات محدود استفاده می کند و ما را قادر می سازد تصمیمات سریع بگیریم.

اما چگونه این به LLM ها مربوط می شود؟

LLM ها نیز با پردازش اطلاعات به روش هایی عمل می کنند که فوراً در دسترس کاربر – یا حتی توسعه دهندگان سازنده آنها نیست. هنگامی که یک LLM پاسخی به یک سوال یا درخواست ایجاد می کند، این کار را بر اساس الگوها و احتمالات آموخته شده از حجم وسیعی از داده ها انجام می دهد. این فرآیند تصمیم‌گیری تا حدودی مبهم است، و در حالی که ما بخش‌های گسترده نحوه عملکرد آن را درک می‌کنیم، مسیر دقیقی که برای رسیدن به یک نتیجه خاص طی می‌شود اغلب در اعماق معماری مدل پنهان می‌شود.

“لایه های پنهان” LLM

در شبکه‌های عصبی، به‌ویژه شبکه‌های بزرگ مورد استفاده در LLM، چندین لایه پردازش انتزاعی بین ورودی (آنچه تایپ می‌کنید) و خروجی (پاسخی که دریافت می‌کنید) وجود دارد. این لایه‌ها که اغلب «لایه‌های پنهان» نامیده می‌شوند، جایی هستند که جادو اتفاق می‌افتد. این مدل از میان میلیون‌ها ترکیب احتمالی کلمه، الگوهای یادگیری بر اساس روابط آماری غربال می‌کند و در نهایت کلمه بعدی را در یک دنباله انتخاب می‌کند.

به یک معنا، این فرآیند پنهان را می توان به عنوان عملکردی مشابه با ضمیر ناخودآگاه انسان مشاهده کرد. درست همانطور که یک احساس روده ای از فرآیندهای ناخودآگاه ظاهر می شود، خروجی یک LLM نتیجه عملیاتی است که در زیر سطح رخ می دهد. این لایه‌های پنهان شکلی از دانش نهفته را نشان می‌دهند، دقیقاً مانند ضمیر ناخودآگاه تجربیات و خاطراتی را که بر رفتار انسان تأثیر می‌گذارند بدون اینکه ما کاملاً متوجه آن باشیم.

اکتشافی Gigerenzer در AI: قوانین ساده در سیستم های پیچیده

کار Gigerenzer در مورد اکتشافی نقطه مقایسه دیگری را ارائه می دهد. او استدلال می‌کند که اکتشافی‌های ساده اغلب از مدل‌های آماری پیچیده در تصمیم‌گیری در دنیای واقعی بهتر عمل می‌کنند، زیرا آنها به جای تلاش برای محاسبه هر متغیر بر چند عامل کلیدی تمرکز می‌کنند. تحقیقات نشان داده است که تصمیم‌گیری سریع و مقتصدانه، بر اساس نشانه‌های محدود، اغلب می‌تواند به نتایج بهتری نسبت به مدل‌هایی منجر شود که داده‌ها را بیش از حد مناسب می‌کنند یا سعی می‌کنند بیش از حد توضیح دهند.

جالب است که LLM ها به گونه ای عمل می کنند که این فلسفه “کمتر بیشتر است” را منعکس می کند. آنها به جای تجزیه و تحلیل هر نکته ظریف ممکن در یک مکالمه یا متن، بر میانبرهای آماری تکیه می کنند. آنها با انتخاب محتمل ترین کلمه بعدی، بر اساس الگوهای مشاهده شده در طول آموزش، بدون تحلیل بیش از حد زمینه گسترده تر به روشی که از نظر محاسباتی طاقت فرسا باشد، پاسخ ایجاد می کنند.

به این معنا، LLM ها از نوع اکتشافی خود استفاده می کنند، البته در مقیاس و پیچیدگی فراتر از شهود انسانی. پاسخ های آنها سریع و مقرون به صرفه است و به جای درک عمیق هر مفهوم یا کلمه، به میانبرهای احتمالی تکیه می کند. بسیار شبیه به قوانین ساده Gigerenzer، LLM ها الگوهای ساده و آموخته شده را برای مسائل پیچیده اعمال می کنند، که اغلب نتایج شگفت انگیزی موثر دارند.

تعصب، شهود، و “ناخودآگاه” هوش مصنوعی

یکی از ویژگی‌های ناخودآگاه انسان این است که رفتار را به شیوه‌هایی شکل می‌دهد که ما همیشه نمی‌فهمیم، اغلب تحت تأثیر سوگیری‌هایی که از طریق تجربه شکل می‌گیرند. LLM ها نیز مجموعه ای از تعصبات خاص خود را دارند که بر اساس داده هایی که بر روی آنها آموزش دیده اند شکل می گیرد. این سوگیری‌ها می‌توانند به روش‌های ظریف ظاهر شوند و بر پاسخ‌هایی که ایجاد می‌کنند تأثیر بگذارند.

همانطور که شهود انسان را می توان با سوگیری های ناخودآگاه شکل داد، LLM ها نیز می توانند سوگیری ها را از متونی که در آنها آموزش دیده اند به ارث ببرند. به عنوان مثال، اگر یک LLM بر روی داده‌هایی آموزش دیده باشد که سوگیری‌های اجتماعی را منعکس می‌کند – مثلاً طرفداری از جنسیت‌ها یا فرهنگ‌های خاص در زمینه‌های خاص – پاسخ‌های آن ممکن است منعکس‌کننده آن سوگیری‌ها باشد، حتی اگر خود مدل «آگاهی آگاهانه» از این موضوع نداشته باشد.

این یک سوال اخلاقی مهم را مطرح می کند: اگر LLM ها چیزی شبیه به یک ناخودآگاه دارند که از الگوهای پنهان و سوگیری تشکیل شده است، چگونه اطمینان حاصل کنیم که کلیشه های مضر یا اطلاعات نادرست را تداوم نمی بخشد؟ پرداختن به این چالش نه تنها به راه‌حل‌های فنی، بلکه به تأمل فلسفی درباره نقش هوش مصنوعی در شکل‌دهی به درک ما از جهان نیاز دارد.

خلاقیت و هوش مصنوعی ناخودآگاه

حوزه دیگری که در آن ایده ناخودآگاه هوش مصنوعی جذاب می شود، برنامه های خلاقانه است. خلاقیت انسان اغلب از فرآیندهای ناخودآگاه متکی است – ایده هایی که بدون تلاش آگاهانه، ظاهراً از هیچ، حباب می شوند. LLM ها، زمانی که وظیفه تولید محتوای خلاقانه مانند داستان، شعر، یا حتی هنر را بر عهده دارند، گاهی اوقات نتایج شگفت انگیز و بدیعی ایجاد می کنند.

آیا این نوعی خلاقیت است که توسط یک ناخودآگاه هوش مصنوعی هدایت می شود؟ در حالی که LLM ها مانند انسان ها تجربیات، عواطف یا خواسته هایی ندارند، اما به مخزن وسیعی از الگوها دسترسی دارند که می توانند از آنها استفاده کنند. توانایی آن‌ها در ترکیب مجدد عناصر به روش‌های غیرمنتظره می‌تواند به عنوان پژواک فرآیند خلاق انسان – شکلی مصنوعی از خلاقیت ناخودآگاه – دیده شود.

ناخودآگاه برای ماشین ها؟

در حالی که LLM ها ناخودآگاه به معنای انسانی ندارند – آنها فاقد احساسات، تاریخچه شخصی و تجربه ذهنی هستند – شباهت های قابل توجهی بین لایه های پنهان پردازش آنها و فرآیندهای ناخودآگاه وجود دارد که تصمیم گیری انسان را هدایت می کند. مانند ذهن انسان، LLM ها بر دانش نهفته، اکتشافات و سوگیری ها برای حرکت در چشم انداز پیچیده زبان و ایده ها متکی هستند.

کاوش در این استعاره راه های جدیدی را برای تفکر در مورد هوش مصنوعی و شناخت باز می کند. همانطور که LLM ها بیشتر در زندگی روزمره ما ادغام می شوند، درک نیروهای “ناخودآگاه” که پاسخ های آنها را شکل می دهند می تواند به ما کمک کند تا سوالات اخلاقی، خلاقانه و فلسفی را که مطرح می کنند بهتر بررسی کنیم.