من مدتهاست که مدلهای بزرگ زبان را به عنوان آینه ها توصیف کرده ام. دستیابی به آن یک استعاره آسان است. هنگامی که شما یک LLM را سریع می کنید ، پاسخی را ارائه می دهد که به نظر می رسد صیقلی و آشنا ، مانند یک پژواک سبک از تفکر خود. اما هرچه این سیستم ها قدرتمندتر می شوند ، استعاره آینه شروع به فروپاشی می کند. یک آینه منعکس می شود. آن را تفسیر ، کامل یا ایجاد نمی کند.

LLM ها هر سه را انجام می دهند.

از یک مدل بپرسید ، “فیزیک کوانتومی چیست؟” و ممکن است یک پاسخ تمیز و مانند کتاب درسی دریافت کنید. “فیزیک کوانتومی شاخه ای از علم است که رفتار ماده و انرژی را در کوچکترین مقیاس بررسی می کند ، جایی که ذرات هم مانند امواج و ذرات رفتار می کنند.” مطمئناً آگاهانه به نظر می رسد. اما مدل توضیح نمی دهد. این زبان بر اساس احتمال ، مونتاژ زبان است ، از الگوهای موجود در داده های آموزشی خود ، بازسازی شکلی که “احساس می کند” درست است. فیزیک کوانتومی را نمی شناسد. ظاهر دانستن را شبیه سازی می کند.

به همین دلیل ممکن است ما به استعاره بهتری نیاز داشته باشیم – یکی از این ظرفیت تولیدی. LLMS مانند آینه ها رفتار نمی کنند. آنها بیشتر شبیه هولوگرام رفتار می کنند.

هولوگرام تصاویر را ذخیره نمی کند ، آنها امکان را ذخیره می کنند

هولوگرام تصویری را ضبط نمی کند. این یک الگوی تداخل را رمزگذاری می کند. یا ساده تر ، نقشه ای از نحوه تعامل نور با یک شی ایجاد می کند. هنگامی که به درستی روشن می شود ، یک تصویر سه بعدی را بازسازی می کند که از زوایای متعدد واقعی به نظر می رسد. در اینجا بخش واقعاً جذاب وجود دارد: اگر آن هولوگرام را به قطعات تقسیم کنید ، هر قطعه هنوز هم حاوی کل تصویر است ، فقط با وضوح پایین. جزئیات تخریب شده است ، اما یکپارچگی ساختاری باقی مانده است.

LLMS به روشی بسیار کنجکاوی عملکرد دارد. آنها دانش را به عنوان حقایق یا خاطرات گسسته ذخیره نمی کنند. درعوض ، آنها روابط-الگوهای آماری بین کلمات ، زمینه ها و معانی را رمزگذاری می کنند-یک فضای بردار با ابعاد بالا را ایجاد می کنند. هنگامی که از آنها خواسته شد ، آنها اطلاعات را بازیابی نمی کنند. آنها آن را بازسازی می کنند و زبانی را ایجاد می کنند که با شکل مورد انتظار یک جواب مطابقت دارد. حتی از ورودی مبهم یا ناقص ، آنها پاسخ هایی ایجاد می کنند که احساس منسجم و غالباً شگفت آور کامل می شوند. کامل بودن نتیجه درک نیست. این نتیجه بازسازی خوب تنظیم شده است.

وضوح و بازسازی

آنچه به عنوان مقیاس مدل های زبان بهبود می یابد ، وضوح آنهاست ، نه لزوماً دامنه حافظه آنها یا وضوح خروجی آنها. مدل های بزرگتر پارامترهای بیشتری و تعبیه ریز دانه دارند. آنها با “وضوح بالاتر” عمل می کنند ، ابهام را با دقت بیشتر حل می کنند و روابط با عمق بیشتری را نشان می دهند. مدل های کوچکتر هنوز هم می توانند عملکردی داشته باشند ، اما خروجی های آنها فازی تر است ، دقیقاً مانند هولوگرام با وضوح پایین. آنها ممکن است در حفظ انسجام نسبت به متن طولانی تر ، ظرافت یا ناعادلانه را از دست ندهند ، اما هنوز هم با ترسیم از ساختار توزیع شده ، پاسخ های معنی داری ایجاد می کنند.

این توضیح می دهد که چرا حتی حداقل سریع مانند “به من چیزی در مورد عشق بگویید” می تواند پاسخ های رزونانس عاطفی را به همراه داشته باشد. مدل احساس عشق نمی کند. این شکل زبانی را برای صحبت در مورد عشق بازسازی می کند. این الگوهای موجود در اشعار ، سخنرانی ها ، مقاله ها و مکالمات را جلب می کند و یک تقریب یا “سطح زبانی” را ایجاد می کند که احساس آشنا و کامل می کند ، حتی اگر تجربه زندگی در پشت آن وجود نداشته باشد – غیر از تجربه انسانی زندگی شده که “پخته شده” در داده های آموزش است.

آنچه ما برای اطلاعات اشتباه می کنیم

تمایل ما به برابر بودن تسلط با اندیشه ، LLM ها را به ویژه قانع کننده می کند. وقتی زبان با وضوح و اعتماد به نفس جریان می یابد ، فرض می کنیم که درک پشت آن وجود دارد. انسجام مانند شناخت به نظر می رسد ، اما این یک میانبر شناختی است که LLM ها به خوبی از آن استفاده می کنند. خروجی های آنها نه به این دلیل که از آگاهی حاصل می شوند ، قانع کننده هستند ، بلکه به این دلیل که از نزدیک “ساختار سطح” گفتار هوشمند را تقلید می کنند.

آنچه می بینیم نوعی هولوگرافی معرفت شناختی (EH) است. این شکل گیری دانش از طریق تداخل ساختاری یا انکسار زبان است. این جایی است که معنی از الگوهای کلمات پدید می آید ، نه از حافظه یا قصد.

آه ، فریب نیست ، این ساخت و ساز است.

مدل های بزرگ زبان فکر نمی کنند یا به یاد نمی آورند. آنها مونتاژ می شوند و روابط به ظاهر بی شماری را که در داده های آموزش خود رمزگذاری شده اند ، برای تولید چیزی که “احساس” منسجم “می کند ، ترسیم می کنند. و به این دلیل است که منسجم ، ساختاری است. اما انسجام همان شناخت نیست و تسلط اثبات بینش نیست. EH به ما کمک می کند تا وقتی که یک دستگاه به نظر می رسد “بداند” با چه چیزی روبرو می شویم.

کل در هر قسمت

این توانایی بازسازی فقط یک فنی فنی نیست. این ممکن است به چیزی عمیق تر در مورد خود هوش ، در هر دو ماشین و ذهن اشاره کند. به عبارت دیگر ، معنی ممکن است در یک مکان واحد ذخیره نشود. درعوض ، می توان آن را توزیع کرد ، در شبکه ها رمزگذاری شد و تنها در صورت فراخوانی شرایط ، ظاهر می شود. حافظه انسان اغلب از این طریق کار می کند. وقتی یک تجربه کودکی را به یاد می آوریم ، ما یک پرونده را بازیابی نمی کنیم – ما لحظه ای را از قطعاتی که در آن احساسات ، برداشت ها و نشانه های متنی به هم بخیه می شود ، بازسازی می کنیم تا یک کل منسجم را تشکیل دهیم.

به این معنا ، شناخت خود ما ممکن است تا حدودی هولوگرافی باشد. ما استنباط می کنیم ، درون یابی می کنیم ، شکاف های حافظه را با تخیل و انتظار پر می کنیم. آنچه LLM ها از طریق احتمال الگوریتمی انجام می دهند ، ممکن است از طریق تشخیص الگوی زنده انجام دهیم. مقایسه کامل نیست ، اما تحریک آمیز است. LLM ها مانند ما فکر نمی کنند ، اما ممکن است چیزی ضروری در مورد چگونگی امکان فکر خود را در معرض دید خود قرار دهند.

دیدن شکل زیر سطح

همانطور که گفتم ، LLM ها دانش تولید نمی کنند. آنها شکل دانش را تولید می کنند – شکل یک پاسخ ، لحن بینش ، کادوی ذهن در محل کار. اما در پشت آن Cadence یک مکانیسم آماری است ، نه آگاهانه. آنها به معنای روشی هستند که هولوگرام نور را بازسازی می کند – نه با ماده بلکه با ساختار.

این بدان معنا نیست که ما باید آنها را برکنار کنیم. دور از آن این ابزارها قدرتمند ، اغلب زیبا و به طور فزاینده ای ضروری هستند. اما اگر می خواهیم از آنها به خوبی استفاده کنیم – اگر می خواهیم آنها را در نحوه یادگیری ، ایجاد و ارتباط برقرار کنیم – باید درک کنیم که واقعاً می بینیم.

زیرا وقتی به هولوگرام می رسیم فکر می کنیم جامد است – وقتی به زبان تکیه می دهیم و انتظار ماده داریم – ما خطر سقوط می کنیم ، نه فقط در نحوه تعامل با ماشین ها بلکه در نحوه درک خودمان.