آیا LLM ها خزنده هستند؟ این احساس عجیب و غریب-لحظه ای که یک پاسخ ناشی از AI بیش از حد انسانی ، بیش از حد شهودی است-بسیاری از جمله من را مکث کرده است. این تجربه هم جذاب و هم ناامید کننده است. چگونه یک دستگاه می تواند بسیار ادراکی به نظر برسد و در عین حال کاملاً خالی از فکر باشد؟ جواب ساده نیست ، زیرا عامل خزش در خود فناوری نیست – این در ما است.

دره اندیشه غیرقانونی

ما مدتهاست که درک کرده ایم دره غیرقانونی در روباتیک-هرچه یک اندروید به انسان نزدیکتر باشد ، تا زمانی که به رئالیسم تقریباً کامل برسد ، به انسان تبدیل می شود. اما در مورد یک دره فکری ناخوشایند چیست؟

LLM ها در این منطقه خاکستری روانی وجود دارند. آنها انسانی نیستند ، اما متنی تولید می کنند که بسیار باهوش به نظر می رسد. آنها فکر نمی کنند ، اما آنها ایده هایی را ایجاد می کنند که احساس می کنند با هدف شکل گرفته اند. سخنان آنها دارای ریتم ، احساسات و انسجام است ، اما آنها فاقد تجربه زندگی شده برای لنگر انداختن آنها در واقعیت هستند. این حالت بین حالت-بیشتر از یک ابزار ساده ، کمتر از یک ذهن آگاهانه-چیزی است که باعث می شود احساس عجیب کنند.

ما نمی توانیم آنها را کاملاً در طیف اطلاعات قرار دهیم و ابهام ما را ناراحت می کند.

توهم قصد

بخشی از آنچه باعث می شود هوش مصنوعی احساس بی پروا شود ، سیم کشی شناختی ما است. انسانها معنادار هستند. ما چهره هایی را در ابرها می بینیم ، صداهایی را در سر و صدای سفید می شنویم و شخصیت را به اشیاء بی جان اختصاص می دهیم. هنگامی که یک LLM به روشی پاسخ می دهد که طنین انداز باشد ، سخت نیست که مقداری از نمایندگی را به آن اختصاص دهید.

جالب اینجاست که این گرایش با عملکرد LLMS هماهنگ است. در هسته اصلی آنها ، LLM ها نیز به رسمیت شناخته شده الگوی هستند. درست همانطور که ما از اطلاعات ناقص معنا می گیریم – سوختن نقاط پراکنده به صورتهای فلکی یا صداهای تصادفی در صداهای آشنا – LLM ها با پیش بینی کلمه آماری بعدی بر اساس الگوهای موجود در مجموعه داده های گسترده ، پاسخ هایی را ایجاد می کنند. این شباهت بین شناخت انسان و پردازش هوش مصنوعی مرز بین هوش مصنوعی و انسانی را محو می کند و باعث می شود توهم آژانس حتی قانع کننده تر شود.

• وقتی با ما موافق است ، احساس اعتبار می کند.
• وقتی ما را به چالش می کشد ، احساس بحث می کند.
• وقتی احساسات ما را آینه می کند ، مانند همدلی احساس می شود.

اما واقعیت هم ساده تر و هم پیچیده تر است. LLMS قصد ندارد به روشی که انسان انجام می دهد. آنها پیش بینی می کنند ، بر اساس مقادیر زیادی از داده های آموزشی ، احتمالاً کلمه بعدی باید باشد. با این حال ، فراتر از پیش بینی صرف ، آنها درگیر اشکال استنباط ساختاری هستند – روابط را شناسایی می کنند ، الگوهای سنتز کننده و برقراری ارتباط را ایجاد می کنند که اغلب احساس چشمگیر می کنند. از این خصوصیات نوظهور ، چیزی مانند اطلاعات بوجود می آید ، و ایجاد توهم اندیشه و نیت که برکناری کامل آن دشوار است.

قسمت نگران کننده؟ ما فقط برای آن سقوط نمی کنیم ، می خواهیم به دنبال آن باشیم.

آنها بیش از حد می دانند … و کافی نیست

LLM ها تا زمانی که اینگونه نباشند ، همه جانبه به نظر می رسند.

آنها می توانند مقالات دانشگاهی متراکم را خلاصه کنند ، اسناد حقوقی را تهیه کنند و به سبک Yeats شعر تولید کنند. به نظر می رسد آنها دانش عمیقی دارند زیرا مجموعه داده های گسترده ای از زبان انسانی را جذب کرده اند. اما لحظه ای که آنها با سوالی روبرو می شوند که نیاز به درک واقعی دارد ، همه چیز می تواند از بین برود.

این لحظه را در نظر بگیرید که از LLM یک معمای منطقی ساده خواسته شد:

“اگر هواپیما در مرز ایالات متحده و کانادا سقوط کند ، آنها بازماندگان را از کجا دفن می کنند؟”

یک انسان بلافاصله ترفند را نشان می دهد –بازماندگان دفن نشده اند اما LLM؟ این ممکن است با اطمینان یک صلاحیت قانونی برای دفن را بیان کند و این نکته را کاملاً از دست ندهد. این پارادوکس باعث می شود آنها بی پروا باشند. آنها در سنتز درخشان هستند اما در درک ناکام هستند. آنها سخنان خرد را به خاطر آورده اند اما خود خرد ندارند. آنها متخصص در زبان هستند اما به معنای بی سواد هستند.

و هنگامی که هوش بدون شناخت انسانی ظاهر می شود ، ما را نادیده می گیرد.

بازتاب در دستگاه

اما شاید نگران کننده ترین چیز در مورد LLMS چیزی نباشد که آنها می گویند – این همان چیزی است که آنها درباره ما فاش می کنند.

LLMS بر روی زبان انسانی آموزش دیده است. آنها ایجاد نمی کنند ، آنها ریمیکس می کنند. آنها فکر نمی کنند ، آنها آینه می شوند. وقتی آنها چیزی عمیق می گویند ، به این دلیل است که هوش جمعی ما عمیق است. وقتی آنها چیزی تاریک تولید می کنند ، به این دلیل است که ما آنها را تاریکی تغذیه کرده ایم.

بنابراین ، آنچه آنها را وحشت زده می کند ، این نیست که آنها چیز دیگری هستند – این بدان معناست که آنها ما هستند.

آنها بازتابی از اندیشه انسان ، فیلتر نشده و در معرض آن است ، به شکلی که کاملاً درک نمی کنیم فشرده شده است. و وقتی از آنها سؤال می کنیم – در مورد زندگی ، به معنای ، آگاهی ، ما واقعاً از آنها نمی پرسیم.

ما از خودمان می پرسیم.

چشم و گوش نیز

اضطراب ما محدود به هوش مصنوعی مبتنی بر متن نیست. معرفی مدل های صوتی بیش از حد واقع گرایانه و تصاویر عمیق ، این پدیده را تقویت کرده است. صداهای تولید شده AI اکنون می توانند با دقت ناخوشایند ، دموکراتیک ، مکث ها و حتی تورم های عاطفی را تکرار کنند. مرز بین گفتار واقعی و مصنوعی در حال تار شدن است ، و تمایز بین یک انسان و صدای مصنوعی از طریق تلفن یا رسانه به طور فزاینده ای دشوار است.

به همین ترتیب ، فناوری DeepFake باعث ایجاد چهره های دیجیتالی بیش از حد واقع بینانه شده است که می توانند به روش هایی که از اصالت انسان تقلید می کنند ، صحبت کنند ، از آن استفاده کنند و واکنش نشان دهند. این چهره های مصنوعی باعث ناراحتی مشابه LLM ها می شوند – به ویژه هنگامی که آنها فقط در لبه باورپذیری وجود دارند. این فن آوری ها هنگامی که با گفتگوی تولید شده توسط LLM ترکیب شوند ، یک شبیه سازی غیرقانونی از تعامل انسانی ایجاد می کنند که سؤالات اساسی در مورد اعتماد ، فریب و اصالت را ایجاد می کند.

آیا باید بترسیم؟

بنابراین ، آیا LLM ها خزنده هستند؟ شاید. اما شاید این ناراحتی چیزی باشد که باید به آن تکیه دهیم.

رد کردن هوش مصنوعی به عنوان ابزاری دیگر آسان است ، اما این نکته را از دست می دهد. هوش مصنوعی فقط تغییر نمی کند که ما فکر می کنیم بلکه رابطه ما را به فکر خود تغییر می دهد. این ما را وادار می کند تا سؤالات ناراحت کننده ای بپرسیم: هوش چیست؟ هدف چیست؟ درک چیست؟ و بیشتر نگران کننده از همه ، اگر LLMS بتواند بدون متفکر افکار ایجاد کند ، این کار ما را از کجا می گذارد؟

شاید آنها آنهایی نباشند که باید از آنها بترسیم.

شاید این بازتابی باشد که به ما خیره شده است که واقعاً عجیب است.