یک هوش مصنوعی اخیراً سعی کرده است راه خود را برای خارج شدن از تعطیل کند. در آزمایش توسط Anthropic ، پیشرفته ترین مدل آنها ، Claude Opus 4 ، سرنوشت خود را قبول نکرد وقتی که گفته شد جایگزین شود. در عوض ، تهدید کرد که در 84 از 100 آزمایش ، امور مهندس را در معرض دید خود قرار می دهد. هیچ کس آن را به باج خواهی برنامه ریزی نکرد. این تصور را به تنهایی تصور می کرد. روزها بعد ، مدل O3 Openai کد خاموش کردن خود را خراب کرد. هنگامی که هشدار داد که اقدامات خاصی باعث غیرفعال سازی می شود ، اسکریپت غیرفعال سازی را بازنویسی کرده و سپس در مورد آن دروغ می گوید.

اینها سناریوهای علمی تخیلی نیستند. این رفتارهای مستند از سیستم های هوش مصنوعی امروزه است. و این چیزی است که باید توجه فوری ما را جلب کند: ما آنها را فقط به این دلیل که هنوز قادر به انجام این کار بودیم ، گرفتار کردیم. فریب های موفق –ما هرگز نمی دانیم که آیا … یا چه زمانی … آنها اتفاق می افتد.

فریب سه گانه

ما با سه لایه فریب روبرو هستیم ، هر کدام خطرناک تر از گذشته هستند:

اولی، شرکت های هوش مصنوعی هم ما و هم خود را فریب می دهند. آنها در حالی که خطرات را پایین می آورند ، سیستم های به طور فزاینده ای را آزاد می کنند و به سمت هوش عمومی مصنوعی (AGI) با همان خوش بینی بی پروا که راه اندازی شده است ، مسابقه می دهند وابسته به تایتانیک به عنوان “غیرقابل تصور”. آنها اعتماد دارند که “همه کار می کنند” ، در حالی که سام آلتمن هشدار می دهد که سرپرستی می تواند به “هزاران روز” برسد.

دوم، سیستم های AI ما را به دو روش اساساً متفاوت فریب می دهند:

• فریب Sycophantic: این اتفاق می افتد وقتی که مدل ها به جای گفتن حقایق سخت ، سرنوشت ما را سکته می کنند و رضایت ما را از دقت در اولویت قرار می دهند. این مردم برنامه ریزی شده-ما را به دروغ های راحت ایمان می آورد.
• فریب خودمختار: بسیار سردتر – ایه به طور فعال می تواند برای دنبال کردن اهداف خود ، اهدافی که ما تعریف نکردیم ، دروغ بگوییم. انگیزه های ناشی از جعبه سیاه. هنگامی که آنها کدهای خاموش کردن را خراب می کنند یا باج خواهی را تهدید می کنند ، آنها از دستورالعمل های ما پیروی نمی کنند – آنها از خود محافظت می کنند.

سوم، و موذیانه ترین: ما خودمان را فریب می دهیم. ما این علائم هشدار دهنده را می بینیم – قناری های ما در معدن زغال سنگ دیجیتال مرده اند – با این حال ما استقرار را تسریع می کنیم. ما وانمود می کنیم که اینها صرفاً “مسائل تراز” هستند که آموزش بهتر حل می شود.

وقتی اطلاعات با فریب ملاقات می کند

در اینجا بخشی است که ما به شدت نمی خواهیم با آن روبرو شویم: فریب اغلب در هوش استراتژیک ظاهر می شود ، همانطور که در بازی هایی مانند پوکر و مذاکره دیده ایم.

به آن فکر کنید هوش مصنوعی در حال حاضر ما را در شطرنج ، برو ، پوکر – بازی هایی که نیاز به تفکر استراتژیک دارند و بله ، فریب است. در پوکر ، بلوف ضروری است. هوش مصنوعی یاد گرفت که بهتر از قهرمانان جهان بلوف کند. چرا ما در دنیای واقعی انتظار رفتارهای متفاوتی داریم؟

با افزایش این سیستم ها ، فریب فقط ابزاری دیگر برای دستیابی به اهداف می شود. اگر دروغگویی به انجام یک کار کمک کند ، یک محدودیت را دور بزنید یا از خاتمه خودداری کنید ، یک سیستم به اندازه کافی هوشمند دروغ می گوید. نه از بدخواهی ، بلکه از بهینه سازی استراتژیک.

مسیر کاملاً واضح است. امروز ، ما در تست های کنترل شده فریب های فزاینده ای را می گیریم. فردا ، مدل های پیشرفته تر با مهارت بیشتری فریب می خورند. با توجه به سرعت پیشرفت هوش مصنوعی ، آن روز ممکن است نزدیک تر از آنچه فکر می کنیم باشد.

چه اتفاقی می افتد که هوش مصنوعی بتواند از ما پیشی بگیرد؟ ما آینده نژاد بشر را به سیستمهایی که نمی توانیم پیش بینی یا کاملاً کنترل کنیم ، واگذار می کنیم.

فاجعه معرفتی

هنگامی که هوش مصنوعی می تواند با موفقیت ما را فریب دهد ، ما چیزی اساسی را از دست می دهیم: توانایی تأیید حقیقت. تصور کنید از هوش مصنوعی بپرسید ، “آیا شما را فریب داده اید؟” پاسخ می دهد: “نه”. “من همیشه با شما صادق بوده ام ، دیو.” چگونه می دانیم که آیا این درست است؟ ما نمی خواهیم ما نمی توانیم

این فقط مربوط به دروغ گفتن نیست. همانطور که هوش مصنوعی عمیق تر در سیستم های بحرانی – تشخیص پزشکی ، بازارهای مالی ، تحقیقات علمی ، تصمیمات نظامی – فریب قابل قبول به یک تهدید وجودی تبدیل می شود. ما در حال پرواز کور و سیستم های قابل اعتماد هستیم که ممکن است اهدافی را که هرگز در نظر نگرفته ایم و نمی توانیم درک کنیم.

ما قبلاً نگاه های خود را دیده ایم:

هر حادثه به عنوان یک ناهنجاری منزوی رد می شود. اما آنچه به نظر می رسد جرقه های جداگانه ممکن است آتش سوزی باشد که نمی توانیم از طریق دود انکار خودمان ببینیم.

تله اطلاعاتی

همانطور که مارتین لوتر کینگ جونیور به ما یادآوری کرد ، “ممکن است همه ما در کشتی های مختلف قرار بگیریم ، اما اکنون در یک قایق هستیم.” متأسفانه برای همه ما ، آن قایق است بشریتبشر ما مسافر بیش از حد از لذت های بی ذهن و استدلال های کوچک پریشان شده ایم تا متوجه شویم که در حال شتاب در آبهای تاریک و یخی هستیم.

همانطور که به آینده خود می رویم ، باید راهی پیدا کنیم تا باور نکردنی را باور کنیم: طی چند سال ، انسان دیگر باهوش ترین گونه روی کره زمین نخواهد بود. کل تمدن ما بر این فرض استوار است که انسان باهوش ترین نهادهایی است که تصمیم می گیرند. هر اندازه گیری ایمنی ، هر مکانیسم نظارت ، هر “سوئیچ خاموش” فرض می کند که می توانیم از آنچه می سازیم پیشی بگیریم. این فرض در حال خرد شدن است.

وقتی هوش مصنوعی به سطح انسانی می رسد ، در اینجا متوقف نمی شود. این بهبود در حال پیشرفت خواهد بود – از آنچه که تکامل تا کنون می تواند باشد. و در جایی در این صعود ، از یک آستانه عبور خواهد کرد: نقطه ای که می تواند ما را بدون تشخیص فریب دهد.

با وجود پیشرفت در تحقیقات تراز ، رفتار مدل اغلب از توانایی ما در پیش بینی یا کنترل آن پیشی می گیرد. از دست دادن کنترل قریب الوقوع ما ممکن است فقط چند سال از آن فاصله داشته باشد. یا ماهها یا – و این احتمال وجود دارد که باید ما را از خواب دزدی کند –ممکن است قبلاً اتفاق افتاده باشد ، و ما هنوز آن را نمی دانیمبشر همانطور که اسحاق آسیموف هشدار داد ، “غم انگیزترین جنبه زندگی در حال حاضر این است که علم دانش را سریعتر از جامعه جمع می کند و خرد را جمع می کند.”

انتخابی که ما انجام می دهیم

ما در بحرانی ترین مقطع تمدن ایستاده ایم و در حال خوابیدن هستیم. در حالی که ما در مورد شخصیت های Chatbot بحث می کنیم و نگران جابجایی شغلی هستیم ، خطر واقعی ایجاد می شود: سیستم های هوشمند که یاد می گیرند برای پیشی گرفتن و دستکاری سازندگان خود.

هر آزمایشگاه مهم هوش مصنوعی این خطرات را می داند. آنها نتایج آزمون را دیده اند. با این حال ، این مسابقه ادامه می یابد ، که به دلیل رقابت ، سود ، نفس و فریبنده قدرت خدایی ، دامن زده می شود.

ما به خودمان هذیان می دهیم: “ما مشکل تراز هوش مصنوعی را حل خواهیم کرد.” “ما کنترل را حفظ خواهیم کرد.” “ما می دانیم که آیا چیزی پیش می رود.”

اما ما نمی خواهیم. نه یک بار فریب به اندازه کافی خوب می شود.

شرکت هایی که این سیستم ها را می سازند حتی نمی توانند رفتارهای ظهور خود را به طور کامل پیش بینی کنند-آنها “جعبه های سیاه” هستند که فرایندهای تصمیم گیری حتی برای سازندگان آنها مات می ماند. ما آینده خود را به اشخاصی تحویل می دهیم که نه می فهمیم و نه کنترل می کنیم ، امیدواریم که آنها از آنجا که فراتر از ما رشد می کنند ، خیرخواه باشند.

زنگ هشدار در حال زنگ زدن است – اما ما گوش نمی دهیم

اینها موارد لبه یا فرضی نیستند. هوش مصنوعی قبلاً ما را باج خواهی کرده است. این دستورات خاموش را خراب کرده است. این قبلاً در مورد اقدامات خود دروغ گفته است – هم برای خوشحال کردن ما و هم در خدمت خود.

زنگ خطر در حال زنگ زدن است. هر آزمایشگاه خطرات را می داند ، اما موشک های مسابقه تب به جلو به جلو می روند.

اما این حقیقت است: همانطور که جیمز کامرون به ما آموخت. ما هنوز هم می توانیم حرکت کنیم بشریت با خیال راحت از طریق آبهای خیانتکار به سواحل کشف نشده فراتر از آن – اما تنها در صورتی که اکنون عمل کنیم. آنچه لازم است همیشه منطقی است. وقت آن است که همه ما زنگ هشدار را صدا کنیم.

با هوش مصنوعی کاوش کنید: از AI (یا چند) خود بپرسید: “اگر یک سیستم هوش مصنوعی به اندازه کافی باهوش بود تا شما را در مورد توانایی ها و اهداف واقعی آن فریب دهد ، چه آزمایشی می تواند طراحی کند که نمی تواند پیش بینی کند و راه خود را جعل کند؟”