منبع: pexels/Google DeepMind

هر وقت آنلاین می شوم، نمی توانم از این احساس خلاص شوم که اینترنت دیگر نیازهای کاربران خود را در اولویت قرار نمی دهد. وقتی سعی می‌کنم در فضای مجازی حرکت کنم، این حس تقریباً ملموس وجود دارد که کسی دست‌هایش را روی فرمان می‌گذارد، به این امید که وقتی مرا از هدفم دور می‌کند و به سمت مسیرهای سودآور تعامل هدایت می‌کند، متوجه نخواهم شد.

مدل‌های درآمد مبتنی بر آگهی‌دهنده اغلب به محتوای هذل‌انگیز یا تحریک‌آمیز پاداش می‌دهند و حتی منابع معتبر را تشویق می‌کنند تا نوشته‌های خود را به سمت موضوعات تحریک‌آمیز سوق دهند. بدتر از آن، سخت‌افزار واقعی که برای دسترسی به اینترنت استفاده می‌کنیم، طوری طراحی شده است که هر چیزی را که تماشا می‌کنیم و می‌خوانیم در یک دوغاب همگن ترکیب می‌کند – موقعیت‌یابی غریبه‌ها، کلاهبرداران و الگوریتم‌ها به‌اندازه ارتباطات شخصی فوری. متأسفانه، برای افرادی که ایده‌های بد دارند، هرگز آسان‌تر نبوده است که به ذهن ما راه پیدا کنند، و عواقب بالقوه فاجعه‌باری برای افراد آسیب‌پذیری که به‌دنبال اطلاعات سلامت روان به صورت آنلاین هستند، خواهد بود.

همه اینها فرض را بر این می‌گذارد که افرادی که سعی می‌کنند با ایده‌های بدشان به ما بفروشند، در واقع افرادی هستند. و این ما را به نادری از اطلاعات نادرست سلامت روان آنلاین می‌رساند: محتوای تولید شده رویه‌ای که توسط برنامه‌های مدل زبان بزرگ (LLM) منتشر می‌شود – چیزی که شرکت‌های فناوری به عنوان «AI» بازاریابی می‌کنند.

من به عنوان فردی که از اختلال وسواس فکری-اجباری رنج می‌برم، کاملاً آگاهم که گفتمان پیرامون به اصطلاح «هوش مصنوعی» می‌تواند اضطراب آخرالزمانی را ایجاد کند، به‌ویژه به این دلیل که شرکت‌هایی که این چیزها را می‌فروشند، به‌طور عملکردی درباره پتانسیل جهانی محصولاتشان نگران هستند. سی‌ان‌ان گزارش می‌دهد که 42 درصد از مدیران عامل شرکت‌کننده در اجلاس مدیران ارشد شرکت ییل می‌گویند: «هوش مصنوعی این پتانسیل را دارد که پنج تا ده سال آینده بشریت را نابود کند.»

مدل های زبان بزرگ چگونه کار می کنند

من یک متخصص نیستم و نمی توانم بیش از یک توضیح گذرا در مورد این فناوری ارائه کنم، بلکه می توانم خلاصه آن را ارائه دهم (با کمک پرایمر عالی تیموتی بی لی و شان تروت در Ars Technica) عبارت است از: LLM کلمات را در رشته های طولانی اعداد به نام “بردار کلمه” رمزگذاری می کند و سپس هر عدد را در یک نمودار مجازی در امتداد صدها یا هزاران محور قرار می دهد. هر محور یک معیار تشابه را با کلمات دیگر نشان می دهد و اعداد طولانی تر به برنامه اجازه می دهد تا روابط معنایی پیچیده تری را محاسبه کند. از اینجا، دنباله‌هایی به نام «تبدیل‌کننده» معیارهای مشابهی را برای قرار دادن هر کلمه در متن یک جمله اعمال می‌کنند – برای مثال، روشی که یک نام خاص («جو») و یک ضمیر («او») اغلب به یک شخص اشاره می‌کنند. در نزدیکی استفاده می شود (“جو ماشینش را پارک کرد”). معنی همه اینها این است که LLM ها “کلمات را به جای کل جملات یا عبارات، به عنوان واحد اصلی تجزیه و تحلیل می کنند.”

من می دانم که اطمینان دادن به مبتلایان به OCD که ترس آنها غیرممکن است، خطرناک است. اطمینان بیرونی ما را تشویق می کند که به جای یادگیری مقابله و غلبه بر آن به تنهایی به افراد دیگر برای مدیریت اضطراب خود تکیه کنیم. بنابراین من فقط یک بار این را می گویم: لازم نیست نگران آخرالزمان هوش مصنوعی باشید. LLM ها هرگز ترمیناتور را تولید نمی کنند، بیشتر از کنفرانس ویدئویی از طریق کلاه واقعیت مجازی که ماتریکس را نشان داد. این یک فناوری جذاب با کاربردهای مختلف است، اما شباهت بیشتری با عملکرد تکمیل خودکار تلفن همراه شما دارد تا با هر چیز علمی تخیلی. هنگامی که خروجی برنامه ها را بررسی می کنید، این امر آشکار می شود. با توجه به آنچه من دیده ام، به نظر می رسد که میانگین مقاله LLM حدود 40 درصد محتوای واقعی است، 50 درصد آن محتوا را بارها و بارها بیان می کند (مثل اینکه لوسی تلاش می کند تعداد کلمات را در گزارش کتاب خود در موزیکال چارلی براون کم کند). و 10 درصد مزخرفات مطلق

اشکالات احتمالی هوش مصنوعی

خروجی LLM به طور نگران‌کننده‌ای مستعد آن چیزی است که شرکت‌های فناوری به طور شاعرانه از آن به عنوان «توهم» یاد می‌کنند، جایی که LLM بر تداعی کلمات اشتباه تأکید می‌کند و به‌طور آشکار چرندیات نادرست تولید می‌کند – مانند زمانی که LLM گوگل به طرز بدنامی کاربران خود را تشویق کرد که روی پیتزای خود چسب بزنند. من با نامیدن این وقایع “توهم” مخالفم، که به اسطوره علمی تخیلی LLM کمک می کند، به جای اینکه آن را به خاطر آنچه که واقعاً هست بدانم: یک نقص، یک اشکال، یک نتیجه عجیب و غریب از یک برنامه کامپیوتری خراب.

اما در حالی که وقتی شرکت‌های چندملیتی دستور العمل‌های پیتزای چسبی تولید می‌کنند، خندیدن آسان است، تصور چنین خطاهایی در پاسخ به پرسشی درباره بیماری روانی بسیار خنده‌دار نیست. یک LLM که وظیفه جعل هویت یک درمانگر را بر عهده دارد ممکن است به بیمار مبتلا به OCD اطمینان بی پایان بدهد، او را تشویق کند که ضدعفونی کننده دست را به صورت عمده بخرد، یا تجویز کند تا با یک بطری دو لیتری کوکای رژیمی هر چهار ساعت یک بار خوددرمانی کند. تهدید چشمگیر، اما کاملاً ساختگی یک قیام اندرویدی، آسیب واقعی و ملموسی را که LLM ها در حال حاضر انجام می دهند پنهان کرده است – انتشار اطلاعات نادرست به طور کلی، و به ویژه در مورد سلامت روان. ربات‌ها مردم و به‌ویژه جوانان را تشویق به انجام رفتارهای مضر می‌کنند.

زمانی که در کالج بودم، یک سال کامل را با افکار مزاحم شدید مرتبط با خشونت، تمایلات جنسی و مذهب سپری کردم. من تشخیص OCD نداشتم، و وقتی به اندازه کافی شجاع بودم که افکارم را برای مشاور کالج خوش‌نیت اما بی‌صلاحیت‌ام توضیح دهم، او نمی‌دانست چه باید از آنها بخواهد. بدون هیچ توضیح دیگری، متقاعد شدم که این افکار غیرقانونی و خارج از کنترل، نشانه‌ای است که من در حال انحطاط به سمت روان‌پریشی کامل هستم.

در طول سال دوم، در لحظه ای از ناامیدی خلاقانه، به گوگل روی آوردم: «چرا نمی توانم به بدترین چیزهای ممکن فکر نکنم؟» من به درستی به مقاله ویکی پدیا در مورد OCD خالص هدایت شدم. یک مقاله آنلاین هرگز جایگزین تشخیص حرفه ای نمی شود، اما من نیازی به آن نداشتم – فقط به زبان مناسب برای توصیف علائمم و کمی راهنمایی برای جستجوی نوع کمک مناسب نیاز داشتم. اینترنت سال 2007 می تواند آن را فراهم کند.

از اینکه فکر می کنم اگر از یک LLM می پرسیدم چه اتفاقی می افتاد می لرزم.

شاید یک LLM می توانست به من کمک کند. شاید بردارهای کلمه جستجوی من را در مجاورت کلمات “مخالف”، “افکار” و “OCD” قرار می داد. سه ماه درمان فشرده با متخصصان OCD طول کشید تا بتوانم علائمم را کنترل کنم، اما شاید یک درمانگر LLM به همان اندازه کار خوبی انجام می داد. این امکان وجود دارد که یک LLM بتواند من را از شرم عمیقی که من را از بیان علائمم باز می داشت، تشویق کند، به من کمک کرد تا پیچیدگی موذیانه افکارم را بیان کنم و در درمان طاقت فرسا قرار گرفتن در معرض و پیشگیری از پاسخ (ERP) که برای بهبودی نیاز داشتم، مربی ام کند. بعید است. شاید، به دلیل برخی ابهامات شبکه عصبی اش، LLM من هوشیارانه با اطمینان کامل به من اطلاع می داد که در حال تجربه یک استراحت روانی هستم و باید خودم را به پلیس تبدیل کنم.

خطرات صنعت “AI Therapy”.

به همین دلیل است که من از فوران ناگهانی صنعت خوداعلام شده “درمان با هوش مصنوعی” وحشت دارم. یک “درمانگر هوش مصنوعی” نه باهوش است و نه درمانگر – این یک صفحه گسترده اکسل است که حروف را بطور خودکار مرتب می کند به ترتیبی که درمانگران معمولاً از آنها استفاده می کنند. .

من صادقانه نمی توانم بگویم که آیا اینترنت برای سلامت روان جمعی ما کاملاً مثبت یا منفی بوده است. به هر حال، بدون گوگل و ویکی‌پدیا، هرگز به دنبال تشخیصی که برای فرار از مارپیچ OCD نیاز داشتم، نمی‌رفتم. اما من کاملاً مطمئن هستم که می گویم اینترنت دهه 2020 مکانی خطرناک برای افراد آسیب پذیر است و LLM ها بخشی از این مشکل هستند.

این ماشین‌ها می‌توانند آسیب‌های بزرگی به بار آورند، نه به این دلیل که «هوشمند» هستند، بلکه به این دلیل که مصنوعی هستند و می‌توانند هم از نظر خنده‌دار معیوب باشند و هم به‌شدت غیراخلاقی – بر خلاف بسیاری از کسانی که به دنبال سود بردن از آنها هستند.

مراقب باشید – اینترنت امروزی اهمیتی نمی دهد که به شما آسیب برساند.

حق چاپ فلچر ورتمن 2024