منبع: NickyPe/Pixabay

آیا این فقط تخیل شماست یا هوش مصنوعی (AI) بیشتر شبیه مغزهای بیولوژیکی شده است؟ آیا مدل های جدیدتر زبان بزرگ (LLM) به گونه ای تکامل می یابند که شبیه عملکرد مغز انسان باشد؟ محققان دانشگاه کلمبیا و مؤسسه تحقیقات پزشکی فاینشتاین Northwell Health مطالعه جدیدی را در این مقاله منتشر کردند هوش ماشین طبیعت که چندین LLM را با ضبط های عصبی واقعی فعالیت مغز انسان مقایسه کرد و مناطقی را کشف کرد که این دو در آن ادغام می شوند.

یادگیری ماشینی هوش مصنوعی شامل پیچیدگی الگوریتمی ذاتی با لایه‌های پردازش عمیق شبکه عصبی مصنوعی است که تشخیص دقیق نحوه استخراج خروجی و پیش‌بینی‌های آن را غیرممکن می‌کند. شناسایی دقیق اینکه چگونه شبکه های عصبی عمیق هوش مصنوعی پس از پردازش به تصمیمات خود می رسند یک جعبه سیاه باقی می ماند.

از آنجایی که LLM ها در طول زمان با انتشار آخرین نسخه تغییر می کنند، یک چیز ثابت می ماند: شناسایی عوامل اساسی در پردازش زبان مصنوعی که به همگرایی کمک می کنند همچنان چالش برانگیز است.

گاوین میشلر، نویسنده اول، همراه با نویسندگان همکار، ینگهائو آرون لی، استفان بیکل، اشش مهتا نوشت: «اگرچه تحقیقات قبلی شباهت‌هایی را بین بازنمایی‌های LLM و پاسخ‌های عصبی نشان داده‌اند، اصول محاسباتی که این هم‌گرایی را ایجاد می‌کنند – به‌ویژه با تکامل LLM‌ها – مبهم باقی می‌مانند. و نیما مسگرانی.

تیم محققان 12 مدل LLM از پیش آموزش دیده با اندازه مشابه و منبع باز را با توانایی های زبانی متفاوت ارزیابی کردند. به طور خاص، دانشمندان LLM ها را با هفت میلیارد پارامتر (LLaMA، LLaMA2، Falcon، MPT، LeoLM، Mistral، XwinLM)، 6.9 میلیارد پارامتر (Pythia) و 6.7 میلیارد پارامتر (FairseqDense، OPT، CerebrasGPT، Galact) تجزیه و تحلیل کردند.

داده های فعالیت مغز انسان را از کجا پیدا کنیم؟ یکی از چالش‌های بزرگ در علوم اعصاب داشتن داده‌های مربوط به فعالیت مغز از انسان‌های زنده به دلایل واضح است. بنابراین، هنگامی که بیمارانی وجود دارند که به عنوان بخشی از درمان خود نیاز به ضبط مغز دارند و برای شرکت در مطالعات علوم اعصاب نیاز به جراحی مغز و اعصاب و رضایت دارند، فرصتی نادر برای محققان ایجاد می‌کند.

برای این مطالعه، دانشمندان فعالیت مغزی هشت شرکت کننده را که قبلاً برای درمان صرع مقاوم به دارو تحت عمل جراحی مغز و اعصاب قرار می گرفتند، ثبت کردند. برای شناسایی نواحی در مغز که مسئول حملات صرع هستند، حسگرهای الکترودی ویژه ای به نام الکتروانسفالوگرافی داخل جمجمه ای (iEEG) در داخل جمجمه کاشته شدند. این نوع الکترودها برای رابط های تهاجمی مغز و کامپیوتر (BCIs) استفاده می شوند. در حالی که شرکت کنندگان در مطالعه به صداهای ضبط شده صداپیشگان در حال خواندن قسمت های داستان و مکالمات گوش می دادند، فعالیت مغز آنها توسط الکترودهای iEEG کاشته شده ثبت شد.

دانشمندان نوشتند: «در اینجا ما از ضبط‌های الکتروانسفالوگرافی داخل جمجمه‌ای از بیماران جراحی مغز و اعصاب که به گفتار گوش می‌دادند برای بررسی همسویی بین LLM‌های با کارایی بالا و مکانیسم‌های پردازش زبان مغز استفاده کردیم.

برای ایجاد معیارهای امتیازدهی، مدل‌های هوش مصنوعی همان محتوایی را که شرکت‌کنندگان در مطالعه انسانی ارائه می‌کردند ارائه می‌کردند و به آنها وظایف درک خواندن و استدلال عقلانی مانند تکلیف درک شنیداری که هشت شرکت‌کننده انسانی انجام دادند، داده شد. نمره کلی عملکرد LLM برای هر یک از 12 LLM به عنوان میانگین نمرات تکلیف درک مطلب و استدلال عقل سلیم محاسبه شد.

این تیم کشف کرد که LLM هایی که بهترین عملکرد را داشتند “سلسله مراتبی از لایه ها شبیه مغز” را نشان دادند. یعنی Mistral بهترین عملکرد را داشت و به ترتیب XwinLM، LLaMA2، LLaMA، Falcon، MPT، LeoLM، FairseqDense، OPT، Pythia، CerebrasGPT و Galactica قرار گرفتند.

چیزی که این مطالعه را از سایر مطالعاتی که مغز بیولوژیکی را در مقابل یادگیری عمیق هوش مصنوعی بررسی می‌کنند متمایز می‌کند، این است که این مطالعه مدل‌های مختلف LLM را با استفاده از یک معماری منفرد و منسجم از رمزگشای ترانسفورماتور انباشته به عنوان پایه مقایسه می‌کند.

نکته اصلی تحلیل آنها این است که LLMها سلسله مراتبی را نشان دادند که بازتاب مناطق عصبی زیستی قشر مغز مسئول پردازش صدا و زبان است.

محققان همگرایی LLM و مغز انسان را به ساختار سلسله مراتبی زبان نسبت می دهند که در آن اجزای کوچکتر مانند ویژگی های بیانی، واج ها و هجاها به تدریج به اجزای زبان بزرگتر مانند کلمات، جملات و عبارات تبدیل می شوند.

دانشمندان به این نتیجه رسیدند: «این یافته‌ها جنبه‌های همگرای پردازش زبان در مغز و LLM را نشان می‌دهد و جهت‌گیری‌های جدیدی را برای توسعه مدل‌هایی ارائه می‌دهد که بهتر با پردازش شناختی انسان همسو می‌شوند.»

حق چاپ © 2024 Cami Rosso کلیه حقوق محفوظ است.