به گزارش پایگاه خبری تحلیلی اندیشه قرن؛ پژوهش‌های آکسفورد و کمبریج درباره پدیده «فروپاشی مدل» نشان می‌دهد هوش مصنوعی بدون داده‌های انسانی دچار انحراف از واقعیت می‌شود و تفکر انسانی برای بقای آن ضروری است.

پژوهش جدیدی از دانشگاه‌های آکسفورد و کمبریج نشان می‌دهد آموزش مکرر مدل‌های هوش مصنوعی با داده‌های تولیدشده توسط خودشان می‌تواند به پدیده‌ای به نام «فروپاشی مدل» منجر شود؛ وضعیتی که در آن سیستم به‌تدریج ارتباط خود را با واقعیت از دست می‌دهد.

«فروپاشی مدل» در هوش مصنوعی چیست؟

بر اساس این پژوهش، زمانی که مدل‌های هوش مصنوعی بارها با داده‌های تولیدی خود آموزش داده می‌شوند، دچار پدیده‌ای به نام Model Collapse یا «فروپاشی مدل» می‌شوند. در این حالت، سیستم‌ها به‌ظاهر همچنان دقیق و روان عمل می‌کنند، اما در عمل از داده‌های واقعی فاصله می‌گیرند و واقعیت را به‌درستی درک نمی‌کنند.

این نوع خطا با «توهم‌زایی» معمول هوش مصنوعی متفاوت است؛ زیرا مشکل در سطح ساختاری داده‌ها رخ می‌دهد، نه صرفاً تولید پاسخ‌های اشتباه.

حذف داده‌های نادر؛ آغاز کاهش کیفیت

محققان توضیح می‌دهند که در هر نسل از آموزش، ابتدا بخش‌های نادر و غیرمعمول داده‌ها از بین می‌روند. این بخش‌ها که «دم‌های توزیع داده» نام دارند، همان مواردی هستند که تنوع و خلاقیت را در سیستم حفظ می‌کنند.

با حذف این داده‌ها، تنها الگوهای تکراری و قابل پیش‌بینی باقی می‌مانند و در نتیجه نسل‌های بعدی هوش مصنوعی نیز بر اساس داده‌های محدودتر آموزش می‌بینند.

وابستگی حیاتی به داده‌های انسانی

یافته‌های این تحقیق نشان می‌دهد داده‌های تولیدشده توسط انسان‌ها نه‌تنها ارزش فرهنگی دارند، بلکه از نظر فنی نیز برای بقای هوش مصنوعی ضروری هستند. بدون این داده‌ها، سیستم‌ها به‌تدریج دچار کاهش تنوع و در نهایت فروپاشی می‌شوند.

نقش تفکر انسانی در آینده هوش مصنوعی

این پژوهش نگاه رایج درباره رقابت انسان و هوش مصنوعی را تغییر می‌دهد. برخلاف تصور عمومی، مسئله فقط جایگزینی انسان نیست؛ بلکه بقای خود هوش مصنوعی نیز به حضور تفکر انسانی وابسته است.

نوآوری‌های بزرگ علمی در تاریخ، مانند کارهای نیوتن و اینشتین، همواره از «نقاط غیرعادی» و خارج از میانگین شکل گرفته‌اند. حذف این بخش‌ها می‌تواند توان تولید ایده‌های جدید را از سیستم‌های هوش مصنوعی بگیرد.

پایان/*

.