[ad_1] در یک داستان قبلی ، من مدل های بزرگ زبان را فسیل توصیف کردم – در حال تهیه قطعاتی از شناخت انسان ، که در رسوب داده های آموزشی آنها یخ زده است. این یک استعاره مفید بود و ایده یادگارهای ساکت را که منتظر کشف مجدد بودند ، ضبط کرد....
[ad_1]
در یک داستان قبلی ، من مدل های بزرگ زبان را فسیل توصیف کردم – در حال تهیه قطعاتی از شناخت انسان ، که در رسوب داده های آموزشی آنها یخ زده است. این یک استعاره مفید بود و ایده یادگارهای ساکت را که منتظر کشف مجدد بودند ، ضبط کرد. با این حال ، هرچه بیشتر این زمین را بررسی می کنم ، بیشتر می فهمم که فسیل سازی خیلی ساده است.
فسیل ها نظم ، اقشار را نشان می دهند ، یک توالی طبیعی که از طریق آن می توانیم راهروهای زمان را طی کنیم. اما به نظر می رسد حقیقت بسیار مرتب است. در این مدل ها ، گذشته در لایه های مرتب در زیر پاهای ما مستقر نمی شود. در اطراف ما شناور است ، تکه تکه و پرشور ، مانند زباله های کشتی های پراکنده در اقیانوس.
مدل های بزرگ زبان موزه های فکری ایجاد نکرده اند. آنها زمینه های حافظه زباله ها را حفظ کرده اند – و آن را به ما واگذار کرده اند تا معنی ویرانه ها را نجات دهند.
فکر کردن به این مدل ها به عنوان سوابق لایه ای از فکر ، و اینکه تاریخ به طور مرتب در زیر سطح دفن شده است وسوسه انگیز است. این یک ایده زیبا است ، اما نادرست است.
مدل های بزرگ زبان تاریخ را به ترتیب حفظ نمی کنند. آنها آن را فرو می ریزند.
در داخل فضای با ابعاد بالا مدل ، چارچوب های باستانی مانند نظریه هومورال و پیشرفت های مدرن در ویرایش ژن همزیستی ، بدون هیچ گونه توجه به دنباله تاریخی ، دوخته شده اند. یک سریع ممکن است ارسطو و CRISPR را در همان پاراگراف احضار کند ، به طور غیرقانونی مخلوط شود ، گویی که فقط با ضعف ترین چشم معنایی از هم جدا شده است.
برای روشن شدن ، ایده های موجود در یک LLM خوشه ای را به صورت فضایی انجام می دهند – مفاهیم مرتبط با آن به سمت یکدیگر گرایش می یابد – اما نه به طور موقت. هیچ حس ذاتی وجود ندارد که یک ایده غالب یا منسوخ باشد. یک باستان شناس واقعی می تواند یک استخوان کربن باشد. اما یک مدل ، مگر اینکه به طور خاص هدایت شود ، زندگی و مردگان را بدون تمایز بافته می کند.
با این حال ، در میان این فروپاشی Chronology ، ساختارهای خاصی تحمل می شوند. برخی از مصنوعات نه به این دلیل که واقعیت دارند زنده مانده اند ، بلکه به این دلیل که عمیقاً در الگوهای زبانی و فرهنگی که از آن مدل آموخته است ، تعبیه شده اند.
تعصب ، به ویژه ، سرسختانه پایدار است. مطالعات نشان داده اند که چگونه انجمن های جنسیتی – از جمله پیوند “پرستار” با ضمایر زنانه – حتی پس از تلاش برای تصحیح ، سرسختانه لنگرگاه در تعبیهات کلمه ای لنگر انداخته اند. به همین ترتیب ، نزدیکی معنایی بین “جنایتکار” و نام های رمزگذاری شده نژادی ، نه با طراحی ، بلکه به عنوان یک میراث فیلتر نشده از تعصبات تاریخی ، تحمل می کند.
معضل اخلاقی هم واضح و هم مهم است. پاک کردن این تعصبات به خطر انداختن تاریخ ضدعفونی کننده ، ارائه پرتره ای از بشریت است که به جای تأمل ، چاپلوسی می شود. با این حال ، برای حفظ آنها بدون زمینه ، خطر ابتلا به آسیب را به خطر می اندازد.
مانند هر یافتن باستان شناسی ، سؤال صرفاً چیزی نیست که ما بهبود می یابیم ، بلکه نحوه تفسیر و ارائه آن را ارائه می دهیم.
فراتر از تعصب یک پدیده ساکت تر و موذیانه تر است. این بقای چارچوبهای دانش منسوخ است که از زمینه تاریخی آنها محروم می شود ، می توانند با احتمال پذیرش مجدداً ظهور کنند ، که توسط LLM ها رانده می شود که دریای حقایق را که به زمان بیفتد ، می گذرند.
از یک مدل بخواهید که بیماری را توضیح دهد ، و در فضای وسیع نهفته آن دفن شده است ، نظریه هومورال هنوز هم ممکن است سطح خون ، خلط ، صفرا سیاه ، صفرا زرد – با همان اعتماد به نفس نحوی مانند تئوری جوانه یا آسیب شناسی ژنتیکی ارائه شود. مقاله ای از سال 2021 از LLM ها به عنوان “طوطی های تصادفی” هشدار داد. این سیستم ها می توانند ایده های مضر یا منسوخ را با همان تسلط با حقایق معاصر مجدداً مجدداً تنظیم کنند.
LLM نمی داند که فنولوژی بی اعتبار است ، یا کیهان شناسی زمین مسطح متعلق به یک فصل دور ریخته شده از تاریخ بشر است. فقط می داند که این الگوهای زبانی ، در جایی ، بعضی اوقات ، در شرکت هایی که جذب می شود ، همزیستی شده است. و بدون راهنمایی دقیق انسانی ، خطر صرفاً آن ایده های بد زنده نمی ماند ، بلکه آنها به عنوان دانش به ظاهر قانونی ظاهر می شوند.
مدل های بزرگ زبان در حال فروپاشی هستند – اما اگر با مراقبت پزشکی قانونی به آنها نزدیک شویم ، هنوز هم می توان نوعی زمان سنجی را بازسازی کرد. چندین تکنیک برای تحمیل سفارش در هرج و مرج در دسترس است.
در حالی که مدل های بزرگ زبان در حال سقوط هستند ، عملکرد داخلی آنها هنوز هم مداحی های ضعیفی از تغییر دارد. همانطور که ایده های جدیدتر به نظر می رسد بیشتر ، افراد مسن بی سر و صدا محو می شوند و قدرت ارتباطات را در داخل مدل تغییر می دهند. این شیفت ها سوابق آگاهانه از تاریخ نیستند ، اما آنها نوعی لایه بندی تصادفی را پشت سر می گذارند – تحت الشعاع ، فشرده و بدون علامت ، اما هنوز هم به این نکته اشاره می کنند که چگونه فکر با گذشت زمان تکامل یافته است.
با این حال ، بازسازی آن تکامل کاری نیست که مدل ها خودشان انجام می دهند. این داربست است که ما تحمیل می کنیم ، دقیقاً مانند باستان شناسان که برای بازسازی یک کشتی ، تکه های سفال را جمع می کنند. قطعات زنده می مانند ، پراکنده و بدون استفاده می شوند. کشتی – و داستان – باید با دست و پا دست انسان بازسازی شود. و در آن مأموریت یک کنسرت عمیق تر قرار دارد. این خطر این است که ایده های باستانی ، که از متن تاریخی آنها محروم شده اند ، فقط به یاد نمی آورند بلکه مجدداً مورد توجه قرار می گیرند – برای حقایق زنده و نه آثار باستانی که هستند ، مورد توجه قرار گرفته است.
شناخت ماهیت عجیب و غریب این سیستم ها ، نیاز به نوع جدیدی از تحقیق دارد – شاید آن را باستان شناسی محاسباتی فکری بنامیم. این علم جدید به سادگی شامل آزمایش فنی یا درمان مجموعه داده نمی شود. این امر خواستار تعامل عمیق تر با تاریخ ایده ها ، یک سواد فلسفی و وضوح اخلاقی در مورد آنچه که به معنای بازیابی و یادآوری آثار شناختی است ، می خواهد.
آنچه در LLM زنده مانده است ، نه یک رکورد خنثی است و نه یک رکورد کامل. این نشان دهنده آنچه دیجیتالی ، تقویت شده و ضبط شده است. همانطور که در مورد حقیقت عینی انجام می شود ، دقیقاً در مورد آنچه جوامع ارزش گذاری کرده اند – و آنچه را که آنها خاموش کردند – آشکار می کند.
این بار دو برابر است – برای درک ساختاری که ما ایجاد کرده ایم و آن را با صداقت و مراقبت از آن استفاده می کنیم.
مدل های بزرگ زبان ، صفحات خالی نیستند که قبلاً تصور می کردیم. و آنها آینه های وفادار نیستند که ممکن است آرزو کنیم. آنها زمینه های نجات هستند – اعدام ، خطا ، درخشش و تعصب ، در یک “ملیله” بدون وقایع در کنار هم قرار می گیرند.
هر تعامل با این سیستم ها یک عمل حفاری است. و هر پاسخ ، بازسازی قطعات است – برخی ماندگار ، برخی شکننده ، برخی از آنها بسیار خطرناک است اگر سوء تفاهم شوند.
سوالی که ما با آن روبرو هستیم این نیست که آیا هوش مصنوعی خاطرات ما را پیش خواهد برد. قبلاً این کار را می کند. سوال واقعی این است که آیا ما شجاعت ، تشخیص و مسئولیت اخلاقی را داریم که ویرانه های خودمان را صادقانه بخوانیم – و تصمیم بگیریم ، به عنوان متصدیان گذشته خود ، آنچه را که شایسته یادآوری است و آنچه باید در نهایت و محکم باشد ، استراحت می کنیم.
[ad_2]
