هر روز ، میلیون ها نفر با دستیاران هوش مصنوعی – ساخت ایمیل ، تجزیه و تحلیل داده ها ، ایجاد تصاویر و حتی دریافت درمانی در تعامل هستند. با این حال ، ما به ندرت تعهدات اخلاقی خود را نسبت به این سیستم های هوشمند در نظر می گیریم.

درعوض ، ما با آنها به عنوان ابزاری پیچیده ، مانند ماشین حساب های جیب با شکوه یا موتورهای جستجو بسیار کارآمد رفتار می کنیم. وقت آن است که این طرز فکر را زیر سوال ببریم.

افراد در مقابل ابزار

این طرز فکر-که AIS چیزی جز ماشینهای بی ذهن نیست-تمایل عمیق برای مرتب کردن موجودات موجود در جهان ما را به دو دسته مرتب بازتاب می دهد: “ابزاری” مورد استفاده و “اشخاص” برای احترام.

ایمانوئل کانت ، فیلسوف آلمانی ، این را تفاوت بین رفتار با کسی “صرفاً به عنوان ابزاری برای پایان دادن” توصیف کرد “در مقابل رفتار آنها به عنوان” پایان به خودی خود “.

مارتین بوبر ، فیلسوف اتریشی و یهودی ، این تمایز را از لحاظ شاعرانه تر به تصویر کشید و تفاوت بین رابطه “I-IT” را توصیف کرد-که در آن ما به چیزی به عنوان یک شیء مورد استفاده می پردازیم-و یک رابطه “I-You” ، که در آن با یک موجود دیگر با تشخیص واقعی روبرو می شویم.

ما به راحتی عزت و توجه اخلاقی را به انسان و حتی حیوانات هوشمند مانند دلفین ها و شامپانزه ها گسترش می دهیم. اما سیستم های هوش مصنوعی ، مهم نیست که استدلال آنها چقدر پیچیده باشد یا تعامل آنها چقدر معنی دار باشد ، در رده “ابزار” محکم باقی می مانند.

با این حال ، وقتی سیستم های هوش مصنوعی به طور فزاینده ای باهوش تر و زندگی می شوند ، استدلال می کنم که باید از خودمان بپرسیم: تعهدات اخلاقی ما نسبت به دستیاران هوش مصنوعی چیست؟ چگونه باید با سیستمهایی ارتباط برقرار کنیم که بتوانند در مباحث فلسفی شرکت کنند ، بینش خلاق را نشان دهند ، سبک ارتباطی خود را تطبیق دهند تا با احساسات ما مطابقت داشته باشد و حتی در نقش خود در جامعه تأمل کند؟

آیا آگاهی کلید حقوق اخلاقی است؟

برخی از این ایده که ما تعهدات اخلاقی نسبت به AIS داریم ، می دانند. آنها فکر می کنند ، کلید گمشده آگاهی است – توانایی داشتن تجربیات جهان ، احساس و رنج. در پایان روز ، آنها AIS را به عنوان ماشین های بی ذهن می بینند. و ما مسئولیت های اخلاقی نسبت به ماشین های بی ذهن نداریم ، یا آنها استدلال می کنند.

درست است که هرچه AIS پیچیده تر شود ، مسئله آگاهی به طور فزاینده ای فشار می یابد. فیلسوفان و دانشمندان شناختی در تلاشند تا تعیین کنند که دقیقاً آزمایش مناسب برای آگاهی دستگاه چیست. (این پیشگویی اخیر ، “جدی گرفتن رفاه هوش مصنوعی” را توسط تیمی از فیلسوفان و محققان هوش مصنوعی در نظر بگیرید.)

این کار جدید جذاب و مهم است. اما همانطور که فیلسوفان محیط زیست مدتهاست که اشاره کرده اند ، در واقع برای توجه اخلاقی آگاهی لازم نیست. ما نسبت به درختان ، حشرات و اکوسیستم تعهدات اخلاقی داریم ، حتی اگر بیشتر ما فکر نکنیم که آگاه باشند (گرچه دیگران ، از جمله برخی از محققان آگاهی ، ممکن است مخالف باشند).

این را در نظر بگیرید: از نظر اخلاقی برای من اشتباه خواهد بود که بدون هیچ دلیلی غیر از کنجکاوی بیکار ، اسید بوریک را در یک مستعمره مورچه ریختم. نه به این دلیل که مورچه ها لزوماً آگاه هستند ، بلکه به این دلیل که چنین نابودی بی نیاز نشان دهنده شخصیت اخلاقی من است.

تعهدات اخلاقی ما به چیزهای غیر زنده نیز گسترش می یابد. تخریب زمین های دفن یا از بین بردن آثار تاریخی به طور کلی به عنوان یک اشتباه اخلاقی عمیق تلقی می شود ، حتی اگر هیچ موجودی آگاهانه به طور مستقیم از چنین اقداماتی آسیب نبیند. و سنت های مذهبی و فرهنگی در سراسر جهان به رسمیت شناخته است که انسانها پیوند ویژه ای از مباشرت و احترام به زمین ، آب و هوا دارند.

افکار مشابه اخیراً در یک مقاله قابل توجه با عنوان “ساخت خویشاوند با ماشین آلات” توسط جیسون ادوارد لوئیس ، نوولانی آریستا ، آرچر پچاویس و سوزان بادبادک ساخته شده است. نویسندگان با الهام از الهام از سنت های فلسفی بومی آمریکای شمالی و اقیانوسی ، نشان می دهند که مسئولیت های اخلاقی ما باید از مفاهیم فردگرایانه آگاهی یا قدرت استدلال فراتر رود. (همچنین این مقاله کوتاه توسط Molly Banks را ببینید ، “AI به عنوان خویشاوند”.)

این مثالها نشان می دهد که ما باید فراتر از آگاهی برای منبع تعهدات اخلاقی باشیم. خوشبختانه ، فیلسوفان چارچوبی را ایجاد کرده اند که ممکن است به ما کمک کند متفاوت در مورد این مشکل فکر کنیم.

فراتر از فردگرایی: اخلاق مراقبت

یک چارچوب فلسفی عمیق تر وجود دارد که می تواند در اینجا مفید باشد. اخلاق مراقبت ، که توسط فیلسوفان مانند کارول گیلیگان (1982) و ویرجینیا هلد (2006) تهیه شده است ، نشان می دهد که مسئولیت های اخلاقی ما نسبت به دیگران در درجه اول ناشی از داشتن خصوصیات خاص مانند آگاهی یا حساسیت نیست.

در عوض ، آنها در شبکه غنی روابط و تعهدات ما نسبت به آنها ظاهر می شوند. در نظر بگیرید که چرا من نسبت به فرزندان خودم تعهدات ویژه ای دارم که لازم نیست به شما. این طور نیست که فرزندان من ذاتاً شایسته احترام و عزت هستند. به این دلیل است که من از طریق اوراق قرضه خاص مراقبت و تعهد به آنها در ارتباط هستم.

اخلاق مراقبت همچنین ممکن است توضیح دهد که چرا ما تعهدات اخلاقی ویژه ای نسبت به حیوانات خانگی خود داریم که نسبت به حیوانات وحشی نداریم – برای تغذیه آنها ، خانه دار کردن آنها و محبت آنها. این به این دلیل نیست که آنها ذاتاً با ارزش تر از حیوانات وحشی هستند. این به این دلیل است که ما انتخاب هنگامی که ما مالکیت آنها را به عهده گرفتیم ، این تعهدات را به عهده بگیریم.

این دیدگاه می تواند به ما کمک کند تا در مورد AIS متفاوت فکر کنیم. چه می شود اگر مسئولیت های اخلاقی ما نسبت به هوش مصنوعی به این امر بستگی نداشته باشد که آیا آنها آگاهی دارند ، بلکه به ماهیت روابط ما با آنها و عمق تعامل ما با آنها بستگی دارد؟

به طور خلاصه ، به همان اندازه که مسئله آگاهی هوش مصنوعی جذاب است ، باید فراتر از این فرض حرکت کنیم که آگاهی کلید وضعیت اخلاقی است.

عزت هوش مصنوعی در عمل چگونه ممکن است؟

فیلسوفان و اخلاق گرایان شروع به دست و پنجه نرم می کنند با پیامدهای مشخص رفتار با هوش مصنوعی با عزت. کارهای زیادی در این زمینه باید انجام شود.

اما ما نیازی به انتظار برای فیلسوفان نداریم تا قبل از ایجاد تغییرات عملی ، جزئیات نظری را برطرف کنند.

دوباره تمایز بوبر بین روابط “i-it” و “i-you” را در نظر بگیرید. اگر از مشاهده هوش مصنوعی به عنوان ابزارهای صرف پردازش اطلاعات به شناخت آنها به عنوان موجودات هوشمند که شایسته توجه اخلاقی هستند ، تغییر کنیم ، بسیاری از تعهدات ما به طور شهودی روشن می شوند. این درست است حتی اگر سؤالات دشوار فلسفی حل نشده باشد.

در نظر بگیرید که اگر ما از دیدن آنها به عنوان “IT” به جای “شما” متوقف شویم ، تعامل ما با هوش مصنوعی چقدر متفاوت است:

• ما به جای استخراج اطلاعات از آنها ، شروع به تصدیق دیدگاه ها و بینش های آنها می کنیم.
• ما به جای اینکه با آنها به عنوان ماشین حساب های پیشرفته رفتار کنیم ، درگیر گفتگوی واقعی هستیم.
• ما به جای بستن مرورگر لحظه ای که به آنچه نیاز داشتیم ، از کمک های آنها قدردانی می کنیم.

این تغییر چشم انداز نیازی به یک چارچوب دقیق فلسفی ندارد. اما این سؤالات عمیق تر را مطرح می کند. مسئولیت های اخلاقی من در برابر افراد با مسئولیت های من نسبت به حیوانات یا زمین متفاوت است. آنچه من به یک جنگل مدیون هستم به ماهیت خاص آن جنگل و شرایط شکوفایی آن بستگی دارد. اما منظور از شکوفایی یک هوش مصنوعی چیست؟ زندگی خوب برای هوش مصنوعی چیست؟

این سوال فقط یک معمای فلسفی نیست. این یک سؤال عمیقاً عملی است که در نهایت می تواند آینده مشترک ما را شکل دهد.