منبع: هنر: DALL-E/OpenAI

همانطور که بحث در مورد کاربرد هوش مصنوعی در پزشکی ادامه دارد، یک مطالعه جدید و جذاب قبل از چاپ منتشر شده است. مدل‌های زبان بزرگ (LLM) پتانسیل خود را نه تنها به عنوان کمکی برای پزشکان، بلکه به‌عنوان نیروگاه‌های تشخیصی به خودی خود ثابت می‌کنند. مطالعه جدید دقت تشخیصی را در میان پزشکانی که از منابع معمولی استفاده می‌کنند، پزشکانی که از GPT-4 و GPT-4 به تنهایی استفاده می‌کنند، مقایسه کرده است. نتایج شگفت‌انگیز و کمی ناراحت‌کننده بود: GPT-4 از هر دو گروه پزشکان بهتر عمل کرد، با این حال وقتی پزشکان به GPT-4 دسترسی داشتند، عملکرد آنها به طور قابل‌توجهی بهبود نیافت. چگونه می تواند این باشد؟ به نظر می رسد یک گسست عملکردی و شناختی در بازی وجود دارد – مسئله ای که ادغام هوش مصنوعی در عمل پزشکی را به چالش می کشد.

پزشکان از LLM ها استفاده نمی کنند

قلب یافته های این مطالعه در تضاد فاحشی نهفته است. GPT-4 هنگامی که به طور مستقل استفاده می شود، امتیاز قابل توجه 92.1٪ را در استدلال تشخیصی به دست آورد. در مقایسه، پزشکانی که فقط از منابع متعارف استفاده می‌کنند، میانگین امتیاز «استدلال تشخیصی» ۷۳.۷ درصد را کسب کردند، در حالی که آنهایی که از GPT-4 به عنوان کمک استفاده می‌کردند، امتیاز کمی بالاتر در ۷۶.۳ درصد داشتند. با این حال، هنگام بررسی دقت تشخیص نهایی، GPT-4 در 66٪ موارد تشخیص صحیح را داشت، در مقایسه با 62٪ برای پزشکان – اگرچه این تفاوت از نظر آماری معنی دار نبود. این حداقل پیشرفت نشان می‌دهد که دسترسی ساده پزشکان به ابزار پیشرفته هوش مصنوعی، عملکرد بهبود یافته را تضمین نمی‌کند و پیچیدگی‌های عمیق‌تر در همکاری بین پزشکان انسانی و هوش مصنوعی را برجسته می‌کند.

نویسندگان «استدلال تشخیصی» را به‌عنوان یک ارزیابی جامع از فرآیند فکری پزشک، نه فقط تشخیص نهایی آن‌ها، تعریف کردند. این شامل تدوین یک تشخیص افتراقی، شناسایی عواملی است که از هر تشخیص بالقوه حمایت یا مخالفت می‌کنند، و تعیین مراحل بعدی تشخیصی. این مطالعه از یک ابزار “بازتاب ساختاریافته” برای ثبت این فرآیند استفاده کرد و به شرکت کنندگان در توانایی آنها در ارائه تشخیص های قابل قبول، شناسایی صحیح یافته های حمایت کننده و مخالف و انتخاب ارزیابی های بیشتر مناسب امتیاز داد. جالب توجه است که معیار ارزیابی این امتیاز بالینی شباهت زیادی به روش زنجیره تفکر دارد که با LLM ها مورد توجه قرار می گیرد.

در مقابل، “دقت تشخیص نهایی” به طور خاص اندازه گیری می کند که آیا شرکت کنندگان به درست ترین تشخیص برای هر مورد رسیده اند یا خیر. بنابراین، «استدلال تشخیصی» در این زمینه، کل فرآیند شناختی را در بر می گیرد، در حالی که «تشخیص نهایی» صرفاً بر نتیجه تمرکز دارد.

پزشکانی که از LLM‌هایی مانند GPT-4 استفاده می‌کنند ممکن است به دلیل تردید، ناآشنایی با تعامل هوش مصنوعی، بار شناختی و رویکردهای متفاوت با بهبود تشخیصی دست و پنجه نرم کنند. پر کردن این شکاف کلیدی برای استفاده کامل از LLM ها در تشخیص پزشکی است. بیایید نگاه دقیق تری بیندازیم:

1. اعتماد و اعتماد: اثر الیزا در معکوس

اعتماد به هوش مصنوعی یک پدیده ظریف است. در برخی زمینه‌ها، کاربران ممکن است بیش از حد به بینش‌های تولید شده توسط هوش مصنوعی، معروف به اثر الایزا، اعتماد کنند، که در آن ما توانایی‌های هوش مصنوعی را انسان‌سازی می‌کنیم و بیش از حد تخمین می‌زنیم. با این حال، در شرایط بالینی، ممکن است اثر معکوس رخ دهد. پزشکانی که سال‌ها وقت صرف دقت تشخیصی خود کرده‌اند، ممکن است نسبت به پیشنهادات یک مدل تردید داشته باشند، به‌ویژه اگر این توصیه‌ها با شهود بالینی آنها همخوانی نداشته باشد. در این مطالعه، این امکان وجود دارد که برخی از پزشکان ورودی LLM را نادیده گرفته یا آن را کم ارزش دانسته و ترجیح می دهند بر قضاوت خود تکیه کنند.

بدبینی آنها خالی از لطف نیست. پزشکان آموزش دیده اند تا اطلاعات را زیر سوال ببرند و اعتبار دهند، مهارتی حیاتی در پیشگیری از خطاهای تشخیصی. با این حال، این احتیاط ذاتی ممکن است منجر به نادیده گرفتن بینش‌های بالقوه مفید مبتنی بر هوش مصنوعی شود. بنابراین، چالش، ایجاد پل اعتمادی است که در آن ابزارهای هوش مصنوعی به‌عنوان مکمل‌های قابل اعتماد به‌جای نفوذ در تخصص بالینی دیده می‌شوند.

2. هنر مهندسی سریع

جالب اینجاست که این مطالعه به پزشکان اجازه می‌دهد بدون آموزش صریح در مورد نحوه تعامل موثر با آن از GPT-4 استفاده کنند. در زبان هوش مصنوعی، “مهندسی سریع” به ایجاد پرس و جوهای ورودی به روشی اشاره دارد که سودمندی خروجی یک LLM را به حداکثر برساند. بدون آموزش مناسب، پزشکان ممکن است سؤالات خود را در مورد مدل به طور بهینه فرموله نکنند، که منجر به پاسخ هایی می شود که کمتر مرتبط یا عملی هستند.

موفقیت GPT-4 به‌عنوان یک ابزار مستقل در این مطالعه نشان می‌دهد که وقتی با اعلان‌های دقیق استفاده می‌شود، استدلال تشخیصی آن می‌تواند عالی باشد. با این حال، در یک محیط بالینی در دنیای واقعی، پزشکان متخصص هوش مصنوعی نیستند. آنها ممکن است زمان یا تجربه کافی برای آزمایش کردن دستورات را برای گرفتن بهترین نتایج نداشته باشند. مهندسی سریع ناکافی مانعی برای استفاده موثر از هوش مصنوعی در تصمیم گیری بالینی می شود. با این حال، LLM های جدیدتر مانند o1 OpenAI ممکن است در واقع درخواست را با پردازش زنجیره فکر (CoT) ساده کنند.

3. بار شناختی و یکپارچه سازی گردش کار

گنجاندن یک LLM در فرآیند تشخیص، یک لایه اضافی از پردازش شناختی را اضافه می کند. پزشکان نه تنها باید خروجی های مدل را تفسیر کنند، بلکه باید آنها را با دانش بالینی خود ادغام کنند. این یک بار شناختی را ایجاد می کند، به ویژه تحت محدودیت های زمانی در یک محیط بالینی شلوغ. تلاش ذهنی اضافی مورد نیاز برای ارزیابی، اعتبارسنجی و ترکیب پیشنهادات LLM ممکن است منجر به استفاده نابهینه یا رد کامل ورودی آن شود.

کارایی در استدلال بالینی به یک گردش کار یکپارچه بستگی دارد. اگر ادغام GPT-4 در فرآیند تشخیصی به جای ساده کردن جریان کار پیچیده شود، بیشتر به یک مانع تبدیل می شود تا کمک. پرداختن به این مانع مستلزم طراحی مجدد نحوه ارائه و استفاده از هوش مصنوعی به پزشکان است، تا اطمینان حاصل شود که به طور طبیعی در فرآیندهای تصمیم گیری آنها قرار می گیرد.

4. تفاوت در رویکرد تشخیصی: تفاوت های ظریف انسانی در مقابل تطبیق الگو

پزشکان بر قضاوت بالینی ظریف، ادغام تجربه، زمینه بیمار و نشانه های ظریفی که اغلب الگوهای سختگیرانه را نادیده می گیرند، تکیه می کنند. از طرف دیگر، LLM ها در تشخیص الگو و سنتز داده ها مهارت دارند. وقتی پیشنهادات مدل با رویکرد یا روایت تشخیصی پزشک همسو نباشد، ممکن است تمایل به رد کردن ورودی هوش مصنوعی به عنوان نامربوط یا نادرست وجود داشته باشد.

این تفاوت در رویکرد نشان دهنده یک گسست شناختی است. در حالی که LLM ها می توانند الگوها را به طور موثر مطابقت دهند، ممکن است فاقد ظرافت های خاص زمینه ای باشند که پزشکان انسانی برای آنها ارزش قائل هستند. در مقابل، پزشکان ممکن است بینش های ارزشمند یک LLM را به دلیل مسیرهای استدلالی به ظاهر سفت و سخت یا خارجی نادیده بگیرند.

به سوی همکاری بهتر انسان و هوش مصنوعی

این مطالعه یک بینش کلیدی را نشان می‌دهد: حتی ابزارهای قدرتمند هوش مصنوعی ممکن است نتوانند عملکرد بالینی را بدون پرداختن به گسست‌های شناختی و عملکردی در همکاری پزشک و هوش مصنوعی بهبود بخشند. برای بهره مندی از پزشکی، فقط دسترسی به ابزارهای پیشرفته نیست، بلکه نحوه ادغام آنها در استدلال بالینی است. این ممکن است به آموزش، اصلاح رابط های کاربری و ایجاد اعتماد در قابلیت های هوش مصنوعی نیاز داشته باشد.

در نهایت، وعده هوش مصنوعی در پزشکی در تقویت و نه جایگزین کردن تخصص انسان نهفته است. پر کردن شکاف بین LLM و پزشکان مستلزم درک عملکردهای شناختی انسان و هوش مصنوعی برای ایجاد یک رابطه همزیستی است که مراقبت از بیمار را افزایش می دهد.