ابزار‌های هوش مصنوعی پزشکی نیازمند ارزیابی‌های بالینی گسترده هستند

متخصصان حوزه پزشکی و هوش مصنوعی با تأکید بر توانمندی بالای مدل‌های زبانی در تشخیص بیماری‌ها، هشدار می‌دهند که این ابزار‌ها هنوز نیازمند ارزیابی‌های بالینی گسترده و نظارت انسانی هستند؛ به‌گونه‌ای که کارشناسان معتقدند آینده این فناوری بیشتر در نقش کمک‌یار پزشکان خواهد بود تا جایگزین آنها.

کد خبر: ۴۱۹۷۹۱

تاریخ : ۱۵ خرداد ۱۴۰۵ - ۱۵:۵۶

نوشته

به گزارش شهرآرانیوز؛ تیترهایی که توانایی ابزارهای هوش مصنوعی را برای پیشی گرفتن از مهارت‌های پزشکان تبلیغ می‌کنند، روزبه‌روز رایج‌تر می‌شوند. اما برتری یک مدل زبانی بزرگ پیشرفته نسبت به پزشک در یک کار خاص، لزوما به این معنا نیست که هوش مصنوعی آماده است تا جایگزین پزشکی در دنیای واقعی شود.

نیچر با محققانی که در مورد کاربرد هوش مصنوعی در مراقبت‌های بهداشتی مطالعه می‌کنند صحبت کرد تا بفهمد کدام «پزشکان هوش مصنوعی» تاکنون بیشتر امیدبخش بوده‌اند و چه زمانی ممکن است چنین ابزارهایی فرمان تشخیص پزشکی را به دست بگیرند.

برخی دانشمندان اشاره می‌کنند که سیستم‌های مختلف هوش مصنوعی در حال حاضر کارهای پزشکی ساده‌ای مانند یادداشت‌برداری و حتی تمدید نسخه‌ها را انجام می‌دهند، اما می‌گویند که پزشکان هرگز نمی‌توانند به ‌طور کامل با ماشین‌ها جایگزین شوند.

دیوید وو، پزشک دستیاری که در دانشکده پزشکی هاروارد در بوستون، ماساچوست، در زمینه هوش مصنوعی مطالعه می‌کند، می‌گوید: پزشکی حوزه‌ای شلوغ است و بیماران همیشه داستان‌های مطابق با کتاب‌های درسی را تعریف نمی‌کنند. من فکر نمی‌کنم ثابت کرده باشیم که این سیستم‌ها می‌توانند از پس آن آشفتگی برآیند.

آماده برای آزمون

با این حال، برخی نمایش‌های آزمایشی، محققان را درباره انقلاب هوش مصنوعی که در پزشکی در حال شکل‌گیری است، هیجان‌زده کرده است. یک مطالعه که در ماه آوریل در مجله «ساینس» منتشر شد، نتیجه گرفت که یک مدل زبانی پیشرفته در ارزیابی شرایط افرادی که به بخش اورژانس یک بیمارستان در بوستون مراجعه کرده‌اند، عملکرد بهتری نسبت به پزشکان داشته است. زمانی که مدل هوش مصنوعی به نام o۱ که توسط شرکت «اوپن‌اِی‌آی» در سان‌فرانسیسکو کالیفرنیا توسعه یافته است اطلاعات ثبت‌ شده توسط کارکنان بیمارستان در طول یک ویزیت را بررسی کرد، در ۶۷ درصد موارد تشخیص صحیح یا تقریبا صحیح ارائه داد، در حالی که این میزان برای دو پزشک انسانی که در آزمایش شرکت داشتند، حدود ۵۰ تا ۵۵ درصد بود.

پژوهشگرانی که با «نیچر» صحبت کردند می‌گویند از آن جا که این مطالعه از داده‌های دنیای واقعی استفاده کرده، نشان‌دهنده یک تحول برای ابزارهای هوش مصنوعی است که در گذشته روی سناریوهای شبیه‌سازی ‌شده یا پرونده‌های پزشکیِ به‌ دقت گلچین ‌شده آزمایش می‌شدند. با این حال آن‌ها می‌گویند این فاصله زیادی با شبیه‌سازی آنچه در یک بخش اورژانس واقعی می‌گذرد دارد. برای مثال، نه مدل هوش مصنوعی و نه پزشکان در این مطالعه، فرصت تعامل با بیماران را نداشتند.

مطالعه دیگری که در ماه مارس پیش از داوری همتا بر روی سرور پیش‌انتشار arXiv قرار گرفت، با بررسی عملکرد سیستم‌های هوش مصنوعی در حین گفتگو با بیماران برای رسیدن به تشخیص، سر و صدای زیادی به پا کرد. گروهی به رهبری دانشمندان «گوگل ریسرچ» در مانتین‌ویو، کالیفرنیا، عملکرد یک سیستم هوش مصنوعی را که توسعه داده بودند، به نام «کاوشگر هوش پزشکی بیان‌گر»، نظارت کردند؛ این سیستم از پیام‌های متنی برای چت با بیماران واقعی که برای نوبت‌های مراقبت فوری در کلینیکی در بوستون برنامه‌ریزی شده بودند، استفاده می‌کرد. این تعاملات، که طی آن‌ها هوش مصنوعی تاریخچه بیماران را جمع‌آوری کرده و در مورد تشخیص‌های احتمالی بحث می‌کرد، تا پنج روز قبل از نوبت ملاقات آن‌ها با پزشکان انسانی رخ داد.

سپس هوش مصنوعی بر اساس آن گفتگوها، فهرستی از تشخیص‌های احتمالی را ایجاد کرد. تشخیص صحیح در ۷۵ درصد موارد در میان سه پیشنهاد برتر ربات چت قرار داشت و در ۵۶ درصد موارد، پیشنهاد اول بود. عملکرد این سیستم مشابه پزشکان واقعی بود که بیماران در نهایت آن‌ها را ملاقات کردند. هرچند برنامه‌های درمانی پیشنهادی پزشکان انسانی، عملی‌تر و مقرون ‌به ‌صرفه‌تر از موارد پیشنهادی هوش مصنوعی بود.

{$sepehr_key_218371}

آیا هوش مصنوعی برای حضور اصلی آماده است؟

رابرت واچر، پزشک در دانشگاه کالیفرنیا، سان‌فرانسیسکو و نویسنده کتابی درباره اینکه چگونه هوش مصنوعی در حال تغییر مراقبت‌های بهداشتی است، می‌گوید این دو مطالعه نشان می‌دهند که هوش مصنوعی پزشکی در سه سال گذشته چقدر تکامل یافته است. او توضیح می‌دهد که در طول این مدت، مدل‌های زبانی از موفقیت در کارهای ساده، مانند قبولی در آزمون‌های پزشکی چندگزینه‌ای، به مطابقت با تشخیص‌های پزشکان در موارد پیچیده در هنگامی که اطلاعات لازم به آن‌ها داده شود، رسیده‌اند. او می‌گوید: این بسیار هیجان‌انگیز است.

اما آدام رودمان، پزشک طب داخلی در دانشکده پزشکی هاروارد و نویسنده همکار در هر دو مقاله می‌گوید این بدان معنا نیست که این ابزارها آماده خودکار شدن هستند. رودمان می‌گوید شواهد تاکنون نشان می‌دهد که این سیستم‌ها عملکرد تشخیصی چشمگیری دارند، اما مطالعات هنوز آزمایش نکرده‌اند که این فناوری چگونه می‌تواند در مراقبت‌های بالینی ادغام شود یا اینکه در زندگی واقعی چقدر ایمن خواهد بود. او می‌افزاید برای دریافت آن پاسخ‌ها، ابزارها باید در کارآزمایی‌های بالینی قوی آزمایش شوند.

گوگل در حال برنامه‌ریزی یک کارآزمایی برای آزمایش «کاوشگر هوش پزشکی بیان‌گر»، است که به گفته آن‌ها «فراتر از امکان‌سنجی» خواهد رفت. این مطالعه شرکت‌کنندگانی را از سراسر ایالات متحده جذب خواهد کرد تا «شواهد محکمی» در مقیاس بزرگ جمع‌آوری کنند. چند ابزار هوش مصنوعی دیگر قبلا آزمایش شده‌اند، اما نیاز به حضور پزشک در حلقه نظارت دارند. یکی از این‌ها، به نام AI Consult، به پزشکان در نایروبی تشخیص‌ها، آزمایش‌ها و گزینه‌های درمانی پیشنهادی را بر اساس سوابق پزشکی الکترونیکی ارائه داد. طبق نتایجی که در ژوئیه ۲۰۲۵ روی arXiv منتشر شد، پزشکانی که از این ابزار استفاده می‌کردند، نسبت به کسانی که به ابزار دسترسی نداشتند، ۱۶ درصد خطای تشخیصی کمتر و ۱۳ درصد خطای درمانی کمتری داشتند.

به‌طور خاص، وو خواستار کارآزمایی‌های بالینی برای آزمایش ایمنی ابزارهای هوش مصنوعی پزشکی است. سال گذشته، در حالی که در مورد یک بیمار نظر دوم می‌داد، جزئیات را وارد یک ابزار هوش مصنوعی پزشکی کرد که در حال آزمایش آن بود و از پاسخ بسیار خطرناکی که داد، شگفت زده شد.

این موضوع باعث شد که وو و همکارانش روی روشی کار کنند که «ارزیابی آسیب گزینه‌های متعدد در پزشکی» نامیده می‌شود تا ایمنی توصیه‌های ارائه ‌شده توسط مدل‌های زبانی پزشکی را ارزیابی کنند. او می‌گوید: ما فکر می‌کنیم به جای گزارش صرفِ نمرات دقت، این مطالعات باید دقیقا مانند کارآزمایی‌های بالینی داروها، رویدادهای نامطلوب را گزارش کنند. این کار هنوز در جریان است، اما یافته‌های اولیه که در دسامبر ۲۰۲۵ روی arXiv منتشر شد، نشان می‌دهد که در بین ۳۱ مدل زبانی، احتمال آسیب جدی ناشی از توصیه‌های هوش مصنوعی در حدود ۲۲ درصد موارد وجود داشته است.

محققان می‌گویند با آزمایش و پالایش بیشتر، ابزارهای هوش مصنوعی قطعا می‌توانند با مدیریت کارهای خاص و آزاد کردن زمان برای وظایف دیگر، به پزشکان کمک کنند. مدل‌های زبانی پیشرفته همچنین ممکن است در نهایت به افرادی که به دلیل موقعیت مکانی یا مشغله زیاد پزشکان نزدیک، دسترسی آسانی به پزشک ندارند، کمک کنند.

کاراندیپ سینگ، پزشک و متخصص هوش مصنوعی پزشکی در دانشگاه کالیفرنیا، سن‌دیگو می‌گوید هنگام ارزیابی پتانسیل ابزارهای هوش مصنوعی پزشکی، مهم است که بپذیریم مراقبت‌های بهداشتی فعلی با رسیدن به کمال فاصله زیادی دارند.

سینگ پیش‌بینی می‌کند که ابزارهای هوش مصنوعی به جای جایگزینی، به‌طور فزاینده‌ای در گروه‌های مراقبت‌های بهداشتی ادغام خواهند شد. او می‌گوید: آنچه همچنان در قلمرو پزشکان واقعی باقی می‌ماند، داشتن یک رابطه مبتنی بر اعتماد با بیمار است.

منبع: ایسنا

{$sepehr_key_218370}