به نقل از صحت خبر، و بر اساس گزارش دیجیاتو، تحقیقی که توسط شرکت گوگل منتشر شده، نشان میدهد که مدل هوش مصنوعی Med-Gemini در بررسی سیتی اسکنهای سر، موفق به شناسایی ناهنجاری در «گانگلیون بازیلر» (Basilar Ganglia) شده است؛ ناحیهای از مغز که در واقع وجود خارجی ندارد. این هوش مصنوعی به اشتباه دو ساختار مجزا در مغز، یعنی «گانگلیونهای پایه» (Basal Ganglia) و «شریان بازیلر» (Basilar Artery) را با یکدیگر ترکیب کرده و نام جدیدی برای آن به وجود آورده است.
تحقیقات صورتگرفته توسط پزشکان نشان میدهد که این خطا «بسیار خطرناک» است. آنها تاکید میکنند: «این دو اصطلاح به شدت متفاوت هستند و میتوانند عواقب جدی ایجاد کنند.» تشخیص اشتباه میان این نواحی مغزی ممکن است به پروتکلهای درمانی غیرعادی و خطرناک منجر شود.
بر اساس گزارشی از ورج، پس از آنکه دکتر «برایان مور» (Bryan Moore)، عصبشناس، این خطای جدی را به اطلاع گوگل رساند، این شرکت برای اصلاح مشکل، با اعمال تغییرات ناگهانی بر روی پست وبلاگ خود، سعی کرد تا آن را به عنوان یک «غلط تایپی» توصیف کند. ولی در پی فشارهای بیشتر، گوگل با اعلام توضیحات جدیدی، ادعا کرد که این اشتباه به دلیل نوعی «خطای متداول در اطلاعات» که هوش مصنوعی از دادههای آموزشی خود یاد گرفته، رخ داده است.
اما مشکلات همچنان ادامه دارد. بررسیهای صورتگرفته توسط محققان دیگر، یک ضعف بنیادین دیگر در این مدلهای هوش مصنوعی را نمایان کرده است: عدم ثبات پاسخدهی.
دکتر «جودی گیچویا» (Judy Gichoya) از دانشگاه اموری، در یک آزمایش تصویری از قفسه سینه را به مدل جدید گوگل، MedGemma، ارائه داد. وقتی وی سؤال خود را با تمامی جزئیات (شامل سن و جنسیت بیمار) مطرح کرد، هوش مصنوعی مشکل را به درستی شناسایی کرد. در مقابل، زمانی که همان تصویر را با یک سؤال سادهتر (فقط «در این عکس چه مشاهده میکنید؟») به مدل هوش مصنوعی ارائه داد، پاسخ بهطور کل تغییر کرد: «این تصویر نشاندهنده قفسهسینه نرمال یک فرد بزرگسال است.» و مشکل به کلی نادیده گرفته شد.
این وضعیت نشان میدهد که حتی جزئیترین تغییر در نحوه تعامل با سیستمهای هوش مصنوعی میتواند منجر به نتیجهگیریهای کاملاً متضاد و ناامن گردد.
متخصصان بر این باورند که بزرگترین خطر این سیستمها، اشتباهات غیرمنتظره نیست، بلکه اعتمادی است که به لحن قانعکنندهای که به ارائه اطلاعات نادرست (همچون وجود گانگلیون بازیلر) اتخاذ میشود، شده است.
دکتر «جاناتان چن» (Jonathan Chen) از دانشگاه استنفورد، این موضوع را با رانندگی خودکار مقایسه میکند: «اگر خودرو بهخوبی در حال حرکت باشد، ممکن است شما تصمیم بگیرید که پشت فرمان بخوابید. این دقیقا جایی است که خطر به وجود میآید.»
به صورت کلی، پدیدهای که «سوگیری اتوماسیون» (Automation Bias) نامیده میشود، میتواند پزشکان را به گونهای تحت تأثیر قرار دهد که به دلیل عملکرد معمولاً صحیح هوش مصنوعی، از بررسی دقیق نتایج آن غافل شوند و اشتباهات جدی را نادیده بگیرند. کارشناسان هشدار میدهند که این مدلها به طور ذاتی تمایل به تولید اطلاعات دارند و هرگز نمیگویند «نمیدانم» و این یک مشکل جدی در زمینههای پرخطر مانند پزشکی محسوب میشود.
۵۸۵۸