بزرگترین سیستم بیمارستانی آمریکا آماده است تا به گفته مدیرعاملش، رادیولوژیستها را با هوش مصنوعی جایگزین کند و این تصمیم میتواند مرگبار باشد.
به گزارش سیناپرس، تنها چند هفته پس از بزرگترین اعتصاب پرستاران در تاریخ شهر نیویورک، مدیرعامل سازمان بهداشت و بیمارستانهای نیویورک چشمانداز جسورانهای از آینده ارائه داده است؛ آیندهای که در آن بهجای رادیولوژیستهای انسانی، هوش مصنوعی تصاویر اشعه ایکس را بررسی میکند و تشخیص میدهد.
به نقل از فیوچریسم، در نشستی که توسط نشریه Crain’s New York Business برگزار شد، میچل کتز، رئیس و مدیرعامل سازمان عمومی متشکل از ۱۱ بیمارستان در نیویورک، به صراحت تمایل خود را برای جایگزینی متخصصان آموزش دیده رادیولوژی با مدلهای هوش مصنوعی مبتنی بر زبان و تصویر مطرح کرد.
کتز در این نشست گفت: اگر آماده پذیرش چالشهای قانونی باشیم، همین حالا هم میتوانیم بخش بزرگی از رادیولوژیستها را با هوش مصنوعی جایگزین کنیم.
او مثالی نیز ارائه داد که بهویژه بر سلامت زنان تأثیر میگذارد. خودکارسازی غربالگری سرطان پستان با استفاده از ابزارهای هوش مصنوعی. به گفته کتز، با کنار گذاشتن رادیولوژیستها تا زمانی که یک سیستم هوش مصنوعی موردی غیرطبیعی را شناسایی کند، بیمارستانها میتوانند «صرفهجویی قابلتوجهی» داشته باشند.
در مقابل، محمد سهیل، رادیولوژیست مرکز North Coast Imaging در سندیگو، میگوید که اظهارات کتز شواهدی انکارناپذیر است از اینکه مدیران بیمارستانی که بدون آگاهی کافی صحبت میکنند، برای بیماران خطرناک هستند و به راحتی فریب شرکتهای هوش مصنوعی را میخورند که هنوز فاصله زیادی تا ارائه مراقبت واقعی از بیماران دارند.
او ادامه داد: هرگونه تلاش برای اجرای تفسیر تصاویر صرفا توسط هوش مصنوعی، فورا منجر به آسیب و حتی مرگ بیماران خواهد شد و فقط کسی که هیچ درکی از رادیولوژی ندارد، چنین حرف سادهلوحانهای میزند. اما از جهتی، آنها درست میگویند: بیمارستانها خوشحال میشوند هزینهها را کاهش دهند، حتی اگر به قیمت آسیب به بیماران باشد، مادامی که این کار قانونی باشد.
در واقع، مجموعهای رو به رشد از پژوهشها نشان میدهد که استفاده از هوش مصنوعی در اتاقهای تصویربرداری با اشعه ایکس میتواند به فاجعه تبدیل شود.
در یک مطالعه که هنوز داوری علمی (peer review) نشده است، پژوهشگران دانشگاه استنفورد دریافتند که ابزارهای هوش مصنوعی برای تحلیل تصاویر قفسه سینه میتوانند در آزمونهای معیار پزشکی عملکرد بسیار خوبی داشته باشند، حتی بدون اینکه هیچ تصویر واقعی اشعه ایکسی را مشاهده کرده باشند.
بهجای اینکه این سیستمها اعتراف کنند که تصویری در اختیار ندارند، بهترین مدلهای هوش مصنوعی به نوعی «ترفند نمایشی» متوسل میشوند: ساختن توضیحاتی مفصل درباره یافتههای موجود در تصاویری که اساساً هرگز به آنها دسترسی نداشتهاند.
این وضعیت فراتر از «توهمات هوش مصنوعی» معمول است و پژوهشگران آن را «سراب هوش مصنوعی» (AI mirage) مینامند. برخلاف خطاهای رایج در هوش مصنوعی مولد، این سرابها از ابتدا تا انتها کاملاً منطقی به نظر میرسند. مشکل اینجاست که این توضیحات بر هیچ داده واقعی استوار نیستند، بنابراین روشهای معمول مقابله با توهمات نیز قادر به جلوگیری از آنها نیستند.
به نقل از ایسنا، دانشمندان استنفورد نوشتند: «در این تقلید معرفتی، مدل کل فرایند ادراکیای را شبیهسازی میکند که میتوانست به پاسخ منجر شود. این موضوع توضیح میدهد چرا صرفِ مسیرهای استدلال نمیتواند تضمینکننده استدلال بصری باشد: این مسیرها ممکن است روان، منسجم و ظاهراً مبتنی بر تصویر باشند، در حالی که در واقع به هیچ تصویری متکی نیستند.»
علاوه بر تأیید پژوهشهای قبلی که نشان میدهند مدلهای هوش مصنوعی مبتنی بر زبان و تصویر عملاً «نابینا» هستند، این مطالعه پیامدهای مهمی برای هر بیمارستانی دارد که قصد دارد برای کاهش هزینهها به سراغ کاهش بخش رادیولوژی و جایگزینی آن با هوش مصنوعی برود — و البته برای هر بیماری که ممکن است قربانی چنین «سرابهای پزشکی» شود.