هوش مصنوعی مولد میتواند کشفهای زیستی جعلی ایجاد کند
پژوهشگران هشدار میدهند: هوش مصنوعی مولد، در کنار کمک به کشف داروها و تحلیل دادههای زیستی، ممکن است دادهها را بهگونهای تغییر دهد که دانشمندان به وجود یک اثر زیستی باور کنند؛ در حالی که چنین اثری در واقعیت وجود ندارد.
به گزارش سیناپرس، هوش مصنوعی مولد در سالهای اخیر به یکی از ابزارهای مهم پژوهشهای زیستی تبدیل شده است. این فناوری میتواند در طراحی پروتئینها، شبیهسازی سلولها، تحلیل حجم عظیمی از دادههای زیستی و حتی شناسایی گزینههای جدید برای تولید دارو به پژوهشگران کمک کند؛ اما یک خطر مهم نیز در این میان وجود دارد: هوش مصنوعی ممکن است پدیدهای زیستی را که در واقع وجود ندارد، بهعنوان یک یافته واقعی جلوه دهد.
هوش مصنوعی مولد با یادگیری الگوها و ارتباطات موجود در دادههای قبلی، محتوای جدید تولید میکند. با این حال، همانطور که این سامانهها در تولید متن یا تصویر ممکن است دچار «توهم» یا Hallucination شوند، در حوزه زیستشناسی نیز احتمال دارد الگوهای مولکولی یا نتایجی تولید کنند که از نظر ظاهری کاملاً منطقی به نظر میرسند، اما با واقعیت زیستی مطابقت ندارند.
این موضوع میتواند پیامدهای مهمی برای تحقیقات پزشکی و زیستی داشته باشد. برای مثال، یک سامانه هوش مصنوعی ممکن است یک داروی مؤثر را به اشتباه کنار بگذارد، پژوهشگران را به سمت یک درمان ناکارآمد هدایت کند، یک اثر زیستی واقعی را پنهان کند یا حتی سازوکاری برای یک بیماری ایجاد کند که اساساً وجود خارجی ندارد.
توماس بورگر، زیستشناس محاسباتی از دانشگاه گرونوبل آلپ فرانسه، در مقالهای دیدگاهی در نشریه Patterns، این مسئله را در ۱۰ کاربرد بالقوه هوش مصنوعی مولد در تحقیقات زیستی بررسی کرده است.
وقتی داده مصنوعی جایگزین داده واقعی میشود
یکی از حوزههایی که این نگرانی در آن جدیتر است، تحقیقات «اُمیکس» است؛ حوزهای که دادههای گستردهای درباره ژنها، پروتئینها و سایر مولکولهای بدن تولید میکند.
هوش مصنوعی میتواند به پژوهشگران در تحلیل این حجم عظیم از اطلاعات کمک کند، اما تغییرات ظریف و ناخواستهای که در جریان پردازش دادهها ایجاد میشود، ممکن است بهسادگی قابل تشخیص نباشد.
به گفته بورگر، میزان خطر در کاربردهای مختلف هوش مصنوعی یکسان نیست. تفاوت اصلی در این است که خروجی هوش مصنوعی صرفاً بهعنوان یک ایده برای آزمایشهای آینده استفاده شود یا اینکه داده تولیدشده مستقیماً بهعنوان شواهد علمی مورد استناد قرار گیرد.
برای نمونه، استفاده از هوش مصنوعی برای غربالگری داروها یا پروتئینهای احتمالی، در مقایسه با تولید دادههای زیستی مصنوعی، خطر کمتری دارد. یک مدل هوش مصنوعی میتواند در مدت کوتاهی تعداد بسیار زیادی از گزینهها را بررسی و تعدادی از آنها را برای آزمایشهای آزمایشگاهی پیشنهاد کند.
اگر مدل اشتباه کند، ممکن است پژوهشگران یک گزینه مؤثر را کنار بگذارند یا زمان و هزینه خود را صرف بررسی گزینهای کنند که در نهایت نتیجهای ندارد. با این حال، هیچیک از این موارد بهتنهایی یک کشف علمی محسوب نمیشود، زیرا گزینه انتخابشده همچنان باید در یک آزمایش واقعی مورد بررسی و تأیید قرار گیرد.
اما زمانی که دادههای تولیدشده توسط هوش مصنوعی جایگزین اندازهگیریهای واقعی آزمایشگاهی شوند، خطر بسیار بیشتر میشود.دادههای زیستی مصنوعی میتوانند برای تکمیل اطلاعات ناقص، محافظت از حریم خصوصی بیماران، ایجاد گروههای مقایسهای، کاهش هزینه تحقیقات یا حتی کاهش استفاده از حیوانات آزمایشگاهی مفید باشند. با این حال، اگر هوش مصنوعی ویژگیای را وارد دادهها کند که اساساً در نمونه واقعی وجود نداشته است، دانشمندان ممکن است تصور کنند یک اثر زیستی جدید را کشف کردهاند.
خطر پنهان؛ تغییر داده واقعی در مسیر تحلیل
بورگر معتقد است مشکل اصلی همیشه این نیست که دانشمندان یک نتیجه کاملاً جعلی را در کنار یک کشف واقعی مشاهده کنند. مسئله نگرانکنندهتر میتواند تغییر تدریجی دادههای واقعی در جریان یک فرایند پیچیده محاسباتی مبتنی بر هوش مصنوعی باشد.
او در گفتوگو با ScienceAlert توضیح داده است که ممکن است دادههای واقعی در طول پردازش توسط هوش مصنوعی دچار نوعی «توهم» شوند و این تغییر بهگونهای باشد که تشخیص آن برای پژوهشگر دشوار شود.
به گفته او، اگر برخی سیگنالهای زیستی در جریان پردازش دچار تغییر، تقویت یا تحریف شوند، ممکن است نتیجه نهایی تحقیقات نیز تغییر کند؛ بهگونهای که پژوهشگر بدون داشتن شناخت عمیق از نحوه عملکرد هوش مصنوعی نتواند متوجه این تغییرات شود.در چنین شرایطی، هوش مصنوعی الزاماً یک نتیجه کاملاً ساختگی تولید نکرده است؛ بلکه داده واقعی را به شکلی تغییر داده که در نهایت به یک برداشت علمی نادرست منجر شده است.
نمونهای از این مشکل در AlphaFold ۳
نمونهای از محدودیتهای مشابه در AlphaFold ۳ نیز مشاهده شده است. توسعهدهندگان این مدل در مقالهای که سال ۲۰۲۴ در نشریه Nature منتشر شد، گزارش کردند که این سامانه در برخی مناطق بینظم پروتئینها میتواند ساختارهایی موسوم به «ساختارهای توهمی» تولید کند.
البته در چنین مواردی، امتیازهای اطمینان پایین مدل میتواند به پژوهشگران هشدار دهد که نتیجه تولیدشده ممکن است قابل اعتماد نباشد.
آیا توهم هوش مصنوعی میتواند به یک کشف واقعی منجر شود؟
نکته جالب این است که خطاهای هوش مصنوعی همیشه الزاماً به ایجاد یک یافته جعلی منجر نمیشوند. گاهی ممکن است یک مدل با ایجاد اختلال در دادهها باعث شود پژوهشگران یک اثر زیستی واقعی را نادیده بگیرند؛ برای مثال، شواهدی که نشان میدهد یک درمان واقعاً مؤثر است.
از سوی دیگر، بورگر احتمال میدهد که یک خروجی غیرمنتظره هوش مصنوعی حتی بتواند به یک کشف واقعی منجر شود.
او در این باره میگوید که پیش از این به این موضوع فکر نکرده بود، اما ممکن است یک «توهم» هوش مصنوعی در نهایت مسیر را به یک کشف واقعی باز کند.
این پژوهشگر چنین احتمالی را با کشفهای غیرمنتظرهای مقایسه میکند که گاهی در نتیجه خطاهای آزمایشگاهی رخ میدهند. به اعتقاد او، اگر یک نتیجه غیرمنتظره از خطای هوش مصنوعی یا یک اشتباه در آزمایشگاه ناشی شده باشد، در نهایت تفاوتی ندارد؛ آنچه اهمیت دارد، اعتبارسنجی و تأیید نتیجه در ادامه مسیر پژوهش است.
هیچ خروجی هوش مصنوعی بهتنهایی «کشف علمی» نیست
پژوهشگران تأکید میکنند که مسئله اصلی، نه استفاده از هوش مصنوعی، بلکه نحوه استفاده از خروجی آن است.اگر نتیجه تولیدشده توسط هوش مصنوعی صرفاً بهعنوان یک فرضیه یا ایده جدید در نظر گرفته شود و سپس در آزمایش واقعی مورد بررسی قرار گیرد، یک خطای هوش مصنوعی میتواند صرفاً به یک فرضیه ناموفق تبدیل شود.
اما اگر خروجی هوش مصنوعی بهعنوان یک مشاهده واقعی و قطعی تلقی شود، یک نتیجه ساختگی میتواند وارد شواهد علمی شود و بهاشتباه بهعنوان بخشی از واقعیت زیستی پذیرفته شود.
از این رو، حتی هیجانانگیزترین نتیجهای که یک سامانه هوش مصنوعی پیشنهاد میکند، تا زمانی که در یک آزمایش واقعی و مستقل تأیید نشده باشد، یک کشف علمی محسوب نمیشود.
این دیدگاه در شرایطی اهمیت بیشتری پیدا میکند که هوش مصنوعی روزبهروز نقش پررنگتری در تحلیل دادههای زیستی، کشف دارو و مطالعه سازوکار بیماریها پیدا میکند؛ حوزههایی که کوچکترین خطا در تفسیر دادهها میتواند مسیر تحقیقات بعدی را تغییر دهد.
