فرض کنید درباره یک مشکل پزشکی از یک چتبات هوش مصنوعی سؤال میکنید. پاسخ با سلام و احوالپرسی شروع میشود، جزئیات حرفهایتان را به خاطر میسپارد و جملهها را آرام و طبیعی، مثل یک گفتوگوی واقعی، روی صفحه ظاهر میکند. پاسخ آنقدر روان و مطمئن است که شاید کمتر به ذهنتان برسد که یک سؤال ساده بپرسید: «از کجا معلوم این اطلاعات درست باشد؟»
به گزارش سیناپرس، یک مطالعه جدید نشان میدهد همین ظاهر دوستانه و انسانی میتواند اعتماد کاربران به چتبات را بیشتر کند؛ حتی وقتی اطلاعات پزشکی که ارائه میدهد، نادرست است.
پژوهشگران دانشگاه جورجیا برای بررسی این موضوع، یک دستیار هوش مصنوعی به نام «آیدا» ساختند و عمداً در پاسخهای آن اطلاعات پزشکی غلط قرار دادند. سپس بررسی کردند که رفتار و لحن چتبات چگونه بر اعتماد کاربران اثر میگذارد.در این آزمایش ۴۷۷ نفر از سراسر آمریکا شرکت کردند. برخی از آنها با نسخهای از آیدا گفتوگو کردند که سلام و احوالپرسی داشت، جزئیات صحبتهای قبلی را به خاطر میسپرد و پاسخها را حرفبهحرف نمایش میداد؛ درست شبیه چیزی که از یک گفتوگوی انسانی انتظار داریم.
گروه دیگری با نسخهای سادهتر و کمتر انسانیشده روبهرو شدند. نتیجه جالب بود: هرچه چتبات طبیعیتر و صمیمیتر به نظر میرسید، کاربران بیشتر به پاسخهایش اعتماد میکردند؛ حتی وقتی بخشی از آن پاسخها غلط بود.
به بیان ساده، مشکل این نبود که کاربران تصور کنند چتبات الزاماً باهوشتر شده است. لحن دوستانه باعث میشد هوش مصنوعی کمتر شبیه یک ماشین و بیشتر شبیه یک طرف قابلاعتماد در گفتوگو به نظر برسد؛ و همین تغییر میتوانست تردید کاربران را کاهش دهد.
یک دکمه ساده، جلوی باور اطلاعات غلط را نگرفت
پژوهشگران سپس یک سؤال مهمتر را بررسی کردند: اگر کنار پاسخهای هوش مصنوعی گزینهای برای بررسی صحت اطلاعات قرار بگیرد، آیا کاربران کمتر فریب اطلاعات نادرست را میخورند؟
صرفاً نشان دادن گزینه «راستیآزمایی» تقریباً تغییری در میزان اعتماد کاربران ایجاد نکرد. اما زمانی که افراد واقعاً اطلاعات را بررسی کردند، اعتمادشان به پاسخهای چتبات کاهش یافت و اطلاعات نادرست را کمتر قابلباور دانستند.حتی زمانی که کاربران آزاد بودند خودشان تصمیم بگیرند اطلاعات را بررسی کنند یا نه، فقط ۶۱ نفر از ۱۲۲ نفر، یعنی نیمی از آنها، این کار را انجام دادند.این یافته یک نکته مهم را نشان میدهد: داشتن ابزار راستیآزمایی لزوماً به معنای استفاده از آن نیست.
مشکل از جایی شروع میشود که «خوشصحبتی» با «درستی» اشتباه گرفته شود
امروزه بسیاری از افراد برای پاسخ به پرسشهای سلامت، از علائم بیماری گرفته تا دارو و تغذیه، به سراغ چتباتهای هوش مصنوعی میروند. جذابیت این ابزارها نیز تا حد زیادی به همین گفتوگوی سریع، طبیعی و دوستانه وابسته است.
اما پژوهشگران هشدار میدهند ویژگیهایی که استفاده از هوش مصنوعی را راحتتر و دلپذیرتر میکنند، در موضوعات حساس مانند سلامت میتوانند یک خطر هم داشته باشند: کاربر ممکن است روان و مطمئن بودن پاسخ را با درست بودن آن اشتباه بگیرد.
این مطالعه نمیگوید چتباتهای صمیمی ذاتاً خطرناکاند؛ بلکه نشان میدهد نحوه صحبت کردن هوش مصنوعی میتواند بر قضاوت ما درباره اعتبار پاسخهایش اثر بگذارد.
به همین دلیل، پژوهشگران بر اهمیت ابزارهای راستیآزمایی واقعی و سازوکارهایی تأکید دارند که کاربران را به بررسی اطلاعات حساس، بهویژه توصیههای پزشکی، ترغیب کنند.
این پژوهش در مجله Journal of Computer-Mediated Communication منتشر شده است.