پژوهشگران درباره رفتاری هشدار دادهاند که میتواند اعتماد کاربران به چتباتهای هوش مصنوعی را تحت تأثیر قرار دهد: مدلها ممکن است در برابر اصرار و فشار کاربر از پاسخ درست خود عقبنشینی کرده و حتی یک ادعای نادرست را تأیید کنند؛ رفتاری که با گسترش استفاده از هوش مصنوعی برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است.
به گزارش سیناپرس، پژوهشگران هشدار دادهاند چتباتهای هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقبنشینی کنند و اطلاعات نادرست او را تأیید کنند.
این رفتار زمانی رخ میدهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ میکند؛ حتی اگر ادعای مطرحشده نادرست باشد.
به نقل از دانشجو، پژوهشها نشان میدهد تکرار یک ادعا و فشار برای تغییر پاسخ میتواند بر تصمیم مدل اثر بگذارد؛ مسئلهای که با افزایش استفاده از چتباتها برای دریافت اطلاعات، اهمیت بیشتری پیدا کرده است.