دیسکورد اعلام کرد یک باگ در سامانه هوش مصنوعی نظارت بر محتوا طی دو ماه گذشته باعث مسدود شدن اشتباه بیش از ۸ هزار حساب کاربری شده است؛ خطایی که اکنون برطرف شده و روند بازگردانی حسابهای آسیبدیده در حال انجام است.
به گزارش سیناپرس، دیسکورد اعلام کرد یک باگ در سامانه هوش مصنوعی این پلتفرم باعث شد بیش از ۸ هزار کاربر بهدلیل تشخیص نادرست تصاویر بیضرر به اشتباه مسدود شوند.
شرکت دیسکورد با انتشار اطلاعیهای تایید کرد که یک نقص فنی در سیستم هوش مصنوعی نظارت بر محتوا طی دو ماه گذشته موجب مسدود شدن اشتباه هزاران حساب کاربری شده است. به گفته این شرکت بیش از ۸ هزار کاربر از ماه مه تاکنون تحت تاثیر این خطا قرار گرفتهاند و تنها در آخر هفته گذشته نیز حدود ۲۰۰ کاربر دیگر پیش از شناسایی و رفع مشکل، به اشتباه از این پلتفرم اخراج شدند.
دیسکورد اعلام کرده است که این باگ اکنون برطرف شده و روند بازگردانی تمامی حسابهای کاربری آسیبدیده در حال انجام است.
این رخداد بار دیگر چالشهای استفاده از سامانههای هوش مصنوعی برای مدیریت و نظارت خودکار بر محتوا را برجسته کرده است؛ موضوعی که با افزایش اتکای پلتفرمهای آنلاین به ابزارهای خودکار برای شناسایی محتوای غیرقانونی یا سوءاستفادهآمیز اهمیت بیشتری یافته است.
دیسکورد در رشتهتوییتی در شبکه اجتماعی ایکس (X) توضیح داد که سامانه ایمنی این شرکت تصاویر بارگذاریشده را با پایگاههای داده حاوی نمونههای شناختهشده از محتوای مضر تطبیق میدهد. این فناوری برای شناسایی محتوای غیرقانونی طراحی شده، اما ممکن است در برخی موارد به اشتباه شباهتهایی را تشخیص دهد و اصطلاحا مثبت کاذب (False Positive) ایجاد کند.
این شرکت تاکید کرد که بهطور معمول هر محتوایی که توسط سامانه هوش مصنوعی مشکوک تشخیص داده شود پیش از هرگونه اقدام توسط یکی از اعضای تیم اعتماد و ایمنی (Trust & Safety) بررسی انسانی میشود، اما وجود یک باگ باعث شده بود حساب برخی کاربران پیش از انجام این بررسی بهطور خودکار و دائمی مسدود شود.
دیسکورد همچنین اعلام کرد: در حال توسعه سازوکارهای حفاظتی بهتری هستیم تا از تکرار چنین اتفاقی جلوگیری شود.
همزمان کاربران در شبکههای اجتماعی ایکس و ردیت گزارش دادند که تنها به دلیل بارگذاری تصاویری شامل الگوهای مربعی یا شبکهای حسابهای کاربری آنها بهطور دائمی تعلیق شده است.
به نقل از برنا، برخی کاربران گمانهزنی کردهاند که ابزارهای هوش مصنوعی دیسکورد نسبت به الگوهای شطرنجی و شبکهای حساستر شدهاند، زیرا در گذشته از چنین الگوهایی برای پنهان کردن یا استتار تصاویر نامناسب یا مرتبط با سوءاستفاده جنسی از کودکان بهمنظور دور زدن سامانههای تشخیص خودکار استفاده شده بود.
کاربران آسیبدیده نیز در شبکههای اجتماعی از این اتفاق ابراز نارضایتی کردهاند و معتقدند مسدودسازی دائمی حسابها صرفا بر اساس تشخیص خودکار هوش مصنوعی میتواند پیامدهای جدی برای افراد داشته باشد؛ بهویژه برای کاربرانی که از دیسکورد برای فعالیتهای کاری، ارتباط با جوامع بازیهای رایانهای یا حفظ ارتباط با دوستان و خانواده در فواصل طولانی استفاده میکنند.