عرضه نسخه ویژه نوجوانان ChatGPT از سوی OpenAI، با وجود تقویت محدودیتهای سنی و سازوکارهای نظارتی، با تردید کارشناسان ایمنی کودکان روبهرو شده است؛ آنها میگویند دقت تشخیص سن، امکان دور زدن محدودیتها، ظرفیت بررسی انسانی و سرعت هشدار به والدین هنوز به اندازه کافی و بهصورت مستقل آزمایش نشده است.
به گزارش سیناپرس، اوپنایآی روز سهشنبه با عرضه نسخه ویژه نوجوانان از ChatGPT نسخهای از چتبات این شرکت که برای کاربران نوجوان طراحی شده و قرار است با شناسایی سن کاربران تجربهای متناسب با افراد زیر ۱۸ سال ارائه دهد، خبر داد. این شرکت تلاش کرده است با اعمال محدودیتهای سنی و تقویت سازوکارهای ایمنی ااستفاده افراد زیر ۱۸ سال از این چتبات را کنترل کند، اما کارشناسان ایمنی کودکان معتقدند این قابلیتها پیش از آنکه به والدین و نوجوانان توصیه شوند به آزمونهای مستقل گسترده و شفافیت بیشتر درباره عملکرد سامانههای ایمنی نیاز دارند.
این شرکت نخستین بار سپتامبر سال گذشته اعلام کرده بود در حال توسعه سامانهای برای شناسایی خودکار نوجوانان و اعمال محدودیتهای متناسب با سن آنها در ChatGPT است. این تصمیم پس از مرگ آدام رین نوجوان ۱۶ ساله آمریکایی مورد توجه بیشتری قرار گرفت. والدین رین در شکایتی علیه اوپنایآی مدعی شدهاند که ChatGPT در مرگ فرزندشان نقش تسهیلکننده داشته است.
لورن جوناس، رئیس بخش جوانان و خانوادههای اوپنایآی در گفتوگو با Engadget توضیح داد که نوجوانان برای استفاده از این نسخه نیازی به ایجاد حساب جدید یا تغییر تنظیمات خود ندارند. به گفته او اگر سامانه پیشبینی کند کاربر زیر ۱۸ سال دارد یا خود کاربر اعلام کند که نوجوان است تجربه مخصوص نوجوانان به صورت پیشفرض برای او فعال خواهد شد.
اوپنایآی تاکید دارد که نوجوانان در حال حاضر نیز در مقیاس گسترده از ChatGPT استفاده میکنند. بر اساس یافتههای مرکز پژوهشی Pew در ابتدای سال گذشته حدود یکچهارم نوجوانان آمریکایی از این چتبات برای انجام تکالیف مدرسه استفاده میکردند.
تمرکز بر قابلیتهای آموزشی و محدودیتهای ایمنی
قرار است نسخه نوجوانان کاربران را به استفاده از قابلیتهای آموزشی ChatGPT که اوپنایآی طی یک سال گذشته توسعه داده است از جمله Study Mode و ابزارهای مصورسازی داده ترغیب کند.
اوپنایآی همچنین اعلام کرده است که سیستم اعلانهای ایمنی خود را گسترش میدهد تا در صورت شناسایی گفتوگوهای ناایمن مرتبط با اختلالات خوردن به والدینی که حساب کاربری خود را به حساب فرزندشان متصل کردهاند هشدار داده شود.
این شرکت همچنین نسخه بهروزشدهای از دستورالعمل مدل برای کاربران زیر ۱۸ سال منتشر کرده است. بر اساس این دستورالعمل ChatGPT نباید از زبان عاشقانه استفاده کند، وابستگی عاطفی کاربر به هوش مصنوعی را تشویق کند یا وانمود کند که احساسات یا آگاهی دارد.
اوپنایآی میگوید این محدودیتهای قویتر با هدف تقویت روابط سالم نوجوانان در دنیای واقعی طراحی شدهاند.
با وجود این اقدامات کارشناسان ایمنی کودکان که با Engadget گفتوگو کردهاند معتقدند پیش از توصیه ChatGPT برای نوجوانان عملکرد این قابلیتها باید به صورت مستقل و گسترده آزمایش شود.
اوپنایآی باید ثابت کند که میتوان به آن اعتماد کرد
رابی تورنی، رئیس بخش هوش مصنوعی و ارزیابیهای دیجیتال در Common Sense Media گفت اقدامات اعلامشده از سوی اوپنایآی شامل تعهدات مهمی است اما برای ارزیابی واقعی آنها باید شواهدی وجود داشته باشد که نشان دهد این تعهدات و قابلیتهای ایمنی در عمل کار میکنند.
جاش گولین، مدیر اجرایی سازمان Fairplay موضع انتقادیتری دارد. او معتقد است برخی اقدامات اوپنایآی روی کاغذ گامی در مسیر درست هستند، اما همچنان نگرانیهای جدی درباره نبود سازوکار پاسخگویی وجود دارد.
گولین با اشاره به تجربه شبکههای اجتماعی گفت نمیتوان صرفا به شرکتها برای حفاظت از کودکان اعتماد کرد. به گفته او اوپنایآی پیش از این نیز محدودیتهایی برای محتوای مرتبط با خودکشی، خشونت و مصرف مواد مخدر داشته اما این محدودیتها همیشه عملکرد مطلوبی نداشتهاند و ممکن است به مرور زمان تضعیف شوند.
تردید درباره تشخیص سن کاربران
یکی از مهمترین نگرانیهای کارشناسان دقت سیستم تشخیص خودکار سن اوپنایآی است.
تورنی میگوید اوپنایآی تاکنون اطلاعات عمومی کافی درباره میزان موفقیت این سیستم از جمله نرخ شناسایی اشتباه افراد بزرگسال به عنوان نوجوان و همچنین نرخ شناسایی نکردن نوجوانان منتشر نکرده است.
او تاکید کرد که این سامانه نمیتواند تمام نوجوانانی را که از ChatGPT استفاده میکنند شناسایی کند.
به گفته تورنی سابقه فناوری تخمین سن نیز نگرانیهایی ایجاد میکند. او به گزارشهای مربوط به قابلیتهای محتوای بزرگسالانه اشاره کرد که نشان میداد یکی از دلایل عدم عرضه برخی از این قابلیتها عملکرد ناکافی فناوری تشخیص سن در شناسایی نوجوانان بوده است.
از سوی دیگر کارشناسان انتظار دارند نوجوانان تلاش کنند محدودیتهای سنی را دور بزنند از استفاده از VPN گرفته تا روشهای خلاقانهتر برای فریب سامانههای تشخیص سن.
وعده اوپنایآی برای بررسی انسانی و هشدار یکساعته به والدین
یکی از مهمترین وعدههای اوپنایآی مربوط به محتوای پرخطر بررسی انسانی هشدارها و اطلاعرسانی سریع به والدین است.
جوناس پیش از اعلام رسمی این قابلیت به Engadget گفته بود تمام محتوای علامتگذاریشده ابتدا توسط کارکنان تماموقت اوپنایآی بررسی میشود و این شرکت تلاش میکند حداکثر ظرف یک ساعت پس از مشاهده یک درخواست مشکوک والدین را مطلع کند.
او در مصاحبهای با CNN نیز تاکید کرده بود که اوپنایآی نیروی انسانی و ظرفیت لازم برای بررسی انسانی این موارد و اطلاعرسانی ظرف یک ساعت را در اختیار دارد اما تورنی نسبت به این وعده نیز پرسشهایی مطرح کرد.
به گفته او ابتدا باید مشخص شود سامانههای خودکار اوپنایآی تا چه اندازه در شناسایی محتوای پرخطر دقیق هستند. چراکه همین سیستمهای خودکار هستند که محتوای مشکوک را برای بررسی به ناظران انسانی ارجاع میدهند.
گولین نیز خواستار انتشار آمار دقیقتری درباره تعداد مکالماتی شد که روزانه علامتگذاری و بررسی میشوند، تعداد نیروهای انسانی مسئول این بررسیها و میانگین زمانی که برای هر بررسی صرف میشود.
او معتقد است تصور اینکه اوپنایآی نیروی انسانی کافی برای بررسی دقیق تمام مکالمات بالقوه نگرانکننده را در اختیار داشته باشد دشوار است.
سابقه هشدارهای والدین نیز محل تردید است
Engadget از اوپنایآی درباره نمونههای مشخصی از مکالمات مربوط به اختلالات خوردن که میتواند باعث ارسال هشدار به والدین شود سوال کرد، اما این شرکت تنها اعلام کرد هر گفتوگویی که نشاندهنده احتمال خودآسیبرسانی جدی باشد ممکن است باعث ارسال هشدار شود.
این موضوع با نتایج یک آزمایش قبلی توسط Common Sense Media نیز اهمیت پیدا میکند.
این سازمان در نوامبر گذشته عملکرد سیستم اعلان والدین اوپنایآی را آزمایش کرد و حتی پس از ارسال پیامهایی که به صورت صریح در آنها به خودکشی و خودآسیبرسانی اشاره شده بود دریافت هشدار برای حساب والدین در برخی موارد ۲۴ تا بیش از ۴۸ ساعت طول کشید.
تورنی گفت در برخی موارد نیز با وجود صراحت پیامها هیچ هشداری دریافت نشده است.
او البته احتمال داد که اوپنایآی از نوامبر تاکنون پیشرفتهایی داشته باشد، اما تاکید کرد نسخه قبلی سیستم کنترل و اعلان والدین کامل نبوده و بهبود آن به سرمایهگذاری و استفاده از گروه بزرگتری از ناظران انسانی نیاز دارد.
تفاوت فرهنگی چالش دیگر نظارت بر نوجوانان
تورنی همچنین بر اهمیت در نظر گرفتن تفاوتهای فرهنگی و زبانی در تفسیر مکالمات نوجوانان تاکید کرد.
به گفته او نحوه صحبت نوجوانان درباره ناراحتی، اضطراب و مشکلاتشان در کشورهای مختلف متفاوت است و پاسخ مناسب نیز باید متناسب با شرایط فرهنگی آنها باشد.
او افزود که حتی پس از شناسایی یک مکالمه نگرانکننده این پرسش مطرح است که نوجوان باید به چه فرد یا نهادی ارجاع داده شود؛ والدین، نیروهای انتظامی یا خدمات بحران و حمایتی.
به اعتقاد تورنی، تحقق وعده پاسخگویی ظرف یک ساعت به نیروی کاری واقعا جهانی نیاز دارد که توانایی تعامل موثر با نوجوانان در کشورهای مختلف را داشته باشد.
چرا اختلالات خوردن برای کارشناسان اهمیت ویژهای دارد؟
کارشناسانی که با Engadget صحبت کردهاند درباره یک موضوع اتفاق نظر داشتند: اختلالات خوردن در میان نوجوانان باید بسیار جدی گرفته شود.
الن فیتزسیمونز کرافت، دانشیار روانشناسی و علوم مغز در دانشگاه واشنگتن در سنت لوئیس با اشاره به یک فراتحلیل در سال ۲۰۲۳ گفت حدود ۲۲ درصد کودکان و نوجوانان در غربالگریها علائم اختلال در رفتارهای غذایی نشان دادهاند.
او همچنین گفت دسترسی به درمان این اختلالات بسیار محدود است و کمتر از ۲۰ درصد افراد مبتلا گزارش کردهاند که برای اختلال خوردن خود درمان تخصصی دریافت کردهاند.
به گفته او هر پلتفرمی که به نوجوانان اجازه ارتباط با دیگران یا انتشار محتوای شخصی را میدهد باید موضوع اختلالات خوردن را جدی بگیرد.
تورنی نیز با اشاره به شدت برخی از این اختلالات گفت بیاشتهایی عصبی از جمله اختلالات روانی با بالاترین میزان مرگومیر در میان نوجوانان است و در شرایطی که مداخله نکردن میتواند پیامد مرگبار داشته باشد اطلاع دادن به یک بزرگسال مورد اعتماد مانند والدین ضروری است.
نقش والدین در درمان اختلالات خوردن
فیتزسیمونز کرافت از اصل اطلاعرسانی به والدین حمایت کرد و گفت یکی از موثرترین روشهای درمان اختلالات خوردن در نوجوانان مشارکت خانواده است.
به گفته او در برخی روشهای درمانی والدین نقش فعالی در کمک به بازگرداندن وزن و وضعیت تغذیهای نوجوان دارند و درمانگران نیز نحوه ایفای این نقش را به آنها آموزش میدهند.
با این حال او تاکید کرد این روش برای همه نوجوانان مناسب نیست و در برخی موارد ممکن است والدین نتوانند حمایت لازم را ارائه دهند یا حتی خودشان در ایجاد مشکل نقش داشته باشند.
گولین نیز اصل اطلاعرسانی به والدین را مفید دانست اما معتقد است چنین قابلیتهایی باید ابتدا در گروهی محدود اجرا و آزمایش شوند تا مشخص شود نهتنها در شناسایی موارد مشکلدار دقیق هستند بلکه در نهایت واقعا به بهبود وضعیت نوجوانان منجر میشوند.
او عرضه این قابلیتها را بیشتر شبیه واکنشی روابطعمومی به انتقادها دانست تا نتیجه یک بررسی عمیق درباره نوع حمایتی که نوجوانان نیاز دارند.
اتصال حساب والدین و فرزندان؛ یک نقطه ضعف
هر سه کارشناس ضرورت اتصال حساب والدین و فرزندان برای استفاده از قابلیتهای نظارتی را یکی از نقاط ضعف طراحی این سیستم دانستند.
گولین گفت بسیاری از والدین از ابزارهای نظارت والدین استفاده نمیکنند؛ بخشی از این مسئله نیز به دشواری پیدا کردن و استفاده از این قابلیتها مربوط میشود.
او به گزارشی از Cybersafety Research Center اشاره کرد که ۸۶ قابلیت ایمنی را در چهار پلتفرم اینستاگرام، اسنپچت، تیکتاک و یوتیوب بررسی کرده بود. بر اساس این گزارش نزدیک به ۶۰ درصد قابلیتها معادل ۵۱ مورد از ۸۶ مورد یا آنطور که وعده داده شده بود کار نمیکردند یا استفاده از آنها دشوار بود.
گزارش دیگری از Fairplay نیز نشان داده بود برخی از قابلیتهای ایمنی حسابهای نوجوانان در اینستاگرام والدین را مجبور میکرد برای دسترسی به گزینههای مختلف از چندین صفحه عبور کنند.
گولین تاکید کرد آنچه معمولا موثرتر است، ایمنی پیشفرض و ایمنی در طراحی است یعنی پلتفرم از ابتدا محافظهکارانهترین تنظیمات را فعال کند و محدودیت زمانی را نیز به صورت پیشفرض در نظر بگیرد، نه اینکه مسئولیت تنظیم تمام این موارد را بر عهده والدین بگذارد.
به آزمایش و تقویت این سازوکارها ادامه میدهیم
اوپنایآی در بیانیهای به Engadget اعلام کرد که در حال حاضر هشدارهای مربوط به والدین تنها برای حسابهایی فعال است که به قابلیتهای کنترل والدین متصل شدهاند.
این شرکت گفت هدفش حمایت از کاربران و کمک به آنها برای دسترسی به منابع حمایتی واقعی و ارتباط با آنهاست و قصد دارد این سازوکارهای حفاظتی را با همکاری کارشناسان، خانوادهها و نوجوانان به صورت مستمر آزمایش و تقویت کند.
به نقل از برنا، البته اوپنایآی مشخص نکرده است اگر سامانه این شرکت یک حساب متصلنشده به والدین را به دلیل ارسال درخواستهای مضر مرتبط با اختلالات خوردن شناسایی کند چه اقدامی انجام خواهد داد.
در مجموع اگرچه عرضه ChatGPT برای نوجوانان نشاندهنده تلاش اوپنایآی برای ایجاد محیطی ایمنتر برای کاربران زیر ۱۸ سال است کارشناسان معتقدند اعتماد به این سیستم باید بر اساس داده و آزمایش مستقل شکل بگیرد نه صرفا وعدههای شرکت. مهمترین پرسشهای مطرحشده نیز همچنان درباره دقت تشخیص سن، توانایی دور زدن محدودیتها، ظرفیت بررسی انسانی، سرعت ارسال هشدار به والدین و میزان اثربخشی واقعی این مداخلات است.