متا برای شناسایی کاربران کمسنوسال از هوش مصنوعی کمک میگیرد
شرکت متا، مالک شبکههای اجتماعی فیسبوک و اینستاگرام، از اجرای سامانههای جدید مبتنی بر هوش مصنوعی برای شناسایی کاربران زیر سن قانونی در پلتفرمهای خود خبر داد؛ اقدامی که با هدف تقویت ایمنی کودکان و نوجوانان در فضای مجازی انجام میشود، اما همزمان نگرانیهایی درباره حریم خصوصی و احتمال خطاهای الگوریتمی برانگیخته است.
به گزارش سیناپرس، متا اعلام کرده است که فناوری جدید این شرکت با تحلیل اطلاعات موجود در پروفایل کاربران، از جمله پستها، نظرات، بیوگرافیها و توضیحات تصاویر، نشانههای احتمالی نقض محدودیتهای سنی را شناسایی میکند. بر اساس اعلام این شرکت، در صورتی که یک حساب کاربری مشکوک به تعلق داشتن به فردی زیر سن مجاز باشد، حساب مذکور غیرفعال شده و مالک آن باید از طریق فرآیند احراز هویت سنی، مدارک لازم را ارائه کند.
علاوه بر تحلیل متون، متا از ابزارهای بینایی ماشین نیز برای بررسی تصاویر و ویدئوها استفاده خواهد کرد. این شرکت تأکید کرده است که فناوری مورد استفاده «تشخیص چهره» نیست، بلکه سامانه هوش مصنوعی با ارزیابی ویژگیهای ظاهری کلی مانند ساختار استخوانی یا قد افراد، تخمینی از سن آنها ارائه میدهد.
به گفته مسئولان متا، ترکیب تحلیل محتوای متنی، تعاملات کاربران و نشانههای بصری میتواند به شناسایی تعداد بیشتری از حسابهای متعلق به افراد کمسنوسال کمک کند و محیطی ایمنتر برای کاربران نوجوان فراهم آورد.
با این حال، این رویکرد با انتقادهایی از سوی کارشناسان حقوق دیجیتال و حریم خصوصی مواجه شده است. منتقدان معتقدند فناوریهای تخمین سن مبتنی بر هوش مصنوعی هنوز از دقت کافی برخوردار نیستند و احتمال خطا در مورد گروههای مختلف اجتماعی، از جمله اقلیتهای نژادی، افراد دارای معلولیت و افراد دارای هویتهای جنسیتی متنوع، وجود دارد.
کارشناسان همچنین هشدار میدهند که تحلیل گسترده دادههای رفتاری و تصویری کاربران میتواند به شکلگیری پروفایلهای دقیقتری از افراد منجر شود؛ موضوعی که نگرانیهایی درباره نحوه ذخیرهسازی، استفاده و حفاظت از این دادهها ایجاد کرده است.
برخی تحلیلگران حوزه سیاستگذاری فناوری نیز معتقدند: متا با این اقدام در تلاش است تا به فشارهای فزاینده نهادهای قانونگذار در ایالات متحده و اتحادیه اروپا برای حفاظت از کودکان در شبکههای اجتماعی پاسخ دهد. با این حال، آنان تأکید میکنند که استفاده از هوش مصنوعی بهتنهایی نمیتواند راهحلی جامع برای احراز سن کاربران باشد و مسئولیت حفاظت از کودکان باید میان پلتفرمهای اجتماعی، والدین، فروشگاههای اپلیکیشن و نهادهای نظارتی تقسیم شود.
متا در پاسخ به این نگرانیها اعلام کرده است که هدف اصلی این طرح، افزایش امنیت کاربران نوجوان و ارائه تجربهای متناسب با سن آنان است و این شرکت تلاش میکند شفافیت بیشتری درباره نحوه عملکرد سامانههای هوش مصنوعی خود ارائه دهد.
کارشناسان معتقدند موفقیت این طرح در گرو ایجاد توازن میان امنیت کاربران کمسنوسال و حفظ حریم خصوصی میلیونها کاربر شبکههای اجتماعی خواهد بود؛ چالشی که در سالهای آینده به یکی از مهمترین موضوعات سیاستگذاری فناوری در جهان تبدیل میشود.
مترجم: فرگل غفاری
