گام تازه اتحادیه اروپا برای مقابله با محتوای گمراهکننده و دیپفیکها برداشته شد؛ از این پس محتوای تولیدشده با هوش مصنوعی که ظاهری واقعی دارد، باید بهصورت شفاف برچسبگذاری شود و متخلفان با جریمههای سنگین روبهرو خواهند شد.
به گزارش سیناپرس، شرکتهای فعال در اتحادیه اروپا از دوم اوت موظفاند تصاویر، متنها و فایلهای صوتی تولیدشده با هوش مصنوعی که ظاهری واقعی دارند را با برچسب یا واترمارک مشخص کنند.
اتحادیه اروپا از دوم اوت ۲۰۲۶ (۱۱ مرداد ۱۴۰۵) اجرای مرحله جدیدی از مقررات قانون هوش مصنوعی (AI Act) را آغاز میکند که بر اساس آن شرکتها موظف خواهند بود محتوای تولیدشده با هوش مصنوعی را در صورتی که بهگونهای طراحی شده باشد که واقعی به نظر برسد بهطور شفاف برچسبگذاری کنند.
این مقررات بخشی از الزامات قانون هوش مصنوعی اتحادیه اروپا است و هدف آن افزایش شفافیت، حفاظت از مصرفکنندگان و مقابله با انتشار محتوای گمراهکننده در فضای آنلاین عنوان شده است.
بر اساس این قوانین تصاویر، فایلهای صوتی، متنها و دیگر محتواهای تولیدشده توسط هوش مصنوعی که با هدف ایجاد ظاهری واقعی تولید شدهاند باید دارای برچسب مشخص یا واترمارک دیجیتال باشند تا کاربران بتوانند بهراحتی تشخیص دهند که این محتوا توسط سامانههای هوش مصنوعی تولید شده است.
البته این الزام همه انواع محتوا را شامل نمیشود. محتوای شخصی از جمله تصاویر یا مطالب تولیدشده برای استفاده خصوصی مانند پیامها و شوخیهای گروهی از این قانون مستثنا هستند. همچنین آثار هنری، طنز، هجو و آثار داستانی که ماهیت غیرواقعی آنها آشکار باشد مشمول الزام برچسبگذاری نخواهند بود.
مهلت اجرای قانون برای سامانههای جدید و قدیمی
الزام برچسبگذاری از ۲ اوت برای تمامی سامانههای جدید هوش مصنوعی که وارد بازار اتحادیه اروپا میشوند لازمالاجرا است. با این حال شرکتهایی که پیش از این تاریخ سامانههای هوش مصنوعی خود را عرضه کردهاند چهار ماه فرصت اضافی خواهند داشت تا محصولات خود را با الزامات جدید منطبق کنند.
هدف؛ حفاظت از مصرفکنندگان و دموکراسی
شرکتهایی که از اجرای این الزامات سر باز بزنند ممکن است با جریمههایی تا سقف سه درصد از کل درآمد ناخالص جهانی خود مواجه شوند، رقمی که میتواند برای شرکتهای بزرگ فناوری به میلیاردها یورو برسد.
سرگئی لاگودینسکی عضو پارلمان اروپا و از مذاکرهکنندگان اصلی قانون هوش مصنوعی با تاکید بر اهمیت این مقررات گفت: موضوع تنها حفاظت از مصرفکنندگان نیست بلکه حفاظت از دموکراسی نیز مطرح است. حفظ اطلاعات معتبر و امکان تشخیص واقعیت از محتوای تولیدشده با هوش مصنوعی، برای صیانت از دموکراسی و اصالت اطلاعات در فضای آنلاین ضروری است.
جریمههای سنگین برای متخلفان
اتحادیه اروپا همچنین مجموعهای از برچسبهای استاندارد سیاهوسفید را برای استفاده عمومی طراحی کرده است، اما شرکتها این امکان را دارند که در صورت رعایت الزامات قانونی از برچسبهای اختصاصی خود نیز استفاده کنند.
برچسبهایی که در تبلیغات، فیلم و نشر هم دیده خواهند شد
بونیفاس دو شامپری، مسئول سیاستگذاری هوش مصنوعی در انجمن صنعت رایانه و ارتباطات (CCIA) معتقد است بسیاری از کاربران از گستردگی اجرای این برچسبها شگفتزده خواهند شد.
به گفته او اگرچه بخش عمدهای از تصاویر تولیدشده با هوش مصنوعی در شبکههای اجتماعی هماکنون نیز دارای برچسب هستند اما کاربران احتمالا در حوزههایی مانند تبلیغات، صنعت فیلمسازی و نشر نیز با این برچسبها مواجه خواهند شد، حوزههایی که هوش مصنوعی در آنها بهطور گسترده مورد استفاده قرار میگیرد اما بسیاری از مردم از این موضوع آگاه نیستند.
چالش شبکههای اجتماعی در شناسایی محتوای هوش مصنوعی
در سالهای اخیر بسیاری از شبکههای اجتماعی سیاستهایی برای شناسایی و برچسبگذاری محتوای تولیدشده با هوش مصنوعی تدوین کردهاند اما این سازوکارها همچنان با چالشهایی روبهرو هستند. برای مثال TikTok از تولیدکنندگان محتوا میخواهد ویدئوهای ساختهشده با هوش مصنوعی را برچسبگذاری کنند اما همچنان بخش قابلتوجهی از این محتوا بدون برچسب منتشر میشود. یکی از نمونههای اخیر، انتشار ویدئوهای کوتاهی از پزشکان کاملا تولیدشده با هوش مصنوعی است که توصیههای پزشکی نادرست یا تاییدنشده ارائه میکنند.
در همین حال Google ابزار SynthID را برای واترمارکگذاری محتوای تولیدشده با هوش مصنوعی توسعه داده است. این شرکت اعلام کرده تاکنون بیش از ۱۰۰ میلیارد تصویر و همچنین معادل ۶۰ هزار سال محتوای صوتی با استفاده از این فناوری برچسبگذاری شدهاند.
به نقل از انگجت، از سوی دیگر متا نیز سیاستهایی را برای کمک به کاربران در شناسایی تصاویر فوتورئالیستی تولیدشده با هوش مصنوعی اجرا کرده و از برچسبهای مختلف برای نمایش این نوع محتوا در پلتفرمهای خود استفاده میکند.
اجرای الزامات جدید اتحادیه اروپا یکی از مهمترین گامهای نظارتی بر فناوریهای هوش مصنوعی به شمار میرود و انتظار میرود استانداردهای تازهای را برای شفافیت و اعتماد عمومی در تولید و انتشار محتوای دیجیتال در سطح جهان ایجاد کند.