اگر یک تصمیم اشتباه دیگر حاصل اراده و اقدام یک انسان واحد نباشد و از همکاری انسان، داده، الگوریتم و زیرساخت دیجیتال شکل بگیرد، مسئولیت آن بر عهده چه کسی است؟
این پرسش، یکی از چالشهای مهم حقوق کیفری در عصر هوشواره است؛ عصری که در آن تصمیمها بیش از گذشته درون شبکهای از دادهها، سامانههای پردازشی، الگوریتمها و طراحیهای انسانی شکل میگیرند و دیگر همیشه نمیتوان با اشاره به یک فرد گفت: او تصمیم گرفت.
به گزارش سیناپرس، هوش مصنوعی و سامانههای هوشمند، دیگر صرفاً ابزارهایی برای اجرای تصمیم انسان نیستند. آنها میتوانند در مشاهده، طبقهبندی، ارزیابی، پیشبینی و حتی پیشنهاد یا شکلدهی به تصمیم نقش داشته باشند. همین تغییر، رابطه سنتی میان انسان، فعل، کنترل و مسئولیت را با پرسشهای تازهای روبهرو کرده است.
در چنین شرایطی، پرسش حقوق کیفری فقط این نیست که «چه کسی عمل را انجام داد؟»؛ بلکه باید پرسید: این تصمیم چگونه شکل گرفت، چه کسانی در معماری آن نقش داشتند و چه کسی امکان وقوع پیامد زیانبار را ایجاد یا قابل پیشگیری نکرد؟
معمار تصمیم؛ مفهومی برای بازخوانی مسئولیت
یکی از مفاهیم قابل استفاده برای تحلیل این وضعیت، «معمار تصمیم» است؛ مفهومی که قرار نیست بهعنوان یک عنوان مجرمانه جدید وارد حقوق کیفری شود، بلکه میتواند به شناسایی لایههای انسانی پشت یک تصمیم دیجیتال کمک کند.
معمار تصمیم ممکن است کسی باشد که قواعد یک سامانه را طراحی کرده، دادههای مورد استفاده را انتخاب یا سازماندهی کرده، زیرساخت تصمیمگیری را ساخته یا شرایطی را فراهم کرده است که در نهایت یک تصمیم خاص را ممکن میکند.
اهمیت این مفهوم در این است که در سامانههای پیچیده، مسئولیت لزوماً در همان نقطهای قرار ندارد که خروجی نهایی دیده میشود. با این حال، توزیع عاملیت به معنای توزیع تقصیر نیست.
از منظر حقوق کیفری، صرف اینکه افراد و سامانههای متعددی در شکلگیری یک تصمیم دخالت داشتهاند، بهتنهایی برای انتساب مسئولیت کیفری کافی نیست. برای تحقق مسئولیت همچنان باید مبنای قانونی، رفتار قابل انتساب، رابطه لازم میان رفتار و نتیجه و سایر شرایط مسئولیت کیفری احراز شود.
بنابراین، «معمار تصمیم» بیش از آنکه پاسخ نهایی به پرسش مسئولیت باشد، ابزاری برای طرح پرسش دقیقتر است: در زنجیرهای که به یک تصمیم منتهی شده، چه نقش انسانی وجود داشته و میزان کنترل، آگاهی از خطر و امکان پیشگیری در کجا قرار داشته است؟
وقتی فناوری از ابزار به زیرساخت تصمیم تبدیل میشود
در الگوی سنتی، فناوری عمدتاً ابزاری در دست انسان بود؛ انسان تصمیم میگرفت و ابزار، تصمیم او را اجرا میکرد. اما در سامانههای هوشمند، فناوری میتواند در خود فرایند تصمیمسازی مداخله کند.
دادهها تعیین میکنند چه چیزی دیده شود و چه چیزی در حاشیه بماند؛ الگوریتمها دادهها را به یکدیگر مرتبط میکنند؛ و مدلها بر اساس الگوهای موجود، احتمال وقوع یک وضعیت را محاسبه میکنند.
در نتیجه، تصمیم نهایی ممکن است محصول یک «لحظه» نباشد، بلکه نتیجه یک زنجیره باشد: جمعآوری داده، انتخاب داده، طراحی مدل، تعیین معیارها، پردازش اطلاعات و در نهایت تولید یک خروجی.
همینجا مسئله حقوق کیفری پیچیدهتر میشود. اگر فناوری در ساختن شرایط تصمیم نقش داشته باشد، تحلیل مسئولیت نیز نمیتواند فقط به آخرین حلقه زنجیره محدود شود.
احتمال جرم، همسان وقوع جرم نیست
یکی از حساسترین حوزهها، استفاده از سامانههای پیشبین در حوزه جرم و کنترل اجتماعی است.
یک سامانه ممکن است بر اساس دادههای گذشته، احتمال وقوع یک رفتار یا میزان ریسک یک فرد یا یک موقعیت را محاسبه کند. اما احتمال جرم، خودِ جرم نیست؛ همانطور که خطر، بهتنهایی مسئولیت کیفری ایجاد نمیکند.
مسئله زمانی جدیتر میشود که خروجی احتمالی یک سامانه، مبنای مداخلهای علیه یک فرد قرار گیرد؛ بهگونهای که فرد نه به دلیل رفتاری که انجام داده، بلکه بر اساس تصویری که دادهها و الگوریتم از «احتمال رفتار آینده» او ساختهاند، در معرض محدودیت یا برخورد قرار گیرد.
بنابراین، میان سه مرحله باید تفکیک شود: پیشبینی، ارزیابی خطر و انتساب مسئولیت کیفری.الگوریتم میتواند احتمال را محاسبه کند، اما نمیتواند صرفاً با تولید یک احتمال، جایگزین فعل مجرمانه، مبنای قانونی جرم یا شرایط لازم برای انتساب مسئولیت کیفری شود.
این مسئله البته به نظام عدالت کیفری محدود نیست. در بانکداری، بیمه، استخدام، اعتبارسنجی و خدمات عمومی نیز تصمیمهای الگوریتمی میتوانند بر زندگی افراد اثر بگذارند؛ ازاینرو مسئله شفافیت، امکان اعتراض و حق دانستن مبنای تصمیم، اهمیتی فزاینده پیدا میکند.
از «دلیل دیجیتال» تا «حقیقت الگوریتمی»
ورود فناوری به فرایند کشف و اثبات جرم، مفهوم دلیل را نیز با پرسشهای تازهای مواجه کرده است.
داده دیجیتال چیزی نیست که صرفاً «وجود داشته باشد» و بدون واسطه حقیقت را بازتاب دهد. داده تولید، ثبت، ذخیره، پردازش و تفسیر میشود. خروجی یک الگوریتم نیز نتیجه همین فرایند است و نمیتوان آن را صرفاً به دلیل محاسباتیبودن، حقیقت نهایی تلقی کرد.
از این منظر، مسئله فقط دسترسی به داده نیست؛ بلکه باید پرسید داده چگونه تولید شده، چه دادههایی در اختیار سامانه قرار گرفته، چه دادههایی کنار گذاشته شده، مدل چگونه به نتیجه رسیده و فرد تا چه اندازه امکان فهم و اعتراض به این نتیجه را دارد.
این موضوع مستقیماً با حق دفاع پیوند میخورد. اگر یک تصمیم مؤثر بر حقوق فرد بر مبنای سامانهای گرفته شود که منطق آن قابل فهم یا قابل اعتراض نیست، پرسش درباره اعتبار و قابلیت اتکای آن تصمیم نیز جدیتر میشود.
وقتی قدرت تصمیمگیری در یک شبکه توزیع میشود
گسترش سامانههای هوشمند به این معنا نیست که قدرت کیفری از دولت به ماشین منتقل شده است. قدرت کیفری همچنان در چارچوب قانون و نهادهای عمومی اعمال میشود؛ اما زیرساختهایی که اطلاعات و تصمیمسازی بر آنها تکیه دارند، ممکن است در اختیار مجموعهای از بازیگران قرار گرفته باشند.
شرکتهای فناوری، ارائهدهندگان خدمات ابری، صاحبان پایگاههای داده، طراحان سامانهها و نهادهای عمومی میتوانند هر یک بخشی از این زنجیره را در اختیار داشته باشند.
در نتیجه، با نوعی شبکه توزیعشده از تصمیم مواجهیم؛ شبکهای که در آن یک تصمیم واحد میتواند حاصل عملکرد چندین بازیگر و چندین لایه فنی باشد.
این وضعیت ضرورت شناسایی نقشها را بیشتر میکند، اما نباید به این نتیجه منتهی شود که مسئولیت کیفری نیز بهطور خودکار میان همه این بازیگران توزیع شود. مسئله اصلی همچنان انتساب حقوقی و احراز شرایط مسئولیت است.
دیپفیک؛ وقتی هویت از عاملیت جدا میشود
فناوری دیپفیک یکی از روشنترین نمونههای تغییر رابطه میان هویت، تصویر و عمل است.
در ژوئن ۲۰۲۶، دادگاه آمستردام یک مرد ۳۴ ساله را به دلیل استفاده از فناوری دیپفیک برای گشودن ۴۷ حساب بانکی به نام دیگران به ۳۰ ماه حبس، شامل شش ماه حبس تعلیقی، محکوم کرد. طبق اعلام رسمی دادگاه، او با استفاده از تصاویر دستکاریشده دارای ویژگیهای زیستی، فرایند شناسایی و احراز هویت بانک ABN AMRO را فریب داده بود؛ بخشی از حسابهای ایجادشده نیز در جرایم دیگری از جمله کلاهبرداری تلفنی با عنوان کارکنان بانک مورد استفاده قرار گرفت.
گزارش NOS نیز توضیح میدهد: فرد با دستکاری تصاویر هویتی و تغییر تصاویر چهره خود، فرایند شناسایی را دور زده بود و بخشی از حسابهای افتتاحشده بعداً برای کلاهبرداری استفاده شد.
اهمیت این پرونده فقط در استفاده از دیپفیک برای ارتکاب جرم نیست. مسئله عمیقتر، تضعیف رابطه سنتی میان «چهره، هویت و شخص» است.
اگر تصویر دیجیتال بتواند از صاحب واقعی آن جدا شود و در فرایند احراز هویت به جای او قرار گیرد، دیگر صرف مشاهده یک تصویر نمیتواند بهسادگی به معنای احراز هویت و انتساب عمل باشد.
به این ترتیب، دیپفیک صرفاً مسئله جعل تصویر نیست؛ بلکه مسئلهای درباره هویت دیجیتال و نسبت آن با عاملیت انسانی است.
بازاندیشی در پرسش بنیادین حقوق کیفری
ورود هوشواره به ساختارهای تصمیمگیری، حقوق کیفری را با یک پرسش قدیمی در شرایطی تازه روبهرو میکند: فاعل کیست؟
اما در عصر قدرت دیجیتال، شاید این پرسش بهتنهایی کافی نباشد.در کنار آن باید پرسید: این تصمیم چگونه ممکن شد؟ چه دادههایی آن را شکل دادند؟ چه سامانهای آن را پردازش کرد؟ چه کسی قواعد و زیرساخت آن را طراحی کرد؟ چه کسی بر فرایند کنترل داشت و چه کسی میتوانست از پیامد زیانبار آن پیشگیری کند؟
پاسخ به این پرسشها به معنای انتقال مسئولیت کیفری از انسان به ماشین نیست. برعکس، هدف آن است که در میان شبکه پیچیدهای از دادهها، الگوریتمها و زیرساختها، نقش انسانی بهدرستی شناسایی و سپس بر اساس معیارهای حقوق کیفری درباره انتساب مسئولیت داوری شود.
مسئله اصلی در حقوق کیفری عصر هوشواره، بنابراین مجازات ماشین نیست؛ بلکه یافتن مسئولیت انسانی در معماری تصمیمهای ماشینی است.
این موضوع در نشستی علمی با عنوان «هوشواره و بازاندیشی در مسئولیت کیفری در عصر قدرت دیجیتال» نیز مورد بررسی قرار گرفت؛ نشستی که به صورت آنلاین در دانشگاه شهید بهشتی و با حضور استادان، پژوهشگران و دانشجویان حوزه حقوق دانشگاه علم و فناوری اوفا در روسیه برگزار شد.
در این نشست، دکتر فاطمه قناد عضو هیئت علمی دانشکده حقوق دانشگاه علم و فرهنگ، با تمرکز بر نسبت میان فناوریهای هوشمند، ساختارهای تصمیمگیری و مسئولیت کیفری، بر ضرورت بازاندیشی در شیوه تحلیل مسئولیت در محیطهای دیجیتال تأکید کرد.
محور بحث او این بود که هرچه تصمیمگیری از یک کنش فردی به فرایندی شبکهای و متکی بر داده و فناوری تبدیل میشود، حقوق کیفری نیز باید بتواند معماری این تصمیم را بازسازی کند؛ نه برای آنکه هر دخالت فناورانه را به مسئولیت کیفری تبدیل کند، بلکه برای آنکه در پسِ تصمیمهای ماشینی، نقش انسان، میزان کنترل، آگاهی از خطر و امکان پیشگیری را دقیقتر ببیند.
در نهایت، پرسش تعیینکننده شاید دیگر فقط این نباشد که «چه کسی تصمیم گرفت؟»؛ بلکه این است که چه کسی معماری تصمیم را ساخت و این تصمیم چگونه ممکن شد؟