بررسی فقهی حقوقی نحوه مجازات‌کردن «هوش مصنوعی»
بررسی امکان تعیین مجازات‌های شرعی برای «ربات‌ها»
قسمتی از صحبت‌های حجت‌الاسلام حسین عندلیب، مدرس حوزه علمیه، در برنامه «فقه پویا» رادیو معارف
مجری: چه مجازات‌هایی برای جرایم هوش مصنوعی در حقوق متصور هستیم؟
عندلیب: مجازات‌هایی که تا کنون در سیستم‌های حقوقی شناخته شده یک مجازات سلب حیات است، یک مجازات حبس است، یک مجازات خدمات عمومی رایگان است و بعدی هم مجازات جزای نقدی است. البته قوانین یک‌سری مجازات‌های تکمیلی هم بیان کرده و سیستم قانون‌گذاری ما هم در قانون مجازات اسلامی ۱۳۹۲ مجازات‌های تکمیلی را هم اضافه کرده است که علاوه بر مجازات اصلی می‌توان این مجازات‌ها را هم در نظر گرفت.
اولاً قبل از این‌که بخواهیم نوع مجازات را تعیین کنیم، باید جهات تخفیف مجازات را در نظر بگیریم. یعنی قاضی صادر کننده‌ی رأی باید جهات تخفیف را در نظر بگیرد. چون ممکن است که یکی از این جهات تخفیف وجود داشته باشد و قاضی ملزم به این تخفیف هست. یعنی الان در یکی از دو مرحله‌ی دادگاه بدوی و دادگاه تجدید نظر باید این تخفیف‌ها لحاظ شود که اگر قاضی بدوی این تخفیف‌ها را لحاظ نکند، معمولاً دادگاه‌های تجدیدنظر این تخفیف‌ها را لحاظ می‌کنند. چرا؟ چون ماده‌ی ۳۷ قانون مجازات اسلامی ۱۳۹۲ می‌گوید در صورت وجود یک یا چند جهت از جهات تخفیف، دادگاه می‌تواند مجازات تعزیری را به نحوی که به حال متهم مناسب‌تر باشد به شرح ذیل تقلیل یا تبدیل کند. دادگاه «می‌تواند» و گاهی اوقات هم دادگاه بدوی می‌خواهد از این توان استفاده کند و گاهی اوقات هم نمی‌خواهد استفاده کند و این اختیار را دارد ولی معمولاً دادگاه‌های تجدیدنظر سعی می‌کنند از این‌ها استفاده کنند، مگر ممنوعیت‌هایی که خود قانون‌گذار گذاشته است. چون باز ما در مواد جلوتر داریم که یک‌سری ممنوعیت‌ها را خود قانون‌گذار اعمال کرده که نمی‌توان در آنجاها تخفیف داد.
به‌هرحال در ماده‌ی ۳۸ جهات تخفیف را گفته که در همین سیستم‌های دارای هوش مصنوعی هم اگر این جهات تخفیف باشد، باید در مجازاتی که تعیین می‌کنیم تخفیف دهیم. یکی که گذشت شاکی یا مدعی خصوصی است.
دومی همکاری مؤثر متهم در شناسایی شرکا یا معاونان، تحصیل ادله یا کشف اموال و اشیاء حاصله از جرم و یا به کار رفته برای ارتکاب. تصور کنید که خود این سیستم دارای هوش مصنوعی به بازپرس و به نیروهای نظامی و انتظامی و ضابطین برای کشف جرم کمک کرد.
اوضاع و احوال خاص مؤثر در ارتکاب جرم از قبیل رفتار یا گفتار تحریک‌آمیز بزه‌دیده. مثلاً سیستم دارای هوش مصنوعی و ربات هوش مصنوعی در دفاعیات خودش گفت: این کسی که من به او ضربه زدم و یا اصطلاحاً جنایتی را نسبت به او انجام دادم، او رفتار تحریک‌آمیزی نسبت به من داشت و من را تحریک به ارتکاب جرم کرد و مجبور شدم این کار را انجام دهم. این هم جزء دفاعیات او می‌شود.
وجود انگیزه‌ی شرافتمندانه در ارتکاب جرم. مثلاً یک سیستم دارای هوش مصنوعی بگوید که این فردی که الان خودش آسیب دیده، برای همسایه‌ی من، برای یک شهروند دیگر، برای یک زن و کودکی مزاحمت ایجاد کرده بود و من برای نجات آن‌ها با او برخورد فیزیکی کردم که منجر به شکستگی، ضرب و جرح و یا هر چیز دیگری شد که جرم باشد.
اعلام متهم قبل از تعقیب یا اقرار مؤثر وی در حین تحقیق و رسیدگی. مثل این‌که خودش گفت این جرمی که اتفاق افتاده را من انجام دادم و یا اقرار کرد. این خودش از جهات تخفیف می‌شود.
ندامت، حسن سابقه و یا وضع خاص متهم. خودش اظهار و ابراز پشیمانی کرد و گفت که من اشتباه کردم.
کوشش متهم به منظور تخفیف آثار جرم. گفت که من این جرم را مرتکب شدم ولی خودم هفته‌ای دو بار به منزل این‌ها می‌روم و برای آن‌ها خدمت می‌کنم و خدماتی را به این‌ها ارائه می‌دهم. این هم تخفیف آثار جرم می‌شود.
خفیف بودن زیان وارده یا نتایج زیان‌بار. این جرمی که ارتکاب پیدا کرده، جرم کم‌اهمیت و دست‌پایین است.
مداخله‌ی ضعیف شریک یا معاون در وقوع جرم. اگر شرکا یا معاونینی دارد که آن‌ها یک مداخله‌ی ضعیف داشتند و به آن نحو به صورت تام ورود نکرده‌اند.
در اینجا گفته است که ما می‌توانیم این جهات را درنظر بگیریم. قانون‌گذار در ماده‌ی ۳۹ گفته که در جرایم تعزیر درجه‌ی ۷ و ۸ اگر سابقه‌ی کیفری ندارد واگر قاضی می‌تواند این را احراز کند که او قابل اصلاح است، کلاً از مجازات معاف کند. یعنی کلاً او را از مجازات معاف کند، نه این‌که تخفیف دهد. تخفیف یعنی این‌که تبدیل کند و یا یک درجه مجازاتش را کمتر کند، ولی این می‌گوید که کلاً او را معاف از کیفر کند، یعنی کلاً او را تبرئه کند. این هم موضوعی است که داریم.
یکی دیگر از نهادهایی که باز باید در نظر بگیریم… . چون من عرض کردم که ما در سیستم‌های هوش مصنوعی فعلاً قانونی نداریم و چاره‌ای نیست جز این‌که با کلیات قانون مجازات و آیین دادرسی کیفری فعلاً تکلیف را مشخص کنیم و از همین‌ها هم بهره ببریم. چون در تبیین و تفسیری که ما داشتیم و همین‌طور که آقای دکتر سخاوتیان هم فرمودند، ما چاره‌ای جز این‌که از همین اصول و کلیات مجازات و قواعد جزایی استفاده کنیم، نداریم. هر چند که ما به ضرورت تقنین مستقل برای هوش مصنوعی به عمق باورمان و به شدت معتقدیم. باید یک تقنین باشد هر چند که از این اصول نمی‌توان چشم‌پوشی کرد.
نکته‌ی دیگری که قانون‌گذار ما گفته بحث تعویق صدور حکم است. قانون‌گذار گفته که می‌توان در یک‌سری شرایط به مدت ۶ ماه تا ۲ سال صدور حکم را به تعویق بیاندازیم. بگوییم که ما فعلاً به مدت ۶ ماه تا ۲ سال تو را مجازات نمی‌کنیم تا ببینیم که چه می‌کنی. معمولاً این تعویق‌ها همراه با یک‌سری دستورات هم هست. البته دو مدل است؛ یا تعویق به شکل ساده است که می‌گوییم فعلاً مجازات نمی‌کنیم و فقط جرمی را مرتکب نشو. یا این‌که تعویق به صورت مراقبتی است، یعنی به همراه آن یک دستوراتی می‌دهیم که من توضیح می‌دهم که آن دستورات چیست. پس ما برای سیستم‌های هوش مصنوعی می‌توانیم از این نهادها استفاده کنیم. مستقیماً آن را مجازات نکنیم و به سمت تعویق صدور حکم برویم.
چند مورد هست که این چند مورد را می‌گویم تا در تایم بعدی بتوانم در مورد آن‌ها صحبت کنم. یکی وجود جهات تخفیف بود که جهات تخفیف را عرض کردیم، مورد بعدی هم پیش‌بینی اصلاح مرتکب بود، جبران ضرر و زیان و فقدان سابقه‌ی کیفری هم موارد بعدی هستند. چهار تا شرط دارد. اگر این چهار شرط باشد، می‌توان به مدت ۶ ماه تا ۲ سال حکم محکومیت را به تعویق انداخت. بقیه‌ی شرایط را بعداً عرض می‌کنم.
مجری: از آن مجازات‌های پنج‌گانه مجازات سلب حیات برای هوش مصنوعی ممکن نیست، این چطور متصور است؟
عندلیب: این‌که ما چه نوع مجازات حدی یا تعزیری را انتخاب کنیم، این هم یک نکته‌ای است که باید توضیح دهم. در خصوص مجازات‌های حدی خب موضوع حدود انسان بالغ مختار عاقل است. بنابراین ما در مجازات‌های حدی دچار یک تضییق و محدودیت هستیم، نمی‌توان این را بر غیرانسان بار کرد. پدیده‌های نوپیدا مثل هوش مصنوعی را باید در باب تعزیرات مطرح کرد. چون این‌ها قطعاً انسان نیستند. در باب تعزیرات هم قانون‌گذار ما در سال ۹۲ به این نتیجه رسید که تعزیرات را به دو قسمتِ تعزیرات منصوص شرعی و تعزیرات غیرمنصوص تقسیم کند. یعنی تعزیراتی که مجازات آن‌ها در روایات ما تعیین شده است که به این‌ها تعزیرات منصوص شرعی می‌گویند. قانون‌گذار برای اولین بار در سال ۹۲ این را آورد و گفت که نهادهای تخفیفی در تعزیرات منصوص شرعی جاری نمی‌شود. یعنی شبیه به حد کرده است و متأسفانه در مصادیقش برداشت‌های متفاوتی هست و البته از نظر فقهی، فقها دیدگاه‌های متفاوتی دارد. بین ۳ تا ۲۴ مصداق را برای تعزیرات منصوص شرعی بیان کرده‌اند.
این‌که «متأسفانه» گفتم، تأسف من از این بابت بود که متأسفانه این در قانون بیان نشده است. یعنی قانون‌گذار در سال ۹۲ کلمه‌ی تعزیرات منصوص شرعی را آورده ولی مصادیق را نگفته است و اکثر قریب به اتفاق قضات ما هم که الان مجتهد نیستند و نمی‌توانند تعزیرات منصوص شرعی را به طور دقیق مشخص کنند. این یکی از معضلات قانون ما است. به‌هرحال حالا این‌که تعزیرات منصوص شرعی هست یا نیست هم خودش محل بحث است. چون بعضی معتقدند که ما تعزیر منصوص شرعی نداریم و این‌ها احکام حکومتی بوده است که ائمه(ع) به فراخور حال این میزان مجازات را تعیین کرده‌اند. من یک مقاله‌ای هم در همین زمینه دارم که در آنجا هم توضیح داده‌ام.
از این بگذریم، در تعزیرات دیگر باید قانون‌گذاری داشته باشیم، چون مجتهد نداریم، به معنای این‌که قاضی مجتهد الان بسیار کم یا اندک است و بنابراین باید قانون بگذاریم. ابتدای انقلاب هم چون «التعزیر بما یریه الحاکم» بود، اختلاف نظرات زیاد شد و سیستم تقنینی ما به این فکر افتاد که ما قانون تعزیرات برای ایجاد وحدت رویه بین قضات بنویسیم.
از این‌ها بگذریم که نیاز بود توضیح دهم. مجازاتی که فرمودید سلب حیات بود. ما این قاعده را داریم که «کل شیءٍ بحسبه». سلب حیات یعنی ما سیستم زنده را از فعالیت بازداریم، حالا این هم یک زمانی انسان است که از فعالیت بازمی‌داریم و ازهاق نفس می‌کنیم. زمانی در مورد سیستم هوش مصنوعی است، ما این را به صورت دائمی خاموش کنیم که این دیگر آف شود و اصطلاحاً کاری نکند. این یک نوع سلب حیات برای سیستم‌های دارای هوش مصنوعی می‌شود.
مجری: یا حتی به طور کامل از بین ببریم.
عندلیب: بله، سیستم دارای هوش مصنوعی کلاً از بین برود و دیگر نتواند کاری کند. دومین موضوع هم حبس است. خب یک بار می‌گوییم که زندانی کنیم. بله، ممکن است در آینده زندان‌های مخصوص ربات‌های هوش مصنوعی داشته باشیم، چیز بعیدی هم نیست. اما زمانی هم می‌گوییم که حبس به معنای ایجاد محدودیت برای آزادی‌های فرد است. آن را حبس خانگی می‌کنیم، محدود می‌کنیم. مثل این‌که الان در نظام جدید قضایی ما پایبند الکترونیک داده‌ایم. گفته‌ایم که تو تا شعاع هزار متر می‌توانی رفت‌وآمد کنی و بیش از هزار متر از محل سکونت نمی‌توانی رفت‌وآمد کنی. این یک نوع حبس است. آزادی‌هایش را محدود کرده‌ایم.
بنابراین در سیستم‌های هوش مصنوعی هم می‌توانیم این حبس و یا این محدودیت را برای آن ایجاد کنیم و آن را تحت نظارت سامانه‌های رایانه‌ای قرار دهیم و آن را کنترل کنیم.
یک بحث هم که من عرض کردم بحث تعویق بود که گفتم قانون‌گذار آن را گفته است که یک تعویق ساده است که ما از این سیستم‌های هوش مصنوعی تعهد بگیریم که دیگر ارتکاب جرمی نداشته باشد و به درستی رفتار کند. یک مدل هم تعویق مراقبتی است که باید به این سیستم‌های دارای هوش مصنوعی یک‌سری دستورات را بدهیم که قانون‌گذار در ماده‌ی ۴۲ قانون مجازات اسلامی می‌گوید تعویق مراقبتی باید همراه با تدابیر زیر باشد: حضور به موقع در زمان و مکان تعیین شده توسط مقام قضایی و یا مددکار اجتماعی ناظر. بگوییم که آقای ربات هوش مصنوعی، شما هر روز ساعت ۱۰ صبح باید خودت را به کلانتری محل معرفی کنی و یا در مرکز مشاوره حاضر شوی که در آنجا اقدامات تربیتی، کنترلی، مهارتی و هر چه که تشخیص داده شود، انجام شود.
ارائه‌ی اطلاعات، اسناد و مدارک تسهیل‌کننده‌ی نظارت بر اجرای تعهدات محکومٌ‌به به مددکار اجتماعی. اعلام هرگونه تغییر شغل، اقامت‌گاه یا جابه‌جایی که اگر تغییر کرد باید اطلاع دهد. کسب اجازه از مقام قضایی به منظور مسافرت و خارج شدن از آن حوزه‌ای که در آنجا بوده است.
در ماده‌ی ۴۳ می‌گوید قاضی می‌تواند علاوه بر این برای او یک‌سری دستورات دیگر بدهد. این دیگر اختیاری است. برای این‌که چه کند؟ بگوید که؛ تو برو یک حرفه‌ای را آموزش ببین. اقامت یا عدم‌اقامت در یک مکان معین، درمان بیماری یا ترک اعتیاد که باید ببینیم سیستم‌های دارای هوش مصنوعی اصلاً می‌توانند معتاد شوند یا نه؟ خودداری از تصدی کلیه یا برخی از وسائط نقلیه‌ی موتوری. بگوییم که آقای هوش مصنوعی، شما به مدت ۶ ماه، یک سال یا هر مقداری که تعیین شود، نباید رانندگی کنی. خودداری از فعالیت‌های حرفه‌ای، خودداری از ارتباط و معاشرت با شرکا، گذراندن دوره‌های آموزشی تربیتی، اخلاقی و مذهبی که در قانون ما به این هم اشاره شده است.
پس ما می‌توانیم برای سیستم‌های هوش مصنوعی این تعلیق را هم در نظر بگیریم و در یک فرآیندی آن‌ها را بازپروری کنیم.
مدل دیگر از مجازات‌ها بحث خدمات عمومی رایگان بود. اگر در خاطر شریف‌تان باشد گفتیم که ممکن است ما ربات‌هایی را بسازیم و الان هم محقق شده که ربات‌های خدمت‌گزار هستند که در رستوران یا جاهای مختلف باشند و یا دستیار پزشکان شوند.
اگر این هوش مصنوعی خبره مرتکب جرمی شد، به آن بگوییم برای مجازات ملزم هستید که ۶ ماه خدمات رایگان بدهید. فایده‌ی این کار این است که در حقیقت یک طیف زیادی از بیماران یا مراجعه‌کنندگان را به صورت رایگان درمان می‌کند و یا به صورت رایگان خدمات می‌دهد. این هم قابل امکان هست و می‌توان این را ارجاع داد. یکی هم جزای نقدی است. این‌که ما، او را جریمه کنیم. حالا بحث اول پیش می‌آید که آیا هوش مصنوعی مالک است و مالی دارد که او را مجازات کنیم؟ چطور مجازات کنیم؟ اگر با این توسعه پیش برویم که احتمال دارد در یک فصل دیگری از مباحث فقهی – حقوقی ما که بحث‌های حقوق مدنی این‌ها را می‌خواهیم مطرح کنیم، ببینیم که اصلاً سیستم‌های هوش مصنوعی مالک می‌شوند یا نه؟ اهلیت مالک شدن دارند یا ندارند؟ این‌ها بحث‌هایی می‌طلبد که باید بعداً انجام شود. اما ما می‌گوییم که با همین محاسبات خدمات عمومی، در مقابل آن پول حساب کنیم. بگوییم که اگر شما به عنوان هوش مصنوعی در اینجا کار می‌کردید، چقدر دستمزد می‌گرفتید؟ ساعتی ۱۰۰ هزار تومان.
مجری: یعنی تبدیل شود.
عندلیب: بله، تبدیل کنیم. بگوییم که خدمات عمومی رایگان بده، n ساعت تبدیل به مجازات نقدی می‌شود و یا مدیران، سازندگان و شرکت‌های آن‌ها را مجازات نقدی کنیم. بر فرض این‌که خود هوش مصنوعی هم قابل مجازات نقدی نباشد، سازندگان و شرکت‌ها را مجازات نقدی کنیم.
منبع: خبرگزاری حوزه
