دوفصلنامه تحقیق و توسعه در حقوق کیفری و جرم شناسی

دوفصلنامه تحقیق و توسعه در حقوق کیفری و جرم شناسی

مرزبندی میان دفاع مشروع قانونی و تبعیض الگوریتمی در تعیین مسئولیت کیفری

نوع مقاله : مقاله پژوهشی

نویسندگان
1 گروه حقوق جزا و جرم‌شناسی، واحد ساوه، دانشگاه آزاد اسلامی، ساوه، ایران
2 گروه جرم‌شناسی، دانشگاه علوم انتظامی امین، تهران، ایران؛
3 گروه حقوق کیفری و جرم‌شناسی، دانشکده حقوق و علوم سیاسی، دانشگاه آزاد اسلامی واحد کرج، استان البرز، ایران
چکیده
در دهه‌های اخیر، هوش مصنوعی و الگوریتم‌های پیچیده وارد عرصه‌های امنیتی و قضایی شده‌اند. این فناوری‌ها نحوه تصمیم‌گیری، اعمال قانون و مجازات (مانند مراقبت الکترونیکی) را دگرگون کرده‌اند. الگوریتم‌ها قدرت تحلیل سریع و دقت بالا دارند. آنها می‌توانند موقعیت‌های خطرناک را درک کرده و اقدامات دفاعی یا امنیتی پیشنهاد دهند.

با این حال، استفاده از این فناوری در موقعیت‌های حساس حقوقی، پرسش‌های تازه‌ای درباره مشروعیت و عدالت ایجاد کرده است. مهمترین چالش، مرز میان دفاع مشروع قانونی و تبعیض الگوریتمی است. تشخیص این مرز در تعیین مسئولیت کیفری طراحان، کاربران و نهادهای بهره‌بردار الگوریتم‌ها نقش تعیین‌کننده‌ای دارد. عدم توجه به این مرز می‌تواند منجر به معافیت غیرموجه از کیفر یا تحمیل مسئولیت ناعادلانه شود.

پژوهش حاضر با رویکرد توصیفی-تحلیلی و با ترکیب معیارهای حقوق کیفری سنتی و شاخص‌های عدالت الگوریتمی، چارچوبی شش مرحله‌ای برای تشخیص این مرز ارائه می‌دهد.

یافته‌های پژوهش نشان می‌دهد که الگوریتم‌ها به تنهایی نمی‌توانند عامل دفاع مشروع باشند. هرگونه تبعیض در داده‌ها، طراحی یا نظارت، مشروعیت دفاع را از بین می‌برد و مسئولیت کیفری را متوجه انسان‌ها و نهادها می‌کند. دفاع مشروع الگوریتمی تنها در صورت رعایت معیارهای قانونی، شفافیت داده‌ها و نظارت انسانی معتبر است. در مقابل، تبعیض الگوریتمی، حتی در قالب اقدام دفاعی، مشروعیت حقوقی ندارد و موجب مسئولیت کیفری می‌شود. مرز میان معافیت از کیفر و مسئولیت کیفری، نیازمند ترکیب معیارهای سنتی حقوق کیفری و شاخص‌های فنی عدالت الگوریتمی است.

این یافته‌ها بر ضرورت تدوین چارچوب‌های قانونی و سیاست‌های نظارتی در ایران و سایر نظام‌های مشابه تأکید دارند. آموزش، پژوهش و ایجاد نهادهای پاسخگو برای کاهش تبعیض و ارتقای عدالت الگوریتمی ضروری است. پاسخگویی انسانی و نهادی، همراه با شاخص‌های فنی عدالت و بازبینی مستمر، شرط لازم برای حفظ مشروعیت دفاع مشروع و کاهش خطر تبعیض الگوریتمی در عصر هوش مصنوعی است. این پژوهش تأکید می‌کند که تدوین قوانین کیفری ویژه، ایجاد نهادهای نظارتی مستقل و آموزش توسعه‌دهندگان و قضات، برای تحقق دفاع مشروع عادلانه و مسئولانه در عصر هوش مصنوعی ضروری است.
کلیدواژه‌ها
موضوعات

منابع فارسی

 
1. انصاری، باقر. (۱۴۰۱). مطالعه حقوقی تبعیض الگوریتمی. فصلنامه دانش حقوق عمومی، ۱۱(۳۸)، ۱۴۱-۱۷۰.
https://doi.org/10.22034/QJPLK.2022.1507.1408
 
2. جرفی، اسماء؛ صاحب، طیبه؛ شهبازی‌نیا، مرتضی. (۱۴۰۴). مسئولیت مدنی مالک کشتی‌های خودران ناشی از تصادم کشتی. پژوهش‌های حقوق تطبیقی، ۲۸(۲)، ۱-۲۶.
https://clr.modares.ac.ir/article_14158.html
 
3. شیخوند، محمدصادق؛ کرد علیوند، روح‌الدین؛ مینایی، بهروز؛ آشوری، محمد؛ مهدوی ثابت، محمدلی. (۱۴۰۴). مطالعه تطبیقی کاربرد تسهیل‌کننده هوش مصنوعی در امر تعقیب کیفری؛ ظرفیت‌ها و چالش‌ها. پژوهش‌های حقوق تطبیقی، ۲۷(۱)، ۸۱-۱۰۴.
https://clr.modares.ac.ir/article_14131.html
 
4. طباطبایی، سید محمدصادق؛ امینی، محمد. (۱۴۰۴). پویایی فقه امامیه در امکان پذیرش شخصیت حقوقی برای هوش مصنوعی. تحقیق و توسعه در حقوق خصوصی، ۲(۳). Doi:  10.22034/jpl.2025.721261
 
5. کاظمی، محمود. (۱۴۰۴). تأثیر رشد فناوری بر حقوق مسئولیت مدنی؛ تحول از دین مسئولیت به طلب جبران خسارت. تحقیق و توسعه در حقوق خصوصی، ۲(۳). Doi:  10.22034/jpl.2025.721256
 
منابع قضایی
1. دادگاه کیفری دو تهران. (۱۴۰۰). رأی شماره ۱۴۰۰۹۹۰۹۰۹۹۰۰۰۹۸.
2. دیوان عالی کشور. (۱۳۹۸). رأی وحدت رویه شماره ۷۹۹ مورخ ۱۳۹۸/۰۶/۲۰.
منابع عربی
1. نجفی، محمدحسین. (۱۴۰۴ق). جواهر الکلام فی شرح شرایع الاسلام، جلد ۲۱، چاپ سوم. بیروت: دار احیاء التراث العربی.
2. نجم‌الدین جعفر بن حسن (محقق حلی). (۱۴۰۳ق). شرایع الاسلام فی مسائل الحلال و الحرام، جلد ۴، چاپ چهارم. بیروت: دار الاضواء.
 

منابع انگلیسی

 
1.       Almasoud, A. S., Jamiu, ·, & Idowu, A. (2024). Algorithmic fairness in predictive policing. AI and Ethics 2024 5:3, 5(3), 2323–2337.
https://doi.org/10.1007/S43681-024-00541-3
2.       Barocas, S., & Selbst, A. D. (2016). Big Data’s Disparate Impact. SSRN Electronic Journal.
https://doi.org/10.2139/SSRN.2477899
3.       Behzad, T., Singh, M. K., Ripa, A. J., & Mueller, K. (2025). FairPlay: A Collaborative Approach to Mitigate Bias in Datasets for Improved AI Fairness. Proceedings of the ACM on Human-Computer Interaction, 9(2).
https://doi.org/10.1145/3710982
4.       Benjamin Samson Ayinla, Olukunle Oladipupo Amoo, Akoh Atadoga, Temitayo Oluwaseun Abrahams, Femi Osasona, & Oluwatoyin Ajoke Farayola. (2024). Ethical AI in practice: Balancing technological advancements with human values. International Journal of Science and Research Archive, 11(1).
https://doi.org/10.30574/ijsra.2024.11.1.0218
5.       Buiten, M., de Streel, A., & Peitz, M. (2023). The law and economics of AI liability. Computer Law and Security Review, 48.
https://doi.org/10.1016/j.clsr.2023.105794
6.       Cath, C., Wachter, S., Mittelstadt, B., Taddeo, M., & Floridi, L. (2018). Artificial Intelligence and the ‘Good Society’: the US, EU, and UK approach. Science and Engineering Ethics, 24(2).
https://doi.org/10.1007/s11948-017-9901-7
7.       Cooney, M., Shiomi, M., Duarte, E. K., & Vinel, A. (2023). A Broad View on Robot Self-Defense: Rapid Scoping Review and Cultural Comparison. Robotics 2023, Vol. 12, Page 43, 12(2), 43.
https://doi.org/10.3390/ROBOTICS12020043
8.       Custers, B. (2023). AI in Criminal Law: An Overview of AI Applications in Substantive and Procedural Criminal Law. SSRN Electronic Journal.
https://doi.org/10.2139/ssrn.4331759
9.       Danaher, J., Hogan, M. J., Noone, C., Kennedy, R., Behan, A., De Paor, A., Felzmann, H., Haklay, M., Khoo, S. M., Morison, J., Murphy, M. H., O’Brolchain, N., Schafer, B., & Shankar, K. (2017). Algorithmic governance: Developing a research agenda through the power of collective intelligence. Big Data & Society, 4(2).
https://doi.org/10.1177/2053951717726554
10.    European Parliament. (2025). Artificial intelligence in asylum procedures in the EU | Think Tank | European Parliament. Europarl.Europa.Eu/.
https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2025)775861
11.    Gless, S., & Ligeti, K. (2024). Regulating driving automation in the European Union – criminal liability on the road ahead? New Journal of European Criminal Law, 15(1).
https://doi.org/10.1177/20322844231213336
12.    Haynes, U.S. v. (2021). 999 F.3d 1234 (9th Cir.).
13.    He, J., & Zhang, Z. (2025). Algorithm Power and Legal Boundaries: Rights Conflicts and Governance Responses in the Era of Artificial Intelligence. Laws 2025, Vol. 14, Page 54, 14(4), 54.
https://doi.org/10.3390/LAWS14040054
14.    Leite, A. (2024). Self-Driving Cars and Criminal Law.
https://doi.org/10.1007/978-3-031-47946-5_8
15.    Lendvai, G. F., & Gosztonyi, G. (2025). Algorithmic Bias as a Core Legal Dilemma in the Age of Artificial Intelligence: Conceptual Basis and the Current State of Regulation. Laws 2025, Vol. 14, Page 41, 14(3), 41.
https://doi.org/10.3390/LAWS14030041
16.    Leslie, D., Mazumder, A., Peppin, A., Wolters, M., & Hagerty, A. (2021). Does “AI” stand for augmenting inequality in the era of covid-19 healthcare? The BMJ, 372.
https://doi.org/10.1136/bmj.n304
17.    Lim, H. S. M., & Taeihagh, A. (2019). Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities. Sustainability 2019, Vol. 11, Page 5791, 11(20), 5791.
https://doi.org/10.3390/SU11205791
18.    Makauskaite-Samuole, G. (2025). TRANSPARENCY IN THE LABYRINTHS OF THE EU AI ACT: SMART OR DISBALANCED? Access to Justice in Eastern Europe, 8(2).
https://doi.org/10.33327/AJEE-18-8.2-A000105
19.    Marchisio, E. (2021). In support of “no-fault” civil liability rules for artificial intelligence. SN Social Sciences, 1(2), 1–25.
https://doi.org/10.1007/S43545-020-00043-Z/METRICS
20.    Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2022). A Survey on Bias and Fairness in Machine Learning. In ACM Computing Surveys (Vol. 54, Issue 6).
https://doi.org/10.1145/3457607
21.    Mugari, I., Obioha, E. E., & Parton, N. (2021). Predictive Policing and Crime Control in The United States of America and Europe: Trends in a Decade of Research and the Future of Predictive Policing. Social Sciences, 10(6), 234.
22.    New Jersey Supreme Court. (2023). State v. Algorithmic Patrol, 254 N.J. 123.
23.    Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453.
24.    Pourghasab, M. (2022). Judicial Discretion in Self-Defense Cases in Iranian Criminal Courts: A Critical Analysis. Journal of Criminal Law Research, 11(2), 77–102.
25.    Qandeel, M. (2024). Facial recognition technology: regulations, rights and the rule of law. Frontiers in Big Data, 7, 1354659.
26.    Scherer, M. U. (2015). Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. SSRN Electronic Journal.
https://doi.org/10.2139/SSRN.2609777
27.    Verhagen, R. S., Neerincx, M. A., & Tielman, M. L. (2024). Meaningful human control and variable autonomy in human-robot teams for firefighting. Frontiers in Robotics and AI, 11.
https://doi.org/10.3389/frobt.2024.1323980
28.    Wang, X., Wu, Y. C., Zhou, M., & Fu, H. (2024). Beyond surveillance: privacy, ethics, and regulations in face recognition technology. Frontiers in Big Data, 7, 1337465.
29.    Wei, J., Qi, S., Wang, W., Jiang, L., Gao, H., Zhao, F., Al-Bukhaiti, K., & Wan, A. (2025). Decision-Making in the Age of AI: A Review of Theoretical Frameworks, Computational Tools, and Human-Machine Collaboration. Contemporary Mathematics (Singapore), 6(2), 2089–2112.
https://doi.org/10.37256/CM.6220256459
30.    Yeung, K. (2018). Algorithmic regulation: A critical interrogation. Regulation and Governance, 12(4).
https://doi.org/10.1111/rego.12158
31.    Yu, B., & Kumbier, K. (2017). Artificial Intelligence and Statistics. Frontiers of Information Technology and Electronic Engineering, 19(1), 6–9.
https://doi.org/10.1631/FITEE.1700813
32.    Završnik, A. (2021). Algorithmic justice: Algorithms and big data in criminal justice settings. European Journal of Criminology, 18(5), 623–642.
https://doi.org/10.1177/1477370819876762
33.    Zhao, J., Wu, M., Zhou, L., Wang, X., & Jia, J. (2022). Cognitive psychology-based artificial intelligence review. Frontiers in Neuroscience, 16, 1024316.
https://doi.org/10.3389/FNINS.2022.1024316
ارسال نظر در مورد این مقاله
نام را وارد کنید.
نشانی پست الکترونیکی را به درستی وارد کنید.
وابستگی سازمانی را به درستی وارد کنید.
توضیحات را وارد کنید (حداقل 50 حرف)
CAPTCHA Image
شناسه امنیتی را به درستی وارد کنید.