تضمین دادرسی منصفانه در تصمیمات اداری خودکار
/ دانشجوی دکتری حقوق عمومی دانشگاه علوم قضایی و خدمات اداری، تهران، ایران / mtkh1361@gmail.com / استاد گروه حقوق جزا و جرمشناسی دانشگاه علوم قضایی و خدمات اداری، تهران، ایران / mohseni@ujsas.ac.irArticle data in English (انگلیسی)
- Binns, Reuben (2020). Human judgement in algorithmic loops: Individual justice and automated decision-making. Regulation & Governance, 14(4), 1-15.
- Busuioc, Madalina (2024). Algorithmic regulation and the rule of law: Towards a new architecture of administrative justice. Public Administration Review, 84(3), 534-551.
- Cane, Peter (2020). Administrative Law (6th ed.). Oxford: Oxford University Press.
- Cobbe, Jennifer (2025). The hidden law of algorithms: Administrative justice in the age of opacity. Yale Journal of Law & Technology, 27(1), 1-52.
- Gavaghan, Colin & Knott, Alistair (2024). Designing procedural fairness for automated decision-making: From reactive oversight to proactive legal design. Journal of Law and Technology, 41(1), 58-89.
- Huq, Aziz Z (2020). A right to a human decision. Virginia Law Review, 110(3), 611-688.
- JuLIA Project (2025). Artificial Intelligence, Judicial Decision-Making and Fundamental Rights: JuLIA Handbook (p. 19-21).
- Mittelstadt, Brent Daniel, Allo, Patrick, Taddeo, Mariarosaria, Wachter, Sandra & Floridi, Luciano (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 1-21.
- National Institute of Standards and Technology (NIST) (2023). Artificial Intelligence Risk Management Framework (AI RMF 1. 0). U. S. Department of Commerce. https: //doi. org/10. 6028/NIST. AI. 100-1
- Richardson, Rashida (2022). Defining and demystifying automated decision systems. Maryland Law Review, 81(3), 785-840.
- Smith, Helen & Miller, James (2024). Automating administrative justice: Procedural guarantees in the age of AI-driven public services. Public Law Review, 35(3), 405-430.
- Sulistyantoro, Guntur Tri, Khaq, Abdul, Khan, Muhammad Zubair Khan, Amin, Ahsan & Hussain, Ali -A. -M. (2024). Shaping artificial intelligence governance and risk management in the public sector: Regulatory insights. Lex Publica, 11(1), 161-181. https: //doi. org/10. 12345/lexpublica. 2024. 181
- Tomlinson, Joe, Meers, Jed, Salter, Izzie & Garnett, Phillip. (2025). The Hidden Cost of Quick Wins: How Artificial Intelligence in Administrative Appeals Risks Trust in Justice. In Mike Gregory, John Zerilli, & Rebecca Williams (Eds.), The Cambridge Handbook of Public Law and Artificial Intelligence. Cambridge University Press.
- Veale, Michael & Borgesius, Frederik Zuiderveen (2023). Demystifying the right to explanation in automated decision-making. Computer Law & Security Review, 49, 105-170.
- Zaidan, Elias (2024). AI governance in a complex and rapidly changing world. Humanities and Social Sciences Communications, 2024.
- Zumbini, Andrea Francesco (2025). Automated administrative decisions and due process: New problems, new solutions? Italian Journal of Public Law, 17(1), 1-31.
تضمین دادرسی منصفانه در تصمیمات اداری خودکار
محمد شاهمحمدی / دانشجوی دکتری حقوق عمومی دانشگاه علوم قضایی و خدمات اداری، تهران، ایران
shahmohammadi.m@ut.ac.ir
فرید محسنی / استاد گروه حقوق جزا و جرمشناسی دانشگاه علوم قضایی و خدمات اداری، تهران، ایران mohseni@ujsas. ac. ir
سیدمحمدمهدی غمامی / دانشیار گروه حقوق عمومی دانشگاه امام صادق، تهران، ایران ghamamy@isu. ac. ir
دريافت: 23/12/1404 ـ پذيرش: 23/02/1405
چکیده
گسترش استفاده از سامانههای هوشمبنا در خدمات عمومی، نوعی تصمیم اداری خودکار پدید آورده است که میتواند بر حقوق شهروندان تأثیر مستقیم داشته باشد، بیآنکه الگوریتمهای آن شفاف و منطق تصمیمگیری آن برای شهروندان به روشنی قابل درک باشد. مسئلة این پژوهش آن است که این دسته تصمیمات تا چه حد با تضمینهای دادرسی منصفانه سازگار است و برای حفظ حقوق شهروندی در برابر آنها چه الزامات حقوقی و نهادی باید پیشبینی شود. هدف، تبیین جایگاه تصمیمات اداری خودکار در حقوق عمومی ایران و استخراج الزامات لازم برای انطباق آنها با حق بر دادرسی منصفانه است. پژوهش با روش توصیفی ـ تحلیلی و با اتکا بر تحلیل قوانین، اسناد سیاستی و رویة موجود انجام شده است. نتایج نشان میدهد که با وجود اصول عامی چون حق دادخواهی و منع تبعیض، خلأهای جدی در تعریف و تنظیم تصمیمات اداری خودکار، شفافیت الگوریتمی، حق آگاهی و سازوکارهای اعتراض و بازنگری انسانی وجود دارد و اصلاحات تقنینی، نهادی و فنی در این زمینه ضروری است.
کلیدواژهها: تصمیمات اداری خودکار، هوش مصنوعی، خدمات عمومی، دادرسی منصفانه، حقوق شهروندی، شفافیت الگوریتمی.
مقدمه
هوش مصنوعی فناوری روبه گسترشی است که عرصههای مختلف زندگی انسان را نهتنها تحت تأثیر، بلکه به زودی به تمامه متحول میکند و بعضاً بهطور کامل در اختیار میگیرد، کما اینکه تنها با ملاحظۀ تعداد سامانههای قانون برنامۀ هفتم پیشرفت (مصوب 1403) که بالغ بر دهها سامانه میشود و تمامی خدمات حیاتی، اجتماعی، اقتصادی، حقوقی و قضایی همۀ ایرانیان و ساکنان کشور را شامل میگردد. در این مسیر هرچند گامهای اولیۀ توسعۀ هوش مصنوعی مدعی افزایش رفاه و توسعه بوده و هست، ولی مسائل هوش مصنوعی بر زندگی اجتماعی، اخلاقی و فرهنگی، امنیت و ایمنی حیات بشریت، جریان عدالت، توزیع عادلانۀ ثروت و قدرت، مبارزه با جرم و فساد، ثبات کار و اشتغال، حفظ حریم خصوصی و دادههای شخصی، رعایت قواعد رقابت در تجارت و کسبوکار، امنیت روانی جامعه و... انکارناپذیر است.
گسترش سامانههای دیجیتال و ابزارهای هوش مصنوعی در ادارة عمومی ایران، بخشی از فرایند تصمیمگیری اداری را از مأمور انسانی به سامانههای خودکار منتقل کرده است. امروز از تشخیص شرایط متقاضیان یارانه و بهرهمندان از حمایتهای اجتماعی، تا صدور برخی مجوزهای برخط و نظامهای امتیازدهی و رتبهبندی اداری، بهطور فزایندهای بر پردازش خودکار دادهها تکیه میشود. این تحول در سطح ظاهر معمولاً با عناوینی چون تسریع امور، کاهش هزینهها و مبارزه با فساد توجیه میشود، اما در لایة عمیقتر، پرسشهای تازهای را دربارة حدود مسئولیت و پاسخگویی و نیز چگونگی تضمین حق دادخواهی شهروندان در برابر تصمیمات اداری خودکار برمیانگیزد؛ تصمیمهایی که عملاً محصول پردازش الگوریتمی دادهها هستند؛ هرچند به نام یک مقام یا مرجع اداری صادر میشوند.
در حقوق عمومی ایران، خدمات عمومی بستر اصلی تحقق بسیاری از حقوق اساسی شهروندان و یکی از مهمترین عرصههای اعمال حاکمیت قانون است. تصمیمات اداری که در این حوزه اتخاذ میشوند، میتوانند بهطور مستقیم بر وضعیت حقوقی و منافع اشخاص اثر بگذارند. حق دادخواهی و برخورداری از دادرسی منصفانه در برابر این تصمیمات، از طریق امکان اعتراض، استماع دفاعیات، دسترسی به دلایل و امکان کنترل قضایی توسط مراجع مستقلی چون دیوان عدالت اداری، رکن بنیادین حمایت از حقوق شهروندی در برابر قدرت عمومی بهشمار میآید.
ورود تصمیمات اداری خودکار، این وضعیت را پیچیدهتر میکند و این پرسشهای عملی را پیش میکشد که شهروند در فرایند اعتراض و دادرسی دقیقاً با چه چیزی و چه کسی طرف است، با مقام اداری، با طراح سامانه، یا با خود سامانهای که منطق آن روشن نیست؟ تا زمانی که منطق تصمیمگیری سامانه شفاف نشود و حدود مسئولیت حقوقی اشخاص و نهادهای درگیر مشخص نگردد، اعمال مؤثر حقوقی چون حق اطلاع، حق اعتراض، دسترسی به دلایل و مطالبة جبران خسارت تا چه حد ممکن خواهد بود؟
برخی نظامهای حقوقی در واکنش به مخاطرات تصمیمات خودکار در خدمات عمومی، بر عناصری چون شفافیت الگوریتمی، حق توضیح، حق عدم تبعیت از تصمیم صرفاً خودکار و الزام به نوعی مداخله یا نظارت انسانی تأکید کردهاند. برای نمونه، میتوان به مادة ۲۲ مقررات حفاظت از دادة اتحادیة اروپا و رویکرد ریسکمحور مقررات هوش مصنوعی این اتحادیه اشاره کرد. انعکاس این تجربهها در ادبیات داخلی حکمرانی دادهمحور و تنظیمگری هوش مصنوعی نیز قابل مشاهده است، اما عمدتاً در سطح طرح کلی ضرورت طراحی چارچوبهای هنجاری و نهادی متناسب با ریسکهای اجتماعی و حقوقی این فناوریها باقی مانده و کمتر بهطور مشخص در بستر حقوق اداری و دادرسی اداری ایران بسط یافته است.
این مقاله میکوشد در بستر خدمات عمومی ایران نشان دهد که تصمیمات اداری خودکار چه نوع مخاطراتی را برای حقوق شهروندی و بهویژه برای تضمین دادرسی منصفانه ایجاد میکنند و برای مواجهة مؤثر با این مخاطرات چه الزامات هنجاری، نهادی و آیینی باید در حقوق اداری و سازوکارهای دادرسی اداری و قضایی شناسایی و پیشبینی شود. پرسش اصلی مقاله چنین است: در مواجهه با تصمیمات اداری خودکار در خدمات عمومی ایران، چه الزامات حقوقی و نهادی برای تضمین دادرسی منصفانة شهروندان در برابر این تصمیمات لازم است؟ نوآوری اصلی مقاله در این است که بهجای پرداخت کلی به تنظیمگری هوش مصنوعی، بهطور مشخص جایگاه تصمیمات اداری خودکار را در حقوق عمومی تبیین کرده و پیامدهای آن را برای حق بر دادرسی منصفانه واکاوی میکند و بر این پایه مجموعهای نسبتاً مشخص از الزامات در سطح تقنین، طراحی نهادی و آیینهای دادرسی پیشنهاد میکند.
پژوهش حاضر از حیث روش تحلیلی ـ هنجاری است و با تکیه بر منابع حقوق داخلی، اسناد و استانداردهای بینالمللی و ادبیات مرتبط، در سه گام پیش میرود: نخست، با تبیین مفهومی خدمات عمومی هوشمبنا و تعریف تصمیم اداری خودکار زمینة نظری بحث فراهم میشود؛ دوم، مفهوم دادرسی منصفانه در حقوق اداری و چالشهای ناشی از خودکار شدن تصمیمات اداری در حقوق ایران با بهرهگیری از برخی تجارب و استانداردهای خارجی تحلیل میگردد؛ و سوم، مجموعهای از الزامات هنجاری، نهادی و آیینی برای تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار در خدمات عمومی ایران پیشنهاد میشود.
1. تبیین مفهومی تصمیمات اداری خودکار در خدمات عمومی: از خدمات عمومی کلاسیک تا خدمات عمومی هوشمبنا
خدمات عمومی در حقوق عمومی، محل تلاقی وظایف دولت با حقوق شهروندی است؛ جایی که تصمیمات اداری دربارة دسترسی افراد به مزایا، مجوزها و حمایتها، آثار مستقیم بر وضعیت حقوقی اشخاص میگذارد. با ورود فناوریهای دادهمحور و سامانههای هوش مصنوعی، با گونهای جدید از خدمات عمومی مواجه میشویم که ارائه، سازماندهی یا تخصیص آنها بهنحوی معنادار به پردازش خودکار دادهها و الگوریتمها وابسته میشود؛ بهگونهایکه بدون این لایة محاسباتی، خدمت عملاً قابل تحقق یا اداره کردن نیست (رشیدی خویگانی، 1397، ص45)، لذا میتوان خدمات عمومی هوشمبنا را چنین تعریف کرد: خدماتی در قلمرو صلاحیت عمومی که در آنها فرایند تصمیمسازی و تصمیمگیری اداری از مرحلة تشخیص شرایط و احراز انطباق تا رتبهبندی، اولویتبندی و تخصیص منابع یا مزایا بهطور ساختاری بر سامانههای الگوریتمی و تحلیل داده تکیه دارد. اتکای ساختاری به این سامانهها، شیوة شکلگیری رابطة دولت و شهروند را از حیث شفافیت، امکان پاسخگویی و حق اعتراض دگرگون میکند و پرسشهای جدیدی در مورد حدود مسئولیت و حقوق رویهای شهروندان برمیانگیزد.
1ـ1. تصمیم اداری در فهم کلاسیک و مفروضات انسانمحور آن
در تعریف حقوق اداری کلاسیک، تصمیم اداری عموماً محصول اعمال صلاحیت قانونی توسط مقام یا مأمور اداری است. تصمیمگیرنده قابل شناسایی است، میتوان از او دلیل تصمیم را خواست و میتوان در مراجع اداری یا قضایی، مسئولیت او یا نهاد متبوعش را پیگیری کرد. سازوکارهای سنتی نظارت و رسیدگی، بر همین پیشفرض انسانمحور بنا شدهاند؛ یعنی تصمیم، تصمیمگیر و دلیل، سه ضلعی هستند که قابل ردیابی و توضیحپذیر میباشند. (JuLIA Project, 2025, p. 58).
2ـ1. گذار به تصمیم اداری خودکار یا هوشمبنا: تیره شدن مرز تصمیم، تصمیمگیر و دلیل
با ورود سامانههای هوشمبنا، مرکز ثقل تصمیمگیری از تشخیص انسانی به پردازش داده و خروجی الگوریتمی منتقل میشود. در این وضعیت، ممکن است مقام اداری همچنان امضاکنندة نهایی تصمیم باشد، اما عناصر تعیینکنندة آن مانند امتیازدهی، طبقهبندی، پیشبینی ریسک یا تشخیص استحقاق در لایة الگوریتم شکل میگیرد. پیامد مفهومی این جابهجایی آن است که در سطح حقوق اداری، مرز میان خود تصمیم، تصمیمگیرنده و دلیل تصمیم مبهم میشود؛ زیرا بخشی از آنچه پیشتر در قالب منطق و استدلال مأمور اداری قابل مشاهده بود، اکنون در مدل، داده و کد مستتر است (محمودی و دیگران، 1404، ص5).
3ـ1. تعریف عملیاتی تصمیم اداری هوشمبنا یاخودکار
میتوان این تعریف را بهعنوان تعریف عملیاتی مقاله اتخاذ کرد: تصمیم اداری هوشمبنا یا خودکار عبارت است از هر تصمیم یا نتیجهای که به یک نهاد عمومی منتسب است و تماماً یا تا حد قابل توجهی بر مبنای پردازش خودکار یا شبهخودکار دادهها توسط سامانههای الگوریتمی یا هوش مصنوعی تولید میشود و بر وضعیت حقوقی شهروند یا بهرهمندی او از خدمت عمومی اثر میگذارد، چه امضای نهایی آن توسط انسان انجام شود و چه نه (Sulistyantoro & et al., 2024, p. 169).
این تعریف چند عنصر کلیدی دارد:
الف) اثر حقوقی بر شهروند (مثلاً پذیرش یا رد خدمت، مجوز، یارانه، امتیاز، رتبه)؛
ب) نقش تعیینکنندة پردازش الگوریتمی در شکلگیری خروجی؛
ج) انتساب نتیجه به نهاد عمومی (به معنای نفی مسئولیتگریزی الگوریتمی)؛
د) عدم ملازمة امضای انسانی با انسانی بودن تصمیم.
4ـ1. الگوریتم بهمثابة محل دلیل و خطر قانون نهان
در خدمات عمومی هوشمبنا، الگوریتمها صرفاً ابزار سرعتبخشی به کار اداری نیستند. آنها معیارها را وزندهی میکنند، اولویتها را شکل میدهند و گاه بهطور مستقیم دربارة اجازه یا ممانعت تصمیم میگیرند. از منظر حقوق اداری، نکتة حساس این است که دلیل تصمیم یا دستکم بخش مهمی از آن در لایة الگوریتم و داده مستقر میشود (محمودی و دیگران، ۱۴۰۳، ص۹). در چنین وضعیتی، الگوریتم میتواند به نوعی قانون نهان تبدیل شود. قواعد واقعی تصمیمگیری در کد و مدل تثبیت میگردد؛ درحالیکه متن مقرره یا آییننامه همچنان کلی و کمجزئیات باقی میماند. این گسست میان متن مقرره و منطق واقعی تصمیمگیری، میتواند نسبت تصمیم اداری با اصول حاکمیت قانون و برابری را مخدوش کند.
5ـ1. شفافیت الگوریتمی و توضیحپذیری: پیشفرض نظارت و دادرسی
در کنار اصول نوین تنظیمگری، بر شفافیت و توضیحپذیری تصمیمات اداری هوشمبنا بهعنوان دو اصل بنیادین تأکید میشود. شفافیت در اینجا صرفاً به معنای اعلام کلی استفاده از یک فناوری نیست، بلکه ناظر به امکان دسترسی حداقلی و مؤثر به منطق تصمیم، متغیرهای اثرگذار و نحوة کارکرد سامانة تصمیمساز است تا بتوان سازگاری تصمیم با قانون، اصل برابری و منع تبعیض را ارزیابی کرد. توضیحپذیری نیز بدین معناست که بتوان برای شهروند و مرجع رسیدگی، دلیلی قابل فهم و قابل پیگیری ارائه کرد، نه آنکه پاسخ در حد این جملة مبهم باقی بماند که سیستم چنین گفته است (هاشمی، 1403، ص21). این دیدگاه شفافیت و توضیحپذیری نه یک ترجیح مدیریتی، بلکه شرط امکان کنترل قضایی و اعتراض مؤثر و اصلیترین جزء زیرساختی تضمین دادرسی منصفانه در مواجهه با تصمیمات اداری خودکار است.
6ـ1. حق اعتراض و تأیید نهایی تحت کنترل انسانی: پیوند مفهومی با دادرسی منصفانه
یکی از محورهای اصلی در مواجهه با تصمیمات ماشینی، برجسته کردن حق اعتراض و بازنگری انسانی است. منطق این تأکید روشن است، آیینهای سنتی شکایت و تظلمخواهی، تصمیم اداری را محصول ارادة یک مقام مشخص میدانند؛ درحالیکه در تصمیمات هوشمبنا، تصمیمگیرندة واقعی ممکن است مجموعهای از بازیگران باشد: طراح الگوریتم، مدیر داده، مقام امضاکننده و حتی پیمانکار سامانه. اگر حق اعتراض در این زمینه صرفاً در همان قالب سنتی اعمال شود، شهروند در عمل به تصمیمی اعتراض میکند که منطق آن برای او قابل دسترسی نیست و فاعل آن نیز در سطح فرایند رسیدگی به روشنی شناسایی نمیشود (Binns, 2020, p. 7).
هرچند بهرهگیری از هوش مصنوعی در نظام قضایی میتواند به ارتقای شفافیت، پیگیری و کارآمدی فرایندهای دادرسی کمک کند، اما این فناوری زمانی با اصول دادرسی منصفانه سازگار خواهد بود که تصمیمات آن تحت نظارت مؤثر انسانی باقی بماند و سازوکارهای روشن پاسخگویی و توضیحپذیری برای آن پیشبینی شود. برای حفظ اعتماد عمومی، باید شفافیت الگوریتمی، امکان توضیح تصمیمات، نظارت و کنترل مؤثر و نیز تعیین مرزهای مشخص برای دخالت الگوریتمها در فرایند قضایی مورد توجه قرار گیرد؛ زیرا برخی تصمیمات که مستلزم درک شرایط خاص و ملاحظات اخلاقیاند، نباید بهطور کامل به سامانههای خودکار واگذار شوند. از این منظر برای تضمین دادرسی منصفانه در نظام قضایی هوشمند، لازم است که فناوری در خدمت عدالت باقی بماند، نه اینکه جایگزین کامل داوری انسانی شود (لطیفزاده، ۱۴۰۳، ص17۰).
حداقلهای حق اعتراض نسبت به تصمیمات خودکار شامل سه مؤلفه است:
الف) حق آگاهی از خودکار یا هوشمبنا بودن تصمیم؛
ب) حق دسترسی مؤثر به اطلاعات کافی دربارة منطق تصمیم و دادههای مؤثر (در حدی که با استثنائات قابل توجیه تعارض نیابد)؛
ج) حق درخواست بازنگری انسانی توسط مقام واجد صلاحیت و مستقل از خروجی الگوریتم.
بنابراین تصمیم اداری خودکار در این مقاله نه صرفاً یک ابزار دیجیتال، بلکه یک صورت جدید از اعمال قدرت عمومی در خدمات عمومی هوشمبنا است که در آن، دلیل تصمیم به لایة الگوریتم منتقل میشود و همین انتقال، ضرورت بازتعریف مفاهیمی مانند دلیل، شفافیت، مسئولیت و حق اعتراض را پیش میکشد. این مبانی مفهومی، زمینه را برای بخش دوم فراهم میکند: اینکه این نوع تصمیمات چگونه مؤلفههای دادرسی منصفانه را با چالش مواجه میکنند و چه تضمینهایی برای ترمیم این شکاف لازم است.
2. دادرسی منصفانه و چالشهای تصمیمات اداری خودکار: جایگاه دادرسی منصفانه در حقوق عمومی و حقوق اداری
دادرسی منصفانه، بهعنوان یکی از ستونهای اصلی حاکمیت قانون، مجموعهای از تضمینهای شکلی و ماهوی است که باید امکان دفاع مؤثر شهروندان را در برابر اعمال قدرت عمومی از جمله تصمیمات اداری فراهم کند و صرفاً به یک نهاد آیینی در دادگاهها محدود نمیشود (اجاقی و دیگران، ۱۴۰۳، ص۱۳۹). این مفهوم در حقوق اداری معنایی موسع مییابد و آیینهای رسیدگی اداری، سازوکارهای اعتراض و بازنگری و الزامات شفافیت و دلیلآوری در خود دستگاه اداری را نیز دربر میگیرد. به تعبیر دیگر، هرجا تصمیم اداری بر وضعیت حقوقی اشخاص اثر میگذارد، باید امکان شنیده شدن، دریافت دلیل و درخواست بازنگری برای آنان فراهم باشد (فتحی و دیگران، ۱۳۹۸، ص۸).
تحقق این مهم، در پیوندی ناگسستنی با حق بر دسترسی به عدالت قرار دارد؛ بدین معنا که رویههای اداری و قضایی باید بهگونهای طراحی شوند که شهروند بتواند عملاً به تصمیمات اداری اعتراض کند و به مرجعی بیطرف و آگاه از موضوع مراجعه نماید (رضاییزاده و عطریان، ۱۳۹۶، ص۲۰). این پیوند، در بستر تصمیمات اداری خودکار و الگوریتمی، بهویژه به دلیل پیچیدگی فنی تصمیم و عدم تقارن اطلاعات میان شهروند و اداره، با چالشهای مضاعفی روبهرو میشود و همین امر، بازنگری در ابزارهای سنتی تضمین این حقوق را ضروری میسازد.
1ـ2. مفروضات سنتی دادرسی منصفانه و ناسازگاری آن با تصمیمات خودکار
دادرسی منصفانه در طراحی سنتی خود بر دو پیشفرض بنیادین استوار است که ورود سامانههای هوشمبنا هر دو را به چالش میکشد: نخست، فرض تصمیمگیرندة انسانی قابل پاسخگویی؛ تصمیم اداری محصول اراده و تشخیص مقامی مشخص و قابل شناسایی است که میتوان از او دلیل خواست و رفتار او را در معرض ارزیابی مرجع رسیدگی قرار داد؛ مقامی که در جریان رسیدگی قادر است تصمیم خود را توضیح دهد و حتی در صورت لزوم آن را اصلاح کند (Cane, 2020, p. 128)؛ دوم، فرض قابلیت فهم منطق تصمیم که مبنای آیینهای ابلاغ، بیان دلایل و امکان دفاع را تشکیل میدهد و بر این تصور استوار است که شهروند میتواند با درک دلایل تصمیم در قالب استدلالی حقوقی، اداری یا کارشناسی، از خود دفاع کرده یا درخواست نقض یا اصلاح آن را مطرح نماید (اکبری و دیگران، ۱۴۰۳، ص۱۲۰).
بااینحال، در تصمیمات اداری هوشمبنا هر دو پیشفرض متزلزل میشود. از یکسو، با توزیع عناصر تصمیمگیری میان طراح الگوریتم، تنظیمکنندة داده، بهرهبردار سامانه و مقام امضاکننده، فاعل تصمیم در معنای کلاسیک آن، دیگر قابل تقلیل به یک مقام اداری واحد نیست (Mittelstadt & et al., 2016, p. 4)؛ و از سوی دیگر، منطق تصمیم در لایههای الگوریتم و مدل، بهویژه در سامانههای پیچیده، مستتر میماند و برای شهروند و حتی مرجع رسیدگی به آسانی قابل فهم نیست. این تیرگی فاعل و منطق تصمیم چالشی ساختاری در مسیر تحقق دادرسی منصفانه در بستر خدمات عمومی هوشمند ایجاد میکند.
2ـ2. چگونگی به چالش کشیده شدن مؤلفههای دادرسی منصفانه توسط تصمیمات خودکار
تصمیمات اداری خودکار، تضمینهای سنتی دادرسی منصفانه را در سطوح مختلف تضعیف میکنند. نخستین و بنیادیترین چالش، خدشه به اصل شفافیت و حق دانستن است؛ زیرا حتی گام نخست این حق، یعنی آگاهی شهروند از خودکار بودن تصمیم، در بسیاری از رویهها محقق نمیشود. به زبان ساده، فرد صرفاً با یک نتیجه مواجه میشود، بیآنکه بداند این نتیجه برآمده از فرایندی الگوریتمی است و بنابراین جنس چالشها و حقوق او بهکلی با تصمیمات انسانی تفاوت دارد (باباییان و دیگران، ۱۴۰۲، ص۱۳۰).
در مرحلة بعد حق دسترسی به دلیل که محور امکان دفاع و اعتراض است، عملاً تهی میشود. هنگامی که دلیل واقعی تصمیم در لایههای پنهان مدل، دادههای آموزشی و وزندهیهای درونی الگوریتم نهفته است، اکتفا به عباراتی کلی همچون بر اساس محاسبه سیستم... مصداق بارز پنهان شدن دلیل در الگوریتم و ناسازگار با مقتضای دادرسی منصفانه است (روشن و دیگران، ۱۴۰۰، ص۱۲۹) و حق استماع و امکان مشارکت مؤثر شهروند نیز به دلیل طراحی بسته و غیر تعاملی بسیاری از سامانهها نقض میشود. در این ساختار، ورودی شهروند به یک فرم استاندارد و پیشینی محدود میگردد و سامانه، بدون فراهم کردن امکان تعامل واقعی یا ارائة توضیح و استدلال، تصمیم را صادر میکند؛ وضعیتی که فرصت مشارکت مؤثر را کاهش داده و دادرسی منصفانه در سطح اداری را تضعیف میکند (علیقیان و دیگران، ۱۴۰۱، ص۳۷) و اصل بیطرفی و منع تبعیض نیز در معرض مخاطره قرار میگیرد. هرچند در ظاهر، فاعل انسانی و سوگیریهای آگاهانهاش حذف شده است، اما تعصبات و تبعیضها میتوانند از مجرای دادههای آموزشی مغرضانه، طراحی متغیرها یا انتخاب معیارها به مدل نفوذ کنند (آقابابایی و ناجی، ۱۴۰۳، ص۸۸). در غیاب شفافیت الگوریتمی و امکان بررسی دقیق مدل، کشف و اثبات تبعیض ساختاری یا آثار نابرابر تصمیمات بسیار دشوار میشود و این یعنی ضمانتهای حقوقی منع تبعیض در عمل تا حد زیادی بیاثر میگردد.
3ـ2. حق اعتراض و بازنگری انسانی بهمثابة تضمین جبرانکننده در برابر تصمیمات خودکار
در برابر چالشهای پیشگفته، حق اعتراض به تصمیمات اداری خودکار یکی از محورهای اصلی جبران شکافهای ناشی از خودکار شدن تصمیمگیری بهشمار میآید. برای تحقق این حق شهروند باید از خودکار بودن تصمیم آگاه باشد، کانالی مشخص و عملی برای طرح اعتراض در اختیار داشته باشد و مرجع رسیدگی بهطور مؤثر صلاحیت و توان بازنگری بر خروجی الگوریتم را داشته باشد (Veale & Borgesius, 2023, p. 131).
نکتة کلیدی در تحقق این حق، تفکیک میان امضای انسانی صوری و بازنگری انسانی مؤثر است. در بسیاری از سازوکارهای موجود، حضور انسان صرفاً به تأیید نهایی خروجی سامانه محدود میشود و هیچ سنجش واقعی دربارة منطق و عادلانه بودن نتیجه صورت نمیگیرد. از منظر دادرسی منصفانه، چنین حضوری کافی نیست و برای تحقق بازنگری انسانی مؤثر، مقام اداری باید بتواند خارج از اتکای مطلق به الگوریتم، دادهها و استدلالها در صورت اقتضا، برخلاف خروجی سامانه تصمیمگیری کند (Sulistyantoro & et al., 2024, p. 172).
حق اعتراض مؤثر در حوزة تصمیمات خودکار دستکم سه مؤلفه بههمپیوسته را دربر میگیرد: ۱. حق آگاهی از ماهیت خودکار یا هوشمبنا بودن تصمیم و نقش الگوریتم در آن؛ ۲. حق دسترسی به اطلاعات کافی دربارة منطق تصمیم و دادههای تعیینکننده، در حدودی که با ملاحظات مشروعی چون حریم خصوصی دیگران یا اسرار تجاری تعارض نیابد؛ ۳. حق درخواست بازنگری انسانی توسط مرجعی واجد صلاحیت که از نظر نهادی و ذهنی، وابسته و مقید به خروجی الگوریتم نباشد و بتواند تصمیمی متفاوت اتخاذ کند. این سه مؤلفه بهطور مستقیم به تقویت دادرسی منصفانه در عرصة تصمیمات خودکار میانجامد.
4ـ2. شفافیت الگوریتمی و توضیحپذیری بهمثابة پیششرط دادرسی منصفانه
بدون حداقلی از شفافیت دربارة نحوة کارکرد سامانه، نوع دادههای مورد استفاده، معیارهای اصلی و حدود اختیارات الگوریتم، تحقق دادرسی منصفانه ـ اعم از اداری و قضایی ـ به شدت دشوار میشود. مرجع رسیدگی برای سنجش قانونمداری، برابری و تناسب تصمیم، نیازمند آگاهی از این عناصر است (Veale & Borgesius, 2023, p. 135). در غیر این صورت، کنترل اداری و قضایی به تأیید صوری تصمیمات سیستمی تقلیل مییابد.
این شفافیت در دو لایه باید اتفاق بیفتد: لایة نخست، ارائة توضیحی قابل فهم برای شهروند است تا بتواند به نحو معناداری تصمیم را درک کرده و دربارة آن موضع بگیرد؛ لایة دوم، ارائة اطلاعات فنیتر و دقیقتر به مرجع رسیدگی (اداری یا قضایی) است تا امکان بررسی مطابقت تصمیم با قانون و اصول دادرسی منصفانه فراهم شود. این دو سطح توضیحپذیری، در کنار هم پیششرط اعمال مؤثر حق اعتراض و نظارت بر تصمیمات خودکار بهحساب میآیند.
البته شفافیت مطلق الگوریتمی میتواند با ملاحظات رقیبی همچون حفاظت از دادههای شخصی دیگران، امنیت سامانهها یا حقوق مالکیت فکری در تعارض قرار گیرد. بنابراین موضوع بر سر سطح مناسب شفافیت است؛ سطحی که در آن، بدون افشای غیرضروری اسرار مشروع یا آسیب به امنیت، حداقل لازم برای امکان دادرسی منصفانه و کنترل مؤثر تصمیمات خودکار تأمین شود (Zaidan, 2024, p. 95).
ورود تصمیمات اداری هوشمبنا فقط یک تغییر فنی در شیوة اداره نیست، بلکه میدان کار دادرسی منصفانه را از نظارت پسینی بر رفتار مقام اداری، به کنترل ساختاری بر طراحی، دادهها و عملکرد سامانههای تصمیمساز گسترش میدهد. دادرسی منصفانه در این بستر، دیگر نمیتواند صرفاً در پی یافتن مقام خاطی باشد، بلکه باید بتواند زنجیرهای از مسئولیت را از گردآوری داده تا خروجی نهایی الگوریتم رصد کند. این تحول، پرسش اصلی مقاله را به سطحی عملیاتیتر میبرد. برای تضمین دادرسی منصفانه در برابر این تصمیمات، چه الزامات هنجاری، نهادی و فنی باید در حقوق ایران پیشبینی شود؟
3. وضعیت حقوقی ایران در تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار
با تثبیت این نکته که دادرسی منصفانه در عصر الگوریتم نیازمند تضمینهایی فراتر از الگوهای سنتی نظارت قضایی است، وضعیت نظام حقوقی ایران به نقطة کانونی تحلیل تبدیل میشود. چالش بنیادین حقوق ایران در این عرصه، نه فقدان اصول دادرسی، بلکه ناتوانی در تطبیق این اصول با واقعیت حکمرانی الگوریتمی است. در ادبیات جهانی، حق بر توضیح و دادرسی الگوریتمی بهعنوان الزاماتی ساختاری برای حفظ تقارن اطلاعاتی میان شهروند و دولت هوشمند شناخته میشوند (Busuioc, 2024, p. 543).
بررسی قوانین و رویههای موجود در ایران نشان میدهد که دستگاههای اداری، عمدتاً بدون نقشه راه حقوقی روشن برای شفافیت الگوریتمی، به استفاده از سامانههای خودکار روی آوردهاند. نتیجه، شکافی عمیق میان واقعیت فنی اداره و چارچوب حقوقی حاکم بر آن است؛ شکافی که در آن، تضمینهای کلاسیک دادرسی منصفانه، بدون برخورداری از پشتوانة قواعد شفافیت ماشینی، عملاً توان رویارویی با قانون نهان الگوریتم را ندارند (Cobbe, 2025, p. 9).
این بخش با تحلیل این شکاف نشان میدهد که حقوق ایران تا چه اندازه نیازمند چرخشی پارادایمی از دادرسی صرفاً انسانمحور به دادرسی نظاممحور است؛ چرخشی که در آن، ساختار سامانه و منطق درونی آن به موضوع اصلی پرسشگری و ارزیابی حقوقی بدل میشود.
1ـ3. چارچوب کلی حقوق ایران در حوزة دادرسی منصفانة اداری
نظام حقوقی ایران حتی پیش از تحولهای فناورانه و ظهور تصمیمات اداری خودکار، در سطح اصول، چارچوب نسبتاً روشنی برای حق دادخواهی و نظارت بر تصمیمات اداری ترسیم کرده است. اصل ۳۴ قانون اساسی (حق دادخواهی همگانی)، اصل ۱۷۳ (تأسیس دیوان عدالت اداری برای رسیدگی به شکایات و اعتراضات نسبت به تصمیمات و اقدامات واحدهای دولتی) و اصل ۱۷۰ (امکان ابطال مقررات دولتی خلاف قانون یا شرع)، بنیانهای حقوقی اصلی برای تضمین دادرسی منصفانة اداری در ایران را تشکیل میدهند. این اصول، هرچند در زمان وضع، ناظر به تصمیمات اداری کلاسیک و مبتنیبر تصمیمگیری انسانی بودهاند، اما از حیث ماهوی تفکیکی میان تصمیمی که به نام اداره، توسط مأمور انسانی اتخاذ شده و تصمیمی که به نام همان اداره، از طریق سامانة هوشمبنا صادر میشود، قائل نیستند. به تعبیر دیگر، حق دادخواهی و نظارت قضایی، در سطح ساختاری نسبت به نتیجة تصمیم اداری بیتفاوت است، اما مسئلة اصلی در سطح قابلیت اعمال این حقوق در بستر تصمیمات خودکار بروز میکند؛ جایی که شناسایی تصمیم، تصور از تصمیمگیرنده و دسترسی به دلیل با دشواریهای خاص مواجه میشود (کدخدایی و رضایی، ۱۴۰۱، ص۲۰).
در سطح نهادی دیوان عدالت اداری مهمترین مرجع تضمینکنندة دادرسی منصفانه در حوزة حقوق عمومی و خدمات اداری است که به موجب قانون تشکیلات و آیین دادرسی خود، صلاحیت رسیدگی به شکایات از تصمیمات و اقدامات اداری و نیز ابطال مصوبات خلاف قانون را بر عهده دارد. افزون بر دیوان، طیف گستردهای از هیئتها و کمیسیونهای رسیدگی اداری (در حوزة مالیات، تأمین اجتماعی، کار، شهرداریها، یارانهها و...) بهعنوان مراجع شبهقضایی، بخش مهمی از بار دادرسی اداری را بر دوش میکشند. بااینحال، طراحی قواعد دادرسی اداری در ایران بر فرض تصمیم انسانی بنا شده است؛ یعنی هم در تصور از مرجع تصمیمگیر، هم در تنظیم قواعد ادله و بار اثبات و هم در شیوة کنترل قضایی، این فرض مسلّم بوده که میتوان به تصمیمگیرندة انسانی، صورتجلسات، دلایل مکتوب و استدلالهای صریح دسترسی داشت. ورود سامانههای هوشمبنا به فرایند تصمیمگیری اداری، این فرضهای ضمنی را به چالش کشیده، اما هنوز واکنش هنجاری روشن و صریحی از سوی قانونگذار و رویة دادرسی، در پاسخ به این وضعیت شکل نگرفته است (عامری و دیگران، ۱۴۰۴، ص۳).
این وضعیت در ادبیات حقوق اداری ایران نیز بازتاب یافته است. برداشت غالب و کلاسیک از دادرسی منصفانه، عمدتاً بر اصولی چون حق استماع، حق آگاهی از دعوا و دلایل، حق دفاع، بیطرفی مرجع رسیدگی و معقول بودن مدت زمان رسیدگی استوار است؛ اصولی که چه در آثار نظری و چه در رویة دیوان عدالت اداری، با تکیه بر حاکمیت قانون، برابری، منع تبعیض و ضرورت قابل پیشبینی بودن اقدامات اداری صورتبندی شدهاند (هاشمی، ۱۴۰۲، ص۵۱).
این صورتبندی کلاسیک بهندرت به شرایط تصمیمگیری دادهمحور، الگوریتمی و خودکار تسری یافته است. پیامد آن گسترش شکاف میان صورتبندی هنجاری دادرسی منصفانه و واقعیتهای فنی و الگوریتمی تصمیمات نوین اداری است؛ شکافی که نیاز به بازخوانی این مفهوم در پرتو تحول خدمات عمومی هوشمبنا را کاملاً برجسته میکند. همین شکاف، نیاز به تحلیل خلأهای حقوقی موجود و ارائة الزامات ویژه برای تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار را توجیه مینماید.
2ـ3. قواعد عام حاکم بر فرایند اداری و حق اعتراض در حقوق ایران
قوانین پراکندة ایران، مجموعهای از الزامات شکلی و آیینی را بر تصمیمات اداری تحمیل میکنند که از نظر نظری، بستر تحقق حداقلی از دادرسی منصفانه را فراهم میسازند. این الزامات شامل لزوم ابلاغ تصمیم به ذینفع، امکان طرح اعتراض در مهلتهای مشخص، الزام به بیان دلایل تصمیم لااقل در حدی که بتوان آن را در مراجع بالاتر یا نزد دیوان عدالت اداری مورد بررسی قرار داد و در برخی حوزهها پیشبینی مراتب متعدد اعتراض اداری (هیئتهای بدوی، تجدید نظر و دیوان عدالت اداری) است.
این قواعد به زبان تصمیم مکتوب انسانی تدوین شدهاند. عبارات سنتیای همچون هیئت رسیدگی پس از استماع اظهارات طرفین و بررسی مدارک و مستندات یا مرجع تصمیمگیر با توجه به دلایل ابرازی چنین تصمیمی اتخاذ نمود، مفروض گرفته شده است (محمودی و دیگران، ۱۴۰۳، ص۶). در مواجهه با تصمیمات اداری خودکار، این صحنه بهکلی تغییر میکند. تصمیم در عمل، خروجی یک سامانة الگوریتمی است که منطق درونی آن ممکن است از نظر فنی پیچیده، از حیث قراردادی محرمانه و از دید حقوقی اساساً تعریفنشده باشد. در چنین وضعی، صرف الزام به ابلاغ نتیجة تصمیم، بدون الزام به افشای شیوه و دلایل الگوریتمی، برای تحقق دادرسی منصفانه کفایت نمیکند.
نظام حقوقی ایران در اغلب حوزههای خدمات عمومی، سلسلهمراتبی از اعتراض اداری را پیشبینی کرده است؛ از شکایت به واحد بالادست یا کمیسیون بدوی گرفته تا هیئتهای تجدیدنظر و طرح دعوا در دیوان عدالت اداری. این سازوکارها، در سطح شکلی حق اعتراض را به رسمیت میشناسند و بالقوه میتوانند بستر کنترل تصمیمات خودکار نیز باشند. با این همه، حق اعتراض در قالب سنتی خود، برای مواجهه با تصمیمات هوشمبنا کفایت عملی ندارد؛ زیرا نخست، شهروند غالباً از خودکار بودن تصمیم و نقش سامانة هوشمبنا آگاه نمیشود؛ دوم، هیچ قاعدة خاصی برای دسترسی او به دادهها و منطق تصمیم الگوریتمی پیشبینی نشده است؛ و سوم، مراجع رسیدگی، بهویژه دیوان عدالت اداری، ابزار و چارچوب روشنی برای بررسی صحت عملکرد سامانه، سوگیری دادهها یا خطاهای مدل در اختیار ندارند. نتیجه آن است که اعتراض اداری و قضایی، به سطحی از کنترل شکلی تقلیل مییابد که عمدتاً بر ظاهر تصمیم و انطباق آن با مقررات صریح تمرکز دارد، بیآنکه بتواند به لایههای زیرین داده و الگوریتم نفوذ کند (مرادی برلیان و تنگستانی، ۱۴۰۲، ص۱۷۲).
این وضعیت در سطح اسناد سیاستی نیز بازتاب یافته است. در اسنادی مانند منشور حقوق شهروندی و منشور حقوق شهروندی در عصر دیجیتال (۱۴۰۲)، حق دسترسی به اطلاعات، حق حریم خصوصی دادهها و حق دسترسی به خدمات عمومی دیجیتال، دستکم در سطح اعلامی، به رسمیت شناخته شده و بر شفافیت اداره، پاسخگویی و حق اعتراض تأکید شده است. بااینحال، دو نکته برجسته است: نخست آنکه این اسناد، وضعیت خاص تصمیمات اداری خودکار یا هوشمبنا را بهعنوان سناریویی متمایز تبیین نکردهاند؛ و دوم آنکه، حق دسترسی به اطلاعات و حق استماع در آنها عمدتاً در چارچوب سنتی اطلاعات اداری (اسناد، مکاتبات، تصمیمات مکتوب) معنا یافته و به پرسشهایی نظیر حق دسترسی به منطق تصمیم الگوریتمی، دسترسی به نسخه و پارامترهای مدل یا ثبت چرخة حیات داده تسری نشده است (عامری، ۱۴۰۴، ص۱۹۱۲).
بدون الزام به ثبت و نگهداری چرخة حیات داده و نسخههای مدل، هرگونه تکیه بر حق دسترسی به اطلاعات در حوزة تصمیمات هوشمبنا، در عمل تهی میشود؛ زیرا شهروند و حتی دادرس، بهجای مواجهه با تحلیلی قابل بررسی، صرفاً با عباراتی کلی از نوع سیستم چنین تشخیص داده است روبهرو خواهند شد.
3ـ3. مواجهة خاص حقوق ایران با تصمیمات اداری خودکار یا هوشمبنا
در دهة اخیر، ایران در سطح سیاستگذاری و قانونگذاری گامهایی برای توسعة دولت الکترونیک و حکمرانی داده برداشته است، از جمله قانون مدیریت دادهها و اطلاعات ملی که چارچوبی کلی برای مدیریت و تبادل دادههای دستگاههای اجرایی فراهم میکند، مقررات متعدد در حوزة سامانههای الکترونیک مالیاتی، تأمین اجتماعی، ثبت احوال و یارانهها و نیز اسنادی مانند منشور حقوق شهروندی در عصر دیجیتال. این قوانین و اسناد، هرچند از منظر دیجیتالی نمودن و یکپارچگی دادههای اداری اهمیت دارند، اما از منظر دادرسی منصفانه در برابر تصمیمات خودکار، دو نقص بنیادین دارند: نخست، تصمیم اداری هوشمبنا را بهعنوان مفهومی متمایز که نیاز به قواعد خاص شفافیت، توضیحپذیری و حق اعتراض دارد، شناسایی نمیکنند؛ و دوم، سازوکار مشخصی برای دسترسی شهروندان به اطلاعات مرتبط با تصمیمات الگوریتمی، از جمله دادههای پایه، منطق مدل و سوابق عملکرد آن طراحی نکردهاند. در چنین وضعی، قانونگذار صرفاً مجوز کلی استفاده از سامانههای هوشمند را صادر کرده، اما معیارها و منطق تصمیمگیری را در سطح قانون تنظیم نکرده است؛ نتیجة آن، شکلگیری قانون نهان الگوریتم است که در دل کد و مدل، خارج از عرصة شفافیت و کنترل قضایی مؤثر عمل میکند (محمودی و دیگران، ۱۴۰۴، ص۹).
نکتة محوری آن است که حقوق ایران هنوز تصمیم اداری هوشمبنا را بهطور مفهومی و هنجاری تعریف نکرده است. این وضعیت صرفاً مسئلة واژگان نیست. به تعبیر دقیقتر، فقدان تعریف مفهوم حقوقی تصمیم اداری هوشمبنا نه نکتهای فرعی و نظری و نه صرفاً مسئلهای واژگانی است، بلکه گلوگاه عملی برای تحقق شفافیت، پاسخگویی و جبران حقوق در خدمات عمومی هوشمند است. تا زمانی که قانونگذار و رویة دادرسی، تصمیم اداری خودکار را بهعنوان وضعیتی که در آن مرجع اداری از طریق سامانة الگوریتمی تصمیم میگیرد، منطق تصمیمگیری در لایهای غیرانسانی و غیرشفاف مستقر است و انتساب خطا و مسئولیت نیازمند قواعد خاص است، به رسمیت نشناسند، ابزارهای سنتی دادرسی و مسئولیت اداری، بخش مهمی از کارایی خود را از دست میدهند (مهدی، ۱۴۰۴، ص۲۱۲).
این خلأ حقوقی هماکنون در حوزههای متعددی بهطور ضمنی خود را نشان میدهد. هرچند قوانین ایران صراحتاً از تصمیم اداری هوشمبنا نام نمیبرند، اما در عمل، در زمینههایی مانند تشخیص و مطالبة مالیات، ارزیابی سوابق بیمهای و پرداخت مستمری، تعیین استحقاق یارانهها و کمکهای معیشتی و حتی برخی خدمات ثبتی و هویتی، سامانههای خودکار و هوشمند نقش مستقیم در تصمیمگیری دارند. تصمیماتی همچون قطع یارانه، تعیین سطح بدهی مالیاتی یا رد یک درخواست اداری، در بسیاری موارد حاصل برآیند تحلیل دادهها توسط سامانههای الگوریتمی است؛ هرچند در ظاهر به نام اداره یا هیئت صادر میشود.
شهروند معمولاً در این وضعیت با عباراتی کلی مانند بر اساس اطلاعات سامانه، شما واجد شرایط نیستید یا سیستم چنین تشخیص داده است، مواجه میشود، بدون آنکه از نقش سامانة هوشمبنا مطلع باشد، به منطق و دادههای مؤثر در تصمیم دسترسی داشته باشد یا بتواند دعوایی معنادار دربارة سوگیری دادهها، خطای مدل یا اشتباه در تنظیمات سامانه طرح کند. این وضعیت، نمونهای روشن از عدم انطباق قواعد فعلی با الزامات دادرسی منصفانه در بستر تصمیمات خودکار است و ضرورت بازنگری جدی در چارچوبهای حقوقی موجود را آشکار میسازد.
4ـ3. ارزیابی وضعیت حقوق ایران در پرتو الزامات دادرسی منصفانه
نخستین الزام نوین دادرسی منصفانه در بستر تصمیمات هوشمبنا، حق آگاهی از خودکار بودن تصمیم اداری است؛ حقی که بر اساس آن، شهروند باید بداند تصمیم دربارة او توسط سامانة خودکار اتخاذ شده است، نقش انسان در فرایند (نظارت، تأیید یا صرفاً اجرا) چیست و آیا حق درخواست بازنگری انسانی دارد یا خیر؟ در حقوق ایران هیچ قاعدة خاصی که دستگاههای اداری را به اطلاعرسانی صریح دربارة خودکار بودن تصمیم ملزم کند وجود ندارد، نه قانون مدیریت دادهها و اطلاعات ملی، نه منشور حقوق شهروندی و نه مقررات بخشی چنین الزامی را پیشبینی نکردهاند (اکبری و دیگران، ۱۴۰۳، ص۹). این فقدان نخستین گام دادرسی منصفانه، یعنی آگاهی از ماهیت فرایند تصمیمگیری را با اخلال روبهرو میکند.
دومین الزام حق دسترسی به دلایل تصمیم که رکن اساسی امکان دفاع و اعتراض است، در فضای تصمیمات خودکار عملاً تهی میشود. در تصمیمات انسانی، این حق از طریق دسترسی به متن تصمیم، صورتجلسات و مستندات اعمال میگردد، اما در تصمیمات هوشمبنا، دلیل در لایة الگوریتم و داده مستقر است و بدون شفافیت الگوریتمی، دسترسی واقعی به آن ممکن نیست. برای تحقق این حق، باید دادههای ورودی، نسخة مدل، تنظیمات و خروجیهای میانی بهگونهای ثبت شوند که امکان بازسازی فرایند تصمیمگیری فراهم باشد، در غیر این صورت، هر تلاشی برای تخصیص تکالیف اثباتی، تعیین نهاد ناظر یا وضع ضوابط الزامآور برای نگهداری وقایع سیستمی و توضیحپذیری، دچار تشتت و تفسیرناپذیری خواهد شد. بااینوجود، در حقوق ایران، چه در قانون مدیریت دادهها و اطلاعات ملی و چه در سایر مقررات، هیچ رژیم خاصی برای ثبت و افشای این عناصر الگوریتمی طراحی نشده است، لذا حق دسترسی به اطلاعات که در اسناد سیاستی بهطورکلی به رسمیت شناخته شده، در زمینة تصمیمات هوشمبنا عمدتاً در سطحی اعلامی باقی میماند و ضمانت اجرای مؤثری برای شفافیت الگوریتمی شکل نمیگیرد (مرادی برلیان و تنگستانی، ۱۴۰۲، ص۱۷۳).
حق اعتراض مؤثر و بازنگری انسانی که یکی از مهمترین تضمینها در برابر تصمیمات خودکار بهشمار میرود، در نظام حقوقی ایران بهطور خاص برای این دسته از تصمیمات طراحی نشده است؛ درحالیکه بر پایة اصول نوین تنظیمگری شهروند باید بتواند در برابر یک تصمیم خودکار، درخواست بازنگری توسط مرجع انسانی صلاحیتدار را مطرح کند و آن مرجع نیز به دادهها و منطق الگوریتمی دسترسی واقعی داشته باشد. در حقوق ایران اگرچه حق اعتراض بهطورکلی شناخته شده و سازوکارهایی برای شکایت به مراجع بالادست و دیوان عدالت اداری وجود دارد، اما بازنگری انسانی نسبت به تصمیمات خودکار فاقد رویة اختصاصی است و نه دستگاه اداری و نه دیوان مکلف به بررسی محتوا و منطق سامانة هوشمبنا نیستند. همزمان فقدان شفافیت الگوریتمی و ثبت چرخة حیات داده سبب میشود که حتی در صورت تمایل مرجع انسانی به بررسی، ابزار لازم برای ارزیابی فنی و حقوقی تصمیم در دسترس نباشد. بدین ترتیب، حق اعتراض، بهویژه در دیوان عدالت اداری، عملاً به کنترل ظاهری و شکلی تصمیم محدود میشود و امکان رسیدگی جدی به ادعاهای مرتبط با سوگیری، تبعیض یا خطای الگوریتمی منتفی میگردد (عامری و دیگران، ۱۴۰۴، ص۱۲).
با توجه به این خلأهای حقوقی و نهادی روشن میشود که چارچوبهای سنتی دادرسی برای حفاظت از حقوق شهروندان در برابر قانون نهان الگوریتم (محمودی و دیگران، ۱۴۰۴، ص۹) کفایت نمیکنند. بر همین اساس، بخش چهارم مقاله مجموعهای از الزامات حقوقی، نهادی و فنی را برای رفع این کاستیها و سازگار کردن دادرسی منصفانه با واقعیت تصمیمات اداری هوشمبنا پیشنهاد میکند.
4. الزامات حقوقی تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار در ایران
واکاوی وضعیت حقوق ایران در بخش پیشین نشان داد که مشکل اصلی، نبود اصول دادرسی نیست، بلکه شکاف عمیق میان وعدههای نظری حقوق عمومی و واقعیت عملی حکمرانی الگوریتمی است. در عمل، اگر این شکاف با مداخلة تقنینی هدفمند پر نشود، بهتدریج نوعی ادارهگری نامرئی عادی خواهد شد؛ ادارهگریای که در آن، سامانههای الگوریتمی تصمیم میگیرند، اما منطق آنها از دید شهروند و قاضی پنهان میماند.
تجربه نظامهای حقوقی پیشرو نشان میدهد تضمین دادرسی منصفانه در عصر هوش مصنوعی، مستلزم چرخش از تنظیمگری منفعل به طراحی حقوقی فعال است؛ رویکردی که در آن قانونگذار، با پیشبینی الزامات شفافیت، توضیحپذیری و بازنگری انسانی، مسیر دادرسی را پیش از وقوع ضرر هموار میکند (Gavaghan & Knott, 2024, p. 67). این چرخش را میتوان در سه سطح تقنینی، نهادی و فنی صورتبندی کرد و نیازمند آن است که قانونگذار نهتنها تصمیم اداری خودکار را بهعنوان یک مفهوم متمایز به رسمیت بشناسد، بلکه سازوکارهای دادرسی را چنان بازطراحی کند که توان نفوذ به لایههای الگوریتمی قدرت عمومی را داشته باشند (Smith & Miller, 2024, p. 412). بخش حاضر با تکیه بر اصول بنیادین حقوق عمومی ایران و با الهام از استانداردهای بینالمللی، مجموعهای از الزامات حقوقی، نهادی و فنی را برای پر کردن این خلأها و سازگار کردن دادرسی منصفانه با واقعیت تصمیمات اداری هوشمبنا پیشنهاد میکند
1ـ4. مبانی طراحی الزامات در حقوق ایران
بر مبنای تحلیل وضعیت موجود در بخش سوم و با اتکا به اصول کلاسیک و نوین حقوق عمومی، طراحی الزامات پیشنهادی در حقوق ایران باید از سه مبنای اصلی الهام گیرد: اول، اصل حاکمیت قانون و پرهیز از قانون نهان الگوریتم است. قانونگذار نمیتواند به صدور مجوزهای کلی برای استفاده از سامانههای هوشمند بسنده کند و معیارهای تصمیمگیری را در دل الگوریتم و قراردادهای فنی رها نماید. رها کردن منطق تصمیم در لایة پنهان مدل و کد، خطر شکلگیری قانون نهان الگوریتم را به همراه دارد؛ وضعیتی که در آن بخش قابل توجهی از قواعد واقعی تخصیص مزایا و تحمیل تکالیف، خارج از متن قانون و دسترس نظارت قضایی عمل میکند؛ دوم، اصول برابری، منع تبعیض و حق بر دادرسی منصفانه در بستر دادهمحور است. این اصول که در شمار مبانی کلاسیک حقوق عمومی قرار دارند، در زمینة تصمیمات هوشمبنا تنها زمانی معنادار میشوند که امکان بررسی سوگیری دادهها، خطای مدل و تفاوتهای ناموجه در نتایج وجود داشته باشد. چنین امکانی بدون شفافیت الگوریتمی و ثبت چرخة حیات داده فراهم نمیشود؛ سوم، اصل پاسخگویی، مسئولیتپذیری و حق اعتراض مؤثر است. حق اعتراض مؤثر و حق بازنگری انسانی از محورهای اصلی اصول نوین تنظیمگری هوش مصنوعی بهشمار میآیند. در حقوق ایران نیز هرگونه اصلاح باید تضمین کند که مسئولیت تصمیم اداری خودکار بهطور روشن قابل انتساب باشد، شهروند در صورت تضییع حق، امکان طرح دعوا و مطالبة جبران خسارت داشته باشد و مرجع رسیدگی، ابزار لازم برای ارزیابی فنی و حقوقی تصمیم را در اختیار داشته باشد.
2ـ4. الزامات تقنینی: بازطراحی چارچوب قانونی تصمیمات اداری خودکار
نخستین و بنیادیترین قدم برای تضمین دادرسی منصفانه، حل همان گلوگاه عملی شناساییشده در بخش پیشین است؛ فقدان تعریف حقوقی تصمیم اداری هوشمبنا. بدون تعریف قانونی، نمیتوان دامنة کاربرد قواعد خاص شفافیت و دادرسی را مشخص کرد، مسئولیتها و تکالیف نهادهای اداری را تعیین نمود و حقوق شهروند را در این بستر بهطور روشن تضمین کرد (Richardson, 2022, p. 792). بنابراین پیشنهاد میشود در سطح قانون ترجیحاً در قانون دیوان عدالت اداری یا در قانونی خاص پیرامون دولت الکترونیک و خدمات هوشمند تعریفی با این ساختار پذیرفته شود. تصمیم اداری هوشمبنا، تصمیمی است که به نام مرجع اداری و در چارچوب صلاحیت قانونی آن، با اتکای عمده یا کامل به پردازش خودکار دادهها توسط سامانههای هوش مصنوعی یا الگوریتمهای یادگیرنده اتخاذ میشود؛ بهنحویکه منطق تصمیمگیری در لایة فنی سامانه مستقر است. این تعریف، هم عنصر انتساب به اداره، هم اتکای عمده به پردازش خودکار و هم استقرار منطق تصمیم در لایة الگوریتمی را برجسته میکند و مبنای اعمال سایر الزامات را فراهم میسازد.
در دومین قدم و برای تأمین حق آگاهی، قانون باید دستگاههای اداری را مکلف کند در هر تصمیمی که بهطور کامل یا عمده خودکار است، بهصراحت در ابلاغیه به شهروند اعلام کنند که تصمیم توسط سامانة هوشمبنا اتخاذ شده و نقش انسان در فرایند را نیز مشخص سازند؛ یعنی روشن شود آیا تصمیم صرفاً پیشنهاد الگوریتمی بوده که کارمند آن را تأیید یا رد کرده است، یا تصمیم بهطور خودکار و بدون مداخلة انسانی صادر شده است. چنین الزامی در ادبیات تنظیمگری هوش مصنوعی، پیششرط دادرسی منصفانه و حق توضیحپذیری دانسته میشود و با مبانی حقوق شهروندی در عصر دیجیتال نیز همخوان است (Veale & Borgesius, 2023, p. 142).
در قدم بعدی حق دسترسی به دلیل بهعنوان رکن اساسی دادرسی منصفانه، در بستر تصمیمات هوشمبنا نیازمند بازطراحی جدی است. پیشنهاد میشود: نخست، الزام عمومی بیان دلایل در تصمیمات اداری، صراحتاً به تصمیمات هوشمبنا تسری یابد؛ و دوم، برای تصمیمات مهم و پرریسک در حوزههایی مانند تأمین اجتماعی، مالیات، یارانهها و محرومیت از خدمات عمومی، قانون دستگاه را مکلف کند که هم معیارهای کلی تصمیمگیری (ویژگیها و عوامل مؤثر) را در قالبی قابل فهم برای شهروند توضیح دهد و هم در سطح فردی، دلایل اصلی تصمیم را در پرونده مشخص کند، از جمله معیارهای کلیدیای که منجر به رد یا قبول درخواست شدهاند. بر اساس تحلیلی که پیشتر دربارة شفافیت الگوریتمی و چرخة حیات داده ارائه شد، سطح شفافیت موردی بدون ثبت دادهها و مدل قابل تحقق نیست؛ بنابراین الزام بیان دلیل باید بهطور ناگسستنی با الزامات حکمرانی داده پیوند بخورد (Zumbini, 2025, p. 11).
در حوزة تصمیمگیریهای مبتنیبر هوش مصنوعی در بخش عمومی، برای رعایت اصول دادرسی منصفانه باید فرایندهای تصمیمگیری اداری بهطور کامل به سامانههای خودکار واگذار نشود و همچنان امکان نظارت و کنترل انسانی بر این تصمیمات وجود داشته باشد. در ادبیات حقوقی مربوط به تنظیم هوش مصنوعی نیز تأکید شده است که برای تضمین حقوق عامه در بهرهگیری از این فناوری، باید قانونگذاری اختصاصی، تعیین حمایتها و محدودیتهای لازم و ایجاد نهادهای تنظیمگر پیشبینی شود و در کنار آن، نظارت قضایی بر کاربرد هوش مصنوعی در عرصة عمومی اعمال گردد. از این منظر، جلوگیری از واگذاری کامل تصمیمگیری و صدور آرای اداری یا شبهقضایی به ماشین و تضمین امکان نظارت و بازبینی قضایی بر این تصمیمات، از مهمترین سازوکارهایی است که میتواند مانع تضییع حقوق شهروندان شده و زمینة تحقق دادرسی منصفانه در تصمیمات اداری خودکار را فراهم سازد (غمامی، ۱۴۰۳، ص125).
قانون نیز باید بهصراحت برای تصمیمات اداری هوشمبنا، حق اعتراض به تصمیم خودکار را به رسمیت بشناسد و برای شهروند، حق درخواست بازنگری توسط مرجع انسانی را تضمین کند. این بازنگری باید واقعی و نه تشریفاتی باشد؛ به این معنا که مرجع انسانی صلاحیت و ابزار لازم برای بررسی تصمیم، از جمله دسترسی به دادهها و مدل را داشته باشد و مکلف به رسیدگی ماهوی به ادعاهای شهروند و دلایل الگوریتمی باشد، نه آنکه صرفاً خروجی سامانه را تأیید صوری کند (عامری و دیگران، 1404، ص13). این الزام با آنچه ذیل الزامات تضمین حق اعتراض و بازنگری انسانی نسبت به تصمیمات ماشینی مطرح شده همسو است و میتواند هم در قانون دیوان عدالت اداری و هم در قوانین بخشی حوزههایی مانند مالیات و تأمین اجتماعی بازتاب یابد.
3ـ4. الزامات نهادی و دادرسی: تقویت نقش دیوان عدالت اداری و مراجع اداری
دیوان عدالت اداری ستون اصلی دادرسی اداری در ایران است، اما قواعد و رویة فعلی آن بر فرض تصمیم انسانی بنا شده و برای تطبیق با تصمیمات هوشمبنا نیازمند اصلاحاتی اساسی است. نخستین اقدام، اصلاح آیین دادرسی دیوان بهنحوی است که امکان مطالبة اطلاعات الگوریتمی، دادههای پایه و گزارشهای فنی از دستگاههای اداری پیشبینی شود و دیوان بتواند در صورت لزوم، کارشناسی فنی در حوزة داده و مدل را در کنار کارشناسیهای سنتی مطالبه کند. در کنار این اصلاح رویهای، ایجاد یک واحد یا هستة کارشناسی تخصصی در ساختار دیوان ضروری است تا تحلیل فنی سامانههای مورد اختلاف، ارزیابی ادعاهای مربوط به سوگیری، خطای الگوریتمی یا نقص در دادهها و کمک به قضات در فهم ابعاد فنی تصمیمات هوشمبنا بهطور نظاممند انجام پذیرد. این پیشنهاد با نیازهای مسئولیت و دادرسی اداری همخوان است، بهویژه در جایی که بر دشواری اثبات خطا و شناسایی تصمیمگیرنده در مواجهه با سامانههای هوشمند تأکید شده است (اصحابی و صادقینژاد، 1404، ص151).
توانمندسازی نباید به دیوان عدالت اداری محدود بماند، بلکه در بسیاری از حوزههای خدمات عمومی مانند مالیات، تأمین اجتماعی، کار و شهرداریها، مراجع شبهقضایی (هیئتها و کمیسیونها) نقطة تماس اولیة شهروند با دادرسی اداری هستند و نقش آنها در تضمین دادرسی منصفانه در برابر تصمیمات خودکار حیاتی است. برای این منظور، باید در مقررات این مراجع، تصمیمات هوشمبنا بهعنوان یک دسته ویژه شناخته شوند و اعضای هیئتها هم آموزشهای لازم دربارة ماهیت و محدودیتهای سامانههای هوشمبنا را دریافت کنند و هم به لحاظ آیین دادرسی، حق مطالبة اطلاعات فنی و دادهای را داشته باشند. نکتة مهم دیگر اینکه در مواردی که تصمیمات خود این مراجع نیز مبتنیبر سامانههای هوشمبناست، الزام به اعلام خودکار بودن تصمیم و پیشبینی امکان بازنگری انسانی در سطح بالاتر ضروری است. در غیر این صورت، همانگونه که در بخش سوم نشان داده شد، حق اعتراض به این مراجع در برابر تصمیمات الگوریتمی عملاً به سطحی از فرمالیسم دادرسی فروکاسته خواهد شد (Tomlinson & et al., 2025, p. 20).
تمامی این اصلاحات نهادی زمانی مؤثر خواهند بود که دسترسی عملی شهروند به دادرسی نیز تضمین شود. یکی از دغدغههای اساسی در حقوق اداری، فاصلة میان شناسایی نظری حق اعتراض و امکان اعمال عملی آن است و این فاصله در بستر تصمیمات هوشمبنا، به دلیل ناآگاهی شهروند از خودکار بودن تصمیم و دشواری دسترسی به ادله و اطلاعات فنی، عمیقتر میشود. قانونگذار و دستگاههای اداری باید در ابلاغ تصمیمات هوشمبنا، توضیحی ساده و روشن دربارة حقوق شهروند برای اعتراض، بازنگری انسانی و دسترسی به اطلاعات مرتبط درج کنند. امکان ثبت شکایت و پیگیری آنلاین را چنان طراحی نمایند که شهروند برای طرح ادعا نیازمند دسترسی به دانش فنی یا حقوقی پیچیده نباشد، و نهادهای پشتیبان مانند دفاتر معاضدت قضایی و دفاتر خدمات الکترونیک قضایی را برای مواجهه با دعاوی مربوط به تصمیمات هوشمبنا توانمند سازند (مهدی، 1404، ص212)، و اصلاحات نهادی با تسهیل دسترسی عملی شهروند پیوند میخورد و دادرسی منصفانه از سطح نظری به واقعیت اجرایی نزدیک میشود.
4ـ4. الزامات حکمرانی داده و فناوری: زیرساخت دادرسی منصفانه
تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار، بدون وجود زیرساختهای فنی و دادهای مناسب، عملاً از سطح یک ایدة نظری فراتر نمیرود. یکی از مهمترین پیششرطها در این زمینه، ثبت و نگهداری منظم چرخة حیات داده و مدل است؛ زیرا در نبود چنین اطلاعاتی، نه میتوان دربارة مسئولیت تصمیمگیرنده داوری کرد و نه امکان تعیین تکالیف اثباتی در فرایند رسیدگی فراهم میشود. به همین دلیل لازم است در قانون مدیریت دادهها و اطلاعات ملی یا مقررات مشابه، دستگاههای اداری ملزم شوند که برای هر سامانة هوشمبنا، اطلاعات مربوط به دادههای ورودی، نسخههای مدل، پارامترها و لاگ تصمیمات را بهطور کامل ثبت کنند. این اطلاعات باید بهگونهای نگهداری شود که در صورت نیاز بتوان فرایند تصمیمگیری را بازسازی و بررسی کرد و درعینحال، مدت نگهداری آنها نیز برای اهداف دادرسی و نظارت قضایی بهطور روشن تعیین شود. البته طراحی چنین سازوکاری باید همزمان دو ملاحظه را در نظر بگیرد: از یکسو، رعایت الزامات مربوط به حریم خصوصی و حفاظت از دادهها؛ و از سوی دیگر، امکان دسترسی مراجع رسیدگیکننده به اطلاعات لازم در صورت طرح دعوا. در غیر این صورت، رسیدگی به تصمیمات خودکار ناگزیر بر حدس و گمان دربارة نحوة عملکرد سامانه استوار خواهد بود (Huq, 2020, p. 621).
در کنار این مسئله، نظارت بر عملکرد سامانههای هوشمبنا در خدمات عمومی نیز، نباید صرفاً به رسیدگیهای موردی در فرایند دادرسی محدود بماند. طراحی یک نظام ممیزی دورهای میتواند در این زمینه نقش مهمی ایفا کند. دستگاههای اداری باید پیش از استفاده گسترده از چنین سامانههایی، ارزیابی اثر آنها بر حقوق شهروندان و اصل برابری را انجام دهند. علاوه بر آن، در بازههای زمانی مشخص لازم است ممیزیهای فنی و حقوقی مستقلی بهوسیلة نهادهای ناظر یا اشخاص ثالث معتبر برای بررسی میزان سوگیری، دقت عملکرد و انطباق سامانه با مقررات انجام شود. انتشار نتایج این ممیزیها، دستکم در سطحی کلی، برای عموم یا برای نهادهای نظارتی و قضایی میتواند به افزایش شفافیت و پاسخگویی کمک کند. چنین سازوکاری در واقع مکمل دادرسی موردی است و امکان شناسایی و اصلاح خطاهای ساختاری را پیش از آنکه به نقض گستردة حقوق شهروندان بینجامد فراهم میکند؛ امری که در ادبیات حقوقی از آن بهعنوان پیوند میان شفافیت، مسئولیتپذیری و جبران حقوق یاد شده است (هاشمی، ۱۴۰۳، ص۱۴).
اجرای این الزامات بدون تعیین استانداردهای مشخص فنی دشوار خواهد بود. به همین دلیل لازم است آییننامهها و دستورالعملهایی تدوین شود که حداقل الزامات مربوط به ثبت داده، لاگگیری، تبیینپذیری مدل و امکان استخراج دلایل تصمیم را مشخص کند و سامانههای هوشمبنا بر اساس میزان خطری که برای حقوق شهروندان ایجاد میکنند طبقهبندی شوند؛ بهگونهایکه برای سامانههای پرریسک، الزامات سختگیرانهتری در زمینة شفافیت، ممیزی و امکان بازنگری انسانی پیشبینی شود (NIST, 2023, p. 2). تدوین و به روزرسانی این مقررات بهتر است با مشارکت نهادهای تخصصی مانند شورای اجرایی فناوری اطلاعات و متخصصان حوزههای حقوق، داده و اخلاق هوش مصنوعی انجام گیرد. تجربه نشان میدهد که تنظیمگری خدمات عمومی مبتنیبر هوش مصنوعی صرفاً با اتکا به اصول کلی حقوقی پیش نمیرود. درعینحال، نبود استانداردهای فنی روشن نیز تحقق عملی شفافیت و پاسخگویی را با مشکل جدی مواجه میکند.
نتیجهگیری
گسترش استفاده از سامانههای هوشمبنا در خدمات عمومی ایران، آرامآرام چهرة تصمیمات اداری را تغییر داده است؛ تصمیماتی که پیشتر در چارچوب فرایندهای انسانی نسبتاً روشن و قابل فهم اتخاذ میشدند، امروز بیش از گذشته در بستر الگوریتمها و مدلهای دادهمحور شکل میگیرند. این تحول، در کنار ظرفیتهایی مانند افزایش کارآمدی و کاهش فساد، اگر با چارچوب حقوقی متناسب همراه نشود، میتواند به استقرار نوعی ادارهگری نامرئی و شکلگیری قانون نهان الگوریتم بینجامد؛ وضعیتی که در آن منطق واقعی تخصیص حقوق و تکالیف، هم از نگاه شهروند پنهان میماند و هم تا حدی از دسترس نهادهای نظارتی و قضایی خارج میشود.
این مقاله نشان داد که تصمیم اداری خودکار و هوشمبنا صرفاً یک مفهوم فنی نیست، بلکه باید آن را بهعنوان یک مفهوم در حقوق عمومی با عناصر مشخص صورتبندی کرد: انتساب تصمیم به اداره، اتکای عمدة آن به پردازش خودکار و استقرار منطق تصمیم در الگوریتم. در کنار این مشخص شد که دادرسی منصفانه در حقوق اداری با مؤلفههایی مانند حق آگاهی از فرایند و دلیل تصمیم، حق اعتراض مؤثر، بیطرفی مرجع رسیدگی و امکان جبران خسارت در مواجهه با این نوع تصمیمات با چالشهایی ساختاری روبهرو میشود. علت اصلی این است که فرض محوری تصمیمگیر انسانی قابل سؤال که بسیاری از سازوکارهای سنتی دادرسی بر آن بنا شدهاند، در تصمیمات هوشمبنا تضعیف میشود یا دستکم صورت پیچیدهتری پیدا میکند. از همین منظر، هوش مصنوعی با توجه به محدودیت آن در حل مسائل سختی که مبتنیبر داوریهای ارزشی و اخلاقیاند نباید بدون الگوریتم شفاف و قابل توضیح بهکار گرفته شود و نیز نباید بدون نظارت انسانی به تصمیمات نوعی یا جمعی منتهی گردد.
تحلیل وضعیت حقوقی ایران در مقاله نشان داد که هرچند اصول کلی مانند حاکمیت قانون، برابری، منع تبعیض و حق دادخواهی در نظام حقوقی موجود قابل استناد است، اما در سطح تقنینی و نهادی خلأهای جدی وجود دارد: تصمیم اداری خودکار تعریف قانونی روشنی ندارد، قواعد ویژهای برای شفافیت الگوریتمی پیشبینی نشده است، حق اعتراض و بازنگری انسانی نسبت به تصمیمات ماشینی بهصراحت به رسمیت شناخته نشده، و دیوان عدالت اداری و مراجع شبهقضایی نیز در عمل، برای دسترسی به دادهها و اطلاعات فنی لازم جهت کنترل مؤثر این تصمیمات با محدودیتهای قابل توجه روبهرو هستند. چنین وضعیتی، بهویژه در حوزههایی مانند تخصیص یارانهها، خدمات تأمین اجتماعی، مالیات و سایر خدمات عمومی هوشمند، میتواند حقوق شهروندان را در موقعیت آسیبپذیرتری قرار دهد.
بر همین مبنا، در پاسخ به پرسش اصلی مقاله دربارة الزامات حقوقی و نهادی لازم برای تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار، میتوان پیشنهادها را در سه سطح صورتبندی کرد: در سطح تقنینی، لازم است تصمیم اداری هوشمبنا در قانون بهطور صریح تعریف و شناسایی شود، الزام به بیان دلیل بهطور روشن به این دسته از تصمیمات تسری یابد، حق آگاهی از خودکار بودن تصمیم و دسترسی به منطق کلی آن تصریح گردد، و حق اعتراض و بازنگری انسانی همراه با ضمانت اجراهای روشن به رسمیت شناخته شود؛ در سطح نهادی و دادرسی، باید دیوان عدالت اداری و مراجع شبهقضایی توانمند شوند، از جمله با اصلاح آیین دادرسی، ایجاد امکان مطالبة اطلاعات و گزارشهای فنی، شکلدهی هستههای کارشناسی تخصصی در حوزة داده و الگوریتم و نیز با کاهش موانع عملی شهروند برای اعتراض و طرح دعوا در بستر خدمات عمومی هوشمند؛ در سطح حکمرانی داده و فناوری نیز طراحی الزامات ثبت و نگهداری چرخة حیات داده و مدل، پیشبینی ممیزی دورهای سامانههای هوشمبنا از حیث فنی و حقوقی و تدوین استانداردها و آییننامههای فنی لازم است تا پیوند میان شفافیت، پاسخگویی و جبران حقوق از حالت شعار خارج و در عمل قابل اجرا شود.
جمعبندی این تحلیلها آن است که تضمین دادرسی منصفانه در برابر تصمیمات اداری خودکار، شرط مشروعیت و پایداری دولت هوشمند در ایران است، نه مانعی در برابر آن. اگر نظام حقوقی تبیین مفهوم و ساختار نهادی لازم برای مواجهه با این تصمیمات را به تعویق بیندازد، فاصلة میان فناوری و حقوق میتواند به فاصلهای میان دولت و شهروند تبدیل شود؛ فاصلهای که پیامدهایش در کاهش اعتماد عمومی، احساس بیقدرتی در برابر سامانههای نامرئی و تقویت ادراک تبعیض و بیعدالتی آشکار خواهد شد.
در مقابل، اگر تصمیم اداری هوشمبنا بهصراحت در متن قانون پذیرفته شود، شفافیت الگوریتمی متناسب با ملاحظات فنی و حقوقی طراحی گردد و دادرسی اداری و قضایی برای کنترل این تصمیمات تقویت شود، میتوان به الگویی رسید که در آن تحول دیجیتال خدمات عمومی با اصول بنیادین حقوق عمومی از حاکمیت قانون و برابری گرفته تا پاسخگویی و حق بر دادرسی منصفانه همجهت پیش برود. از این منظر، پیشنهادهای این مقاله میتواند مبنایی برای اصلاح قوانین بخشی (مانند مالیات، تأمین اجتماعی و خدمات الکترونیک دولت)، بازنگری در قانون دیوان عدالت اداری و نیز اصلاح اسناد سیاستی مرتبط با دولت هوشمند و حکمرانی داده در ایران باشد.
از طرفی یافتههای مقاله نشان میدهد گفتمان حقوق شهروندی در عصر دیجیتال، اگر بخواهد از سطح بیان اصول کلی فراتر برود، ناگزیر است بهطور دقیقتری وارد مسئلة تصمیمات اداری خودکار و هوشمبنا شود؛ بهنحویکه حقوقی مانند حق آگاهی، حق دسترسی به داده، حق اعتراض و بازنگری انسانی و حق جبران خسارت، در متن واقعی فرایندهای تصمیمگیری اداری مبتنیبر هوش مصنوعی بازطراحی شوند. چنین بازطراحیای، اگر با همکاری میان حقوقدانان، متخصصان داده و سیاستگذاران فناوری پیش برود، میتواند مسیر گذار از ادارهگری نامرئی به حکمرانی الگوریتمی مسئول و پاسخگو را در خدمات عمومی ایران هموار کند.
- آقابابایی، حسن و ناجی، محمد (۱۴۰۳). سوگیری و تبعیض در سامانههای هوش مصنوعی: از مبانی فنی تا ضمانتهای حقوقی. حقوق و فناوریهای نوین، ۲(۱)، ۷۷ـ۱۰۴.
- اجاقی، حامد، سلیمانی روزبهانی، فاطمه و ظهوریان نادعلی، ایمان (۱۴۰۳). دکترین هنجارگذاری و تنظیمگری هوش مصنوعی. حقوق و دولت، ۵(۱)، ۱۲۳ـ۱۵۰.
- اصحابی، فاطمه و صادقینژاد، علی (۱۴۰۴). نقش هوش مصنوعی در تحول نظام قضایی و خدمات حقوقی؛ چالشها و چشماندازها. مطالعات حقوق و علوم قضایی، ۲(۶)، ۱۴۸ـ۱۶۷.
- اکبری، ایمان، واعظی، رضا، اصلیپور، حسین، عبدالحسینزاده، محمد و شهرآئینی، سیدمجتبی (۱۴۰۳). شناسایی و مدلسازی کارکردهای هوش مصنوعی در ارتقای کارآمدی نظام اداری و ارائه خدمات عمومی. مطالعات مدیریت دولتی ایران. https://doi.org/10.22034/jipas.2024.401497.1607
- باباییان، فاطمه، صفدری رنجبر، مصطفی و حکیم، امین (۱۴۰۲). واکاوی نقش هوش مصنوعی در چرخۀ سیاستگذاری عمومی؛ رویکرد فراترکیب. بهبود مدیریت، ۱۷(۲)، ۱۱۵ـ۱۵۰. https://doi.org/10.22034/jmi.2023.396945.2957
- رشیدی خویگانی، رضا (1397). نقد و تحلیل نظریة خدمات عمومی و اصول حاکم بر آن مبتنیبر آموزههای اسلامی. تهران: ماهواره.
- رضاییزاده، محمدجواد و عطریان، فرامرز (۱۳۹۶). اصل الزام به ارائۀ دلیل در تصمیمات اداری در پرتو مفهوم ادارۀ خوب: مطالعۀ تطبیقی حقوق ایران و اتحادیۀ اروپا. دانش حقوق عمومی، ۶(۲)، ۱ـ۲۴.
- روشن، سیدعلیقلی، یعقوبی، نورمحمد و مؤمنی، امیررضا (۱۴۰۰). کاربست هوش مصنوعی در بخش دولتی: مطالعهای فراترکیب. علوم مدیریت ایران، ۱۶(۶)، ۱۱۷ـ۱۴۵.
- عامری، زهرا (۱۴۰۴). مطالعۀ تطبیقی چارچوب حقوقی نظامهای تصمیمگیری خودکار در مدیریت عمومی. مطالعات حقوق عمومی، ۵۵(۳)، ۱۹۰۹ـ۱۹۳۰.
- عامری، زهرا، مقدسی، محمدباقر و حبیبنژاد، سیداحمد (۱۴۰۴). حق اعتراض به تصمیمگیریهای خودکار مبتنیبر هوش مصنوعی: جلوهای از الزامات حقوق بشری در عصر فناوری. پژوهشهای نوین حقوق اداری، ۱ـ۲۴.
- علیقیان، اشکان، صفدری رنجبر، مصطفی و محمدی، مهدی (۱۴۰۱). طراحی بستۀ سیاستی برای توسعۀ هوش مصنوعی در ایران. سیاستگذاری عمومی، ۹(۱)، ۲۲ـ۴۶. https://doi.org/10.22059/jppolicy.2023.92986
- غمامی، سیدمحمدمهدی (۱۴۰۳). تنظیم هوش مصنوعی بهمنظور تأمین و تضمین حقوق عامه. دیدگاههای حقوق قضایی، ۲۹(۱۰۸)، ۱۰۱ـ۱۲۹.
- فتحی، یونس، شفیعی سردشت، جعفر و وهیبی فخر، مریم (۱۳۹۸). نظام مطلوب دادرسی اداری در ایران. پژوهشهای نوین حقوق اداری، ۱(۱)، ۱ـ۲۴.
- کدخدایی، عباسعلی و رضایی، مهدی (۱۴۰۱). حاکمیت قانون و هوش مصنوعی: از اصول سنتی تا اقتضائات نوین. مطالعات حقوق عمومی، ۵۲(۱)، ۱ـ۲۸.
- لطیفزاده، مهدیه (۱۴۰۳). تحول احراز عدالت در نظام قضایی با پردازش هوشمند داده. دیدگاههای حقوق قضایی، ۲۹(۱۰۸)، 151ـ174.
- محمودی، مصطفی، اکبری، ایمان و فلاحتکار، سجاد (۱۴۰۴). حکمرانی هوش مصنوعی (۷): ظرفیتشناسی توسعۀ هوش مصنوعی در کشور و ارائۀ توصیههایی جهت همافزایی ظرفیتها (شمارۀ مسلسل ۲۹۵۲). مرکز پژوهشهای مجلس شورای اسلامی.
- محمودی، مصطفی، اکبری، ایمان و مهربان، محمدمهدی (۱۴۰۳). حکمرانی هوش مصنوعی (۶): کاربست هوش مصنوعی در ارتقای خدمات عمومی (شمارۀ مسلسل ۲۰۷۳۹). مرکز پژوهشهای مجلس شورای اسلامی.
- مرادی برلیان، محمد و تنگستانی، محمدقاسم (۱۴۰۲). الگوریتم و حقوق اداری؛ چالشها و راهکارها. حقوق اداری، ۱۰(۳۴)، ۱۶۳ـ۱۹۲.
- مهدی، علی (۱۴۰۴). تحلیلی بر چالشها و راهکارهای حقوقی پیادهسازی هوش مصنوعی در نظام اداری ایران. حقوق اداری، ۱۲(۴۲)، ۲۰۵ـ۲۲۹.
- هاشمی، سیدحسین (۱۴۰۳). کنترل یا نوآوری؛ الزامات حقوقی سیاستهای تنظیمی در زمینۀ هوش مصنوعی. حقوق و دولت، ۵(۱)، ۹ـ۳۰.
- هاشمی، محمد (۱۴۰۲). حق دفاع و تضمینات آن در فرایندهای شبهقضایی اداری. پژوهشهای حقوق عمومی، ۲۴(۳)، ۴۵ـ۶۸.
