تهران- ایرنا- گسترش سامانه‌های تصمیم‌گیری خودکار در حوزه‌های حساس، خطر بازتولید تبعیض‌های تاریخی را افزایش داده است. بررسی‌های علمی نشان می‌دهد که بدون گنجاندن شاخص‌های عدالت در ساختار الگوریتم‌ها و اعمال نظارت دقیق حقوقی، فناوری مدرن می‌تواند به ابزاری برای تثبیت نابرابری‌های اجتماعی تبدیل شود.
به گزارش روز یکشنبه گروه علمی ایرنا، گسترش روزافزون سیستم‌های تصمیم‌گیری خودکار در شریان‌های حیاتی جوامع مدرن، پرسش‌های بنیادینی را درباره حدود و ثغور عدالت، شفافیت و مسئولیت‌پذیری در عصر هوش مصنوعی مطرح کرده است.
مقاله پژوهشی «عدالت الگوریتمی و حکمرانی هوش مصنوعی» به قلم محمد مهریار، شهروز دربندی و حسام‌الدین ترکمن که در فصلنامه «توسعه علوم انسانی» به چاپ رسیده، با واکاوی این پدیده هشدار می‌دهد که واگذاری تصمیم‌گیری‌های حساس اجتماعی، اقتصادی و قضایی به مدل‌های محاسباتی، بدون ایجاد چارچوب‌های الزام‌آور حقوقی و گنجاندن شاخص‌های برابری در ساختار ریاضی الگوریتم‌ها، تبعیض‌های تاریخی و نابرابری‌های ساختاری گذشته را بازتولید کرده و آنها را در پوششی از «بی‌طرفی ماشینی» نهادینه می‌سازد.
نویسندگان تأکید می‌کنند که تحقق عدالت در این حوزه نیازمند گذار از نگاه صرفاً فنی به یک مدل حکمرانی چندلایه، پیوند میان اخلاق و حقوق، و تعریف معیارهای سنجش‌پذیر عدالت در سامانه‌های فناورانه است.
برای تحلیل دقیق این چالش، پژوهش حاضر عدالت الگوریتمی را در امتداد نظریه‌های هنجاری فلسفه اخلاق در سه سطح ساختاریافته شامل عدالت توزیعی، عدالت رویه‌ای و عدالت تعاملی و ترمیمی تعریف می‌کند.
عدالت توزیعی ناظر بر پیامدهای نهایی تصمیم‌گیری و نحوه توزیع منصفانه منابع، فرصت‌ها یا مجازات‌ها میان گروه‌های مختلف اجتماعی است که در سطح فنی با شاخص‌هایی نظیر سطح تساوی در دسترسی و ضریب توزیع متوازن نتایج سنجیده می‌شود.
عدالت رویه‌ای بر منصفانه، شفاف و بی‌طرف بودن فرایند اخذ تصمیم دلالت دارد و مستلزم وجود سازوکارهایی مشخص برای حق اعتراض، امکان بازبینی انسانی تصمیمات ماشینی و دستیابی به درصدی از تصمیمات قابل توضیح است.
عدالت تعاملی و ترمیمی نیز به کیفیت برخورد سامانه با انسان‌ها، حفظ کرامت انسانی کاربران و چگونگی جبران خسارت‌های ناشی از اشتباهات الگوریتمی تمرکز دارد تا از تبدیل شدن افراد به شناسه‌های فاقد زمینه انسانی جلوگیری کند.
ریشه‌شناسی تبعیض الگوریتمی در این مقاله به دو منبع بنیادین نسبت داده می‌شود: تعصب در داده‌های تاریخی و تعصب در منطق طراحی. از آنجا که مدل‌های یادگیری ماشین بر مبنای داده‌های جمع‌آوری‌شده از گذشته آموزش می‌بینند، اگر الگوهای تاریخی جامعه حاوی پیش‌داوری، تبعیض‌های نژادی، اقتصادی یا جنسیتی باشد، الگوریتم این الگوها را فراگرفته و تکرار می‌کند. نمونه برجسته مورد اشاره در مقاله، سامانه ارزیابی خطر تکرار جرم در نظام‌های قضایی است که بر اساس مستندات پژوهشی، افراد سیاه‌پوست را به‌مراتب بیش از سفیدپوستان با شرایط مشابه در گروه پرخطر قرار می‌دهد.
علاوه بر داده‌های تاریخی، طراحان سامانه‌ها نیز در انتخاب متغیرها، توابع هدف و معیارهای بهینه‌سازی ناخواسته ارزش‌ها و اولویت‌های ذهنی خود را تحمیل می‌کنند که این امر به سوگیری‌های ساختاری در سامانه‌های رتبه‌بندی اعتباری و غربالگری شغلی منجر می‌شود.
یکی از چالش‌های محوری مطرح‌شده در این پژوهش، معمای جعبه سیاه در الگوریتم‌های پیچیده و شبکه‌های عصبی عمیق است که در آن منطق درونی حاکم بر وزن‌دهی به متغیرها برای انسان شفاف نیست.
نویسندگان نشان می‌دهند که در بسیاری از سامانه‌ها میان دقت پردازش و میزان تفسیرپذیری نوعی بده‌بستان وجود دارد؛ مدل‌های شفاف‌تر تفسیرپذیرترند اما دقت کمتری دارند، درحالی‌که یادگیری عمیق دقت بسیار بالایی داشته اما به سختی قابل رمزگشایی است.
مقررات عمومی حفاظت از داده‌های اروپا مفهومی با عنوان حق بر توضیح را برای افراد تحت تأثیر تصمیم‌گیری‌های تمام‌خودکار به رسمیت شناخته است، اما پژوهشگران با بازخوانی نقدهای حقوقی برجسته به یک پارادوکس ساختاری اشاره می‌کنند که در آن انتظار جامعه برای ارائه توضیح ریاضی بی‌نقص از ماشین، استانداردی سخت‌گیرانه‌تر از تصمیم‌گیری‌های قضات انسانی است، چه بسا توضیحات پسینی انسانی نیز ابزاری برای پنهان‌سازی سوگیری‌های پنهان باشند.
در بخش حکمرانی تطبیقی، مقاله سه مدل کلان تنظیم‌گری هوش مصنوعی را در سطح بین‌المللی واکاوی می‌کند. مدل حقوق‌محور و پیشگیرانه اتحادیه اروپا با تصویب قانون جامع هوش مصنوعی، رویکردی ریسک‌محور اتخاذ کرده که سامانه‌های قضایی، استخدام و اعتبارسنجی را در زمره موارد پرخطر طبقه‌بندی کرده و مواردی چون امتیازدهی اجتماعی را ممنوع ساخته است.
در مقابل، مدل بازارمحور و خودتنظیمی ایالات متحده آمریکا بیشتر بر استانداردهای داوطلبانه و قوانین مسئولیت مدنی تکیه دارد، درحالی‌که مدل دولت‌محور و امنیت‌گرای چین با تدوین مقررات خاص برای خدمات توصیه‌ای و فناوری‌های سنتز عمیق، پیشبرد نظم اجتماعی و ثبات حاکمیتی را بر شفافیت فردی مقدم می‌شمارد.
برای مهار این چالش‌ها، مقاله راهکارهایی سه‌گانه در حوزه‌های فناورانه، حقوقی و آموزشی پیشنهاد می‌کند. در حوزه فنی، پیش‌پردازش و موازنه‌سازی داده‌ها پیش از آموزش مدل، به‌کارگیری الگوریتم‌های توضیح‌پذیر و استفاده از یادگیری فدرال برای آموزش مدل‌ها بدون نیاز به انتقال داده‌های خام خصوصی توصیه می‌شود.
در حوزه حقوقی، تأکید شده است که عدالت باید به‌عنوان یک شرط ریاضی الزام‌آور در توابع هدف الگوریتم‌ها گنجانده شود و اهرم خریدهای دولتی برای الزام شرکت‌های فناوری به رعایت برابری به کار گرفته شود.
همچنین در حوزه آموزش، ارتقای سواد هوش مصنوعی برای مهندسان و عموم شهروندان به عنوان پیش‌شرط نظارت اجتماعی مؤثر مطرح شده است.
پژوهش در نهایت نتیجه‌گیری می‌کند که مشروعیت سامانه‌های هوشمند نه در کارایی خام محاسباتی، بلکه در میزان انطباق آنها با موازین عدالت انسانی و کرامت شهروندی معنا می‌یابد.