بخشی از جریان فکری فعال در حوزه هوش مصنوعی معتقد است بزرگ‌ترین مسئولیت اخلاقی انسان امروز، جلوگیری از نابودی نسل‌های آینده است؛ اما منتقدان می‌پرسند آیا می‌توان نیازهای واقعی میلیاردها انسان امروز را به امید حفظ تریلیون‌ها انسان احتمالی در آینده کنار گذاشت؟
به گزارش عصر ایران، بحث درباره خطرهای هوش مصنوعی فقط به این پرسش محدود نیست که آیا چت بات ها روزی می‌توانند از کنترل انسان خارج شوند یا نه. در سال‌های اخیر برخی از فعالان فناوری و فیلسوفان اخلاق، بحث گسترده‌تری شکل گرفته است: انسان امروز تا چه اندازه باید برای موجوداتی که هنوز به دنیا نیامده‌اند هزینه بپردازد؟
طرفداران این دیدگاه معتقدند اگر نسل بشر بتواند برای هزاران یا حتی میلیون‌ها سال به زندگی خود ادامه دهد، تعداد انسان‌های آینده می‌تواند به مراتب بیشتر از جمعیت فعلی جهان باشد. از این منظر، حتی کاهش اندک احتمال وقوع یک فاجعه جهانی، ارزش اخلاقی بسیار بزرگی پیدا می‌کند.
این نگاه به شکل‌گیری جریانی انجامیده که توجه ویژه‌ای به خطرهای وجودی دارد، خطرهایی که ممکن است کل تمدن بشری را تهدید کنند. در چنین چارچوبی، جلوگیری از انقراض انسان می‌تواند بر بسیاری از مشکلات فوری و روزمره اولویت پیدا کند.
اما مسئله زمانی پیچیده‌تر می‌شود که مشخص شود این محاسبه فقط درباره انسان‌ها نیست.
برخی از نظریه‌پردازان، دامنه توجه اخلاقی را به حیوانات نیز گسترش می‌دهند. از رفاه حیوانات در مزارع صنعتی گرفته تا موجودات دریایی مانند میگوها و حتی حشرات، همه می‌توانند در این محاسبه قرار بگیرند. در دیدگاه‌های گسترده‌تر، حتی احتمال ظهور موجودات هوشمند غیرانسانی در آینده، از جمله سامانه‌های هوش مصنوعی، نیز مطرح می‌شود.
در اینجا یک پرسش اساسی شکل می‌گیرد: آیا واقعاً می‌توان ارزش اخلاقی میلیاردها انسان امروز را با ارزش تریلیون‌ها انسان احتمالی آینده در یک محاسبه قرار داد؟
منتقدان می‌گویند چنین محاسبه‌ای با عدم قطعیت‌های بزرگی روبه‌روست. هیچ‌کس نمی‌داند چند انسان در آینده زندگی خواهند کرد، چه ارزش‌هایی خواهند داشت یا اساساً تمدن انسانی برای چنین بازه‌ای از زمان ادامه پیدا خواهد کرد یا نه.
در مقابل، مشکلات انسان‌های امروز فرضی نیستند. فقر، گرسنگی، بیماری، جنگ و محرومیت همین حالا وجود دارند و تصمیم‌های سیاسی و اقتصادی درباره آنها پیامدهای مستقیم برای میلیون‌ها نفر دارد.
این اختلاف نظر در نهایت به مسئله‌ای فراتر از فلسفه اخلاق می‌رسد: چه کسی باید درباره آینده بشریت تصمیم بگیرد؟
نگرانی منتقدان این است که تمرکز بیش از حد بر خطرهای دوردست، قدرت بیشتری در اختیار گروه کوچکی از شرکت‌های فناوری، سرمایه‌گذاران و متخصصان قرار دهد. به‌خصوص در سیلیکون‌ولی، گروه‌هایی وجود دارند که درباره مسیر توسعه هوش مصنوعی و میزان محدودیت‌های لازم برای آن نفوذ زیادی دارند.
اگر این تصور شکل بگیرد که تنها گروهی خاص صلاحیت تصمیم‌گیری درباره آینده هوش مصنوعی را دارند، بحث دیگر فقط درباره فناوری نخواهد بود؛ بلکه به مسئله‌ای درباره قدرت، دموکراسی و حق تصمیم‌گیری درباره آینده تبدیل می‌شود.
در نهایت، مسئله شاید انتخاب میان امروز و فردا نباشد. چالش اصلی این است که چگونه می‌توان خطرهای بلندمدت را جدی گرفت، بدون آنکه مشکلات واقعی انسان‌های امروز در سایه آینده‌ای نامعلوم قرار بگیرد.