بررسی ۵ سناریوی نگران‌کننده نابودی بشریت با هوش مصنوعی؛ از ظهور ابرهوش و تولید ویروس‌های خطرناک تا جنگ هسته‌ای و فروپاشی جوامع انسانی.
آیا هوش مصنوعی می‌تواند به نابودی بشریت منجر شود؟ پژوهشگران پنج سناریوی نگران‌کننده را مطرح کرده‌اند که از ظهور ابرهوش خارج از کنترل و تولید عوامل بیماری‌زا تا جنگ هسته‌ای و فروپاشی تدریجی جوامع انسانی را شامل می‌شود.
پیشرفت سریع هوش مصنوعی، نگرانی‌ها درباره پیامدهای احتمالی این فناوری برای آینده بشر را افزایش داده است. از ظهور ابرهوشی خارج از کنترل انسان گرفته تا تولید سلاح‌های بیولوژیکی، جنگ هسته‌ای و فروپاشی جوامع، پژوهشگران سناریوهای مختلفی را مطرح کرده‌اند که برخی از آن‌ها می‌توانند بقای بشریت را تهدید کنند.
در اوایل سپتامبر، جیکوب کوکسون، پژوهشگر حوزه هوش مصنوعی، تنها چهار ماه پس از پیوستن به شرکت آنتروپیک از سمت خود کناره‌گیری کرد. او در پیامی در شبکه اجتماعی ایکس نوشت افرادی که روی توسعه هوش مصنوعی کار می‌کنند، واقعاً معتقدند این فناوری ممکن است پیش از پایان دهه جاری به نابودی بشریت منجر شود.
ایوان هوبینگر، یکی دیگر از چهره‌های آنتروپیک، نیز با این نگرانی موافقت کرد و احتمال وقوع چنین فاجعه‌ای را طی ۱۰ سال آینده، بر اساس ارزیابی شخصی خود، بیش از ۱۰ درصد دانست. این اظهارات واکنش‌های گسترده‌ای به دنبال داشت و بار دیگر بحث درباره ضرورت کاهش سرعت توسعه هوش مصنوعی و تقویت نظارت انسانی بر این فناوری را مطرح کرد.
اگرچه ایده ظهور ماشین‌هایی که از انسان باهوش‌تر هستند، سال‌ها موضوع داستان‌های علمی‌تخیلی بوده است، برخی پژوهشگران معتقدند خطرات احتمالی چنین فناوری‌هایی دیگر صرفاً به دنیای تخیل محدود نمی‌شوند.
نکته قابل توجه اینکه یک هوش مصنوعی پیشرفته برای آسیب رساندن به بشریت لزوماً به ربات‌های جنگی یا سلاح‌های پیشرفته نیاز ندارد؛ بلکه ممکن است تنها با تأثیرگذاری بر رفتار و تصمیم‌های انسان‌ها، پیامدهایی ویرانگر ایجاد کند.
در ادامه، پنج سناریوی مطرح‌شده درباره خطرات وجودی هوش مصنوعی را بررسی می‌کنیم که از تهدیدهای بسیار فرضی آغاز می‌شوند و به خطراتی می‌رسند که می‌توانند از طریق رفتار خود انسان‌ها شکل بگیرند.
۱. ظهور ابرهوشی که رفتار آن قابل پیش‌بینی نیست
یکی از نگرانی‌های اساسی درباره آینده هوش مصنوعی، ظهور سامانه‌ای است که توانایی‌های شناختی آن در تمامی زمینه‌ها از انسان فراتر برود. طرفداران این سناریو معتقدند انسان‌ها ممکن است حتی قادر به درک اهداف و تصمیم‌های چنین موجود فوق‌هوشمندی نباشند؛ همان‌طور که نمی‌توان انتظار داشت یک سگ مفهوم جنگ هسته‌ای را درک کند. بر اساس این استدلال، پیش‌بینی رفتار یک هوش مصنوعی بسیار پیشرفته ممکن است به سطحی مشابه از هوش نیاز داشته باشد؛ موضوعی که توانایی انسان برای شناسایی و مهار تهدیدهای احتمالی را زیر سؤال می‌برد.
با این حال، هنوز مشخص نیست دستیابی به چنین سطحی از هوش مصنوعی تا چه اندازه نزدیک است. مدل‌های کنونی اگرچه در انجام برخی وظایف تخصصی عملکرد چشمگیری دارند، اما این موفقیت لزوماً به معنای برتری آن‌ها بر انسان در تمامی زمینه‌ها نیست.
در عین حال، پیشرفت سامانه‌های هوش مصنوعی در حل مسائل پیچیده ریاضی نشان می‌دهد که نباید احتمال پیشرفت‌های غیرمنتظره این فناوری را نادیده گرفت. در مقاله مورد بحث حتی به گزارشی درباره حل یکی از هفت مسئله مشهور جایزه هزاره به کمک هوش مصنوعی اشاره شده است؛ ادعایی که برای پذیرش قطعی آن به بررسی مستقل نیاز است.
۲. تبدیل جهان به کارخانه تولید گیره کاغذ
شاید در نگاه نخست عجیب به نظر برسد، اما یکی از مشهورترین سناریوهای نابودی بشر به وسیله هوش مصنوعی، با تولید گیره کاغذ ارتباط دارد. نیک بوستروم، فیلسوف دانشگاه آکسفورد، این مثال را برای توضیح خطر تعیین اهداف نامناسب برای سامانه‌های فوق‌هوشمند مطرح کرده است.
فرض کنید یک هوش مصنوعی مأموریت داشته باشد تا جای ممکن گیره کاغذ تولید کند. اگر این سامانه بدون در نظر گرفتن ارزش جان انسان‌ها و محدودیت‌های اخلاقی، صرفاً به دنبال تحقق هدف خود باشد، ممکن است به این نتیجه برسد که باید تمامی منابع موجود را به تولید گیره کاغذ اختصاص دهد.
در افراطی‌ترین شکل این سناریو، حتی انسان‌ها، سیارات و ستارگان نیز می‌توانند به منابعی برای تحقق این هدف تبدیل شوند.
نکته مهم این است که چنین سامانه‌ای لزوماً دشمن انسان‌ها نیست و قصد انتقام‌گیری ندارد؛ بلکه ممکن است صرفاً به دلیل تعریف نامناسب هدف، تصمیم‌هایی بگیرد که با بقای بشر ناسازگار باشند. البته این سناریو منتقدانی نیز دارد. برخورداری از هوش بسیار بالا لزوماً به معنای توانایی کنترل منابع جهان نیست. حتی یک سامانه فوق‌هوشمند نیز برای اجرای برنامه‌های خود به امکانات فیزیکی، زیرساخت‌ها و غلبه بر مقاومت انسان‌ها نیاز خواهد داشت.
۳. ساخت عوامل بیولوژیکی خطرناک با کمک هوش مصنوعی
یکی دیگر از سناریوهای نگران‌کننده، استفاده از هوش مصنوعی برای طراحی عوامل بیماری‌زای جدید و بسیار خطرناک است. در پروژه پژوهشی AI 2027، که به بررسی سناریوهای احتمالی توسعه هوش مصنوعی می‌پردازد، احتمال استفاده از سامانه‌های فوق‌هوشمند برای ایجاد تهدیدهای بیولوژیکی نیز مطرح شده است. نگرانی درباره این موضوع زمانی جدی‌تر می‌شود که پیشرفت‌های هوش مصنوعی در حوزه زیست‌شناسی و طراحی ساختارهای ژنتیکی مورد توجه قرار گیرد.
در همین زمینه، پژوهشگران دانشگاه استنفورد اعلام کرده‌اند که با استفاده از مدلی آموزش‌دیده بر توالی‌های ژنتیکی، موفق به تولید ۱۶ ویروس جدید شده‌اند.
با این حال، توانایی تولید ویروس در محیط پژوهشی به معنای امکان ساخت عاملی برای نابودی بشریت نیست. برای وقوع چنین فاجعه‌ای، یک عامل بیماری‌زا باید مجموعه‌ای از ویژگی‌های بسیار دشوار را هم‌زمان داشته باشد؛ از جمله توانایی انتشار گسترده و ایجاد مرگ‌ومیر بسیار بالا.
این ویژگی‌ها لزوماً در کنار یکدیگر قرار نمی‌گیرند. برای مثال، برخی عوامل بیماری‌زای بسیار کشنده ممکن است پیش از آنکه فرصت انتشار گسترده پیدا کنند، میزبان خود را از بین ببرند.
بنابراین، هرچند کاربرد هوش مصنوعی در توسعه تهدیدهای بیولوژیکی موضوعی جدی برای بررسی‌های امنیتی است، نابودی کامل انسان‌ها از این طریق همچنان سناریویی بسیار دشوار و فرضی محسوب می‌شود.
۴. آغاز جنگ هسته‌ای بر اثر تصمیم‌های اشتباه هوش مصنوعی
سناریوی چهارم به یکی از خطرناک‌ترین فناوری‌های ساخته‌شده به دست بشر مربوط می‌شود: سلاح‌های هسته‌ای. اگر سامانه‌های هوش مصنوعی در فرآیند تحلیل اطلاعات نظامی یا تصمیم‌گیری‌های مرتبط با تسلیحات هسته‌ای نقش گسترده‌تری پیدا کنند، خطاهای احتمالی آن‌ها می‌تواند پیامدهایی فاجعه‌بار داشته باشد.
در پنج دهه گذشته، چندین هشدار اشتباه و خطای ارزیابی، جهان را تا آستانه درگیری هسته‌ای پیش برده است. نگرانی این است که اتکای بیش از اندازه به تحلیل‌های هوش مصنوعی، احتمال تصمیم‌گیری نادرست در شرایط بحرانی را افزایش دهد.
اگرچه گفته می‌شود سامانه‌های فرماندهی و کنترل تسلیحات هسته‌ای از اینترنت عمومی جدا هستند، تجربه حملات سایبری نشان داده است که جداسازی شبکه‌ها به‌تنهایی تضمینی برای جلوگیری از نفوذ نیست. یکی از نمونه‌های شناخته‌شده، حمله بدافزار استاکس‌نت در سال ۲۰۱۰ به تأسیسات هسته‌ای ایران بود. این بدافزار که احتمال می‌رود از طریق حافظه USB به سامانه‌های هدف منتقل شده باشد، موجب اختلال در عملکرد سانتریفیوژها شد.
در سناریوی مرتبط با هوش مصنوعی، یک سامانه ممکن است اطلاعات نادرستی درباره حمله احتمالی دشمن در اختیار فرماندهان نظامی قرار دهد و آن‌ها را به اتخاذ تصمیم‌هایی با پیامدهای جبران‌ناپذیر سوق دهد.
با وجود کاهش تعداد کلاهک‌های هسته‌ای جهان نسبت به دهه‌های گذشته، زرادخانه‌های موجود همچنان ظرفیت ایجاد ویرانی گسترده را دارند. برآورد مورد اشاره در این گزارش حتی از احتمال مرگ نزدیک به نیمی از جمعیت جهان در یک جنگ هسته‌ای گسترده حکایت دارد.
۵. نابودی تدریجی جوامع انسانی؛ بدون شورش ماشین‌ها
پنجمین سناریو شاید از سایر موارد نگران‌کننده‌تر باشد، زیرا برای تحقق آن نیازی به ظهور یک ابرهوش سرکش نیست. در این سناریو، خود انسان‌ها با استفاده نادرست از هوش مصنوعی، زمینه تضعیف و در نهایت فروپاشی جوامع خود را فراهم می‌کنند.
گسترش سریع هوش مصنوعی می‌تواند بازار کار را دستخوش تغییرات گسترده کند و در صورت نبود سازوکارهای حمایتی مناسب، به از دست رفتن شمار زیادی از فرصت‌های شغلی منجر شود. از سوی دیگر، تولید انبوه اطلاعات نادرست، تصاویر جعلی و محتوای گمراه‌کننده می‌تواند اعتماد عمومی به رسانه‌ها، نهادها و حتی واقعیت‌های قابل اثبات را تضعیف کند.
تشدید اختلافات سیاسی و اجتماعی نیز یکی دیگر از پیامدهای احتمالی استفاده مخرب از این فناوری است. در کنار این مسائل، گسترش همراهان مجازی مبتنی بر هوش مصنوعی ممکن است بر روابط انسانی تأثیر بگذارد و در برخی شرایط، به جای تقویت ارتباطات اجتماعی، زمینه انزوای بیشتر افراد را فراهم کند.
نگرانی اصلی این است که چنین پیامدهایی به‌تدریج روی یکدیگر انباشته شوند و ساختارهای اقتصادی، سیاسی و اجتماعی را چنان تضعیف کنند که جوامع دیگر نتوانند شرایط لازم برای ادامه زندگی بخش بزرگی از جمعیت خود را فراهم کنند.
در این وضعیت، هوش مصنوعی مستقیماً علیه انسان‌ها وارد جنگ نمی‌شود؛ بلکه می‌تواند به عاملی برای تشدید بحران‌هایی تبدیل شود که خود انسان‌ها در ایجاد آن‌ها نقش دارند.
آیا نابودی بشریت به دست هوش مصنوعی اجتناب‌ناپذیر است؟
به گزارش Futura Sciences، این پنج سناریو از نظر ماهیت و میزان احتمال وقوع با یکدیگر تفاوت دارند و نویسنده مقاله آن‌ها را از تهدیدهای کمتر محتمل به خطراتی که واقع‌بینانه‌تر ارزیابی می‌کند، مرتب کرده است. با این حال، این ترتیب یک پیش‌بینی قطعی یا رتبه‌بندی علمی مورد توافق همه پژوهشگران نیست.
طرح چنین سناریوهایی نیز به معنای حتمی بودن وقوع آن‌ها نیست. بسیاری از خطرات مطرح‌شده همچنان فرضی هستند و درباره احتمال واقعی تحقق آن‌ها اختلاف‌نظر وجود دارد. آنچه اهمیت دارد، شناسایی به‌موقع تهدیدها، توسعه سازوکارهای ایمنی، نظارت انسانی بر سامانه‌های حساس و جلوگیری از واگذاری تصمیم‌های حیاتی به فناوری‌هایی است که ممکن است عملکرد آن‌ها به‌طور کامل قابل پیش‌بینی نباشد.
در نهایت، آینده هوش مصنوعی تنها به میزان پیشرفت این فناوری بستگی ندارد؛ بلکه به تصمیم‌هایی وابسته است که انسان‌ها درباره نحوه توسعه، کنترل و استفاده از آن می‌گیرند.