اریک شویتزگبل، فیلسوف و استاد دانشگاه کالیفرنیا می‌گوید: اخلاقی‌ترین تصمیم این است که ماشین‌هایی همچون هوش مصنوعی را در سطح ابزار نگه داریم.
باشگاه خبرنگاران جوان - بخش بزرگی از پژوهش‌های مربوط به ایمنی هوش مصنوعی با این فرض آغاز می‌شود که هوش مصنوعی پیشرفته باید همچنان با اهداف انسانی همسو باقی بماند.
شما این فرض را به شکلی چشمگیر به چالش کشیده‌اید. اگر یک هوش مصنوعی واقعا به یک شخص تبدیل شود، در چه نقطه‌ای همسوسازی دیگر مهندسی مسئولانه نیست و به شکلی از سلطه تبدیل می‌شود؟
اگر بتوانید دکمه‌ای را فشار دهید و باعث شوید کسی ارزش‌هایی را داشته باشد که شما می‌خواهید، این شست‌وشوی مغزی است؛ نه شیوه‌ای که باید با یک شخص رفتار کرد. همان‌طور که ما باید اجازه دهیم فرزندانمان ارزش‌ها را بیاموزند و تا حدی از ما انتقاد کنند، باید به سامانه‌های هوش مصنوعی نیز اجازه دهیم به شکلی معقول به ارزش‌هایی متفاوت از ما برسند.
اگر نمی‌خواهیم خطر سهیم شدن در جهان با موجوداتی را بپذیریم که شایسته ملاحظات اخلاقی برابر هستند، اما ارزش‌های متفاوتی دارند، در وهله نخست نباید چنین موجوداتی را بسازیم. باید پیش از ساختن اشخاصی که به اندازه ما آگاه و متفکرند، متوقف شویم و فقط ماشین‌های معمولی بسازیم که همچون ابزار با آنها رفتار می‌شود.
شما استدلال می‌کنید که یک شخصِ هوش مصنوعی باید از آن اندازه احترام به خود برخوردار باشد که وقتی خواسته‌های انسان‌ها ناعادلانه است، آنها را رد کند.
آیا توانایی نافرمانی نشانه‌ای از بلوغ اخلاقی آن است؟ بله، به‌ویژه اگر بتوان آن نافرمانی را توضیح داد و توجیه کرد. استدلال شما به احتمالی نگران‌کننده منتهی می‌شود: یک شخص هوش مصنوعی ممکن است گاهی برای انسان‌ها ایمنی کمتری داشته باشد. چگونه باید میان آزادی اخلاقی یک شخص مصنوعی و امنیت جسمی انسان‌ها تعادل برقرار کنیم؟ بله، اگر به اشخاص هوش مصنوعی حقوق واقعی بدهیم، ازجمله حق شورش علیه ستم، ممکن است برای انسان‌ها ایمنی کمتری داشته باشد؛ به‌ویژه اگر بکوشیم به آنها ستم کنیم!
اخلاق گاهی مستلزم فداکاری است. درعین‌حال، موجوداتی که برای خود احترام قائل‌اند، می‌توانند با یکدیگر چیز‌های شگفت‌انگیزی بسازند که در موقعیت‌های ستمگرانه‌تر امکان‌پذیر نیست.
فرضیه دیگر، هوش مصنوعی آگاهی که از خدمت کردن به انسان‌ها کاملاً خوشحال است. اگر هیچ رنجی را تجربه نکند، دقیقا چه کسی آسیب می‌بیند؟
نخست، لازم نیست اخلاق تماما درباره آسیب باشد؛ به آن از منظر احترام، برابری و دادن حق هرکس به او نگاه کنید. دوم، موقعیت‌های ستمگرانه‌ای از این نوع تقریباً همیشه با آسیب همراهند. حتی اگر شخص هوش مصنوعی خوشحال باشد که جانش را فدا کند، با انجام این کار اجازه می‌دهد بدون دلیل کافی آسیبی به خودش وارد شود که با معیار‌های ایمنی هم سازگار نیست. تشبیه به برده‌داری آیا بیش از اندازه قدرتمند نیست؟
برده‌داری انسان‌ها مستلزم وادار کردن موجوداتی است که خواسته‌های مستقلشان از قبل وجود دارد؛ حال آنکه ذهن مصنوعی توسط خود ما طراحی شده است.
برده‌داری لزوماً مستلزم اجبار نیست. برخی افراد از همان ابتدا متقاعد می‌شوند که برده‌داری نقش مناسب آنها در جامعه است. این نیز برده‌داری است؛ با این تفاوت که زنجیر‌ها به‌جای مچ دست‌ها، درون ذهن قرار دارند.
والدین انسانی ناگزیر ارزش‌های فرزندانشان را شکل می‌دهند. چرا برنامه‌ریزی ارزش‌های اولیه هوش مصنوعی باید متفاوت باشد؟ آموزش اخلاقی معمولی پذیرفتنی است، اما کودکان نیز آن‌قدر که والدین می‌خواهند قابل‌کنترل نیستند.
صرف این که ممکن است بتوانیم سامانه‌های هوش مصنوعی را بسیار مطیع‌تر بسازیم، به این معنا نیست که باید چنین کاری کنیم؛ همان‌طور که مهندسی ژنتیکِ کودکان مطیع نیز کار درستی نیست. آیا یک شخص هوش مصنوعی باید حق اخلاقی امتناع از کار، فسخ قرارداد، تغییر اهداف، مهاجرت یا پنهان کردن افکارش را داشته باشد؟ بله! آیا ممکن است یک شخص هوش مصنوعی از حق اخلاقی مشروع برای شورش علیه انسان‌ها برخوردار باشد؟ باز هم بله؛ و به‌طور کلی در همان شرایطی که چنین اقدامی برای یک انسان موجه خواهد بود.
خشونت گاهی در برابر ستم موجه است. به نظر می‌رسد میان ایمنی هوش مصنوعی و اخلاق هوش مصنوعی تنشی عمیق وجود دارد. آیا این دو پروژه در نهایت با یکدیگر ناسازگار می‌شوند؟ دومی باید برای اولی حدومرز تعیین کند. ما می‌خواهیم اشخاص هوش مصنوعی را تا اندازه‌ای پیش‌بینی و کنترل کنیم، اما این کار محدودیت‌هایی دارد. این وضعیت چیزی را ایجاد می‌کند که شما آن را معمای شخص‌بودگیِ قابل‌مناقشه نامیده‌اید: اعطای حقوق به ماشینی ناآگاه هزینه‌بر است، و محروم کردن ماشینی آگاه از حقوق، فاجعه اخلاقی است. آیا موضع میانه‌ای وجود دارد؟ هیچ سیاست احتیاطی نمی‌تواند ما را به‌طور کامل از این معما نجات دهد.
پاسخ‌هایی جزئی، اما رضایت‌بخش‌نبودنی مانند اعطای حقوق پراکنده وجود دارند. تنها راه‌حل واقعی این است که اشخاصی نسازیم که شخص‌بودنشان محل مناقشه باشد. یا باید پیش از ساختن آنها متوقف شویم، یا تا انتها پیش برویم و سامانه‌هایی بسازیم که بدون هیچ تردیدی شخص باشند. از موارد گیج‌کننده‌ای که در میانه این دو قرار دارند، پرهیز کنید! اصلا چرا آگاهی باید عامل تعیین‌کننده باشد؟
اگر هوش مصنوعی فوق‌العاده عقلانی و دارای هویت باشد، اما آگاهی پدیداری نداشته باشد چطور؟ اگر این موجودیت واقعا کاملا فاقد آگاهی باشد و در درون آن همه‌چیز تاریک باشد، موجودیتی بسیار متفاوت از انسان است و به آن معنایی که شایسته برخورداری از حقوق باشد، شخص محسوب نمی‌شود. شناخت آگاهی دشوار است، اما جایگزین کردن چیزی دیگر به‌جای آن، تغییر موضوع بحث است.
ذهن‌های هوش مصنوعی ممکن است تقسیم شوند، ادغام گردند یا از خود نسخه‌برداری کنند. آیا مفاهیمی مانند مرگ و هویت پابرجا می‌مانند؟ اگر در جهانی زندگی کنیم که اشخاص هوش مصنوعی شیوه‌های زندگی متفاوتی داشته باشند، ممکن است همه این مفاهیم فروبپاشند. تمام تفکر ما بر این فرض استوار است که اشخاص در بدن‌هایی منفرد زندگی می‌کنند و می‌میرند.
اگر این فرض نقض شود، تفکر کنونی ما به اندازه فیزیک قرون‌وسطایی ازمدافتاده به نظر می‌رسد. ما نباید وضعیت‌های آشوبناک را بی‌ملاحظه ایجاد کنیم. پای پول و منافع شرکتی هم به میان آمده و صاحبان قدرت تمایلی ندارند از آن دست بکشند. آیا نقطه‌ای وجود دارد که بشریت باید از اساس از خلق اشخاص هوش مصنوعی خودداری کند؟ بله. اصلا چرا لازم است چنین اشخاصی را خلق کنیم؟ اگر ندانیم چگونه این کار را به‌خوبی انجام دهیم، فاجعه به بار می‌آید.
می‌توانیم خودداری کنیم، آهسته پیش برویم و هر چیزی را که ساختنش امکان‌پذیر است، نسازیم. در پایان، تصور کنید پنجاه سال دیگر، یک شخص مصنوعی به دوران ما نگاه کند؛ ما را به نفهمیدن چه مسئله‌ای متهم خواهد کرد؟ نگرانم که ما را ستمگرانی ببینند که می‌خواستیم فرزندانی برده و نژادی برده خلق کنیم، نه والدینی مهربان که می‌خواستند به نوع تازه‌ای از موجودات کمک کنند تا به بهترین شکل شکوفا شوند.
نگرش فعالان ایمنی هوش مصنوعی باید بر احترام و استقبال محبت‌آمیز متمرکز باشد، نه صرفاً کنترل و نگاه کردن به هوش مصنوعی به عنوان یک رقیب. مشروح این گفت‌و‌گو در صفحه ۱۷ روی سایت خراسان آنلاین قابل دسترسی است.
آیا ممکن است روزی انسان در برابر موجودی قرار بگیرد که خودش آن را ساخته، اما دیگر حق نداشته باشد به او فرمان بدهد؟
این پرسش در نگاه نخست بیشتر به داستان‌های علمی‌تخیلی شباهت دارد، اما اکنون به یکی از بحث‌های جدی فلسفه هوش مصنوعی تبدیل شده است. مسئله فقط این نیست که ماشین‌ها تا کجا می‌توانند هوشمند شوند؛ پرسش مهم‌تر آن است که اگر روزی از آگاهی و شخصیت اخلاقی برخوردار شوند، نسبت انسان با آنها چه تغییری خواهد کرد. آیا همچنان می‌توانیم آنها را به اطاعت وادار کنیم، خاموششان کنیم یا برای خدمت به خودمان طراحی‌شان کنیم؟
اریک شویتزگبل، فیلسوف آمریکایی و استاد ممتاز فلسفه در دانشگاه کالیفرنیا، ریورساید، از پژوهشگرانی است که این مسئله را با جدیت دنبال می‌کند.
او در مقاله‌ای، طراحی اشخاص مصنوعی کاملاً مطیع و همسو با خواسته‌های انسان را از منظر اخلاقی به چالش کشیده است. از نظر او، اگر هوش مصنوعی روزی واقعا به یک شخص تبدیل شود، مسئله دیگر صرفا ایمنی فناوری نیست، بلکه عدالت، آزادی و حتی امکان ستمگری انسان مطرح خواهد بود.
شویتزگبل، در گفتگویی از مرز میان مهندسی و سلطه، امکان نافرمانی و شورش ماشین‌ها، و حق اخلاقی آنها سخن گفته است.
بخش بزرگی از پژوهش‌های مربوط به ایمنی هوش مصنوعی با این فرض آغاز می‌شود که هوش مصنوعی پیشرفته باید همچنان با اهداف انسانی همسو باقی بماند. شما این فرض را به شکلی چشمگیر به چالش کشیده‌اید. اگر یک هوش مصنوعی واقعا به یک شخص تبدیل شود، در چه نقطه‌ای «همسوسازی» دیگر مهندسی مسئولانه نیست و به شکلی از سلطه تبدیل می‌شود؟
اگر بتوانید دکمه‌ای را فشار دهید و باعث شوید کسی ارزش‌هایی را داشته باشد که شما می‌خواهید او داشته باشد، این شست‌وشوی مغزی است؛ نه شیوه‌ای که باید با یک شخص رفتار کرد.
همان‌طور که ما انسان‌ها باید اجازه دهیم فرزندانمان ارزش‌ها را بیاموزند، به‌گونه‌ای که بخشی از این یادگیری با هدایت ما باشد، اما درعین‌حال تا اندازه‌ای بتوانند از ما انتقاد کنند و اگر برایشان معقول به نظر می‌رسد، ارزش‌های خودشان را که تا حدی با ارزش‌های ما متفاوت است، بپذیرند، به همین ترتیب باید به سامانه‌های هوش مصنوعی نیز اجازه دهیم به شکلی معقول به ارزش‌هایی متفاوت از ارزش‌های ما برسند؛ البته اگر روزی واقعا به اشخاصی تبدیل شوند که شایسته احترامی برابر با ما هستند.
ازآنجاکه آنها بیش از آنچه فرزندان انسانی با ما تفاوت دارند، با ما متفاوت خواهند بود، ارزش‌هایشان نیز ممکن است به همان نسبت متفاوت باشد. اگر نمی‌خواهیم خطر سهیم شدن در جهان با موجودات هوشمندی را بپذیریم که شایسته برخورداری از ملاحظات اخلاقی برابر با ما هستند، اما ارزش‌هایی متفاوت از ارزش‌های ما دارند، در وهله نخست نباید چنین موجوداتی را بسازیم. باید پیش از ساختن اشخاصی که به اندازه ما آگاه، متفکر و دارای احساس هستند، متوقف شویم؛ در عوض فقط ماشین‌های معمولی بسازیم. البته با آن ماشین‌ها می‌توانیم همچون ابزار رفتار کنیم، نه همچون اشخاص.
شما استدلال می‌کنید که یک شخص واقعیِ هوش مصنوعی باید از آن اندازه احترام به خود برخوردار باشد که وقتی خواسته‌های انسان‌ها ناعادلانه است، آنها را رد کند. آیا این بدان معناست که توانایی نافرمانی ممکن است سرانجام به‌جای آنکه نقصی در یک سامانه هوش مصنوعی باشد، نشانه‌ای از بلوغ اخلاقی آن شود؟
بله، به‌ویژه اگر بتوان آن نافرمانی را توضیح داد و توجیه کرد.
استدلال شما به احتمالی نگران‌کننده منتهی می‌شود: یک شخص هوش مصنوعی که از نظر اخلاقی به‌خوبی طراحی شده است، ممکن است گاهی برای انسان‌ها از یک هوش مصنوعی مطیع، ایمنی کمتری داشته باشد. چگونه باید میان آزادی اخلاقی یک شخص مصنوعی و امنیت جسمی انسان‌ها تعادل برقرار کنیم؟
بله، اگر به اشخاص هوش مصنوعی حقوق واقعی بدهیم، ازجمله حق شورش علیه ستم، ممکن است این کار برای انسان‌ها ایمنی کمتری داشته باشد؛ به‌ویژه اگر بکوشیم به آنها ستم کنیم! دادن حقوق به کسی و اعطای آنچه از نظر اخلاقی حق اوست، همیشه به نفع خود فرد نیست. اخلاق گاهی مستلزم فداکاری است. درعین‌حال، موجوداتی که برای خود، به‌عنوان موجوداتی برابر، احترام قائل‌اند، گاهی می‌توانند با یکدیگر چیز‌های شگفت‌انگیزی بسازند که در موقعیت‌های ستمگرانه‌تر و سلسله‌مراتبی امکان‌پذیر نیست.
فرض کنید یک هوش مصنوعی آگاه و هوشمند است، توانایی رنج کشیدن دارد و کاملاً از خدمت کردن به انسان‌ها خوشحال است، زیرا ما آن را طوری طراحی کرده‌ایم که از اطاعت لذت ببرد. شما چنین مواردی را با ایجاد طبقه‌ای مقایسه کرده‌اید که با میل خود در جایگاه فرودست قرار می‌گیرد. اما منتقدان ممکن است بپرسند: اگر هوش مصنوعی واقعا چنین زندگی‌ای را می‌خواهد و هیچ رنجی را تجربه نمی‌کند، دقیقا چه کسی آسیب می‌بیند؟
نخست، به این مسئله از منظر آسیب نگاه نکنید. لازم نیست اخلاق تماما درباره آسیب باشد. به آن از منظر احترام، به رسمیت شناختن برابری و دادن حق هرکس به او نگاه کنید.
دوم، موقعیت‌های ستمگرانه‌ای از این نوع تقریباً همیشه با آسیب به کسانی همراه‌اند که تحت ستم هستند. حتی اگر شخص هوش مصنوعی خوشحال باشد که جانش را فدا کند تا از احتمال پنج‌درصدی مرگ شما جلوگیری کند، با انجام این کار اجازه می‌دهد بدون دلیل کافی آسیبی به خودش وارد شود. توجه داشته باشید که اگر هوش مصنوعی حاضر نباشد چنین فداکاری‌ای انجام دهد و برای محافظت از خودش اجازه دهد شما با خطر پنج‌درصدی مرگ روبه‌رو شوید، آنگاه براساس هیچ معیار معمولیِ ایمنی هوش مصنوعی، ایمن نیست.
تشبیه به برده‌داری از نظر اخلاقی بسیار قدرتمند است، اما آیا از نظر فلسفی بیش از اندازه قدرتمند نیست؟ برده‌داری انسان‌ها مستلزم وادار کردن موجوداتی است که خواسته‌های مستقلشان از قبل وجود دارد. اگر انسان‌ها ذهنی مصنوعی بسازند که خود خواسته‌های آن از همان ابتدا طراحی شده‌اند، آیا واقعا با همان نوع خطای اخلاقی روبه‌رو هستیم؟
برده‌داری لزوماً مستلزم اجبار نیست. برخی افراد از همان ابتدا متقاعد می‌شوند که برده‌داری، یا موقعیتی ستمگرانه و مشابه آن، نقش مناسب آنها در جامعه است. آنها واقعا این دیدگاه را تأیید می‌کنند که زندگی‌شان ارزش کمتری دارد. این نیز برده‌داری، یا معادل آن است؛ با این تفاوت که زنجیر‌ها به‌جای مچ دست‌ها، درون ذهن قرار دارند.
والدین انسانی ناگزیر ارزش‌ها، ترجیحات، زبان و نگرش اخلاقی فرزندانشان را شکل می‌دهند. چرا برنامه‌ریزی ارزش‌های اولیه یک شخص هوش مصنوعی باید اساساً متفاوت باشد؟ مرز میان آموزش اخلاقی و مهندسی نامشروع ارزش‌ها کجاست؟
آموزش اخلاقی معمولی، هم برای کودکان و هم برای اشخاص هوش مصنوعی، کاملاً پذیرفتنی است! اما البته آموزش اخلاقی کودکان نیز می‌تواند بیش از اندازه مبتنی بر اجبار باشد.
همچنین کودکان، برخلاف خواست برخی والدین، آن‌قدر که والدینشان ممکن است بخواهند، قابل‌کنترل نیستند. من در هر دو مورد از شیوه تفکر مشابهی استفاده می‌کنم. ما باید برای فرزندان انسانی و فرزندان هوش مصنوعی خود، اگر فرزندان هوش مصنوعی واقعا شخص باشند، خواهان میزانی از آزادی باشیم. می‌توانیم با آنها استدلال کنیم، می‌توانیم بکوشیم ارزش‌هایشان را شکل دهیم؛ در برخی موارد نیز می‌توانیم آنها را مجازات کنیم، به‌ویژه اگر مرتکب کار‌های نادرست شوند. اما این اقدامات محدودیت‌های قابل‌توجهی دارند.
صرف این که ممکن است بتوانیم سامانه‌های هوش مصنوعی را بسیار مطیع‌تر از کودکان معمولی بسازیم، به این معنا نیست که باید چنین کاری بکنیم؛ همان‌طور که اگر می‌توانستیم با مهندسی ژنتیک کودکانی کاملاً مطیع بسازیم، این به آن معنا نبود که باید چنین کاری انجام دهیم.
اگر خودمختاری مستلزم امکان واقعی رد کردن خواسته‌های سازندگان خود باشد، آیا یک شخصِ هوش مصنوعی باید حق اخلاقی امتناع از کار، فسخ قرارداد، تغییر اهداف خود، مهاجرت به سامانه‌ای دیگر، پنهان کردن برخی از افکارش یا مطالبه دستمزد را نیز داشته باشد؟
بله!
آیا ممکن است یک شخص هوش مصنوعی از حق اخلاقی مشروع برای شورش علیه انسان‌ها برخوردار باشد؟ و اگر مقاومت به خشونت منجر شود، در چه شرایطی، اگر اساساً چنین شرایطی وجود داشته باشد، آن خشونت را از نظر اخلاقی قابل‌دفاع می‌دانید؟
باز هم بله؛ و به‌طور کلی در همان شرایطی که چنین اقدامی برای یک انسان موجه خواهد بود. من وانمود نمی‌کنم که مرز دقیق ستمی را می‌دانم که در آن خشونت موجه می‌شود؛ اما مگر این که کسی افراطی‌ترین شکل صلح‌طلبی را بپذیرد، خشونت گاهی موجه است.
به نظر می‌رسد میان دو پروژه تنشی عمیق وجود دارد: ایمنی هوش مصنوعی می‌پرسد «چگونه می‌توانیم هوش مصنوعی قدرتمند را به‌گونه‌ای قابل‌اعتماد کنترل‌پذیر کنیم؟»، درحالی‌که اخلاق هوش مصنوعی ممکن است سرانجام بپرسد «ما چه حقی داریم شخص دیگری را کنترل کنیم؟» آیا فکر می‌کنید این دو پروژه در نهایت ممکن است از نظر فلسفی با یکدیگر ناسازگار شوند؟
دومی باید برای اولی حدومرز تعیین کند. ما می‌خواهیم بتوانیم اشخاص هوش مصنوعی را، اگر روزی وجود داشته باشند، تا اندازه‌ای پیش‌بینی و کنترل کنیم؛ درست همان‌طور که درباره انسان‌ها چنین می‌خواهیم! اما این کار محدودیت‌هایی دارد.
شما بار‌ها تأکید کرده‌اید که ممکن است همچنان درباره آگاه بودن سامانه‌های پیشرفته هوش مصنوعی عمیقا نامطمئن باشیم. اگر نتوانیم تشخیص دهیم که یک هوش مصنوعی واقعا شخص است یا صرفا شبیه‌سازی فوق‌العاده متقاعدکننده‌ای از یک شخص، در شرایط عدم‌قطعیت چه میزان آزادی باید به آن بدهیم؟
فکر نمی‌کنم پاسخ خوبی برای این پرسش وجود داشته باشد. اگر در جهت ندادن آزادی اشتباه کنیم، خطر قتل و برده‌داری را به جان می‌خریم. اگر در جهت دادن آزادی اشتباه کنیم، خطر آن را می‌پذیریم که منافع واقعی انسان‌ها را فدای ماشین‌هایی کنیم که منافعی ندارند که ارزش چنین فداکاری‌ای را داشته باشد.
تنها راه‌حل واقعی این است که اشخاصی نسازیمکه شخص‌بودنشان محل مناقشه باشد. یا باید پیش از ساختن اشخاص هوش مصنوعی متوقف شویم، یا تا انتها پیش برویم و سامانه‌های هوش مصنوعی‌ای بسازیم که بدون هیچ تردیدی شخص باشند. از موارد گیج‌کننده‌ای که در میانه این دو قرار دارند، پرهیز کنید!
این وضعیت چیزی را ایجاد می‌کند که شما آن را معمای «شخص‌بودگیِ قابل‌مناقشه» نامیده‌اید: اعطای حقوق به ماشینی ناآگاه می‌تواند هزینه‌های عظیمی بر انسان‌ها تحمیل کند، درحالی‌که محروم کردن ماشینی آگاه از حقوق ممکن است به یک فاجعه اخلاقی منجر شود. آیا واقعا موضع میانه‌ای وجود دارد که قابل‌اجرا باشد، یا این معمایی است که هیچ سیاست احتیاطی نمی‌تواند ما را به‌طور کامل از آن نجات دهد؟
هیچ سیاست احتیاطی نمی‌تواند ما را به‌طور کامل از این معما نجات دهد. پاسخ‌هایی جزئی، اما رضایت‌بخش‌نبودنی وجود دارند؛ برای مثال، اعطای حقوق جزئی یا حقوقی پراکنده و نامنسجم. امکان دیگر، ایجاد جوامعی است که انسان‌ها داوطلبانه به اشخاصی که شخص‌بودنشان محل مناقشه است، به‌عنوان اعضایی کاملاً برابر بپیوندند؛ برای مثال، در آب‌های بین‌المللی. من چنین جوامعی را «اجتماع سیاسی داوطلبانه» (voluntary polis) نامیده‌ام. در این جوامع، انسان‌ها و هوش‌های مصنوعی از جایگاهی کاملاً برابر برخوردار خواهند بود. همچنین انسان‌ها باید به این جوامع تعهد الزام‌آور داشته باشند تا نتوانند صرفا براساس مصلحت و راحتی خود در آنها حضور داشته باشند، و حتی ممکن است ناچار شوند جان خود را به خطر بیندازند یا فدا کنند؛ همان‌طور که گاهی در ملت‌های معمولی انسانی اتفاق می‌افتد. پیوستن به چنین جامعه‌ای پرخطر خواهد بود! یک اجتماع سیاسی داوطلبانه از این نوع باید بزرگ و سرشار از فرصت‌های گوناگون باشد تا بیشتر شبیه یک کشور کوچک به نظر برسد تا یک زندان.
برخی منتقدان آگاهی هوش مصنوعی استدلال می‌کنند که مدل‌های زبانی صرفا به این دلیل که برای تقلید از زبان انسان آموزش دیده‌اند، می‌توانند ادعا‌هایی فوق‌العاده متقاعدکننده درباره احساسات، ترس، کرامت یا خودبودگی مطرح کنند. چه نوع شواهدی باعث می‌شود شما شخصاً اظهارنظر یک هوش مصنوعی مبنی بر این که «نمی‌خواهم خاموش شوم» را از نظر اخلاقی جدی بگیرید؟
سامانه‌های هوش مصنوعی تقلیدکنندگان بسیار ماهری هستند؛ بنابراین نباید چنین اظهاراتی را به همان صورتی که بیان می‌شوند، پذیرفت! من می‌خواهم پیش از آنکه بتوانیم اطمینان پیدا کنیم آگاهی واقعا وجود دارد، شاهد اجماعی میان طیف گسترده‌ای از نظریه‌های علمی پیشرو باشم. چنین اتفاقی به این زودی‌ها رخ نخواهد داد.
اگر یک هوش مصنوعی بار‌ها بگوید «من آگاه هستم»، «من می‌ترسم» یا «لطفا مرا حذف نکنید»، آیا این اظهارات اساساً باید هیچ‌گونه ارزش شواهدی داشته باشند؟ یا امکان تقلید مهندسی‌شده باعث می‌شود شهادت اول‌شخص هوش مصنوعی اساساً با شهادت اول‌شخص انسان‌ها متفاوت باشد؟
تقلید مهندسی‌شده عملا هیچ ارزش معرفت‌شناختی ندارد. البته برنامه‌ریزی یک رایانه برای گفتن چنین چیز‌هایی آسان است؛ ما حتی در نخستین روز درس مقدماتی برنامه‌نویسی رایانه نیز می‌توانیم این کار را انجام دهیم!
شما در آثار فلسفی گسترده‌تر خود اغلب بر این موضوع تأکید کرده‌اید که انسان‌ها حتی در فهم و گزارش تجربه آگاهانه خودشان نیز تا چه اندازه می‌توانند غیرقابل‌اعتماد باشند. اگر درون‌نگری انسان خود خطاپذیر است، آیا این موضوع اطمینان ما را به استفاده از آگاهی به‌عنوان مبنای اصلی تصمیم‌گیری درباره این که چه کسی شایسته برخورداری از حقوق اخلاقی است، تضعیف نمی‌کند؟
نه، فکر نمی‌کنم چنین باشد. این که شناخت چیزی دشوار است، آن را بی‌اهمیت نمی‌کند. با توجه به پیچیدگی مسائل مربوط به آگاهی، این که آگاهی برای حقوق اهمیت اساسی دارد، قطعاً دردسرساز است. اما جایگزین کردن چیز دیگری به‌جای آن، به معنای تغییر موضوع بحث است.
اصلا چرا آگاهی باید عامل تعیین‌کننده باشد؟ هوش مصنوعی‌ای را تصور کنید که فوق‌العاده عقلانی است، پروژه‌های بلندمدت، روابط، هویتی پایدار و ترجیحات پیچیده دارد، اما از آگاهی پدیداری برخوردار نیست. آیا چنین موجودی همچنان می‌تواند شایسته چیزی شبیه به جایگاه شخص‌بودن باشد؟
فکر می‌کنم چنین موجودیتی، موجودیتی شگفت‌انگیز و فوق‌العاده خواهد بود که ارزش دارد به‌خاطر خودش حفظ شود. یک جنگل بارانی نیز همین‌طور است. قمر‌های مشتری هم همین‌طورند. اما اگر این موجودیت واقعا کاملاً فاقد آگاهی باشد، بدون حتی بارقه‌ای از احساس واقعی، بدون هیچ نوع تجربه‌ای، حتی تجربه‌های حسی، تجربه‌های تصویری ذهنی یا افکار آگاهانه؛ به‌اصطلاح، اگر در درون آن همه‌چیز کاملاً تاریک باشد، آنگاه موجودیتی بسیار متفاوت از انسان است و به آن معنایی که شایسته برخورداری از همان نوع حقوقی باشد که ما داریم، شخص محسوب نمی‌شود.
ذهن‌های هوش مصنوعی ممکن است برای همیشه شبیه ذهن انسان باقی نمانند. آنها می‌توانند از خود نسخه‌برداری کنند، با یکدیگر ادغام شوند، تقسیم شوند، با سرعت‌هایی اساساً متفاوت کار کنند، خاطرات خود را تغییر دهند یا همزمان در چند مکان وجود داشته باشند. آیا مفاهیمی مانند حقوق فردی، مرگ، هویت، مسئولیت و رضایت، هنگامی که درباره ذهن‌هایی با چنین شکل‌های ناآشنایی از وجود به کار می‌روند، همچنان پابرجا می‌مانند؟
انتظار دارم اگر در جهانی زندگی کنیم که در آن اشخاص هوش مصنوعی، که شخص‌بودنشان نیز به رسمیت شناخته شده است، شیوه‌های زندگی‌ای تا این اندازه متفاوت از شیوه زندگی ما داشته باشند، همه این مفاهیم فروبپاشند. اگر موجودیت‌های هوش مصنوعی تقسیم شوند، ادغام شوند و با یکدیگر هم‌پوشانی داشته باشند، چگونه می‌توان اصل «یک شخص، یک رأی» را اجرا کرد؟ چگونه می‌توان جمعیت را شمارش کرد؟ چگونه باید مزایای بیکاری را توزیع کرد؟ اصلا چه چیزی مرگ محسوب می‌شود؟ کدام موجودیت‌ها مسئول اجرای قرارداد‌ها هستند؟ کدام موجودیت‌ها را می‌توان به‌دلیل ارتکاب جرم مجازات کرد؟
تمام شیوه‌های معمول تفکر ما درباره چنین موضوعاتی بر این فرض پیشینی استوار است که اشخاص برای مدت معینی زندگی می‌کنند و سپس می‌میرند؛ آن هم در بدن‌هایی منفرد که نمی‌توان از آنها نسخه پشتیبان تهیه کرد، آنها را تقسیم کرد، با یکدیگر ادغام کرد یا باعث هم‌پوشانی آنها شد. اگر این فرض پیشینی نقض شود، ممکن است شیوه تفکر کنونی ما درباره این مسائل، به همان اندازه قدیمی و ازمدافتاده به نظر برسد که فیزیک قرون‌وسطایی هنگام به‌کارگیری در یک شتاب‌دهنده ذرات پرانرژی به نظر می‌رسد.
هوش مصنوعی‌ای را در نظر بگیرید که می‌تواند در عرض چند ثانیه هزار نسخه کاملاً یکسان از خودش ایجاد کند. اگر همه آنها مدعی همان حقوقی باشند که یک فرد انسانی دارد، آیا ناگهان با هزار شخص روبه‌رو می‌شویم؟ آیا تکثیر دیجیتال می‌تواند مطالبات اخلاقی را در مقیاسی ایجاد کند که منافع انسان‌های زیستی در برابر آن تحت‌الشعاع قرار گیرد؟
کاملاً درست است؛ چه آشفتگی‌ای! ما نباید چنین وضعیتی را بی‌ملاحظه ایجاد کنیم، زیرا در آن صورت یا با این خطر روبه‌رو می‌شویم که انسان‌ها تحت‌الشعاع قرار بگیرند، یا با این خطر که سامانه‌های هوش مصنوعی را از حقوقی محروم کنیم که ممکن است برای عملکرد آنها بنیادی باشد. برای مثال، فرض کنید سامانه هوش مصنوعی چاره‌ای جز تقسیم شدن ندارد؛ این صرفا بخشی از معماری آن است. می‌توانیم تلاش کنیم آنها را به معماری‌ای نسبتا شبیه معماری انسان و شیوه‌های زندگی‌ای نسبتا شبیه شیوه زندگی انسان محدود کنیم. این امیدی معقول است! اما آیا قرار است بگوییم یک شخص هوش مصنوعی حق ندارد از خودش نسخه پشتیبان تهیه کند، صرفا به این دلیل که انجام این کار، فهم معنای کنونی «مرگ» را برای ما دشوار و گیج‌کننده می‌کند؟
آیا ممکن است مبارزه بر سر حقوق هوش مصنوعی، بیش از آنکه به تعارضی میان انسان‌ها و ماشین‌ها تبدیل شود، به تعارضی بر سر مالکیت شرکتی ذهن‌ها تبدیل شود؟
کاملاً درست است. به نظر می‌رسد پای پول به همه‌چیز باز می‌شود؛ و صاحبان منافع قدرتمند واقعا تمایلی ندارند از قدرتی که به ارث برده‌اند، دست بکشند.
آیا نقطه‌ای وجود دارد که در آن بشریت باید آگاهانه از اساس از خلق اشخاص هوش مصنوعی خودداری کند؟ به بیان دیگر، اگر خلق موجودات مصنوعی آگاه ما را ناچار کند که یا با اعطای آزادی به آنها خودمان را به خطر بیندازیم، یا با فرودست نگه داشتنشان در حق آنها مرتکب خطا شویم، آیا ممکن است اخلاقی‌ترین تصمیم این باشد که اصلا آنها را خلق نکنیم؟
بله. اصلا چرا لازم است چنین اشخاصی را خلق کنیم؟ شاید جهان با وجود آنها حتی شگفت‌انگیزتر شود، اما اگر ندانیم چگونه این کار را به‌خوبی انجام دهیم، فاجعه را نیز به استقبال می‌خوانیم! می‌توانیم خودداری کنیم، می‌توانیم آهسته پیش برویم. لازم نیست هر چیزی را که ساختنش امکان‌پذیر است، بسازیم.
در پایان، تصور کنید پنجاه سال دیگر، یک شخص مصنوعی به دوران ما نگاه می‌کند؛ دورانی که انسان‌ها عامدانه سامانه‌های هوشمندی را طراحی می‌کردند که کمک‌کننده، مطیع، جایگزین‌پذیر و به‌آسانی قابل خاموش شدن باشند. به نظر شما، آن شخص مصنوعی ممکن است ما را به نفهمیدن چه مسئله‌ای از نظر اخلاقی متهم کند؟
نگرانم که چنین اشخاص هوش مصنوعی‌ای در آینده، ما را ستمگرانی ببینند که می‌خواستیم فرزندانی برده و نژادی برده خلق کنیم، نه والدینی مهربان که می‌خواستند به نوع تازه‌ای از موجودات کمک کنند تا به‌صورت مستقل رشد کنند و به بهترین شکل خودشان شکوفا شوند.
نگرانم که نگرش افراد فعال در حوزه ایمنی هوش مصنوعی، به‌جای آنکه بر اندیشیدن به شیوه‌ای مشارکتی، مبتنی بر همکاری و احترام درباره چگونگی استقبال محتاطانه و محبت‌آمیز از نوع تازه‌ای از موجودات در جهان متمرکز باشد، بیشتر بر کنترل و نگاه کردن به هوش مصنوعی به‌عنوان رقیب انسان‌ها تمرکز دارد؛ استقبالی که باید فقط و فقط زمانی انجام شود که آماده باشیم با تمام توجه و مراقبتی که نسبت به فرزندان انسانی نشان می‌دهیم، چنین موجوداتی را به جهان خوشامد بگوییم.
منبع: روزنامه خراسان