مدیرعامل OpenAI دو سناریوی فاجعه‌بار را پیش‌بینی کرده است: واگذاری برگشت‌ناپذیر کنترل آینده به ماشین‌ها یا انحصار قدرت توسط یک شرکت یا دولت.
«سم آلتمن» بخش عمده‌ای از زمان خود را صرف تشریح مزایای هوش مصنوعی و تلاش برای بهبود جهان و همچنین ایستادگی در برابر پیش‌بینی‌های آخرالزمانی می‌کند. بااینحال، مدیرعامل شرکت OpenAI دیدگاه‌های بسیار تکان‌دهنده‌ای درباره شرایطی دارد که توسعه هوش مصنوعی می‌تواند به فاجعه ختم شود. او در قسمت جدیدی از پادکست Figuring Out With Raj Shamani با جزئیاتی تامل‌برانگیز به تشریح این نگرانی‌ها پرداخت.
به گفته آلتمن، دو سناریوی ویران‌کننده وجود دارد که از دو معضل تقریباً متضاد ریشه می‌گیرند؛ یا بشریت کنترل ماشین‌های قدرتمندتر از خود را از دست می‌دهد، یا یک گروه خاص انحصار و کنترل بیشتر این فناوری را تصاحب می‌کند. او درباره این دو وضعیت گفته است:
«یکی این است که کنترل به هوش مصنوعی واگذار شود؛ ما به‌طور عمدی یا تصادفی مهار آینده را به سیستم‌هایی واگذار کنیم که به‌شکلی باورنکردنی توانمندتر از ما هستند و دیگر نتوانیم آن را پس بگیریم. سناریوی دیگر این است که یک فرد، یک شرکت یا یک کشور، در مقایسه با دیگران بیش از حد قدرتمند شود.»
سناریوی اول برخلاف کلیشه‌های قدیمی شورش ربات‌ها، در واقع تسلیم آرام اختیارات انسان به هوش مصنوعی است؛ تا جایی که دیگر امکان بازپس‌گیری عاملیت از نرم‌افزار ناممکن خواهد بود. سناریوی دوم نیز شبیه روایت‌های علمی‌تخیلی مدرن است که در آن، یک فناوری مقتدر در دستان یک فرد یا شرکت متمرکز شده و بقیه افراد تحت اراده آنها قرار می‌گیرند. اگرچه این دو سناریو به‌طور مداوم توسط فعالان این حوزه و سیاست‌گذاران به بحث گذاشته شده، اما هشدار مستقیم آلتمن به‌عنوان یکی از محوری‌ترین چهره‌های هوش مصنوعی اهمیتی دوچندان دارد.
ورود به عرصه تصمیم‌گیری و پیامدهای واگذاری کنترل
نگرانی از مهارناپذیری هوش مصنوعی به سبب واگذاری اختیارات از سوی انسان‌ها، در سال‌های اخیر بسیار جدی‌تر شده است؛ زیرا این سیستم‌ها اکنون از پاسخ‌گویی ساده فراتر رفته و به حوزه تصمیم‌گیری وارد شده‌اند. مدل‌ها و ایجنت‌ها هم‌اکنون می‌توانند در وب تعامل داشته و تکالیف پیچیده را با کمترین میزان نظارت انسانی انجام دهند. هرچه مسئولیت‌های محول‌شده به این سیستم‌ها بیشتر شود، پیامدهای فاصله‌گرفتن اهداف آنها از مقاصد واقعی انسان‌ها نیز شدیدتر خواهد بود.
باید به یاد داشت که هوش مصنوعی فعلی بر پایه پیش‌بینی احتمالات کار می‌کند. هرچند این سامانه‌ها بسیار قدرتمند هستند و از انبوهی از داده‌ها استفاده می‌کنند، اما مانند انسان توانایی قضاوت و درک ندارند و برای آسیب‌رسانی حتماً نیازی به داشتن انگیزه خباثت‌آمیز نیست؛ به همین دلیل در شبیه‌سازی‌های مدیریت کشورها، گاهی به تصمیم فاجعه‌باری مانند استفاده از سلاح هسته‌ای متوسل می‌شوند.
نگرانی‌های آلتمن در تعارضی ملموس با جایگاه و اقدامات شرکت تحت مدیریتش قرار دارد. OpenAI تاکنون در ابعاد مختلفی تسلط خود را تثبیت کرده و آلتمن نیز در تشریح قدرت سازمان خود می‌گوید:
«فکر می‌کنم ما بیشترین تعداد کاربر و بهترین مجموعه فناوری را از تراشه‌ها گرفته تا مراکز داده و مدل‌ها و سایر اجزا در اختیار داریم؛ زیرساختی که هوشمندی فراوان را به دستان مردم می‌رساند. ما بهترین برند و ارزش‌هایی را داریم که استفاده‌کنندگان از این فناوری به دنبال آن هستند؛ بااینحال می‌خواهیم دیگران نیز موفق شوند و تصور می‌کنم مردم این نگاه را از جانب ما حس می‌کنند.»
با وجود تمام هشدارها، آلتمن نسبت به مسیر پیش‌رو و آینده بشر خوش‌بین است و باور دارد نسل‌های بعد با این فضا سازگار خواهند شد. او در این رابطه توضیح داد:
«نمی‌دانم آینده چگونه خواهد بود، اما خیالم راحت است و اعتماد بسیار عمیقی به توانایی مردم برای سازگاری، پیشرفت و بهتر ساختن جامعه برای همه ما دارم؛ گمان می‌کنم دنیا به احتمال زیاد روزبه‌روز بهتر خواهد شد.»
این نگاه مثبت به برنامه‌های OpenAI برای بهره‌گیری از هوش مصنوعی در اکتشافات علمی نیز گسترش یافته است. آلتمن درباره چشم‌انداز آینده توضیح داد:
«بسیار هیجان‌زده‌ام که ببینم چقدر می‌توانیم هوش مصنوعی را برای کشف علوم تازه به جلو ببریم. من ماشینی را تصور می‌کنم که بتواند به درک بهتر ما از جهان کمک کند؛ عمیق‌ترین بینش‌ها در علم فیزیک، درمان‌های پزشکی نوین و منابع جدید انرژی را آشکار سازد؛ چیزهایی که شاید الان حتی تصورش را هم نمی‌توانیم بکنیم اما با درک علمی بهتر ممکن می‌شوند. برای ساخت چنین ماشینی فوق‌العاده هیجان‌زده‌ام.»
اظهارات جدید آلتمن درحالی مطرح شده‌اند که هفته‌ها پیش او از انتشار دستاوردهای ریاضی بیشتر توسط هوش مصنوعی خبر داده بود. همچنین «گرگ براکمن»، دیگر هم‌بنیانگذار OpenAI در یک کنفرانس این ایده را مطرح کرده بود که هوش مصنوعی شاید در آینده مرگ را به گزینه‌ای اختیاری تبدیل کند.