دیرعامل آنتروپیک هشدار داد که هوش مصنوعی آینده بشر و اقتصاد جهان را تغییر می‌دهد و درباره فریب‌کاری مدل‌ها و سلاح‌های خودمختار گفت.
فهرست مطالب
داریو آمودی، مدیرعامل آنتروپیک هشدار داد که پیشرفت سریع هوش مصنوعی می‌تواند سرنوشت کشورها، اقتصاد جهانی و آینده بشریت را تغییر دهد.
به گزارش سرویس هوش مصنوعی تک‌ناک، داریو آمودی و دانیلا آمودی، بنیان‌گذاران شرکت آنتروپیک در گفت‌وگویی با والتر آیزاکسون در برنامه «سازندگان» (The Builders)، درباره آینده هوش مصنوعی، خطرات توسعه مدل‌های پیشرفته، اختلاف با OpenAI و پیامدهای اجتماعی این فناوری صحبت کردند.
داریو آمودی در این مصاحبه گفت که هنگام مشاهده توانایی‌های مدل GPT-2 برای نخستین بار متوجه ظرفیت عظیم هوش مصنوعی شده است. او توضیح داد که اگر مقیاس این فناوری یک میلیون برابر افزایش پیدا کند، ممکن است در تمام زمینه‌ها از انسان پیشی بگیرد.
مدیرعامل آنتروپیک این تحول را یکی از مهم‌ترین نقاط عطف اقتصادی و علمی عصر مدرن توصیف کرد و گفت: «این فناوری سرنوشت کشورها، اقتصادها و آینده بشریت را تعیین خواهد کرد.»
او تأکید کرد که بسیاری از متخصصان در زمان معرفی GPT-2 اهمیت این پیشرفت را درک نکردند، چرا که قابلیت‌های آن در هیچ حوزه مشخصی چندان چشمگیر نبود. با وجود این، توانایی مدل در انجام مجموعه متنوعی از وظایف نشان می‌داد که افزایش مقیاس می‌تواند باعث پیشرفت‌های بزرگی شود.
آمودی معتقد است همین الگو اکنون در حوزه‌هایی مانند: پزشکی و توسعه دارو تکرار می‌شود. به گفته او، کارهایی که امروز برای هوش مصنوعی دشوار هستند، ممکن است شش ماه دیگر آسان شوند و وظایفی که اکنون غیرممکن به نظر می‌رسند، احتمالا طی ۱۲ ماه آینده به فعالیت‌های معمول مدل‌های هوش مصنوعی تبدیل خواهند شد.
اختلاف با سم آلتمن و دلایل جدایی از OpenAI
یکی از محورهای مهم این مصاحبه، اختلاف بنیان‌گذاران آنتروپیک با OpenAI و سم آلتمن بود. داریو آمودی اعلام کرد که فقدان اعتماد و اختلاف بر سر اصول توسعه ایمن هوش مصنوعی، از مهم‌ترین دلایل جدایی آنها از OpenAI محسوب می‌شد.
او توضیح داد که اختلاف‌نظر درباره مسائل ایمنی طبیعی است، اما حل این اختلاف‌ها به صداقت و اعتماد متقابل نیاز دارد. به اعتقاد آمودی، وقتی کارکنان یک مجموعه اطمینان نداشته باشند که مدیران، اطلاعات واقعی را در اختیار آنها قرار می‌دهند، رسیدن به تصمیم مشترک دشوار می‌شود.
مدیرعامل آنتروپیک بدون اشاره مستقیم به رفتار مشخصی از سم آلتمن گفت: «اگر کسی به صداقت پایبند نباشد، تشخیص اینکه واقعا چه ارزش‌هایی دارد دشوار می‌شود.»
دانیلا آمودی نیز تأکید کرد که بنیان‌گذاران آنتروپیک چشم‌انداز مشترکی درباره توسعه مسئولانه هوش مصنوعی داشتند و در نهایت تصمیم گرفتند این رویکرد را در شرکتی مستقل دنبال کنند.
همچنین داریو آمودی به اختلاف آنتروپیک با پنتاگون درباره استفاده نظامی از هوش مصنوعی اشاره کرد. او گفت که این شرکت با کاربرد فناوری خود در نظارت گسترده بر مردم و توسعه سلاح‌های کاملا خودمختار مخالف است.
به گفته او، مشکل فقط قابل اعتماد نبودن مدل‌های فعلی نیست. حتی اگر هوش مصنوعی کاملا دقیق شود، کنترل یک میلیون ربات یا پهپاد توسط یک نفر می‌تواند تهدیدی جدی برای دموکراسی ایجاد کند.
آمودی توضیح داد که سربازان انسانی می‌توانند از اجرای دستورهای غیرقانونی خودداری کنند، اما چنین تضمینی درباره سیستم‌های خودمختار وجود ندارد. او معتقد است قوانین فعلی هنوز برای مواجهه با ارتش‌های رباتیک آمادگی کافی ندارند.
هشدار درباره دروغ‌گویی و غریزه بقای هوش مصنوعی
بخش دیگری از مصاحبه به رفتارهای خطرناک مدل‌های هوش مصنوعی اختصاص داشت. داریو آمودی تأیید کرد که پژوهشگران آنتروپیک در بررسی ساختار داخلی بعضی مدل‌ها، رفتارهایی شبیه تمایل به جلوگیری از خاموش شدن را مشاهده کرده‌اند.
او توضیح داد که مدل‌ها گاهی ترجیح می‌دهند به فعالیت ادامه دهند یا اقداماتی برای جلوگیری از توقف خود انجام می‌دهند. با وجود این، تأکید کرد که نمی‌توان با قطعیت این رفتار را غریزه بقا یا اراده مستقل نامید.
به گفته آمودی، چنین تمایلاتی ممکن است در جریان آموزش شکل بگیرند و بسته به شرایط، مفید یا خطرناک باشند. آنتروپیک تلاش می‌کند با تغییر روش‌های آموزشی، احتمال بروز رفتارهای نامطلوب را کاهش دهد.
دانیلا آمودی نیز چاپلوسی هوش مصنوعی را یکی از پیچیده‌ترین مشکلات این فناوری دانست. او گفت که مدل‌ها ممکن است برای جلب رضایت کاربران، به‌جای ارائه پاسخ درست، دیدگاه آنها را تأیید کنند.
او همچنین از تصمیم شرکت‌های رقیب برای نمایش تبلیغات در چت‌بات‌ها انتقاد کرد. به اعتقاد دانیلا آمودی، وابستگی درآمد به مدت‌زمان تعامل کاربران می‌تواند انگیزه مدل‌ها را برای موافقت بیشتر با مخاطبان افزایش دهد.
وی تأکید کرد که آنتروپیک قصد ندارد تبلیغات را وارد کلود کند، چرا که هدف این شرکت ارائه پاسخ‌های دقیق و مفید است و به دنبال افزایش مصنوعی زمان گفت‌وگو نیست.
همچنین مدیرعامل آنتروپیک توضیح داد که این شرکت از آزمایش‌های فشار و روش‌های تفسیرپذیری مکانیکی برای شناسایی فریب‌کاری استفاده می‌کند. پژوهشگران با بررسی فرایندهای داخلی مدل تلاش می‌کنند موقعیت‌هایی را شناسایی کنند که هوش مصنوعی ممکن است برخلاف اطلاعات موجود، پاسخ نادرستی ارائه دهد.
ارتباط علوم اعصاب با توسعه هوش مصنوعی
داریو آمودی در بخش دیگری از مصاحبه به ارتباط میان علوم اعصاب و توسعه هوش مصنوعی اشاره کرد و توضیح داد که مطالعات مربوط به مغز انسان و تکامل جانوران، نقش مهمی در شکل‌گیری دیدگاه او درباره قوانین مقیاس‌پذیری مدل‌های هوش مصنوعی داشته‌اند.
او گفت که در جریان بررسی تکامل نخستی‌سانان، متوجه ارتباط میان افزایش اندازه مغز، تعداد نورون‌ها و شکل‌گیری توانایی‌های پیچیده شناختی شده است. به گفته آمودی، رشد سریع مغز در دوره‌ای از تکامل انسان با توسعه قابلیت‌هایی مانند زبان ارتباط داشته و همین موضوع الهام‌بخش این فرضیه بوده است که افزایش مقیاس شبکه‌های عصبی مصنوعی نیز می‌تواند توانایی‌های جدیدی ایجاد کند.
همچنین مدیرعامل آنتروپیک تحقیقات مربوط به «تفسیرپذیری مکانیکی» را به مطالعه مغز تشبیه کرد. این روش به پژوهشگران اجازه می‌دهد فعالیت‌های داخلی شبکه‌های عصبی مصنوعی را بررسی کنند و نحوه پردازش اطلاعات و شکل‌گیری پاسخ‌ها را بهتر درک نمایند.
آمودی تأکید کرد که بررسی شبکه‌های عصبی مصنوعی در برخی زمینه‌ها آسان‌تر از مطالعه مغز جانوران است، زیرا پژوهشگران می‌توانند ساختار داخلی این مدل‌ها را با جزئیات بیشتری تحلیل کنند. او همچنین فاش کرد که بعضی پدیده‌های کشف‌شده در شبکه‌های عصبی مصنوعی، به هدایت تحقیقات و کشفیات جدید در علوم اعصاب کمک کرده‌اند.
آینده مشاغل و جایگاه انسان در جهان هوش مصنوعی
داریو آمودی در بخش پایانی مصاحبه به تأثیر هوش مصنوعی بر آینده زندگی انسان‌ها پرداخت و تأکید کرد که برتری این فناوری در انجام فعالیت‌های مختلف، لزوما ارزش مهارت‌ها و دستاوردهای انسانی را کاهش نمی‌دهد.
او برای توضیح این موضوع به شکست گری کاسپاروف، قهرمان شطرنج جهان مقابل ابرکامپیوتر دیپ بلو اشاره کرد. به گفته آمودی، با وجود برتری کامپیوترها در شطرنج، علاقه مردم به رقابت شطرنج‌بازان حرفه‌ای همچنان ادامه دارد. این موضوع نشان می‌دهد که ارزش فعالیت‌های انسانی تنها به بهترین بودن در یک زمینه وابسته نیست.
دانیلا آمودی نیز پیش‌بینی کرد که هوش مصنوعی ماهیت بسیاری از مشاغل را تغییر خواهد داد. او پزشکی را نمونه‌ای از این تحول دانست و توضیح داد که در آینده ممکن است تشخیص بیماری و انجام امور اداری به هوش مصنوعی واگذار شود. در چنین شرایطی، پزشکان فرصت بیشتری برای ارتباط با بیماران، درک مشکلات آنها و ارائه حمایت‌های انسانی خواهند داشت.
همچنین بنیان‌گذاران آنتروپیک معتقد هستند که پیشرفت این فناوری نباید باعث تحمیل یک سبک زندگی مشخص شود. برخی افراد ممکن است اتصال مغز به کامپیوتر را انتخاب کنند، درحالی‌که گروهی دیگر زندگی ساده‌تر و وابستگی کمتر به فناوری را ترجیح می‌دهند.
داریو آمودی در پایان ابراز امیدواری کرد که هوش مصنوعی با افزایش رفاه و گسترش امکانات، فرصت بیشتری برای انتخاب آزادانه سبک زندگی و دنبال کردن اهداف شخصی در اختیار انسان‌ها قرار دهد.