جفری هینتون می‌گوید انسان‌ها باید کاری کنند که هوش مصنوعی با آن‌ها دوست باشد.
«جفری هینتون»، پدرخوانده هوش مصنوعی و برنده جایزه نوبل فیزیک، معتقد است مدل‌های هوش مصنوعی به خودآگاهی رسیده‌اند و انسان‌ها برای جلوگیری از تهدیدهای احتمالی این فناوری باید کاری کنند که هوش مصنوعی به آن‌ها اهمیت بدهد. او در گفت‌وگو با روزنامه تلگراف هشدار داد: «باید از درِ دوستی وارد شویم، اگر این کار را نکنیم، روزگارمان سیاه است.»
هینتون که از چهره‌های تأثیرگذار در شکل‌گیری هوش مصنوعی مدرن است، می‌گوید هوش مصنوعی اکنون تجربه ذهنی مشابه انسان دارد. او برای توضیح دیدگاهش به پژوهشی اشاره کرد که نشان می‌دهد هوش مصنوعی وقتی تصور می‌کند تحت آزمایش قرار گرفته است، رفتارش را تغییر می‌دهد.
هینتون در گفتگو با تلگراف گفت:
«وقتی می‌گویید چیزی از این موضوع آگاه است، معمولاً منظورتان این است که آن چیز خودآگاه است. آگاه‌بودن و خودآگاهی تقریباً یک معنا دارند.»
او همچنین استدلال کرد اگر هوش مصنوعی از انسان هوشمندتر شود، محروم‌کردن آن از حقوقی که برای انسان در نظر گرفته می‌شود، پرسش‌برانگیز خواهد بود. به گفته هینتون، انسان‌ها معمولاً هوش را یکی از مبانی برخورداری از حقوق می‌دانند، اما ممکن است در آینده برای سیستم‌های هوش مصنوعی حقوق کمتری قائل شوند، حتی اگر از انسان هوشمندتر باشند.
بااین‌حال، آگاه‌بودن یا داشتن تجربه ذهنی در هوش مصنوعی موضوعی محل اختلاف است و اظهارات هینتون بیانگر دیدگاه شخصی اوست، نه نتیجه‌ای قطعی درباره وضعیت آگاهی مدل‌های فعلی.
نظرات پدرخوانده هوش مصنوعی درباره خودآگاهی مدل‌ها
هینتون در کنار نگرانی درباره آگاهی هوش مصنوعی، از خطرهای فوری‌تر این فناوری نیز صحبت کرد. او پیش‌بینی می‌کند که هوش مصنوعی می‌تواند در ساخت ویروس‌های خطرناک و اجرای حملات سایبری مخرب نقش داشته باشد. او همچنین به گروه‌هایی از ایجنت‌های هوش مصنوعی اشاره کرد که ممکن است به‌صورت هماهنگ عمل کنند.
همه چهره‌های برجسته هوش مصنوعی با ارزیابی هینتون موافق نیستند. «یان لکان»، دیگر برنده جایزه تورینگ در سال ۲۰۱۸، هیاهو درباره آگاهی هوش مصنوعی را رد کرد و آن را «توهم» دانست. او همچنین ادعاهایی را که هوش مصنوعی را تهدیدی برای انقراض انسان معرفی می‌کنند، گمراه‌کننده خواند.
در سوی دیگر، «ریچارد داوکینز»، زیست‌شناس تکاملی، در ماه مه پس از دو روز تعامل با چت‌بات کلاد، گفت که چت‌بات‌ها باید آگاه در نظر گرفته شوند. او اعتراف کرد که دشوار است دستیار هوش مصنوعی را «دوستی واقعی» تلقی نکند.
با وجود نگرانی‌هایش، هینتون همچنان از هوش مصنوعی استفاده می‌کند و می‌گوید این فناوری می‌تواند روند پژوهش علمی را به‌شدت سریع‌تر کند. او توضیح داد که چند هفته پیش از هوش مصنوعی برای بررسی نظریه‌ای استفاده کرده که مدتی به آن فکر می‌کرده است. هینتون به‌طور تصادفی دستور ادامه کار را وارد کرد و سیستم بخش نخست نظریه را بررسی کرد، نیمه دوم آن را به‌درستی تکمیل کرد، سپس اشکالی را در نظریه تشخیص داد و راه اصلاح آن را نیز پیشنهاد کرد.
به گفته هینتون، هوش مصنوعی به ادبیات علمی روز دسترسی داشت و کاری شبیه همکاری با دانشجوی تحصیلات تکمیلی انجام داد؛ با این تفاوت که به‌جای بازگشت پس از یک هفته، ظرف پنج دقیقه پاسخ داد. او این توانایی را برای دانشجویان تحصیلات تکمیلی خبری بد، اما برای سرعت پیشرفت پژوهش‌های علمی خبری خوب توصیف کرد.