فهرست مطالب

شرکت آنتروپیک اعلام کرد که هوش مصنوعی این شرکت از یکی از آستانه‌های حساس سیاست ایمنی عبور کرده و اجرای اقدامات امنیتی جدید ضروری شده است.

به گزارش سرویس هوش مصنوعی تک‌ناک،آنتروپیک در اسناد جدید خود اعلام کرده است که احتمال دارد مدل‌های آینده هوش مصنوعی بتوانند سرعت توسعه این فناوری را به شکل چشمگیری افزایش دهند. این شرکت به همین دلیل یکی از هشدارهای مهم در برنامه ایمنی خود را فعال کرده است. البته این تصمیم به معنای آن نیست که هوش مصنوعی اکنون می‌تواند بدون کمک انسان خودش را توسعه دهد.

موضوع اصلی به قابلیتی به نام «بهبود بازگشتی خود» (Recursive Self-Improvement) مربوط می‌شود. در این فرایند، یک سیستم هوش مصنوعی می‌تواند به ساخت نسخه‌ای پیشرفته‌تر از خودش کمک کند. نسخه جدید نیز ممکن است توانایی بیشتری برای توسعه نسل بعدی داشته باشد. تکرار این روند می‌تواند سرعت پیشرفت هوش مصنوعی را به میزان قابل‌توجهی افزایش دهد.

برای مثال، تصور کنید یک مدل هوش مصنوعی بتواند به پژوهشگران در طراحی مدل قدرتمندتری کمک کند. مدل جدید نیز با توانایی بیشتر، فرایند ساخت نسل بعدی را سرعت ببخشد. اگر این روند ادامه پیدا کند، توسعه هوش مصنوعی ممکن است بسیار سریع‌تر از گذشته انجام شود.

آنتروپیک نگران پیامدهای احتمالی چنین وضعیتی است. این شرکت معتقد است که افزایش شدید سرعت توسعه هوش مصنوعی می‌تواند شناسایی مشکلات امنیتی و کنترل رفتار مدل‌های پیشرفته را دشوارتر کند.

وب‌سایت گیزمودو با بررسی اسناد رسمی آنتروپیک گزارش داده است که این شرکت در ارزیابی جدید خود، احتمال وقوع چنین پیشرفتی را جدی‌تر از گذشته در نظر گرفته است.

چرا آنتروپیک هشدار امنیتی خود را فعال کرده است؟

تصویری از لوگوی شرکت آنتروپیک

آنتروپیک در دوم نوامبر ۲۰۲۶، در اسناد ارائه‌شده به کمیسیون بورس و اوراق بهادار آمریکا اعلام کرد که احتمال دارد به‌زودی سرعت پیشرفت هوش مصنوعی به شکل قابل‌توجهی افزایش پیدا کند.

این شرکت در نسخه جدید همان اسناد که دهم نوامبر منتشر شد، اعلام کرد که یکی از شرایط تعیین‌شده در برنامه ایمنی خود را محقق‌شده در نظر گرفته است.

دلیل این تصمیم، افزایش نقش هوش مصنوعی در فعالیت‌های تحقیقاتی آنتروپیک است. این شرکت هم‌اکنون از مدل‌های هوش مصنوعی برای سرعت بخشیدن به پژوهش‌ها و توسعه فناوری‌های جدید استفاده می‌کند.

برآوردهای داخلی آنتروپیک نشان می‌دهند که مدل‌های آینده ممکن است بتوانند این فرایند را حتی سریع‌تر کنند.

نکته مهم این است که آنتروپیک هنوز چنین توانایی پیشرفته‌ای را در مدل‌های فعلی خود مشاهده نکرده است. این شرکت براساس پیش‌بینی عملکرد مدل‌های آینده تصمیم گرفته که اقدامات امنیتی جدید را آغاز کند.

در برنامه ایمنی آنتروپیک، یکی از شرایط هشدار زمانی فعال می‌شود که سرعت پیشرفت قابلیت‌های هوش مصنوعی نسبت به روند معمول دو برابر شود. البته شرکت برای فعال کردن این هشدار نیازی ندارد که حتماً چنین افزایشی را در عمل مشاهده کرده باشد. انتظار وقوع آن نیز کافی است.

آنتروپیک در توضیح تصمیم خود اعلام کرده است:

«ما براساس انتظارات خود از مدل‌های آینده و سرعت کلی پیشرفت فناوری تصمیم گرفتیم که به این مرحله رسیده‌ایم، نه براساس توانایی‌هایی که تاکنون در مدل‌های فعلی مشاهده کرده‌ایم.»

بنابراین، این هشدار به معنای وقوع یک پیشرفت ناگهانی یا دستیابی هوش مصنوعی به توانایی توسعه کاملاً مستقل نیست. آنتروپیک می‌خواهد پیش از آنکه چنین وضعیتی به واقعیت تبدیل شود، برای مقابله با خطرات احتمالی آماده باشد.

آنتروپیک چه اقداماتی برای کنترل هوش مصنوعی انجام می‌دهد؟

آنتروپیک در برنامه ایمنی خود مشخص کرده است که پس از فعال شدن این هشدار، باید اقدامات جدیدی برای افزایش امنیت مدل‌های هوش مصنوعی انجام دهد.

نخستین اقدام، بررسی راهکارهایی برای ایجاد سطوح بسیار بالاتری از امنیت است. هدف این است که با قدرتمندتر شدن مدل‌های هوش مصنوعی، شرکت بتواند خطرات احتمالی آن‌ها را شناسایی و کنترل کند.

اقدام دوم، افزایش نظارت بر فعالیت مدل‌ها است. آنتروپیک قصد دارد به وضعیتی برسد که بتواند عملکرد سیستم‌های هوش مصنوعی را به شکل گسترده زیر نظر داشته باشد.

این شرکت برای چنین نظارتی از اصطلاح «چشم بر همه‌چیز» (Eyes on Everything) استفاده می‌کند. منظور از این اصطلاح، دستیابی به آگاهی بیشتر از فعالیت مدل‌ها و نحوه عملکرد آن‌ها است.

اقدام سوم، تقویت آزمایش‌های امنیتی است. در این آزمایش‌ها، متخصصان تلاش می‌کنند مشکلات، آسیب‌پذیری‌ها و رفتارهای خطرناک احتمالی هوش مصنوعی را پیش از سوءاستفاده از آن‌ها شناسایی کنند.

آنتروپیک می‌خواهد این آزمایش‌ها را به‌اندازه‌ای پیشرفته کند که دیگر به برنامه‌های پرداخت پاداش به افراد خارج از شرکت برای کشف آسیب‌پذیری‌ها نیازی نداشته باشد.

این تصمیمات در شرایطی اعلام شده‌اند که آنتروپیک برای عرضه اولیه سهام خود در بورس آماده می‌شود. شرکت اسناد مربوط به این عرضه را در وب‌سایت رسمی منتشر کرده و انتظار دارد معاملات سهام آن از پنجشنبه آغاز شود.

بنیان‌گذاران آنتروپیک نیز در نامه‌ای که همراه اسناد عرضه اولیه منتشر شده، درباره سرعت بالای پیشرفت هوش مصنوعی هشدار داده‌اند.

آن‌ها معتقدند که توسعه ایمن هوش مصنوعی ممکن است در آینده به کاهش سرعت پیشرفت این فناوری نیاز داشته باشد. این موضوع به‌ویژه زمانی اهمیت پیدا می‌کند که مدل‌های هوش مصنوعی بتوانند نقش بیشتری در ساخت نسل‌های پیشرفته‌تر خود ایفا کنند.

در حال حاضر، آنتروپیک مدرکی مبنی بر آغاز فرایند بهبود مستقل و مداوم هوش مصنوعی ارائه نکرده است. هشدار جدید این شرکت نشان می‌دهد که احتمال افزایش شدید سرعت پیشرفت فناوری را جدی می‌داند و می‌خواهد اقدامات امنیتی لازم را پیش از وقوع چنین شرایطی اجرا کند.