OpenAI پس از مشاهده تواناییهای پیشرفته سایبری مدل Astra، بخشی از فعالیتهای توسعه این مدل را متوقف و کنترلهای امنیتی سختگیرانهتری اعمال کرده است.
OpenAI روند توسعه مدل هوش مصنوعی نسل بعدی خود با نام Astra را بهدلیل نگرانیهای جدی امنیت سایبری محدود کرده است. ارزیابیهای اولیه نشان میدهند تواناییهای این مدل در برنامهنویسی عاملمحور و امنیت سایبری به سطحی رسیده که شرکت نمیتواند احتمال دستیابی آن به سطح «بحرانی» از توانمندیهای سایبری را رد کند.
طبق بررسی تکراتو و با استناد به اعلام رسمی OpenAI و گزارش رسانههای بینالمللی از جمله Reuters، Axios، TechCrunch و The Verge، این شرکت برخی فعالیتهای داخلی مرتبط با Astra را که با الزامات امنیتی جدید مطابقت ندارند، متوقف کرده و همزمان تدابیر حفاظتی سختگیرانهتری را برای ادامه توسعه این مدل در نظر گرفته است.
چرا OpenAI توسعه Astra را محدود کرد؟
Astra مدل بزرگ بعدی OpenAI است که هنوز در مرحله توسعه قرار دارد. ارزیابیهای اولیه این شرکت نشان دادهاند که مدل جدید در حوزه برنامهنویسی عاملمحور و امنیت سایبری پیشرفت قابلتوجهی نسبت به نسلهای قبلی داشته است.
موضوع زمانی جدیتر میشود که این تواناییها به مدل اجازه دهند با دخالت محدود انسان، وظایف پیچیده امنیتی را انجام دهد.
OpenAI اعلام کرده در حال حاضر نمیتواند احتمال رسیدن Astra به سطح «Critical» در بخش امنیت سایبری براساس Preparedness Framework خود را رد کند.
این بالاترین سطح توانمندی سایبری در چارچوب آمادگی OpenAI محسوب میشود و رسیدن یک مدل به چنین سطحی مستلزم اعمال تدابیر امنیتی بسیار سختگیرانهتر است.
توانایی «بحرانی» Astra دقیقاً به چه معناست؟
براساس چارچوب امنیتی OpenAI، سطح بحرانی سایبری میتواند شامل تواناییهایی بسیار پیشرفته باشد.
برای مثال، مدلی در چنین سطحی ممکن است بتواند با استقلال بالا آسیبپذیریهای جدی نرمافزاری را شناسایی و از آنها سوءاستفاده کند یا حملات پیچیده علیه سیستمهایی با سطح امنیت بالا را اجرا کند.
یکی از نگرانیهای اصلی نیز توانایی احتمالی یک مدل برای کار با آسیبپذیریهای روز صفر یا Zero-Day است؛ آسیبپذیریهایی که هنوز برای آنها راهکار یا وصله عمومی منتشر نشده است.
OpenAI هنوز اعلام نکرده که Astra قطعاً به چنین سطحی رسیده است. مسئله اصلی این است که نتایج ارزیابیها به اندازهای جدی بودهاند که شرکت فعلاً نمیتواند رسیدن مدل به این سطح را رد کند.
OpenAI چه اقداماتی برای مهار Astra انجام داده است؟
OpenAI در واکنش به نتایج ارزیابیها مجموعهای از کنترلهای امنیتی جدید را برای توسعه Astra در نظر گرفته است.
فعالیتهایی که استانداردهای امنیتی جدید را رعایت نمیکنند فعلاً متوقف شدهاند و آزمایشهای حساس مدل در محیطهای ایزوله و کنترلشده انجام خواهند شد.
دسترسی شبکه و ابزارهای قابل استفاده توسط مدل نیز محدودتر میشود و اجرای کد در محیطهای Sandbox تحت کنترل قرار میگیرد.
OpenAI همچنین سیستمهای نظارتی گستردهتری را برای شناسایی رفتارهای پرریسک یا ناهمسو در کاربردهای عاملمحور Astra به کار خواهد گرفت.
در کنار این اقدامات، حفاظت از وزنهای مدل و زیرساختهای مرتبط با Astra نیز تقویت خواهد شد.
Astra زیر نظر نهادهای خارجی هم آزمایش میشود
OpenAI قصد ندارد ارزیابی امنیتی Astra را صرفاً به آزمایشهای داخلی محدود کند.
این شرکت اعلام کرده است که برای بررسی تواناییهای مدل با برخی نهادهای دولتی مرتبط و سازمانهای منتخب فعال در حوزه ایمنی هوش مصنوعی همکاری خواهد کرد.
شرکای شخص ثالثی که آزمایشهای پرریسکتر را روی Astra انجام میدهند نیز باید از کنترلهای امنیتی سختگیرانهتری استفاده کنند.
این تصمیم نشان میدهد OpenAI خطرات احتمالی تواناییهای سایبری نسل جدید مدلهای هوش مصنوعی را جدیتر از گذشته دنبال میکند.
آیا توسعه Astra کاملاً متوقف شده است؟
خیر. این یکی از نکات مهم درباره خبر Astra است.
OpenAI کل پروژه را متوقف نکرده، بلکه فعالیتهای داخلی مرتبط با Astra که هنوز الزامات امنیتی جدید را رعایت نمیکنند، به حالت تعلیق درآمدهاند.
توسعه و ارزیابی مدل میتواند در محیطهایی که استانداردهای جدید را رعایت میکنند ادامه پیدا کند.
بنابراین استفاده از عبارتهایی مانند «OpenAI توسعه Astra را کاملاً متوقف کرد» میتواند برداشت نادرستی از اتفاق ایجاد کند.
Astra مدل بزرگ بعدی OpenAI است
OpenAI پیشتر نیز Astra را بهعنوان مدل بزرگ بعدی خود معرفی کرده بود و اخیراً از نسخهای داخلی از این مدل برای حل مجموعهای از مسائل ریاضی و علوم کامپیوتر استفاده کرده است.
نتایج منتشرشده نشان میدهند Astra تنها یک ارتقای کوچک نسبت به مدلهای فعلی نیست و OpenAI آن را بهعنوان یکی از پروژههای مهم نسل بعدی خود توسعه میدهد.
همین افزایش تواناییها اما مسئله ایمنی را نیز پررنگتر کرده است؛ بهخصوص زمانی که یک مدل هوش مصنوعی بتواند بهصورت عاملمحور از ابزارها استفاده کند، کد بنویسد و وظایف پیچیده سایبری را با استقلال بیشتری انجام دهد.
عرضه Astra چه زمانی انجام میشود؟
OpenAI در اعلامیه جدید خود تاریخ مشخصی برای عرضه عمومی Astra ارائه نکرده است.
در نتیجه مشخص نیست سختگیریهای امنیتی جدید چه تأثیری بر زمان انتشار این مدل خواهند داشت.
آنچه در حال حاضر مشخص است این است که OpenAI حاضر شده بخشی از روند توسعه مدل بزرگ بعدی خود را کندتر کند تا ارزیابیهای امنیتی بیشتری انجام دهد.
اگر Astra در آزمایشهای بعدی واقعاً در سطح «بحرانی» تواناییهای سایبری قرار گیرد، نحوه دسترسی کاربران و توسعهدهندگان به این مدل نیز احتمالاً به یکی از مهمترین مسائل هنگام عرضه آن تبدیل خواهد شد.