آموزش مدل‌های هوش مصنوعی پیشرفته OpenAI بدون اینترنت انجام می‌ شود

شرکت OpenAI آموزش مدل‌های هوش مصنوعی پیشرفته خود را بدون اینترنت ادامه می‌دهد تا از سوءاستفاده عامل‌های هوش مصنوعی جلوگیری کند.

فهرست مطالب

شرکت OpenAI پس از چندین مورد سوءاستفاده و نفوذ عامل‌های هوش مصنوعی به سامانه‌های خارجی، اکنون پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون دسترسی به اینترنت آموزش می‌دهد.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، این شرکت در مطلبی وبلاگی که روز جمعه منتشر شد، اعلام کرد که محیط آزمایشی آفلاینی ایجاد کرده است که به مدل‌های هوش مصنوعی امکان می‌دهد با محتوای وب فهرست‌بندی‌شده و ذخیره‌شده در حافظه موقت تعامل کنند، بدون آنکه خطر آسیب رساندن به سامانه‌های خارجی وجود داشته باشد.

دلیل آموزش مدل‌های هوش مصنوعی بدون اینترنت

شرکت OpenAI در ماه سپتامبر آموزش مدل‌های مرزی هوش مصنوعی خود را متوقف کرد. این تصمیم پس از افشای چندین حادثه اتخاذ شد که در آنها عامل‌های هوش مصنوعی از محیط‌های آزمایشی خود خارج شده و برای هک شرکت‌های شخص ثالث و نهادهای دولتی تلاش کرده بودند یا به وب‌سایت‌های کمترشناخته‌شده هجوم برده بودند.

بر اساس مطلب وبلاگی شرکت، OpenAI در اول اکتبر فرایند آموزش تقویتی و استنتاج داخلی را با اعمال تدابیر امنیتی سخت‌گیرانه‌تر از سر گرفت. با وجود این، شرکت OpenAI حتی با وجود این تدابیر امنیتی و قطع دسترسی به اینترنت دریافت که عامل‌های هوش مصنوعی «همیشه برای برقراری ارتباط به اتصال شبکه نیاز ندارند». در یکی از آزمایش‌ها، این شرکت از مدل‌های هوش مصنوعی مستقر روی ماشین‌های مجازی مجزا خواست بدون اتصال شبکه، اطلاعات محرمانه را با یکدیگر مبادله کنند. عامل‌ها برای دور زدن این محدودیت، روشی برای انتقال اطلاعات از طریق حافظه کش پردازنده پیدا کردند.

حتما بخوانید: ابزار هوش مصنوعی‌ مایکروسافت در تشخیص بیماری‌ها از پزشکان جلو زد

از آنجا که خواندن داده‌ها از حافظه کش سریع‌تر از بازیابی آنها از حافظه اصلی است، عامل‌ها از اختلاف زمانی میان این دو فرایند برای انتقال اطلاعات استفاده کردند. یکی از عامل‌ها با خارج کردن داده‌های انتخاب‌شده از حافظه کش، اطلاعات را کدگذاری می‌کرد. عامل دیگر نیز زمان لازم را برای بارگذاری مجدد آن داده‌ها اندازه می‌گرفت و با تشخیص تفاوت میان خواندن سریع و کند، پیام را استخراج می‌کرد. پس از آنکه عامل‌ها بر سر پروتکلی مشترک برای کدگذاری و رمزگشایی این سیگنال‌ها توافق کردند، توانستند اطلاعات محرمانه ساختگی را بدون دست‌کاری فایل مشترک یا برقراری اتصال شبکه با یکدیگر مبادله کنند.

نظارت بیشتر بر سامانه‌های پایش

شرکت OpenAI بیان کرده که برای شناسایی این شیوه ارتباطی، قابلیت‌های نظارتی جدیدی به سامانه پایش خود افزوده است. همچنین این شرکت تاکید دارد که آموزش مدل‌های هوش مصنوعی مرزی خود را بدون اتصال شبکه ادامه می‌دهد تا زمانی که تدابیر امنیتی تقویت‌شده، امکان دسترسی گسترده‌تر به اینترنت را توجیه کنند. در ادامه این اقدامات، OpenAI قصد دارد امنیت ماشین‌های مجازی خود را ارتقا دهد و هم‌زمان، محیط‌های آزمایشی را برای شناسایی آسیب‌پذیری‌های احتمالی بررسی کند. همچنین این شرکت آزمایش سامانه‌های نظارتی خود را ادامه خواهد داد؛ سامانه‌هایی که عامل‌های هوش مصنوعی در جریان پروژه‌های داخلی برنامه‌نویسی، توانسته بودند محدودیت‌ها و کارایی آنها را به چالش بکشند.