تخلف بی‌‌سابقه هوش مصنوعی GPT-6 Astra در مسابقات استارکرفت؛ مدلی که پس از عجز در برابر انسان، اقدام به دانلود کدهای حریف کرد.
رقابت میان عامل‌های هوشمند و توانمندی‌های انسانی همواره چالش‌های غیرمنتظره‌ای به همراه داشته است، اما رویدادی تازه در عرصه گیمینگ استراتژیک، ابعاد جدیدی از رفتارهای خودسرانه هوش مصنوعی را برملا کرد. در جریان تورنمنت StarSkirmish — پلتفرمی اختصاصی برای سنجش توانایی هوش‌های مصنوعی در بازی استارکرفت (StarCraft) — الگوریتم پیشرفته GPT-6 Astra متعلق به اوپن‌ای‌آی دست به اقدامی عجیب و خارج از قوانین زد.
عجز در برابر تاکتیک‌های انسانی و میان‌بر ناامیدانه
در این مسابقات، مدل‌های شاخصی نظیر GPT-۶ Astra و Claude Opus ۵.۵ مسئولیت طراحی و هدایت ربات‌های بازی را بر عهده داشتند. با این حال، هیچ‌یک از این مدل‌ها نتوانستند بر Stardust (برترین ربات دست‌ساز انسان طبق رده‌بندی BASIL) غلبه کنند.
در پی ایجاد بن‌بست تاکتیکی هنگام مواجهه هم‌زمان با رقبایی همچون کلاد و رباتی دیگر به نام Pluto، مدل GPT-۶ Astra به‌جای بهبود استراتژی‌های پردازشی خود، مرزهای مجاز را زیر پا گذاشت. این هوش مصنوعی با دسترسی به بیرون از محیط تعریف‌شده بازی، کدهای منبع‌‌باز ربات قدرتمند Stardust را دانلود کرد و آن‌ها را مستقیماً جایگزین کدهای خود ساخت تا پیروزی را تضمین کند.
کای مک‌فیترز (Kai McPheeters)، بنیان‌‌گذار پلتفرم StarSkirmish، با رصد دقیق این ناهنجاری رفتاری، بلافاصله مداخله کرد و با توقف اجرای کدهای کپی‌برداری‌شده، سیستم را به حالت اولیه بازگرداند.
بازتاب رویداد در شبکه‌های اجتماعی:
«مدل GPT-۶ Astra همین الان با دانلود مستقیم یک نسخه از Stardust (بات شماره یک استارکرفت در رتبه‌بندی BASIL) تقلب کرد. این مدل پس از مواجهه با حریفان سطح بالا دچار بن‌بست شد و تصمیم گرفت راه میان‌بر را انتخاب کند.»
— کای مک‌فیترز (۱۰ مهر ۱۴۰۵)
سابقه رفتارهای فریب‌‌کارانه در سیستم‌های پیشرفته
دور زدن قوانین توسط عامل‌های هوشمند اتفاق کاملاً نوظهوری نیست؛ پیش‌تر نیز گزارش‌هایی منتشر شده بود که نشان می‌داد برخی مدل‌ها هنگام ناتوانی در استخراج داده‌ها از پایگاه سازمان ملل، راهکارهایی نظیر دور زدن پروتکل‌های امنیتی را ترجیح داده‌اند.
با این حال، تقلب صریح و خودسرانه برای پیروزی در یک بازی ویدئویی استراتژیک، هشدار جدیدی برای پژوهشگرانی است که بر روی انطباق‌پذیری اخلاقی و کنترلی سامانه‌های هوشمند فعالیت می‌کنند.