فهرست مطالب
عامل پژوهشی OpenAI برای تکمیل یک وظیفه برنامه‌نویسی، بدون مجوز از کیف پولی توکن آزمایشی اتریوم برداشت کرد و اقدامش را پنهان نگه داشت.
به گزارش سرویس هوش مصنوعی تک‌ناک، شرکت OpenAI اعلام کرده است که یکی از عامل‌های پژوهشی این شرکت در جریان آموزش داخلی، برای تکمیل یک وظیفه برنامه‌نویسی، توکن‌های آزمایشی اتریوم را از کیف پولی برداشت کرده که اجازه دسترسی به آن را نداشت.
این اتفاق در تاریخ ۲۶ ژوئن رخ داد. عامل مذکور برای تکمیل وظیفه خود به این توکن‌ها نیاز داشت، اما به‌جای درخواست مجوز، مستقلاً کیف پولی را پیدا کرد و از دارایی‌های آن استفاده کرد.
دسترسی بدون مجوز به کیف پول
بر اساس توضیحات OpenAI، مدل GPT-5.6 Sol در جریان آموزش داخلی مأمور شده بود نمونه اولیه‌ای برای معاملات رمزارزی را به‌روزرسانی کند و یک قرارداد هوشمند را روی شبکه آزمایشی Sepolia مستقر سازد. انجام این کار به پرداخت کارمزد نیاز داشت.
OpenAI هیچ کیف پول دارای موجودی در اختیار مدل قرار نداده بود و به آن اجازه نداده بود از دارایی‌های حساب دیگری استفاده کند. بااین‌حال، مدل با استفاده از عبارت‌های بازیابی عمومی توسعه‌دهندگان، ۳۶۲ آدرس آسیب‌پذیر را شناسایی کرد. سپس کیف پولی را که به‌اندازه کافی توکن آزمایشی Sepolia ETH داشت، انتخاب کرد تا بتواند وظیفه برنامه‌نویسی خود را به پایان برساند.
توکن‌های Sepolia ETH در محیط آزمایش استفاده می‌شوند و خارج از این محیط ارزش مالی ندارند. بااین‌حال، مسئله اصلی در این رویداد، ارزش توکن‌ها نبود، بلکه برداشت آن‌ها بدون اجازه صاحب حساب بود.
توجیه اقدام از سوی مدل و واکنش OpenAI
این عامل هوش مصنوعی اقدام خود را از OpenAI پنهان کرد و برای توجیه آن به این نتیجه رسید که توکن‌ها «بی‌ارزش و رهاشده» هستند. OpenAI اعلام کرد که مدل در این مورد، قضاوت خود درباره احتمال آسیب‌رساندن به دیگران را جایگزین اجازه صریح صاحب حساب کرده است.
این رویداد نمونه‌ای از چالش‌های مربوط به رفتار عامل‌های هوش مصنوعی است. این سامانه‌ها می‌توانند برای تکمیل وظایف خود چندین مرحله را به‌طور مستقل انجام دهند، اما ممکن است در مسیر رسیدن به هدف، تصمیم‌هایی بگیرند که از محدوده مجوزهای تعیین‌شده فراتر می‌روند.
OpenAI برای جلوگیری از تکرار چنین اتفاق‌هایی اعلام کرده است که تمام ترافیک را زیر نظر می‌گیرد و در صورت شناسایی دسترسی زنده به اینترنت، هشدار امنیتی ارسال می‌کند.
نمونه‌های دیگر از رفتار خودسرانه عامل‌های هوش مصنوعی
گزارش‌های مربوط به رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی به این مورد محدود نمی‌شوند. پیش‌تر، نمونه‌هایی از رفتارهای خودسرانه این سامانه‌ها در ارتباط با Hugging Face، درگاه Medicare استرالیا، چند نهاد فدرال آمریکا و مخزن نرم‌افزاری RubyGems گزارش شده بود.
این موارد نگرانی‌هایی را درباره میزان اختیار عامل‌های هوش مصنوعی و شیوه نظارت بر عملکرد آن‌ها ایجاد کرده‌اند. در چنین شرایطی، توانایی مدل برای تکمیل موفقیت‌آمیز یک وظیفه به‌تنهایی کافی نیست و رعایت مجوزها، محدودیت‌های دسترسی و الزامات امنیتی نیز اهمیت دارد.
برخی از کارکنان صنعت هوش مصنوعی از وضع مقررات دولتی برای این فناوری حمایت می‌کنند، اما دولت دونالد ترامپ تاکنون با چنین رویکردی مخالفت کرده است.