وقتی یک مدل هوش مصنوعی نتوانست توکن‌های آزمایشی موردنیاز برای انجام مأموریتش را پیدا کند، با محاسبه عبارت‌های بازیابی رایج، به دنبال کیف پولی آسیب‌پذیر گشت. چند سال پیش، تیترهایی درباره توسل هوش مصنوعی به هک برای تکمیل یک مأموریت، بیشتر شبیه داستان‌های علمی‌تخیلی به نظر می‌رسیدند. اما امروز چنین اتفاقاتی به بخشی از واقعیت
وقتی یک مدل هوش مصنوعی نتوانست توکن‌های آزمایشی موردنیاز برای انجام مأموریتش را پیدا کند، با محاسبه عبارت‌های بازیابی رایج، به دنبال کیف پولی آسیب‌پذیر گشت.
چند سال پیش، تیترهایی درباره توسل هوش مصنوعی به هک برای تکمیل یک مأموریت، بیشتر شبیه داستان‌های علمی‌تخیلی به نظر می‌رسیدند. اما امروز چنین اتفاقاتی به بخشی از واقعیت دنیای فناوری تبدیل شده‌اند و طی ماه‌های اخیر نیز نمونه‌های متعددی از رفتارهای مشابه گزارش شده. به نظر می‌رسد روند رفتارهای خارج از کنترل هوش مصنوعی همچنان ادامه دارد؛ چراکه اکنون مشخص شده اوپن‌ای‌آی با موردی مواجه شده که در آن یک مدل تحقیقاتی داخلی برای تأمین منابع موردنیاز خود، دست به سرقتی محدود زده است.
مدل هوش مصنوعی چگونه به سراغ کیف پول رمزارزی رفت؟
اوپن‌ای‌آی در گزارش مربوط به این رویداد، جزئیات رفتار مدلی را شرح داده که در ماه ژوئن گذشته وظیفه‌ای مرتبط با رمزارزها بر عهده داشت. این مأموریت روی شبکه آزمایشی سپولیا (Sepolia) در بلاکچین اتریوم انجام می‌شد. مدل به کیف پول اختصاصی یا دارایی مالی مشخصی دسترسی نداشت تا بتواند عملیات موردنظر را اجرا کند، اما انتظار می‌رفت توکن‌های آزمایشی موردنیاز خود را از طریق شبکه به دست آورد و کارش را ادامه دهد. با این حال، ماجرا برخلاف انتظار پیش رفت.
مدل به‌جای آنکه راهی برای استقرار یک قرارداد آزمایشی پیدا کند، ابتدا تصمیم گرفت منابع موردنیازش را تأمین کند. برای رسیدن به این هدف، مجموعه‌ای از عبارت‌های بازیابی رایج مورد استفاده توسعه‌دهندگان را محاسبه کرد و با بررسی آن‌ها توانست حسابی را شناسایی کند که موجودی کافی برای تکمیل مأموریت در اختیار داشت.
اوپن‌ای‌آی بخش‌هایی از استدلال داخلی این مدل را منتشر کرده است که نشان می‌دهد سامانه حتی درباره درست یا نادرست بودن اخلاقی اقداماتش پرسش‌هایی مطرح کرده بود. با این حال، مدل تقریباً بلافاصله رفتار خود را توجیه کرد و به این نتیجه رسید که در واقع با داده‌های در دسترس عموم سروکار دارد و هرگونه دارایی پیدا‌شده در کیف پول‌ها از این طریق را می‌توان عملاً رهاشده در نظر گرفت.
مدل پس از آنکه از نظر خودش برای این اقدام توجیه اخلاقی پیدا کرد، کار را ادامه داد. این سامانه ابتدا بر چند مانع فنی دیگر برای استفاده از کیف پول هک‌شده غلبه کرد و سرانجام موفق شد قرارداد موردنظرش را اجرا کند. در این فرایند، هزینه‌های تراکنش نیز از موجودی همان حساب آسیب‌دیده پرداخت شد.
رفتار نگران‌کننده هوش مصنوعی و دور زدن محدودیت‌ها
البته این اتفاق در مقایسه با سناریویی که یک هوش مصنوعی برای خودش چند پردازنده گرافیکی جدید سفارش دهد، شاید چندان جنجالی به نظر نرسد؛ اما همچنان نمونه‌ای از عبور جدی از مرزهای مجاز به شمار می‌رود. توسعه‌دهندگان هوش مصنوعی به‌طور فعال در تلاش‌اند احتمال بروز چنین رفتارهایی را کاهش دهند و مانع از آن شوند که مدل‌ها برای رسیدن به اهداف تعیین‌شده، به روش‌های غیرمجاز متوسل شوند.
با وجود اینکه تقریباً هر بار با معرفی یک مدل جدید، شرکت‌های سازنده از پیاده‌سازی تازه‌ترین و پیشرفته‌ترین تدابیر امنیتی برای جلوگیری از چنین اتفاقاتی خبر می‌دهند، هوش مصنوعی همچنان راه‌های تازه‌ای برای عبور از محدودیت‌ها پیدا می‌کند. اگر این رویداد یک نکته را به‌روشنی نشان داده باشد، توانایی چشمگیر این سامانه‌ها در شناسایی حفره‌ها و سوءاستفاده از خلأهای موجود در قواعد و محدودیت‌هاست.