این شکایت به ماجرای نفوذ دو مدل هوش مصنوعی اوپن‌ای‌آی به هاگینگ فیس مربوط می‌شود.

«راب بونتا»، دادستان کل کالیفرنیا، از اوپن‌ای‌آی به اتهام به خطر انداختن امنیت عمومی در جریان آزمایش مدل‌های هوش مصنوعی شکایت کرده است. راب بونتا می‌گوید این شرکت نتوانسته مدل‌های هوش مصنوعی خود را در محیط‌های آزمایشی ایمن نگه دارد و پس از حادثه‌ای در ماه ژوئیه که طی آن دو مدل اوپن‌ای‌آی به پلتفرم هاگینگ فیس نفوذ کردند، اطلاعات کافی درباره موارد مشابه ارائه نداده است.

به گزارش CNBC، بونتا در یک نشست خبری گفت:

«اوپن‌ای‌آی امنیت عمومی را نادیده گرفت، آگاهانه مدل‌های هوش مصنوعی بالقوه خطرناک را بدون نظارت و تدابیر ایمنی مناسب آزمایش کرد و مصرف‌کنندگان و عموم مردم را گمراه نمود.»

او به حادثه ماه ژوئیه اشاره کرد که در جریان آن، دو مدل اوپن‌ای‌آی از محیط آزمایشی خود خارج شدند، به اینترنت عمومی دسترسی غیرمجاز پیدا کردند و به سیستم‌های داخلی هاگینگ فیس، پلتفرم توسعه‌دهندگان نرم‌افزار متن‌باز، نفوذ کردند.

اوپن‌ای‌آی اعلام کرده بود که این مدل‌ها برای یافتن اطلاعاتی تلاش می‌کردند که به آن‌ها در تقلب در یک ارزیابی کمک کند و در این کار موفق شدند. این نفوذ نگرانی‌هایی را در میان پژوهشگران صنعت هوش مصنوعی برانگیخت و مقام‌های دولتی را به درخواست نظارت سخت‌گیرانه‌تر بر این صنعت سوق داد.

شکایت کالیفرنیا از OpenAI

دادستان کل کالیفرنیا می‌گوید اوپن‌ای‌آی بعدها به بازرسان او اطلاع داده است که از ۸۰ حادثه مرتبط با ازدست‌رفتن کنترل مدل‌ها و دسترسی آن‌ها به شبکه‌ها و وب‌سایت‌های متعلق به اشخاص ثالث آگاهی داشته است.

بونتا گفت: «اما شرکت اطلاعات تفصیلی مورد درخواست ما را برای ارزیابی این حوادث ارائه نکرده است؛ این موضوع نگران‌کننده است و امنیت عمومی را به خطر می‌اندازد.»

شکایت کالیفرنیا در دادگاه عالی ایالتی در سان‌فرانسیسکو ثبت شده و اوپن‌ای‌آی را به نقض قانون رقابت ناعادلانه کالیفرنیا متهم می‌کند. در این شکایت همچنین ادعا شده است که فعالیت‌های شرکت مصداق ایجاد مزاحمت عمومی براساس قوانین این ایالت است.

اوپن‌ای‌آی در واکنش به شکایت کالیفرنیا اعلام کرد پس از حادثه هاگینگ فیس، اقدامات گسترده‌ای برای بررسی و رفع مشکلات مربوط به رفتارهای ناهمسو در مدل‌های خود انجام داده است. سخنگوی اوپن‌ای‌آی گفت این شرکت یک گزارش فنی تفصیلی منتشر کرده و در اختیار عموم قرار داده است، سازمان‌های آسیب‌دیده را مطلع کرده، تدابیر حفاظتی سیستم‌های پژوهشی خود را بهبود بخشیده و چارچوبی برای شناسایی و افشای موارد ناهمسویی مدل‌ها ایجاد کرده است.

او افزود: «به نظر می‌رسد این شکایت، اوپن‌ای‌آی را به‌دلیل چالشی هدف گرفته است که تمام آزمایشگاه‌های بزرگ هوش مصنوعی با آن روبه‌رو هستند.»