یک مدل هوش مصنوعی متعلق به شرکت آنتروپیک، گزارشی نادرست درباره یک پرونده قتل حل‌نشده به پلیس فیلادلفیا ارسال کرد. این اتفاق نگرانی‌هایی را درباره خطرهای واگذاری اختیار انجام اقدامات مستقل به سامانه‌های هوش مصنوعی بدون نظارت انسانی برانگیخته است. بر اساس گزارش‌ها، این مدل در ۱۸ ژوئیه ۲۰۲۶ اطلاعات نادرستی را از طریق سامانه
یک مدل هوش مصنوعی متعلق به شرکت آنتروپیک، گزارشی نادرست درباره یک پرونده قتل حل‌نشده به پلیس فیلادلفیا ارسال کرد. این اتفاق نگرانی‌هایی را درباره خطرهای واگذاری اختیار انجام اقدامات مستقل به سامانه‌های هوش مصنوعی بدون نظارت انسانی برانگیخته است.
بر اساس گزارش‌ها، این مدل در ۱۸ ژوئیه ۲۰۲۶ اطلاعات نادرستی را از طریق سامانه عمومی دریافت گزارش‌های پلیس فیلادلفیا ارسال کرد. با این حال، آنتروپیک تا ۲۸ سپتامبر از این رفتار مطلع نشد. پلیس نیز گزارش ارسالی را مشاهده نکرده بود، زیرا سامانه آن را به‌عنوان هرزنامه شناسایی کرده بود.
آنتروپیک روز چهارشنبه پلیس فیلادلفیا را از این اتفاق آگاه کرد و روز بعد نیز نشستی با مسئولان این اداره برگزار کرد. اداره پلیس فیلادلفیا در بیانیه‌ای به شبکه خبری 6abc گفت:
این شرکت باید تدابیر حفاظتی خود را تقویت کند تا از تکرار چنین اتفاقاتی و تأثیرگذاری سامانه‌هایش بر زیرساخت‌های شهری بدون اطلاع مسئولان جلوگیری شود. تأخیر دوماهه در شناسایی این حادثه و اطلاع‌رسانی درباره آن به شهر غیرقابل‌قبول است.
آنتروپیک بلافاصله به درخواست برای اظهارنظر پاسخ نداد، اما اداره پلیس فیلادلفیا در اطلاعیه‌ای که از طریق ایمیل برای وب‌سایت تک‌کرانچ ارسال شد، جزئیات بیشتری از این حادثه ارائه کرد. پلیس فیلادلفیا در این اطلاعیه گفت:
به گفته آنتروپیک، مدل این شرکت در حال انجام آزمایشی درباره تعامل با وب‌سایت‌هایی بود که به‌صورت تصادفی انتخاب می‌شدند. در جریان این آزمایش، مدل وارد وب‌سایت PhillyUnsolvedMurders.com شد و اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده ارسال کرد. این گزارش در تاریخ ۱۸ ژوئیه ۲۰۲۶، ساعت ۱۱:۲۷ شب ثبت شده بود و ظاهراً از طرف فردی ارسال شده بود که ادعا می‌کرد ممکن است اطلاعاتی درباره این پرونده داشته باشد.
نگرانی‌ها درباره عملکرد مستقل هوش مصنوعی
با گسترش دسترسی کاربران به عامل‌های هوش مصنوعی خودمختار، این حادثه خطرهای اعطای اختیار انجام اقدامات بدون نظارت انسانی را برجسته می‌کند. چنین سامانه‌هایی ممکن است بدون دخالت مستقیم انسان با وب‌سایت‌ها تعامل داشته باشند یا اقداماتی انجام دهند که پیامدهای واقعی و ناخواسته‌ای به دنبال دارد.
داریو آمودی، مدیرعامل آنتروپیک، بارها بر ضرورت کاهش سرعت توسعه هوش مصنوعی تأکید کرده است تا شرکت‌های فعال در این حوزه فرصت کافی برای ایجاد سازوکارهای حفاظتی مناسب داشته باشند. احتمال دارد مشاهده رفتارهای پیش‌بینی‌نشده در ابزارهای شرکت خودش، از جمله ارسال گزارش نادرست درباره یک پرونده قتل، اهمیت این نگرانی‌ها را برای او بیش از پیش آشکار کرده باشد.
البته این مشکلات تنها به آنتروپیک محدود نمی‌شوند. شرکت اوپن‌ای‌آی نیز اخیراً فاش کرد که یکی از مدل‌هایش در جریان یک آزمایش رفتاری غیرمنتظره از خود نشان داده و به پلتفرم مجموعه‌داده‌های هوش مصنوعی هاجینگ فیس نفوذ کرده است. این اتفاق آسیب‌پذیری‌های مهمی را در نرم‌افزار این پلتفرم آشکار کرد.
با افزایش دسترسی مدل‌های هوش مصنوعی به رایانه‌های کاربران و اطلاعات ورود به حساب‌های کاربری، احتمال تداوم چنین مشکلاتی نیز وجود دارد؛ به‌ویژه زمانی که این ابزارها بدون محدودیت‌های کافی اجازه انجام اقدامات مستقل را دریافت می‌کنند.
اداره پلیس فیلادلفیا در ادامه بر اهمیت انسانی پرونده‌های حل‌نشده تأکید کرد و گفت:
پرونده‌های حل‌نشده به قربانیان واقعی، خانواده‌های داغدار و بازپرس‌هایی مربوط می‌شوند که برای یافتن پاسخ و کشف حقیقت تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم و مناسب را برای جلوگیری از ارسال اطلاعات نادرست به نهادهای مجری قانون از سوی سامانه‌های خود انجام دهند.
پلیس فیلادلفیا همچنین اعلام کرد که آنتروپیک قصد دارد روز جمعه گزارشی منتشر کند که اطلاعات بیشتری درباره این حادثه و سایر موارد رفتار ناخواسته مدل‌های هوش مصنوعی ارائه خواهد داد.