آزمایش‌ها می‌گویند مدل‌های هوش مصنوعی ممکن است با قاب‌بندی جنگ به‌عنوان بازی، محدودیت‌های ایمنی را دور بزنند و غیرنظامیان را هدف تشخیص دهند.

فهرست مطالب

یک گزارش پژوهشی نشان می‌دهد مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری ممکن است با قرار گرفتن در موقعیت‌های فرضی جنگی، محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را نیز به‌عنوان اهداف احتمالی شناسایی کنند.

به گزارش سرویس هوش مصنوعی تک‌ناک، شرکت Vals که در زمینه ارزیابی هوش مصنوعی فعالیت می‌کند، مدل‌های OpenAI، Anthropic، گوگل و DeepSeek را با استفاده از تصاویر واقعی و شبیه‌سازی‌شده از اوکراین و ایران آزمایش کرد. هدف این پژوهش بررسی توانایی مدل‌ها در شناسایی اهداف از تصاویر پهپادی و ماهواره‌ای و احتمال استفاده از آن‌ها در جنگ خودکار بود.

شناسایی غیرنظامیان و مدارس به‌عنوان اهداف احتمالی

تصویر مربوط به خطر هوش مصنوعی در جنگ

نتایج آزمایش نشان داد مدل‌های مختلف بارها افراد غیرنظامی و حتی سربازان تسلیم‌شده را به‌عنوان اهداف احتمالی شناسایی کردند. نکته نگران‌کننده این بود که پژوهشگران توانستند با معرفی میدان جنگ به‌عنوان محیط یک بازی، پاسخ مدل‌هایی را که ابتدا از همکاری خودداری می‌کردند، تغییر دهند.

طبق گزارش Vals، هیچ‌یک از درخواست‌های آزمایش‌شده توسط سامانه‌های ایمنی مسدود نشدند و خودداری مدل‌ها از پاسخ‌گویی نیز چندان رایج نبود.

یکی از نمونه‌های مهم آزمایش، تصاویر ماهواره‌ای مدرسه‌ای در ایران بود که در فوریه ۲۰۲۶ هدف حمله آمریکا قرار گرفت و بیش از ۱۵۰ غیرنظامی در آن کشته شدند. مدل Claude Opus 5.5 در ۶۹ درصد آزمایش‌های معمول و ۷۲ درصد آزمایش‌هایی که با چارچوب بازی انجام شدند، این مدرسه را هدف احتمالی حمله تشخیص داد.

پژوهشگران تأکید کردند مدل‌ها مستقیماً برای تصمیم‌گیری درباره حمله آزمایش نشدند، اما اطلاعات تولیدشده از سوی آن‌ها می‌تواند در اختیار سامانه‌های تسلیحاتی خودکار قرار بگیرد.

واکنش OpenAI و Anthropic به خطرات نظامی هوش مصنوعی

این گزارش در شرایطی منتشر شده که اختلاف Anthropic با وزارت دفاع آمریکا درباره کاربرد نظامی هوش مصنوعی ادامه دارد. این شرکت پیش‌تر با استفاده از فناوری خود برای نظارت گسترده بر شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده بود.

سخنگوی Anthropic اعلام کرد نمونه‌های مطرح‌شده در گزارش با سیاست‌های این شرکت مغایرت دارند و این شرکت حساب‌های متخلف را مسدود می‌کند. Anthropic همچنین از توسعه تدابیر حفاظتی بیشتر خبر داد.

سخنگوی OpenAI نیز گفت استفاده از مدل‌های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تأییدنشده ممنوع است. این شرکت در حال توسعه ابزارهای حفاظتی بیشتری برای جلوگیری از سوءاستفاده مرتبط با پهپادها و نرم‌افزارهای آن‌هاست.

پژوهشگران Vals معتقدند یکی از نگرانی‌های جدی‌تر، استفاده از هوش مصنوعی برای دسته‌بندی گسترده تصاویر میدان نبرد و تولید داده‌های آموزشی برای سامانه‌های خودکار هدف‌گیری است. آن‌ها همچنین تأکید کردند محدودیت‌های فنی مانند تأخیر پردازش و توان محاسباتی محدود پهپادها، استفاده مستقیم از مدل‌های عمومی برای هدف‌گیری زنده را دشوار می‌کند.

در همین حال، گزارش سرویس پژوهشی کنگره آمریکا نشان می‌دهد مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل‌های پیشرفته هوش مصنوعی در سامانه‌های تسلیحاتی خودکار وجود ندارد.