پلیس کانادا هشدار داد که یک‌سوم پرونده‌های تحقیقاتی این نهاد در زمینه سوءاستفاده آنلاین از کودکان، اکنون شامل محتوای تولیدشده با هوش مصنوعی است؛ روندی که به گفته کارشناسان، باج‌گیری‌ جنسی از کودکان و خطر آزار آنها در دنیای واقعی را تشدید می‌کند.

پلیس جزیره پرنس ادوارد کانادا می‌گوید که افزایش قابل توجهی در محتوای سوءاستفاده جنسی از کودکان که با استفاده از هوش مصنوعی در بخش‌هایی از این استان تولید می‌شود، وجود داشته است.

متخصصان سوءاستفاده آنلاین می‌گویند که این افزایش محتوای غیرقانونی تولید شده توسط هوش مصنوعی می‌تواند تقاضا برای سوءاستفاده از کودکان در دنیای واقعی را افزایش دهد.

گزارش‌های ناظران اینترنتی حاکی از افزایش جهانی محتوای تولید شده از سوءاستفاده جنسی از کودکان توسط هوش مصنوعی است که قبلا به‌عنوان تصاویر مستهجن کودکان شناخته می‌شد.

اسکات فریس، مشاور ارشد ارتباطات پلیس جزیره پرنس ادوارد، گفت که تخمین مطمئنی وجود دارد که یک سوم تحقیقات سوءاستفاده آنلاین از کودکان توسط پلیس اکنون شامل مطالب تولید شده توسط هوش مصنوعی است.

موارد سوءاستفاده از کودکان با هوش مصنوعی در سراسر منطقه آتلانتیک در حال افزایش است.

تابستان امسال در شهر سنت جانز، یک پسر ۱۷ ساله به نزدیک به ۶۰ فقره جرم مربوط به ایجاد و توزیع مطالب سوءاستفاده جنسی از کودکان متهم شد. پلیس آمریکا می‌گوید که متهم از ابزار‌های هوش مصنوعی برای تغییر تصاویر ۱۹ کودک خردسال و انتشار آنها استفاده کرده است.

محتوای سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شده، چیست؟

پیشرفت‌های فناوری، نحوه ارتکاب جرایمِ سوءاستفاده جنسی از کودکان را به‌طور چشمگیری تغییر داده است. با وجود هوش مصنوعی، مجرمان دیگر برای تولید محتوای سوءاستفاده‌گرانه جدید، نیازی به برقراری تماس مستقیم با قربانیِ زیر سن قانونی ندارند.

اما این بدان معنا نیست که این جرایم، قربانی ندارند.

موران ماری، تحلیلگر ارشد تحقیقات در واحد خدمات تحقیقاتی حساس و تخصصی پلیس کانادا، گفت: در بسیاری از موارد، محتوای تولید شده توسط هوش مصنوعی یا برای ایجاد مطالبی از کودکی که در خانواده یا محله آن مجرم است، تولید می‌شود. این موضوع تقاضا برای این مطالب را افزایش می‌دهد و سوءاستفاده را عادی‌سازی می‌کند.

برخی از مدل‌های هوش مصنوعی مولد می‌توانند تصاویر یا ویدیو‌های سوءاستفاده‌آمیز را یا به شکل یک شخص خاص یا با تولید یک کودک مصنوعی ایجاد کنند.

برخی از مجرمان همچنین از ابزار‌های برهنه‌سازی مبتنی بر هوش مصنوعی برای ایجاد جعل عمیق (دیپ‌فیک) صریح، یعنی تصاویر یا ویدیو‌های جعلی واقع‌گرایانه از یک قربانی، استفاده می‌کنند.

ماری اظهار کرد: هر کسی می‌تواند به عکس‌هایی دسترسی داشته باشد که به صورت آنلاین منتشر می‌شوند. عملا هیچ محدودیتی برای آنچه می‌توان تولید کرد وجود ندارد. اگر ترجیحات جنسی مجرمان دختران جوان باشد، دیگر نیازی به صرف وقت برای جست‌وجوی آن ترجیح به صورت آنلاین ندارند. آنها می‌توانند به سادگی آن را ایجاد کنند.

مدل‌های هوش مصنوعی مولد جریان اصلی در ظاهر دارای تدابیر سختگیرانه‌ای هستند که برای جلوگیری از تولید هرگونه محتوای سوءاستفاده از کودک طراحی شده‌اند و تخلف‌های تایید شده سپس به مجریان قانون گزارش می‌شوند.

اما مجرمان برای دور زدن این کنترل‌ها به‌طور معمول به نرم‌افزار‌های متن‌باز رایگان برای تولید رسانه‌های سوءاستفاده‌گر به صورت آفلاین متکی هستند، جایی که تشخیص آن بسیار دشوارتر است.

از آنجایی که این مدل‌ها به‌طور معمول بدون اتصال به اینترنت استفاده می‌شوند، ردیابی هرگونه محتوای سوءاستفاده‌گرانه‌ای که تولید می‌کنند می‌تواند برای پلیس بسیار دشوار باشد.

کارشناسان هشدار می‌دهند که استفاده از مدل‌های هوش مصنوعی مولد به این روش می‌تواند به سوءاستفاده بیشتر در دنیای واقعی منجر شود.

باج‌گیری‌ جنسی

پلیس شهر سامرساید کانادا گزارش داد که دست‌کم یک مورد در سال ۲۰۲۶ وجود داشته که یک مظنون از محتوای سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی در تلاش برای باج‌گیری‌ جنسی استفاده کرده است.

باج‌گیری‌ جنسی نوعی باج‌گیری آنلاین است که در آن، مجرمان با تهدید به انتشار تصاویر یا ویدیو‌های حساس، قربانیان را وادار می‌کنند تا برای آنها پول بفرستند یا محتوای جنسی (تصویری یا ویدیویی) ارسال کنند.

ژاک مارکو، مدیر تحقیقات مرکز حفاظت از کودکان کانادا، اظهار کرد که در موارد باج‌گیری‌ جنسی، استفاده از محتوای تولیدشده یا دستکاری‌شده توسط هوش مصنوعی رو به افزایش است.

مارکو گفت: به‌جای اینکه مجرمان سعی کنند کودک را فریب دهند تا تصویری خصوصی از خود برایشان بفرستد، به‌سادگی با استفاده از هوش مصنوعی چنین تصویری را خلق می‌کنند. سپس مجرمان با ادعای واقعی بودن این تصاویر، قربانی را تهدید می‌کنند که آنها را در فضای آنلاین منتشر خواهند کرد.

گاوین مور، مسئول روابط رسانه‌ای پلیس کانادا (RCMP) در استان جزیره پرنس ادوارد، اعلام کرد که سال گذشته ۲۶ مورد باج‌گیری‌ جنسی در مناطق تحت حوزه قضایی این پلیس در این جزیره گزارش شده است.