مطالعات جدید نشان داده است که در جهشی تکان‌دهنده به میزان ۸۴۰۰ درصد، هوش مصنوعی بحران سوءاستفاده جنسی از کودکان را تشدید کرده است.

باشگاه خبرنگاران جوان؛ جواد فراهانی - یک مطالعه بین‌المللی جدید نسبت به افزایش شدید تصاویر سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شده‌اند، هشدار داده است؛ آماری که تنها در عرض دو سال، بیش از ۸۴۰۰ درصد جهش داشته است.

این مطالعه نشان می‌دهد که موارد ثبت‌شده در سراسر جهان، بین سال‌های ۲۰۲۳ تا ۲۰۲۵، بیش از ۳۹۵،۳۰۰ مورد افزایش یافته است. پژوهشگران برآورد می‌کنند که سالانه بیش از ۳۰۰ میلیون کودک در معرض نوعی از سوءاستفاده یا بهره‌کشی جنسی قرار می‌گیرند که به واسطه فناوری تسهیل شده است. علاوه بر این، تخمین زده می‌شود که از هر چهار کودک، تقریباً یک نفر ممکن است پیش از رسیدن به سن ۱۸ سالگی، نوعی از آزار آنلاین را تجربه کند.

آمار‌های نگران‌کننده

این داده‌ها در قالب یک پروژه بزرگ بین‌المللی گردآوری شده‌اند که در آن کارشناسانی از «چایلدلایت» (Childlight) — یک سازمان جهانی فعال در حوزه ایمنی کودکان مستقر در دانشگاه ادینبورگ اسکاتلند — مشارکت داشته‌اند.

این سازمان گزارش داده است که موارد ارجاعی مربوط به محتوای سوءاستفاده‌آمیزِ تولیدشده توسط هوش مصنوعی — که ابتدا به شرکت‌های فناوری گزارش شده و سپس به «مرکز ملی کودکان گمشده و مورد سوءاستفاده قرار گرفته» در ایالات متحده ارجاع داده شده‌اند — از حدود ۴۷۰۰ مورد در سال ۲۰۲۳ به بیش از ۴۰۰،۰۰۰ مورد در سال ۲۰۲۵ افزایش یافته است. این محتوا شامل تصاویر «دیپ‌فیک» (جعل عمیق) است که از طریق برنامه‌های دیجیتالیِ «برهنه‌سازی» ایجاد می‌شوند؛ برنامه‌هایی که اجازه می‌دهند چهره یک کودک واقعی در عرض چند ثانیه بر روی تصاویر دارای محتوای جنسی صریح قرار گیرد.

آسیب‌های واقعی در پسِ تصاویر ساختگی

اگرچه این تصاویر ممکن است ساختگی باشند، اما پژوهشگران تأکید می‌کنند که آسیبی که به کودکان وارد می‌شود، کاملاً واقعی است؛ گاهی از این تصاویر برای اخاذی — یعنی درخواست پول یا تصاویر بیشتر — استفاده می‌شود. آنها خاطرنشان کردند که این معضل، کودکان عادی را نیز درست به همان اندازه افراد مشهور تحت تأثیر قرار می‌دهد.

با این حال، این مطالعه اشاره می‌کند که بهبود در سازوکار‌های شناسایی و گزارش‌دهی نیز ممکن است تا حدی در این جهش چشمگیر نقش داشته باشد.

پروفسور «دبی فرای»، مدیر بخش داده‌های جهانی در سازمان «چایلدلایت»، اظهار داشت: «سرعتی که هوش مصنوعی با آن تهدید‌های پیشِ روی کودکان را تغییر می‌دهد، عمیقاً نگران‌کننده است. این آمار‌ها نشان‌دهنده افزایش فوق‌العاده‌ای در گزارش‌های مربوط به محتوای سوءاستفاده جنسی از کودکان است که توسط هوش مصنوعی تولید شده‌اند؛ آن هم تنها در مدت دو سال.» پس از رسوایی مربوط به تصاویر صریح جنسی، گروک سرویس تولید تصویر خود را به حالت تعلیق درآورد.

پروفسور فرای افزود که اگرچه تشخیص و گزارش بهتر ممکن است بخشی از این افزایش را توجیه کند، اما یافته‌ها بر نیاز فوری دولت‌ها و شرکت‌های فناوری برای اقدام سریع - برای درک این اشکال جدید سوءاستفاده، جلوگیری از آنها و حذف سریع محتوای مضر - تأکید می‌کنند.

خلأ در داده‌ها

این مطالعه هشدار می‌دهد که کمبود داده‌های دولتی مانع تلاش‌ها برای پیشگیری و محافظت از کودکان می‌شود. از بین ۱۰۳ کشور و سرزمین مورد تجزیه و تحلیل، این سازمان دریافت که تنها ۲۲ کشور دارای داده‌های نماینده‌ای هستند که هم سوءاستفاده آفلاین و هم سوءاستفاده تسهیل‌شده توسط فناوری را پوشش می‌دهد.

همچنین خاطرنشان کرد که گروه‌های خاصی - از جمله کودکان دارای معلولیت، کودکان بومی، مهاجران، کودکان در محیط‌های بشردوستانه، کودکان بسیار خردسال و کسانی که در خانواده‌های خود سوءاستفاده را تجربه می‌کنند - به اندازه کافی در داده‌ها نشان داده نشده‌اند.

فراخوانی برای اقدام فوری

چایلدلایت از دولت‌ها خواسته است که سوءاستفاده و سوءاستفاده جنسی را به عنوان یک مسئله بهداشت عمومی قابل پیشگیری در نظر بگیرند، در اندازه‌گیری‌های قابل اعتماد و مداوم سرمایه‌گذاری کنند و از شواهد برای تقویت محافظت، حمایت از بازماندگان و جلوگیری از آسیب قبل از وقوع آن استفاده کنند. همچنین خواستار موارد زیر شد:

- افزایش مسئولیت‌پذیری شرکت‌های فناوری.

- تصویب قوانینی که با تهدید‌های نوظهور همگام باشند.

- آغاز تلاش‌های پیشگیرانه در سنین پایین.

نشانه‌های پیشرفت

علیرغم چالش‌ها، این مطالعه به برخی شاخص‌های مثبت، از جمله تشدید قوانین ایمنی دیجیتال در چندین کشور، بهبود نظارت و تمرکز بیشتر بر پیشگیری اشاره کرد. در این مطالعه خاطرنشان شد که اطلاعات بهتر، هماهنگی بیشتر و سرمایه‌گذاری پایدار، فرصتی را برای دولت‌ها فراهم می‌کند تا از صد‌ها میلیون کودک محافظت کنند و به ساختن آینده‌ای امن‌تر کمک کنند.

منبع: The Independent