فهرست مطالب
متا ابزارهای جدید هوش مصنوعی را برای شناسایی تبلیغات مشکوک، حساب‌های متخلف و محتوای سوءاستفاده جنسی از کودکان در پلتفرم‌های خود معرفی کرد.
به گزارش سرویس شبکه های اجتماعی تک‌ناک،به گفته متا، سیستم‌های این شرکت بیش از ۹۷ درصد از محتوایی را که علیه آن اقدام کرده، پیش از گزارش کاربران شناسایی کرده‌اند. در هند نیز متا در همین بازه زمانی علیه ۵.۳ میلیون مورد از محتوای بهره‌کشی جنسی از کودکان اقدام کرده است که بیش از ۹۸ درصد آن پیش از گزارش کاربران شناسایی شده بود.
هوش مصنوعی متا مقصد تبلیغات را هم بررسی می‌کند
متا اعلام کرد ابزارهای جدید هوش مصنوعی این شرکت افرادی را هدف قرار می‌دهند که از تبلیغات ظاهراً بی‌ضرر برای هدایت کاربران به محتوای غیرقانونی خارج از پلتفرم‌های متا استفاده می‌کنند.
این شرکت یک سامانه مبتنی بر مدل زبانی بزرگ (LLM) جدید معرفی کرده است که برای شناسایی آنچه متا «نشانه‌گذاری مسیر» یا «signposting» می‌نامد، به کار می‌رود. منظور از این اصطلاح، تبلیغاتی است که ممکن است در ظاهر عادی باشند، اما احتمال دارد کاربران را به محتوای غیرقانونی یا فعالیت‌های مخرب دیگر در بخش‌های دیگر اینترنت هدایت کنند.
متا می‌گوید اخیراً این روش را در فعالیت افراد مخرب مشاهده کرده است، زیرا این افراد برای فرار از شناسایی، روش‌های خود را دائماً تغییر می‌دهند.
اگرچه ممکن است خود تبلیغات حاوی محتوای غیرقانونی نباشند، اما همچنان می‌توانند به‌عنوان دروازه‌ای به وب‌سایت‌هایی عمل کنند که محتوای سوءاستفاده جنسی از کودکان را میزبانی می‌کنند.
به همین دلیل، متا اعلام کرده است که اکنون مقصدی را که یک تبلیغ کاربران را به آن هدایت می‌کند نیز بررسی می‌کند و فقط به محتوای خود تبلیغ توجه ندارد. این شرکت می‌تواند بر اساس این اطلاعات، وب‌سایت‌ها یا مقصدهای دیگری را که قوانینش را نقض می‌کنند مسدود کند و علیه حساب‌های مرتبط با آن‌ها اقدام کند.
ابزارهای جدید متا برای شناسایی و پیشگیری از سوءاستفاده
متا همچنین از اسکن‌های بیشتر مبتنی بر هوش مصنوعی برای شناسایی محتوای بهره‌کشی از کودکان استفاده می‌کند که ممکن است سامانه‌های قبلی آن را شناسایی نکرده باشند. این شرکت اعلام کرده است که با شناخت بیشتر نحوه فعالیت این شبکه‌ها، سیگنال‌های جدیدی را نیز به سامانه‌های شناسایی خود اضافه خواهد کرد.
یکی دیگر از ابزارهای جدید متا، یک «عامل هوش مصنوعی ردتیمینگ» است که اقدامات ایمنی خود شرکت را آزمایش می‌کند. این عامل به‌دنبال نقاط ضعفی می‌گردد که افراد مخرب می‌توانند برای دور زدن سازوکارهای حفاظتی متا از آن‌ها استفاده کنند. متا می‌گوید این روش می‌تواند به شناسایی شیوه‌های جدید سوءاستفاده پیش از رواج بیشتر آن‌ها کمک کند.
این شرکت همچنین سامانه‌های خود را برای شناسایی افرادی که پس از حذف حساب قبلی، با حساب‌های جدید به پلتفرم‌های متا بازمی‌گردند، بهبود داده است.
فشارهای قانونی بر متا برای حفاظت از کودکان
اقدامات جدید متا در شرایطی انجام می‌شود که این شرکت همچنان با فشارهای فزاینده‌ای درباره ایمنی کودکان در پلتفرم‌های خود مواجه است. متا در سال‌های اخیر با شکایت‌های قضایی و انتقاد قانون‌گذاران درباره خطرات احتمالی سرویس‌های شبکه اجتماعی خود برای کاربران کم‌سن‌وسال روبه‌رو بوده است.
متا در ماه اوت به توافقی برای پرداخت حداکثر ۱۸ میلیارد دلار جهت حل‌وفصل یک پرونده مرتبط با ایمنی کودکان دست یافت که ۲۹ ایالت آمریکا در آن حضور داشتند. این توافق به نگرانی‌های مطرح‌شده درباره حفاظت از کودکان در فضای آنلاین مربوط می‌شود.
متا امسال چند قابلیت دیگر برای افزایش ایمنی کودکان معرفی کرده است که از جمله آن‌ها می‌توان به کنترل‌های والدین برای Meta AI، حساب‌های مخصوص پیش‌نوجوانان در واتساپ و هشدار به والدین هنگام جست‌وجوی محتوای مرتبط با خودآزاری در اینستاگرام اشاره کرد.
واتساپ نیز در ماه سپتامبر کنترل‌های بیشتری را برای والدین اضافه کرد. والدین می‌توانند نحوه استفاده نوجوانان از Channels را محدود کنند، مشخص کنند چه افرادی قادر به مشاهده به‌روزرسانی‌های وضعیت فرزندانشان باشند و تعیین کنند چه کسانی می‌توانند فرزندانشان را به گروه‌ها اضافه کنند. والدین همچنین می‌توانند دریافت اعلان درباره برخی فعالیت‌های گروهی را فعال کنند.