گسترش ویدئو‌ها و صدا‌های جعلی با استفاده از هوش مصنوعی، علاوه بر فریب مخاطبان، اعتماد عمومی به مسئولان و نهاد‌ها را هدف گرفته است.
باشگاه خبرنگاران جوان - جعل صدا و تصویر چهره‌هایی مانند سردار رادان و سرلشکر شهید موسوی، نمونه‌ای از سوءاستفاده از هوش مصنوعی برای تولید محتوای سیاسی و تخریب اعتماد عمومی است. پژوهشی با مشارکت ۳۳۵ نفر در آمریکا و هلند نشان داده مواجهه با ویدئو‌های جعلی، حتی با وجود تشخیص جعلی بودن آنها، حمایت از سیاستمداران هدف را کاهش می‌دهد و راستی‌آزمایی نیز این اثر را کاملاً از بین نمی‌برد.
با وجود گسترش این تهدید، قانون جرائم رایانه‌ای در ایران مصوب سال ۱۳۸۸ است و آخرین اصلاح آن به سال ۱۴۰۳ بازمی‌گردد. لایحه مقابله با اخبار جعلی نیز مرداد سال گذشته از مجلس پس گرفته شد؛ این در حالی است که مرکز رسانه قوه قضاییه، جعل صدا و تصویر را از ابزار‌های جنگ ترکیبی و عملیات روانی دشمن دانسته است.