به گزارش خبرنگار مهر، تصور کنید ویدئویی در شبکه‌های اجتماعی منتشر می‌شود که در آن یک فرد، سخنی جنجالی بر زبان می‌آورد؛ صدایی که به‌خوبی با صدای واقعی او مطابقت دارد و حرکات چهره‌اش نیز طبیعی به نظر می‌رسد. چند ساعت بعد، ویدئو دست‌به‌دست می‌شود، کاربران درباره آن موضع می‌گیرند و حتی ممکن است موقعیت شغلی یا اجتماعی آن فرد به خطر بیفتد. اما بعد مشخص می‌شود که نه آن سخن گفته شده و نه آن صحنه واقعیت داشته است؛ همه‌چیز با هوش مصنوعی ساخته شده است.
این فناوری که به «دیپ‌فیک» یا جعل عمیق شهرت یافته، امکان تولید یا دست‌کاری تصویر، صدا و ویدئو را به شکلی فراهم کرده است که تشخیص محتوای واقعی از جعلی، گاه حتی برای مخاطبان باتجربه دشوار می‌شود. چهره فردی را می‌توان بر بدن دیگری نشاند، صدای او را برای بیان جمله‌ای ساختگی شبیه‌سازی کرد یا صحنه‌ای تولید کرد که هرگز اتفاق نیفتاده است. مسئله فقط پیشرفت ابزارهای تصویری نیست؛ پرسش اصلی این است که وقتی فناوری امکان جعل واقعیت را فراهم می‌کند، مسئولیت اخلاقی و شرعی تولیدکننده و منتشرکننده آن چیست؟
از منظر فقه اسلامی، نمی‌توان همه کاربردهای این فناوری را یکسان دانست. ساخت تصویر مصنوعی برای یک اثر هنری، بازسازی آموزشی یک رویداد تاریخی، تقلید صدای فرد برای شوخی، جعل سخن او با هدف فریب یا تولید محتوای تحقیرآمیز، وضعیت‌های متفاوتی هستند. حکم هر مورد به موضوع، هدف، شیوه اجرا، رضایت اشخاص، محتوای تولیدشده و پیامدهای آن وابسته است. با این حال، یک اصل روشن است: جدیدبودن ابزار به معنای کناررفتن معیارهای شرعی درباره دروغ، فریب، تهمت، هتک حرمت و تضییع حقوق مردم نیست.
وقتی فناوری به جای واقعیت سخن می‌گوید
دیپ‌فیک را باید از هر نوع تصویرسازی یا ویرایش ساده متمایز کرد. در ویرایش معمولی ممکن است نور، رنگ یا کیفیت یک تصویر تغییر کند، اما در جعل عمیق، فناوری می‌تواند رفتار، گفتار یا حضور شخصی را شبیه‌سازی کند و رویدادی غیرواقعی را به شکل یک سند ظاهراً معتبر ارائه دهد. به همین دلیل، خطر اصلی همیشه خود تصویر یا صدا نیست؛ گاهی مسئله، انتساب یک رفتار یا سخن ساختگی به فردی واقعی است.
برای مثال، ساخت ویدئویی طنزآمیز از یک شخصیت خیالی، با تولید ویدئویی که در آن یک فرد واقعی ظاهراً به ارتکاب جرم اعتراف می‌کند، تفاوت اساسی دارد. در حالت نخست، اگر محتوا برای مخاطب روشن و فاقد محتوای ممنوع باشد، ممکن است مسئله عمدتاً به قواعد عمومی تصویرسازی و هنر مربوط شود. در حالت دوم، محتوای ساختگی می‌تواند به ابزار فریب، تخریب آبرو یا ایجاد اتهام تبدیل شود.
همین تفاوت نشان می‌دهد که بررسی فقهی دیپ‌فیک نباید فقط بر این پرسش متمرکز شود که «آیا ساخت تصویر با هوش مصنوعی جایز است؟» پرسش دقیق‌تر آن است که چه تصویری، از چه شخصی، با چه هدفی، در چه زمینه‌ای و با چه ادعایی تولید و منتشر می‌شود. ممکن است اصل تولید یک تصویر مصنوعی اشکال مستقلی نداشته باشد، اما استفاده از همان تصویر برای فریب مردم یا انتساب سخنی دروغ به یک شخص، عنوان دیگری پیدا کند.
در پژوهشی با عنوان «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهم‌السلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری»، امیر طاها جوادی‌منش به‌طور خاص به شبیه‌سازی چهره و صدای پیامبر اکرم(ص) و ائمه اطهار(ع) پرداخته است. این پژوهش، میان ارائه محتوای مصنوعی به‌عنوان چهره یا صدای واقعی و استفاده هنری یا آموزشی همراه با اعلام صریح مصنوعی‌بودن آن تفاوت می‌گذارد. هرچند موضوع مقاله به‌طور ویژه درباره معصومان است، مسئله‌ای گسترده‌تر را نیز به یاد می‌آورد: مخاطب باید بداند با سند واقعی روبه‌روست یا بازنمایی ساخته‌شده به کمک فناوری. [۱]
از دروغ تا تهمت؛ عنوان شرعی را باید دقیق شناخت
یکی از مهم‌ترین مبانی بررسی دیپ‌فیک، مسئله صدق و کذب است. اگر فردی با استفاده از هوش مصنوعی ویدئویی بسازد که در آن شخص دیگری جمله‌ای را می‌گوید که هرگز بر زبان نیاورده، سپس آن را به‌عنوان ویدئوی واقعی منتشر کند، محتوایی خلاف واقع را به مخاطب عرضه کرده است. اگر این کار با هدف گمراه‌کردن دیگران انجام شود، مسئله از یک تجربه فنی فراتر می‌رود و با فریب و دروغ ارتباط پیدا می‌کند.
بااین‌حال، هر تصویر مصنوعی الزاماً دروغ نیست. فیلمی داستانی که بازیگر در آن نقش یک شخصیت تاریخی را ایفا می‌کند، یا بازسازی دیجیتالی یک رویداد که به‌روشنی به‌عنوان بازسازی معرفی می‌شود، لزوماً ادعای ثبت واقعیت ندارد. مشکل زمانی پدید می‌آید که مرز میان بازنمایی و واقعیت عمداً مخدوش شود؛ به‌گونه‌ای که مخاطب تصور کند یک سخن، رفتار یا رویداد واقعاً رخ داده است.
در اینجا باید میان چند عنوان نیز تفاوت گذاشت. دروغ به بیان یا ارائه مطلب خلاف واقع مربوط می‌شود؛ تهمت و افترا، بسته به تعریف فقهی و شرایط هر مورد، به نسبت‌دادن ناروا و خلاف واقع به دیگری ارتباط دارند؛ غیبت شرایط خاص خود را دارد و هر سخن منفی یا محتوای جعلی را نمی‌توان بی‌درنگ مصداق آن دانست؛ هتک حرمت نیز به رفتارهایی مربوط می‌شود که شأن و آبروی فرد را خدشه‌دار می‌کنند. یک ویدئوی جعلی ممکن است با توجه به شرایط، با یک یا چند مورد از این عناوین ارتباط پیدا کند، اما تعیین عنوان دقیق نیازمند بررسی جزئیات است.
برای نمونه، اگر صدای فردی جعل شود تا وانمود کند از گروهی حمایت کرده است، ممکن است هدف، فریب مخاطبان باشد. اگر همان فناوری برای ساخت اعترافی ساختگی به ارتکاب جرم به کار رود، خطر لطمه به آبرو و ایجاد اتهام ناروا نیز مطرح می‌شود. اگر محتوای جعلی با هدف تحقیر یا تمسخر تولید شود، مسئله هتک حرمت می‌تواند اهمیت پیدا کند. بنابراین، تحلیل شرعی باید از نام‌گذاری شتاب‌زده پرهیز کند و رفتار، قصد، محتوا و پیامد را در کنار یکدیگر بسنجد.
رضایت صاحب چهره یا صدا کافی است؟
ممکن است گفته شود اگر فردی با شبیه‌سازی چهره یا صدای خود موافق باشد، دیگر مسئله شرعی وجود ندارد. رضایت، در بسیاری از موقعیت‌ها، عامل مهمی است؛ اما نمی‌توان آن را مجوزی مطلق برای هر نوع محتوای مصنوعی دانست.
فرض کنید فردی به یک گروه تولید محتوا اجازه می‌دهد صدایش برای ساخت یک اثر طنز استفاده شود. آیا این رضایت شامل ساخت سخنی می‌شود که به‌ظاهر از او صادر شده و ممکن است مخاطبان آن را اعتراف واقعی به یک رفتار مجرمانه تلقی کنند؟ آیا اجازه استفاده از چهره در یک اثر هنری، خودبه‌خود اجازه انتشار همان تصویر در تبلیغی فریبنده یا محتوایی توهین‌آمیز است؟ پاسخ به این پرسش‌ها به حدود رضایت، ماهیت محتوا و عناوین شرعی مرتبط بستگی دارد.
رضایت شخص می‌تواند در بررسی برخی حقوق و محدودیت‌ها مؤثر باشد، اما الزاماً همه حقوق دیگران را از میان نمی‌برد. برای مثال، اگر یک ویدئوی مصنوعی با رضایت فرد ساخته شود، ولی به‌گونه‌ای ارائه شود که مخاطبان را درباره یک رویداد عمومی مهم گمراه کند یا به اشخاص ثالث زیان برساند، صرف رضایت صاحب چهره لزوماً همه ابعاد مسئله را حل نمی‌کند.
همچنین باید میان تقلید آشکار و جعل پنهان تفاوت گذاشت. اگر مخاطب از ابتدا بداند که صدا یا تصویر شبیه‌سازی شده و اثر در چارچوبی هنری یا آموزشی ارائه می‌شود، احتمال فریب کاهش می‌یابد. اما اگر سازنده عمداً نشانه‌های مصنوعی‌بودن را حذف کند تا محتوای ساختگی به‌عنوان واقعیت پذیرفته شود، هدف و شیوه استفاده اهمیت بیشتری پیدا می‌کند.
در نهایت، پرسش تعیین‌کننده این نیست که آیا هوش مصنوعی می‌تواند چهره یا صدایی شبیه واقعیت بسازد؛ اکنون چنین قابلیتی وجود دارد. مسئله این است که انسان‌ها با این توانایی چه می‌کنند و آیا مخاطب را از مرز میان واقعیت و بازسازی آگاه می‌سازند یا نه. در نگاه فقهی، ابزار نوین به‌خودی‌خود همه عناوین شرعی را تعیین نمی‌کند؛ هدف، محتوا، نحوه ارائه، رضایت اشخاص و آثار رفتار باید در کنار هم بررسی شوند. هرچه جعل واقعیت آسان‌تر می‌شود، مسئولیت در پرهیز از فریب و صیانت از حقوق مردم نیز جدی‌تر خواهد شد.
منابع
[۱] جوادی‌منش، امیر طاها. «حکم شرعی تولید محتوای تصویری و صوتی معصومین (علیهم‌السلام) به روش هوش مصنوعی مولد از منظر کرامت و حرمت تقلید ظاهری». شبکه علمی ایران، کنفرانس ملی فناوری اطلاعات، نانوتکنولوژی، هوش مصنوعی و آینده‌پژوهی فناوری.https://isnac.ir/AAHD-ABZAZA