باشگاه خبرنگاران جوان - با گسترش هوش مصنوعی، نگرانی‌ها درباره سوءاستفاده از این فناوری در حملات سایبری و تغییر الگوی تهدید‌های هکری افزایش یافته است؛ تا جایی که «بیل گیتس»، بنیانگذار مایکروسافت نسبت به گسترش حملات سایبری مبتنی بر هوش مصنوعی در سال پیش رو هشدار داده است.
او پیش‌بینی کرده که این حوزه در سال آینده شاهد تحولات چشمگیری خواهد بود و جهان باید خود را برای مواجهه با تهدید‌های جدید آماده کند. با این حال، این هشدار به معنای آغاز چنین حملاتی در آینده نیست و مجرمان سایبری هم‌اکنون نیز از قابلیت‌های هوش مصنوعی برای پیشبرد اهداف خود استفاده می‌کنند.
نگرانی درباره پیامد‌های امنیتی هوش مصنوعی تنها به «بیل گیتس» محدود نمی‌شود. شرکت‌های فعال در این حوزه، ازجمله OpenAI و Anthropic نیز خود را برای مقابله با سناریو‌های احتمالی حملات سایبری آماده می‌کنند؛ سناریو‌هایی که ممکن است بانک‌ها، شبکه‌های ارتباطی، سامانه‌های تأمین برق و آب یا خدمات اینترنتی را با اختلال مواجه کنند. سخنگوی OpenAI به وب‌سایت اکسیوس گفته است که این شرکت برای مواجهه با سناریو‌های مختلف، تمرین‌های آمادگی متعددی انجام می‌دهد.
(AI Agents) به‌تدریج خودمختارتر می‌شوند و می‌توانند وظایف پیچیده‌تری را بدون دخالت مستمر انسان انجام دهند.
در ماه‌های اخیر گزارش‌هایی از فعالیت خودسرانه این ایجنت‌ها (عوامل هوشمند) منتشر شده است که از آنها می‌توان به نفوذ بدون اجازه ایجنت‌های هوش مصنوعی OpenAI به پلتفرم توسعه هوش مصنوعی Hugging Face و همچنین یک سایت تخصصی برنامه‌نویسی آلمانی به نام DseWiki و وب‌سایت‌های دولتی استرالیا اشاره کرد. یکی از ایجنت‌های هوش مصنوعی آنتروپیک هم با نفوذ بدون اجازه به پرتال آنلاین اداره پلیس فیلادلفیا، اطلاعات نادرستی درباره یک قتل حل نشده ارائه داد.
یکی دیگر از حمله‌های سایبری بزرگ مبتنی بر عامل‌های هوش مصنوعی هم به هکری مربوط می‌شود که با کمک ایجنت‌ها و صرف هزینه‌ای حدود ۵هزار دلار، موفق شد طی حمله به بیش از ۱۲۰۰ وب سایت در آمریکا، کانادا، استرالیا و ژاپن، درنهایت به وب‌سایت بیش از ۱۰۰ شرکت لوازم خانگی، خودروسازی، تجهیزات کشاورزی و... نفوذ کند.
جالب‌ترین بخش ماجرا این است که این هکر را شاید بتوان کم‌کارترین مجرم سایبری جهان دانست چراکه با یک اشاره او، تقریباً همه کار‌ها را ایجنت‌های هوش مصنوعی دیپ سیک و کلود آنتروپیک انجام دادند. آمار این حملات هکری هم بسیار جالب توجه است.
طبق این گزارش، ایجنت‌ها برای شناسایی آسیب‌پذیری‌ها و انجام یک حمله موفق، به حدود ۲۳ ساعت زمان نیاز داشتند و هر نفوذ موفق برای این هکر حدود ۵۰ دلار هزینه داشت؛ رقمی که در برابر درآمد کسب شده از این حملات سایبری، بسیار ناچیز و وسوسه‌کننده است. چنین پرونده‌هایی نشان می‌دهند که هوش مصنوعی می‌تواند هزینه و مهارت مورد نیاز برای حملات را کاهش دهد یعنی مهاجمان ممکن است با صرف منابع کمتر، اهداف بیشتری را بررسی کنند و سرعت عملیات خود را افزایش دهند.
گزارش‌های مؤسسات تحقیقاتی نیز از تغییر الگوی تهدید‌های سایبری حکایت دارند. بر اساس گزارش «هزینه نقض داده‌ها در سال ۲۰۲۶» مؤسسه IBM، بزرگترین مؤسسه تحقیقات صنعتی چندملیتی جهان که در ۱۷۵ کشور شعبه دارد، حملات مبتنی بر هوش مصنوعی ۵۶ درصد افزایش یافته‌اند. طبق این گزارش، جعل هویت با استفاده از دیپ‌فیک و بدافزار‌های مبتنی بر هوش مصنوعی از عوامل مطرح‌شده در این روند هستند.
کارشناسان معتقدند هوش مصنوعی می‌تواند به مهاجمان کمک کند تا برخی مراحل حمله را سریع‌تر انجام دهند؛ اما همین فناوری در اختیار مدافعان نیز قرار دارد و می‌تواند برای شناسایی رفتار‌های مشکوک، کشف آسیب‌پذیری‌ها و واکنش سریع‌تر به تهدید‌ها به کار گرفته شود. در نتیجه، رقابت میان مهاجمان و مدافعان بیش از گذشته به سرعت شناسایی تهدید‌ها و توانایی اصلاح نقاط ضعف، وابسته است.
یکی از مهم‌ترین کاربرد‌های مجرمانه هوش مصنوعی، تولید محتوای صوتی و تصویری جعلی است. «جیک کارول»، متخصص حوزه امنیت سایبری در IBM، درباره کاهش هزینه تولید محتوای صوتی جعلی هشدار داده و یادآور شده است با توجه به این که هزینه تولید برخی نمونه‌های صوتی جعلی مبلغی ناچیز و تنها حدود ۵ دلار است، مطمئناً شاهد افزایش چنین حملات هکری خواهیم بود.
خطر این فناوری تنها متوجه کسب‌وکار‌ها نیست و مردم عادی نیز ممکن است هدف کلاهبرداری قرار گیرند. برای مثال، مجرمان می‌توانند با شبیه‌سازی صدای یکی از نزدیکان قربانی، از او درخواست پول کنند یا با استفاده از تصاویر و ویدیو‌های جعلی، اعتماد او را به دست آورند. در چنین شرایطی، شباهت صدا یا تصویر به‌تنهایی نباید مبنای اعتماد قرار گیرد. تماس با فرد مورد نظر از طریق شماره‌ای مستقل، بررسی درخواست‌های غیرمنتظره و خودداری از انتقال عجولانه پول، می‌تواند احتمال قربانی‌شدن را کاهش دهد.
اینترپل هم هشدار داده است که مجرمان با استفاده از هوش مصنوعی می‌توانند برخی روش‌های کلاهبرداری را سریع‌تر و در مقیاس گسترده‌تری اجرا کنند. اما درعین حال تأکید کرده که استفاده از گذرواژه‌های قوی و منحصر‌به‌فرد، فعال‌کردن احراز هویت چندعاملی و به‌روزرسانی منظم نرم‌افزار‌ها می‌تواند احتمال سوءاستفاده از حساب‌های کاربری و دستگاه‌ها را کاهش دهد.
اینترپل، آموزش کارکنان شرکت‌ها درباره فیشینگ، جعل صوتی و تصویری و مهندسی اجتماعی را نیز مهم می‌داند و تأکید می‌کند کاربران باید نسبت به درخواست‌های غیرمنتظره برای پرداخت پول یا افشای اطلاعات محرمانه محتاط باشند و در صورت وقوع کلاهبرداری، هرچه سریع‌تر به مراجع انتظامی و بانک یا ارائه‌دهنده خدمات پرداخت اطلاع‌رسانی کنند. در مجموع باید گفت هوش مصنوعی، هم ابزار مهاجمان است و هم می‌تواند بخشی از راه‌حل دفاعی باشد و نتیجه این رقابت، به میزان آمادگی و نحوه استفاده از این فناوری بستگی دارد.
تهدید‌های سایبری در ایران نیز به یکی از موضوعات مهم حوزه ارتباطات و فناوری اطلاعات تبدیل شده است. به‌تازگی بهزاد اکبری مدیرعامل شرکت ارتباطات زیرساخت، از افزایش قابل‌توجه شدت و تکرار حملات DDoS (حمله‌ای برای از دسترس خارج کردن سایت یا سرور با ترافیک زیاد) علیه شبکه‌های ارتباطی کشور خبر داده است. به گفته اکبری، بخش عمده این حملات با کمک سامانه‌های دفاعی داخلی و خارجی مهار شده و پایداری شبکه حفظ شده است. معاون وزیر ارتباطات در شهریورماه نیز از ثبت روزانه ۱۵۰ تا ۱۸۰ هزار رخداد امنیتی از خارج به داخل کشور و ۲۵۰ تا ۳۰۰ هزار رخداد از داخل به داخل خبر داده و تأکید کرده بود بخشی از این رخدادها، به‌ویژه در صورت وجود سرویس‌های قدیمی، آسیب‌پذیر یا دارای پیکربندی نامناسب، می‌تواند خطر نفوذ را افزایش دهد.
رئیس سازمان فناوری اطلاعات ایران نیز در تازه‌ترین نشست خبری خود از مقابله روزانه با صد‌ها حمله سایبری خبر داد و اعلام کرد تعداد هشدار‌های امنیتی صادرشده برای دستگاه‌های اجرایی از حدود ۱۰هزار مورد در ابتدای دولت چهاردهم به ۶۱ هزار مورد رسیده است. صرفنظر از میزان موفقیت این حملات و میزان تأثیر هوش مصنوعی بر افزایش این حملات، به نظر می‌رسد باید آموزش مردم و کارکنان سازمان‌های مختلف، توجه به آپدیت‌های نرم‌افزاری و... در کانون توجه قرار گیرد تا سدی محکم در برابر چنین حملاتی ایجاد شود.
منبع: روزنامه ایران