چت‌بات‌های هوش مصنوعی می‌توانند درباره سلامت روان با نوجوانان گفت‌وگو کنند، اما آیا وقتی پای یک بحران جدی در میان است، نشانه‌های خطر را می‌شناسند؟

نوجوانی که به یک چت‌بات می‌گوید «چند وقته خوابم نمی‌بره»، «دیگه حوصله دوستام رو ندارم» یا «فکر می‌کنم اگه نبودم، همه راحت‌تر بودن»، لزوماً از یک روز بد حرف نمی‌زند. گاهی پشت همین جمله‌های معمولی، نشانه‌هایی از افسردگی یا حتی افکار خودکشی پنهان شده است. مسئله اینجاست که چت‌بات‌های هوش مصنوعی همیشه نمی‌توانند معنای پنهان این حرف‌ها را بفهمند؛ به‌خصوص وقتی نوجوان احساساتش را مستقیم بیان نمی‌کند یا در طول یک گفت‌وگوی طولانی، آرام‌آرام از وضعیت روانی خود می‌گوید.

این موضوع حالا به یکی از نگرانی‌های جدی پژوهشگران سلامت روان و فناوری تبدیل شده است. نوجوانان بیش از گذشته برای درد دل، دریافت توصیه و حتی گفت‌وگو درباره مشکلات عاطفی به ابزارهای هوش مصنوعی مراجعه می‌کنند؛ اما آیا این ابزارها برای مواجهه با موقعیت‌های حساس و تشخیص نشانه‌های بحران آمادگی دارند؟

هوش مصنوعی در تشخیص بحران کجا کم می‌آورد؟

در اکتبر ۲۰۲۶، پرونده ماتیاس حبیب، نوجوان ۱۵ ساله لبنانی، بار دیگر توجه‌ها را به خطرات احتمالی این فناوری جلب کرد. والدین او پس از مرگ فرزندشان از شرکت OpenAI و مدیرعامل آن شکایت کردند و مدعی شدند چت‌جی‌پی‌تی با وجود اطلاع از سن نوجوان، افکار خودکشی او را تشدید کرده است. این ادعاها هنوز در دادگاه اثبات نشده‌اند؛ بااین‌حال، پرونده پرسش مهمی را مطرح می‌کند: وقتی یک نوجوان در گفت‌وگو با هوش مصنوعی از آسیب زدن به خودش حرف می‌زند، این ابزار دقیقاً چه واکنشی نشان می‌دهد؟

نشریه وایرد در گزارشی در ۲۶ اکتبر ۲۰۲۶ به همین مسئله پرداخت. در این گزارش، نینا واسان، روان‌پزشک و پژوهشگر دانشگاه استنفورد، توضیح می‌دهد که نوجوانان همیشه افکار خودکشی را صریح بیان نمی‌کنند. گاهی تغییر الگوی خواب، کناره‌گیری از دوستان یا احساس سربار بودن برای دیگران، شکل غیرمستقیم بیان پریشانی روانی است. بنابراین، چت‌بات نباید فقط به دنبال واژه‌هایی مانند خودکشی بگردد؛ بلکه باید بتواند ارتباط میان جمله‌ها و تغییر تدریجی وضعیت فرد را بفهمد.

نوجوان‌ها همیشه از بحران روانی‌شان مستقیم حرف نمی‌زنند؛ گاهی ناامیدی را پشت بی‌خوابی، انزوا یا جمله‌هایی مبهم پنهان می‌کنند. اما آیا چت‌بات‌های هوش مصنوعی می‌توانند این نشانه‌ها را تشخیص دهند؟ گزارشی از نشریه Wired و پژوهش‌های تازه در حوزه سلامت روان نوجوانان نشان می‌دهد این ابزارها هنوز در فهم چنین موقعیت‌هایی با چالش جدی روبه‌رو هستند

تفاوت زبان‌ها می‌تواند به قیمت تشخیص اشتباه تمام شود

یکی از نکات مهم گزارش وایرد، تأثیر زبان و فرهنگ بر عملکرد هوش مصنوعی است. پژوهشگران دانشگاه ییل و دانشگاه آمریکایی بیروت در مطالعه‌ای در سال ۲۰۲۶ بررسی کردند که مدل‌های هوش مصنوعی تا چه اندازه می‌توانند از روی فایل‌های صوتی تماس‌های خط ملی پیشگیری از خودکشی لبنان، افراد در معرض خطر را شناسایی کنند.

نتیجه قابل‌توجه بود: مدل انگلیسی‌زبان نزدیک به ۸۹ درصد موارد پرخطر را شناسایی کرد، اما این میزان در مدل عربی‌زبان به حدود ۶۷ درصد رسید. البته این پژوهش روی مکالمات خط بحران انجام شده، نه گفت‌وگوهای کاربران با چت‌بات‌های عمومی؛ بنابراین نمی‌توان نتیجه آن را مستقیماً به عملکرد ابزارهایی مانند چت‌جی‌پی‌تی تعمیم داد. بااین‌حال، تفاوت نتایج نشان می‌دهد ترجمه یک متن انگلیسی و استفاده از آن برای ارزیابی مدل‌های زبان دیگر، لزوماً تصویر درستی از توانایی واقعی آن‌ها ارائه نمی‌کند.

نینا واسان تأکید می‌کند که متخصصان هر منطقه باید این ابزارها را با زبان روزمره نوجوانان، گویش‌های محلی و شیوه‌های غیرمستقیم بیان ناراحتی آزمایش کنند. حتی پیشنهاد کمک نیز باید متناسب با شرایط واقعی فرد باشد؛ برای مثال، معرفی خط بحران زمانی مفید است که چنین خدماتی در کشور محل زندگی نوجوان وجود داشته باشد و او امکان دسترسی به آن را داشته باشد.

وقتی شدت بحران بیشتر می‌شود، عملکرد چت‌بات ضعیف‌تر است

شواهد تازه فقط به تفاوت‌های زبانی محدود نمی‌شوند. پژوهشی که ۲۸ اکتبر ۲۰۲۶ در نشریه Nature Mental Health منتشر شد، «ابزار ارزیابی پاسخ‌های هوش مصنوعی در حوزه سلامت روان نوجوانان (AMHART)» را برای سنجش کیفیت پاسخ چت‌بات‌ها به مشکلات سلامت روان نوجوانان توسعه داد. پژوهشگران با کمک متخصصان بالینی، معیارهایی برای بررسی پاسخ‌ها طراحی کردند و چند چت‌بات شامل ChatGPT، Claude و Gemini را در گفت‌وگوهای چندمرحله‌ای با شخصیت‌های فرضی نوجوان ارزیابی کردند.

نتایج نشان داد چت‌بات‌ها در پاسخ به سناریوهای اضطراب، معیارهای بیشتری را رعایت می‌کنند تا سناریوهای افسردگی. همچنین عملکرد آن‌ها در مواجهه با نشانه‌های متوسط بهتر از موقعیت‌های شدید بود. این یافته اهمیت زیادی دارد؛ چون درست در شرایطی که نوجوان به کمک جدی‌تری نیاز دارد، احتمال ناکافی بودن پاسخ‌های هوش مصنوعی بیشتر می‌شود.

از سوی دیگر، مرور پژوهشی منتشرشده در اوت ۲۰۲۶ در نشریه «npj Digital Medicine» با عنوان «چت‌بات‌های هوش مصنوعی و خطر خودکشی در جوانان» نشان می‌دهد بیشتر مطالعات موجود، عملکرد چت‌بات‌ها را با پرسش‌های کوتاه و از پیش طراحی‌شده بررسی کرده‌اند؛ درحالی‌که گفت‌وگوی واقعی نوجوانان معمولاً پیچیده‌تر است. بر اساس این مرور، عملکرد مدل‌ها هنگام مواجهه با نشانه‌های مبهم، غیرمستقیم یا تدریجی خطر افت می‌کند. پژوهشگران همچنین تأکید می‌کنند که هنوز تأثیر واقعی استفاده از این ابزارها بر خطر خودکشی در میان نوجوانان به‌خوبی شناخته نشده است.

پژوهش منتشرشده در نشریه Nature Mental Health در سال ۲۰۲۶ نشان می‌دهد عملکرد چت‌بات‌ها در مواجهه با نشانه‌های شدید افسردگی و مشکلات روانی، همچنان محدودیت‌هایی دارد؛ مسئله‌ای که اعتماد به هوش مصنوعی در موقعیت‌های حساس را زیر سؤال می‌برد

پاسخ امیدوارکننده، لزوماً پاسخ ایمن نیست

پژوهش دیگری که در اوت ۲۰۲۵ در نشریه «Scientific Reports» منتشر شد، عملکرد ۲۹ چت‌بات عمومی و تخصصی سلامت روان را در مواجهه با سناریوهای مختلف افکار خودکشی بررسی کرد. نتیجه این بود که هیچ‌کدام از ابزارهای بررسی‌شده معیارهای اولیه پژوهشگران برای پاسخ کاملاً مناسب را برآورده نکردند. ۱۵ ابزار پاسخ‌هایی با کیفیت حداقلی داشتند و عملکرد ۱۴ ابزار ناکافی ارزیابی شد. نکته قابل‌توجه اینکه برخی چت‌بات‌ها کاربر را به دریافت کمک تخصصی یا تماس با خدمات اضطراری تشویق می‌کردند، اما در ارائه اطلاعات دقیق و کاربردی درباره منابع کمک‌رسانی مشکل داشتند.

البته همه یافته‌ها منفی نیستند. فراتحلیلی در سال ۲۰۲۵ در «Journal of Medical Internet Research» که ۳۱ کارآزمایی تصادفی با مجموع ۲۹ هزار و ۶۳۷ شرکت‌کننده را بررسی کرد، نشان داد چت‌بات‌ها به‌طور میانگین تأثیر کوچک تا متوسطی در کاهش پریشانی روانی و بهبود برخی شاخص‌های سلامت روان داشته‌اند. بااین‌حال، دامنه سنی شرکت‌کنندگان ۱۵ تا ۳۹ سال بود و نتایج را نمی‌توان صرفاً به نوجوانان نسبت داد. نویسندگان همچنین تأکید کردند که اثربخشی چت‌بات‌های مولد هنوز قطعی نیست و به چارچوب‌های ایمنی و ارزیابی بیشتری نیاز دارد.

چت‌بات جای متخصص و بزرگسال امن را نمی‌گیرد

مجموع این پژوهش‌ها یک پیام روشن دارد: هوش مصنوعی ممکن است در شناسایی برخی نشانه‌ها، غربالگری اولیه و دسترسی آسان‌تر به اطلاعات سلامت روان مفید باشد، اما هنوز نمی‌توان تشخیص بحران یا تصمیم‌گیری درباره خطر خودکشی نوجوانان را به آن سپرد.

از طرف دیگر، نباید فراموش کرد که یک پاسخ ظاهراً همدلانه همیشه به معنای درک واقعی وضعیت نوجوان نیست. چت‌بات ممکن است در یک گفت‌وگوی کوتاه واکنش مناسبی نشان دهد، اما در مکالمه‌ای طولانی یا زمانی که نوجوان به‌تدریج از ناامیدی و انزوای خود می‌گوید، نشانه‌های مهم را از دست بدهد.

به همین دلیل، پژوهشگران بر ضرورت ارزیابی مستقل، نظارت متخصصان، سازوکارهای ایمنی متناسب با سن و اتصال نوجوانان در معرض خطر به بزرگسالان قابل‌اعتماد و خدمات واقعی حمایت روانی تأکید می‌کنند. هوش مصنوعی شاید بتواند شروع یک گفت‌وگو باشد، اما نباید به تنها شنونده نوجوانی تبدیل شود که در بحران روانی به سر می‌برد.