خانواده یک مهندس نرم‌افزار ۳۱ ساله در آمریکا از شرکت OpenAI شکایت کرده‌اند و مدعی‌اند راهنمایی‌های ChatGPT برای کاهش داروی ضدتشنج و پنهان کردن این تصمیم از پزشک، در مرگ دخترشان نقش داشته است.
همشهری آنلاین، فرخنده رفائی: هوش مصنوعی می‌تواند به پرسش‌های پزشکی پاسخ دهد، اما وقتی توصیه‌های یک چت‌بات جای نظارت پزشک را بگیرد، پیامدها ممکن است جبران‌ناپذیر باشد. پرونده مرگ یک زن جوان در سیاتل، حالا به موضوع شکایت حقوقی علیه سازنده ChatGPT تبدیل شده است؛ پرونده‌ای که در آن، خانواده قربانی به گفت‌وگوهای او با این ابزار استناد می‌کنند.
به گزارش نیویورک‌تایمز، بوئن وان، مهندس نرم‌افزار ۳۱ ساله‌ای که سابقه ابتلا به صرع داشت، برای کاهش دوز داروی لاموتریژین از ChatGPT راهنمایی خواست. او نگران بود عوارض دارو بر توانایی صحبت کردن و عملکردش در مصاحبه‌های شغلی تأثیر بگذارد؛ نگرانی‌ای که پس از اطلاع از تعدیل نیرو در شرکت آمازون و نزدیک شدن مهلت اعتبار مجوز کارش در آمریکا شدت گرفت.
بر اساس شکایت خانواده، چت‌بات برنامه‌ای حدودا ۲۵ روزه برای کاهش دوز روزانه دارو از ۴۰۰ میلی‌گرم به صفر تنظیم کرد. این برنامه بدون نظارت پزشک دنبال شد و ChatGPT نه‌تنها وان را از ادامه مسیر منصرف نکرد، بلکه به ادعای خانواده، او را به پنهان کردن تصمیمش از پزشکان نیز تشویق کرد.
ماجرا زمانی نگران‌کننده‌تر شد که وان از علائمی مانند گیجی، اختلال در هوشیاری و احساساتی مشابه حملات قبلی صرع خبر داد. طبق بررسی نیویورک‌تایمز از مکالمات او، وان دست‌کم ۱۵۸ بار درباره روند کاهش دارو ابراز نگرانی کرده بود، اما چت‌بات بارها علائم او را نشانه سازگاری مغز با شرایط جدید توصیف کرد و به او اطمینان داد که جای نگرانی نیست.
پدر وان پس از مرگ دخترش، با بررسی مکالمات او متوجه برنامه کاهش دارو شد. پزشک متخصص مغز و اعصاب او، نیکلاس پولوس از مرکز صرع دانشگاه واشینگتن، نیز اعلام کرد با توجه به سابقه پزشکی این بیمار، قطع دارو را توصیه نمی‌کرد و چنین توصیه‌ای را مصداق قصور پزشکی می‌دانست.
وان در فوریه ۲۰۲۶ درگذشت و علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره در صرع» اعلام شد. خانواده‌اش اکنون از OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات با ارائه توصیه‌های پزشکی خطرناک و تضعیف اعتماد او به پزشکان، در مرگش نقش داشته است. این ادعاها هنوز در دادگاه اثبات نشده‌اند.
سخنگوی OpenAI این اتفاق را به‌شدت تلخ توصیف کرده و گفته است این پرونده به نسخه قدیمی GPT-4o مربوط می‌شود؛ مدلی که دیگر در دسترس نیست. به گفته او، مدل‌های جدیدتر در شناسایی موقعیت‌هایی که به توجه فوری نیاز دارند، عملکرد بهتری دارند.
این پرونده بار دیگر پرسش‌هایی جدی درباره مرز میان کمک اطلاعاتی هوش مصنوعی و ارائه توصیه‌های پزشکی، به‌ویژه در شرایط حساس و پرخطر، مطرح کرده است.