یک زن ۳۱ ساله در امریکا پس از آن‌که برای کاهش و قطع داروی بیماری صرع خود از چت‌جی‌پی‌تی راهنمایی گرفت، جان باخت.
خانواده او ادعا می‌کنند که توصیه‌های پزشکی خطرناک هوش مصنوعی در مرگ دخترشان نقش داشته و به همین دلیل از شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، و سم آلتمن، مدیرعامل این شرکت، شکایت کرده‌اند.
روزنامه نیویارک‌تایمز روز سه‌شنبه، ۵ عقرب، گزارش داده است که بوئن وان (Bowen Wan)، مهندس نرم‌افزار پیشین آمازون که بیش از یک دهه به بیماری صرع مبتلا بود، در ۱۴ فبروری ۲۰۲۶ در آپارتمانش در شهر سیاتل مرده پیدا شد. او حدود سه سال از چت‌جی‌پی‌تی استفاده کرده و بیش از ۲۷۰ هزار پیام با این هوش مصنوعی ردوبدل کرده بود.
بر اساس ادعای خانواده در شکایت حقوقی، وان در جنوری ۲۰۲۶ از چت‌جی‌پی‌تی خواست برای کاهش دوز داروی ضدصرع «لاموتریژین» به او برنامه بدهد. چت‌بات به او در تنظیم برنامه‌ای برای کاهش تدریجی دارو از ۴۰۰ میلی‌گرم در روز به صفر کمک کرد؛ در حالی که پزشکانش با قطع دارو موافق نبودند.
خانواده وان می‌گویند چت‌جی‌پی‌تی در جریان این روند، نگرانی‌های او را کم‌اهمیت جلوه داده و با وجود بروز علایمی مانند سردرگمی، اختلال در صحبت‌کردن و از دست‌دادن کوتاه‌مدت هوشیاری، او را به ادامه کاهش دارو تشویق کرده است.
خانواده بوئن پس از پیدا کردن جسد دخترشان و بررسی پیام‌های او در چت‌جی‌پی‌تی، از شرکت اوپن‌ای‌آی شکایت کردند. در این شکایت ادعا شده است که چت‌بات بدون مجوز پزشکی به ارائه مشوره درمانی پرداخته، علایم خطرناک قطع دارو را نشانه‌های مثبت معرفی کرده و بوئن را به پنهان‌کردن تصمیم‌هایش از پزشکان تشویق کرده است.
علت رسمی مرگ بوئن «مرگ ناگهانی و غیرمنتظره در اثر صرع» اعلام شده است. هم‌چنان، میزان لاموتریژین در خون او بسیار پایین‌تر از سطح درمانی گزارش شده است. با این حال، خانواده او می‌گویند می‌خواهند نقش توصیه‌های چت‌جی‌پی‌تی را در مرگ دخترشان روشن کنند.
سخنگوی اوپن‌ای‌آی این رویداد را «به‌شدت اندوه‌بار» خوانده، اما گفته است که بوئن از نسخه قدیمی چت‌جی‌پی‌تی استفاده می‌کرد؛ نسخه‌ای که دیگر در دسترس نیست. به گفته‌ی او، مدل‌های جدید در شناسایی وضعیت‌های اضطراری و ارائه راهنمایی مناسب‌تر به کاربران عملکرد بهتری دارند.
این شرکت هم‌چنان تأکید کرده است که چت‌جی‌پی‌تی جایگزین مراقبت‌های پزشکی نیست، هرچند هوش مصنوعی می‌تواند در درک اطلاعات صحی و آماده‌شدن برای مراجعه به پزشک به کاربران کمک کند.
این گزارش بار دیگر نگرانی‌ها درباره استفاده از چت‌بات‌های هوش مصنوعی برای تصمیم‌گیری‌های حساس پزشکی و خطر اعتماد بیش از حد به توصیه‌های آن‌ها را مطرح کرده است.
