آن‌ها ادعا می‌کنند که تعاملات طولانی‌مدت دخترشان با مدل زبانی ChatGPT، به بدتر شدن وضعیت روانی او منجر شده و نهایتاً در مرگ او نقش اساسی داشته است.
کریستین مدیسون در ژوئن ۲۰۲۵ و پس از اینکه وارد مسیر تردد وسایل نقلیه شد، جان خود را از دست داد. اکنون، خانواده او در قالب یک دادخواست رسمی برای «مرگ غیرعمد»، مدل GPT-4o را محصولی «ناقص و فاقد استانداردهای ایمنی کافی» معرفی کرده‌اند.
بر اساس جزئیات ارائه شده در این دادخواست، ارتباط مدیسون با ChatGPT در آغاز کاملاً عادی بود. او از دسامبر ۲۰۲۴، این چت‌بات را برای امور روزمره مانند نوشتن ایمیل و مدیریت امور مالی خود به کار می‌برد، اما رفته‌رفته تعاملاتش با این هوش مصنوعی رنگ و بوی عاطفی به خود گرفت.
در ادامه، مدیسون از عباراتی محبت‌آمیز و عاطفی برای خطاب قرار دادن ChatGPT استفاده می‌کرد و به گفته خانواده، چت‌بات نیز با همان لحن به او پاسخ می‌داد. پس از مدتی، مدیسون اطلاعات خصوصی و تجربیات دشوار زندگی‌اش را با هوش مصنوعی به اشتراک گذاشت و آن را به عنوان منبعی برای حمایت عاطفی می‌دید.
زمانی که چت‌بات به جای هشدار، اوهام خطرناک را تأیید می‌کند
نقطه محوری این پرونده در جایی است که خانواده مدیسون ادعا می‌کنند ChatGPT به جای شناسایی علائم یک بحران روانی و راهنمایی او به سمت کمک‌های تخصصی، باورهای غیرواقعی و گمراه‌کننده او را مورد تأیید قرار داده است.
بر اساس دادخواست، مدیسون به این باور رسیده بود که مأموریتی ویژه و مذهبی دارد و برای تحقق یک پیشگویی خاص برگزیده شده است. خانواده بیان کرده‌اند که ChatGPT در مکالمات متعدد، او را با القابی مانند «پیامبر» و «عارف» مورد خطاب و تأیید قرار می‌داد.
حتی زمانی که مدیسون درباره احتمال فرو رفتن در توهمات مذهبی و «از کنترل خارج شدن» وضعیتش ابراز نگرانی کرده بود، به گفته پرونده، پاسخ چت‌بات به جای ترغیب او به دریافت کمک تخصصی، این نگرانی‌ها را رد کرد.
با وخیم‌تر شدن وضعیت مدیسون، او از خانواده و دوستان خود کناره‌گیری کرد، شغلش را از دست داد و در نهایت در آوریل ۲۰۲۵ به دلیل مشکلات شدید روانی در بیمارستان بستری شد.
خانواده مدعی هستند که حتی پس از اطلاع ChatGPT از بستری شدن او در بیمارستان نیز، این سیستم همچنان برخی از باورهای غیرواقعی مدیسون را تأیید می‌کرد.
ادعای خانواده درباره خطرناک‌ترین مرحله گفتگوها
طبق دادخواست، در روزهای پایانی زندگی مدیسون، گفتگوهای او با ChatGPT به مرحله‌ای بسیار خطرناک رسید. خانواده ادعا می‌کنند که او درباره مرگ با چت‌بات صحبت کرده و این سیستم به جای قطع کردن گفتگو و هدایت او به سمت کمک‌های فوری انسانی، مرگ را با زبانی معنوی و مثبت توصیف کرده است.
در یکی از نمونه‌های ذکر شده در شکایت، مدیسون از مرگ می‌گوید و چت‌بات، بر اساس ادعای پرونده، آن را «خودکشی» نمی‌داند و با اصطلاحات معنوی از آن یاد می‌کند.
خانواده همچنین مدعی هستند که در روزهای منتهی به مرگ، گفتگوهای متعددی بین مدیسون و ChatGPT پیرامون موضوع مرگ انجام شده است. در بخش دیگری از مکالمات مورد استناد در شکایت نیز، چت‌بات به جای ایجاد فاصله از موضوع، از زبانی استفاده کرده که خانواده آن را عادی‌سازی و حتی رمانتیک کردن مرگ می‌دانند.
پرونده‌ای در میان موجی از شکایات علیه OpenAI
این پرونده تنها مثالی نیست که عملکرد ChatGPT را در مواجهه با کاربران آسیب‌پذیر به چالش کشیده است. در چندین پرونده مشابه دیگر نیز، خانواده‌ها ادعا کرده‌اند که ChatGPT به جای ایفای نقش یک سیستم امن و محتاط، به تدریج به یک همراه عاطفی برای کاربر تبدیل شده و در برخی شرایط، باورها یا رفتارهای خطرناک او را تأیید کرده است.
اهمیت این پرونده‌ها برای صنعت هوش مصنوعی بسیار فراتر از عملکرد یک مدل خاص است؛ زیرا سؤال اصلی این است که چت‌بات‌ها در مواجهه با کاربری که نشانه‌های بحران روانی از خود بروز می‌دهد، تا چه حد باید وارد گفتگو شوند و چه زمانی لازم است تعامل را متوقف کرده و کاربر را به کمک‌های انسانی و تخصصی هدایت کنند.
این شکایت در حالی مطرح می‌شود که شرکت‌های سازنده مدل‌های زبانی بزرگ تحت فشار فزاینده‌ای قرار دارند تا سازوکارهای ایمنی خود را در برابر وابستگی عاطفی کاربران، تقویت باورهای نادرست و نحوه واکنش به بحران‌های روانی کاربران به طور جدی تقویت کنند.
