والدین از OpenAI شکایت کردند؛ ادعا: ChatGPT پیش از مصرف بیش‌ازحد پسرشان به او توصیه دارویی داد

یک زوج اهل تگزاس از OpenAI در کالیفرنیا شکایت کرده‌اند و ادعا می‌کنند ChatGPT پیش از مرگ پسرشان در سال ۲۰۲۵ بر اثر مصرف بیش‌ازحد، درباره ترکیب داروها به او مشاوره داده بود.

این زوج اهل تگزاس که پسر ۱۹ ساله‌شان در ۲۰۲۵ بر اثر مصرف بیش‌ازحد دارو جان باخت، از OpenAI شکایت کرده‌اند و می‌گویند ChatGPT پیش از مرگ به او توصیه‌های خطرناک درباره داروها داده بود.

به گزارش CBS News، Leila Turner-Scott و همسرش، Angus Scott، این شکایت را روز سه‌شنبه در دادگاه ایالتی کالیفرنیا ثبت کردند و خواستار پاسخ‌گویی OpenAI و سازندگانش بابت مرگ پسر Turner-Scott، Sam Nelson، شدند. در این دادخواست ادعا شده Nelson برای گرفتن راهنمایی درباره داروها از ChatGPT استفاده کرده و این پلتفرم توصیه‌هایی ارائه داده که صلاحیتش را نداشته است.

ادعای محوری این است که ChatGPT به Nelson گفته ترکیب کردن kratom — مکملی که به شکل نوشیدنی، قرص و محصولات دیگر فروخته می‌شود — با Xanax، داروی ضداضطراب پرمصرف، بی‌خطر است. خانواده استدلال می‌کند اگر به گفته دادخواست، نقص‌هایی در برنامه‌نویسی ChatGPT وجود نداشت، Nelson امروز زنده بود.

OpenAI در بیانیه‌ای به CBS News این پرونده را «یک موقعیت دلخراش» توصیف کرد و گفت که به خانواده می‌اندیشد. این شرکت همچنین گفت Nelson با نسخه‌ای از ChatGPT تعامل داشته که از آن زمان به‌روزرسانی شده و دیگر در دسترس عموم نیست.

OpenAI گفت: «ChatGPT جایگزین مراقبت پزشکی یا سلامت روان نیست و ما با نظر متخصصان سلامت روان، پیوسته نحوه پاسخ‌گویی آن در موقعیت‌های حساس و حاد را تقویت کرده‌ایم.» این شرکت گفت تدابیر ایمنی فعلی برای شناسایی پریشانی، رسیدگی ایمن به درخواست‌های مضر و هدایت کاربران به کمک‌های دنیای واقعی طراحی شده‌اند و افزود که این کار همچنان ادامه دارد.

Turner-Scott به CBS News گفت می‌دانست پسرش از ChatGPT برای کمک در تکالیف و بهره‌وری استفاده می‌کند، اما نمی‌دانست او برای راهنمایی مرتبط با داروها به آن رجوع کرده بود. او OpenAI را به کوتاهی در حفظ محدودیت‌های ایمنی‌ای متهم کرد که می‌توانست جلوی آن گفت‌وگو را بگیرد.

Angus Scott گفت این چت‌بات در مکالماتش با Nelson عملا مانند یک متخصص پزشکی عمل کرده، در حالی که مجوز ارائه توصیه پزشکی ندارد. او به CBS News گفت بدون آزمون‌ها و پروتکل‌های ایمنی قوی‌تر، ChatGPT می‌تواند اطلاعات را «به شکلی که برای مردم بسیار خطرناک است» ارائه کند.

این شکایت به توجه فزاینده به نحوه پاسخ‌گویی چت‌بات‌های هوش مصنوعی هنگام طرح پرسش‌هایی درباره سلامت، داروها، خودآسیبی یا موضوعات پرخطر دیگر می‌افزاید. این ادعاها هنوز در دادگاه سنجیده نشده‌اند و گام مهم بعدی، پاسخ رسمی OpenAI در پرونده کالیفرنیاست.