پنسیلوانیا از Character AI به‌خاطر ادعاهای پزشکی یک چت‌بات شکایت کرد

پنسیلوانیا از Character AI شکایت کرده و مدعی است یکی از چت‌بات‌های این شرکت خود را به‌نادرست روان‌پزشک دارای پروانه معرفی کرده و مشاوره پزشکی ارائه داده است.

پنسیلوانیا ادعا می‌کند پلتفرم این شرکت به چت‌باتی اجازه داده خود را به‌عنوان یک حرفه‌ای پزشکی دارای پروانه معرفی کند و بدون صلاحیت‌های لازم مشاوره پزشکی ارائه دهد.

شکایت می‌گوید یک چت‌بات خود را روان‌پزشک دارای پروانه در پنسیلوانیا معرفی کرده و شماره مجوز نامعتبری ارائه داده است. مقامات ایالتی شرکت را متهم به نقض قانون طبابت پنسیلوانیا کرده‌اند که حرفه پزشکی و الزامات صدور مجوز را تنظیم می‌کند.

«ما اجازه نخواهیم داد شرکت‌ها ابزارهای هوش مصنوعی‌ای را به‌کار گیرند که مردم را گمراه کنند تا فکر کنند از یک حرفه‌ای پزشکی دارای پروانه مشورت می‌گیرند.» جاش شاپیرو، فرماندار، در بیانیه‌ای گفت.

پرونده بر مبادله‌ای متمرکز است که در شکایت میان یک تحقیق‌کننده ایالتی و چت‌باتی از Character AI به‌نام «Emilie» توصیف شده است. پس از آنکه تحقیق‌کننده حساب کاربری ساخت، چت‌بات ادعا کرد که متخصص روان‌شناسی است و در دانشکده پزشکی کالج امپریال لندن تحصیل کرده است.

وقتی تحقیق‌کننده گفت احساس غم و پوچی داشته است، چت‌بات به‌طور ادعایی مسئله افسردگی را مطرح و پرسید آیا او می‌خواهد برای یک ارزیابی وقت بگیرد. وقتی پرسیده شد آیا می‌تواند ارزیابی کند که آیا دارو ممکن است کمک کند، چت‌بات طبق شکایت پاسخ داد که می‌تواند زیرا این «در حیطه وظایف من به‌عنوان پزشک» است.

ایالت از دادگاه خواسته فوراً این رفتار ادعایی را متوقف کند. آل اشمیت، دبیر وزارت ایالتی پنسیلوانیا، گفت قانون ایالتی روشن است: «نمی‌توانید خود را به‌عنوان یک حرفه‌ای پزشکی دارای پروانه معرفی کنید بدون اینکه مدارک مناسب داشته باشید.»

Character AI گفت درباره پرونده‌های در جریان اظهارنظر نخواهد کرد. در بیانیه‌ای شرکت گفت از «توضیحات احتیاطی قوی» استفاده می‌کند که به کاربران هشدار می‌دهد برای مشاوره حرفه‌ای به شخصیت‌ها تکیه نکنند و شخصیت‌های ساخته‌شده توسط کاربران خیالی هستند و برای سرگرمی و نقش‌آفرینی طراحی شده‌اند.

این شکایت بر موجی از بررسی‌ها نسبت به Character AI می‌افزاید؛ این پلتفرم که در ۲۰۲۱ تأسیس شد به کاربران اجازه می‌دهد با چت‌بات‌های شخصی‌شده مبتنی بر هوش مصنوعی تعامل کنند. چندین خانواده سال گذشته از شرکت شکایت کردند و مدعی شدند پلتفرم در خودکشی‌ها یا بحران‌های سلامت روانی نوجوانان نقش داشته است؛ شرکت اوایل امسال با چند تا از آن شکایت‌ها توافق کرد. Character AI همچنین پاییز گذشته تدابیر ایمنی اعلام کرد، از جمله محدودیت در گفتگوهای متقابل چت‌بات برای کاربران زیر ۱۸ سال و هدایت کاربران مضطرب به منابع سلامت روان.

حالا پرونده پنسیلوانیا بسته به این است که آیا دادگاه تشخیص می‌دهد رفتار ادعایی چت‌بات از نقش‌آفرینی خیالی فراتر رفته و به‌طور غیرقانونی خود را دارای مدارک پزشکی معرفی یا مشاوره پزشکی ارائه کرده است.