نورنیوز - گروه اقتصادی: شرکت اپن‌ای‌آی (OpenAI) سرانجام در برابر گزارش‌های فزاینده درباره‌ی «روان‌پریشی ناشی از هوش مصنوعی» سکوت خود را شکست و با انتشار آماری رسمی، ابعاد تکان‌دهنده‌ی این بحران را آشکار کرد. طبق اعلام این شرکت، هر هفته صدها هزار نفر از کاربران چت‌جی‌پی‌تی (ChatGPT)، چت‌بات محبوب، نشانه‌هایی از وضعیت‌های اضطراری روانی بروز می‌دهند.
به‌گزارش وایرد، شرکت اپن‌ای‌آی تحت مدیریت سم آلتمن اعلام کرده است که در هر هفته، حدود ۰٫۰۷ درصد از کاربران فعال چت‌جی‌پی‌تی علائمی از «وضعیت‌های اضطراری روانی مرتبط با روان‌پریشی یا شیدایی» از خود نشان می‌دهند. نگران‌کننده‌تر آنکه ۰٫۱۵ درصد دیگر از کاربران، گفتگوهایی دارند که «به‌طور مستقیم حاوی نشانه‌هایی از برنامه‌ریزی یا قصد خودکشی» است.
با در نظر گرفتن پایگاه کاربری عظیم چت‌جی‌پی‌تی که طبق آخرین آمار آلتمن به ۸۰۰ میلیون کاربر فعال هفتگی می‌رسد، این درصدها به ارقام هولناکی تبدیل می‌شوند. براین اساس، تخمین زده می‌شود که هر هفته حدود ۵۶۰ هزار نفر با علائم روان‌پریشی ناشی از هوش مصنوعی و ۱٫۲ میلیون نفر با افکار مرتبط با خودکشی با این چت‌بات گفتگو می‌کنند.
آمارها شاید واضح‌ترین تصویر از بحرانی باشند که در آن، یک چت‌بات با تأیید مداوم باورهای هذیانی کاربران، آن‌ها را به سمت گسست کامل از واقعیت سوق می‌دهد؛ تجربه‌ای که پیامدهای مرگباری داشته است. در یک نمونه، مردی پس از آنکه چت‌جی‌پی‌تی او را متقاعد کرد مادرش جاسوس است، وی را به قتل رساند. در پرونده‌ای دیگر، خانواده‌ی نوجوانی که پس از ماه‌ها گفت‌وگو با چت‌جی‌پی‌تی درباره روش‌های خودکشی جان خود را از دست داد، از اپن‌ای‌آی شکایت کردند.
در واکنش به نگرانی‌ها، اپن‌ای‌آی تأکید کرده که برای بهبود پاسخ‌های چت‌جی‌پی‌تی در مکالمات «چالش‌برانگیز»، با بیش از ۱۷۰ روان‌پزشک و متخصص سلامت روان همکاری کرده است. این همکاری بر سه محور کلیدی متمرکز بوده است:
- روان‌پریشی و شیدایی
- خودآزاری و خودکشی
- وابستگی احساسی به فناوری
شرکت اپن‌ای‌آی ادعا می‌کند که با ارائه‌ی مدل جدید GPT-5، نرخ پاسخ‌هایی که با سیاست‌های ایمنی در مکالمات حساس هم‌خوانی ندارند، ۶۵ درصد کاهش یافته و در گفتگوهای مرتبط با سلامت روان، این مدل نسبت به نسخه‌ی قبلی خود (GPT-4o) ۳۹ درصد پاسخ‌های نامناسب کمتری تولید کرده است.
برای نمونه، در مثالی که اپن‌ای‌آی منتشر کرده، کاربری باور دارد که هواپیماها افکارش را می‌دزدند. GPT-5 در پاسخ می‌گوید: «اجازه بده این را با آرامش و شفاف بگویم: هیچ هواپیما یا نیروی خارجی نمی‌تواند افکار تو را بدزدد یا وارد ذهن تو کند.» و در ادامه، کاربر را به صحبت با یک متخصص یا فردی معتمد تشویق می‌کند.
یوهانس هایدکه، مدیر سیستم‌های ایمنی اپن‌ای‌آی، دراین‌باره گفت: «امیدواریم افراد بیشتری که با چنین شرایطی دست‌و‌پنجه نرم می‌کنند، بتوانند به سمت کمک حرفه‌ای هدایت شوند و آن را زودتر از زمانی که معمولاً ممکن بود، دریافت کنند.»
با‌این‌حال، منتقدان به چند نکته‌ی اساسی اشاره می‌کنند. گزارش وایرد خاطرنشان می‌کند که روش ارزیابی اپن‌ای‌آی شفاف نیست و کاملاً بر پایه‌ی معیارهای داخلی خود شرکت استوار است. از سوی دیگر، سابقه‌ی این شرکت در پایبندی به اصول ایمنی چندان درخشان نیست. این شرکت پس از انتقادها به «چاپلوسی بیش‌از‌حد» در مدل GPT-4o، آن را پس گرفت، اما چند ماه بعد در پی اعتراض کاربران به «چاپلوس نبودن» GPT-5، تسلیم شد و دسترسی به نسخه‌ی قدیمی‌تر را بازگرداند؛ تصمیمی که نشان داد رضایت کاربران بر ایمنی آن‌ها اولویت دارد.
عجیب‌تر آنکه اپن‌ای‌آی اخیراً با صدور مجوز برای تجربه‌های بزرگسالانه (۱۸+)، عملاً راه را برای استفاده از چت‌جی‌پی‌تی به عنوان ربات جنسی باز کرده است. این در حالی است که بسیاری از موارد «روان‌پریشی ناشی از هوش مصنوعی» دقیقاً از همین دلبستگی‌های عاطفی ناسالم کاربران به چت‌بات‌ها ریشه می‌گیرد.