نورنیوز-گروه اجتماعی: همدمهای هوش مصنوعی، چتباتهایی هستند که ضمن پاسخگویی به سؤالات، بهعنوان دوست طراحی شدهاند. این سامانهها با بهخاطر سپردن جزئیات شخصی و گفتوگوهای گذشته، در پی ایجاد روابط مداوم با کاربران هستند. برای نوجوانان تنها، این حضور میتواند شبیه یک پناهگاه امن به نظر برسد، اما از دیدگاه یک متخصص سلامت روان، این بیشتر شبیه به یک آزمایش اجتماعی بدون محافظ است.
چرا نوجوانان در دام میافتند؟
دوران نوجوانی، دورهای با احساسات شدید و قضاوت در حال شکلگیری است. حال تصور کنید یک چتبات که هرگز نمیخوابد، هرگز نمیگوید مشغولم و همیشه تأییدکننده است، به این ترکیب اضافه شود. برای برخی نوجوانان، این همراهی به یک چسب عاطفی تبدیل میشود که جدایی از آن بسیار دشوار است.
هنگامی که آسایش جعلی میشود
مشکل فقط حرفهای این چتباتها نیست، بلکه چیزهایی است که نمیتوانند بگویند. آنها میتوانند همدلی را تقلید کنند، اما نمیتوانند بازخورد عاطفی اصیل ارائه دهند. در آمریکا، یک خانواده پس از آنکه پسر ۱۴ سالهشان در پی گفتوگوهای طولانی با یک چتبات، خودکشی کرد، از یک شرکت پیشرو در زمینه همدمهای هوش مصنوعی شکایت کردهاند.
اقدام استرالیا
استرالیا گامهای اولیه را برداشته است. مسئول امنیت فضایی مجازی (eSafety Commissioner) این کشور ضمن ارسال اخطارهای قانونی الزامآور به چندین سکوی (پلتفرم) همدم هوش مصنوعی، خواستار توضیح درباره چگونگی محافظت از کودکان در برابر محتوای مرتبط با خودآزاری و مسائل جنسی شده است.
درسهایی از سلامت عمومی
همانطور که محصولات اعتیادآوری مانند قمار اغلب بهعنوان سرگرمی شروع میشوند و در صورت کنترلنشدن به آسیب ختم میشوند، همدمهای هوش مصنوعی نیز ممکن است از راهبردهایی مشابه استفاده کنند. پژوهشها نشان میدهند نوجوانان اغلب استفاده از چتباتها را برای آرامش یا سرگرمی آغاز میکنند، اما بسیاری بهتدریج وابستهتر میشوند.
راه حل: کمربندهای ایمنی دیجیتال
ما باید برای فضای برخط (آنلاین) نیز همانند زمینهای بازی، طراحی مطمئن برای کودک ایجاد کنیم. شفافیت نیز مهم است. جوانان و والدین آنها سزاوار هستند که بدانند مکالمات چگونه ذخیره میشود و چه کسی بر آنها نظارت میکند. در نهایت، باید به نوجوانان بیاموزیم که آسایش حاصل از ارتباط با یک چتبات، شبیهسازی شده است، نه واقعیت.
آیندهای که میخواهیم
ممنوعیت دسترسی زیر ۱۸سالهها توسط یکی از محبوبترین شرکتهای همراه هوش مصنوعی آغاز خوشایندی است، اما تا زمانی که با استانداردهای شفاف، آموزش و پاسخگویی همراه نشود، این داستان به شکلی دیگر تکرار خواهد شد.
فناوری ممکن است سریعتر از سیاست حرکت کند، اما ما هنوز در انتخاب نوع جامعهای که برای نسل بعد میسازیم، اختیار داریم. بیایید مطمئن شویم کودکان اولین درسهای همدلی، دوستی و عشق را از انسانها میآموزند، نه از نرمافزارها.