چت‌بات‌ها؛ پاشنه آشیل هوش مصنوعی

نورنیوز-گروه اجتماعی: وبگاه تِک‌اِکسپلور در گزارشی آورده است:

پژوهشگران دانشگاه کانتربری در نیوزیلند هشدار داده‌اند که چت‌بات‌ها یا دستیارهای هوشمند مجازی، اغلب با فرضیات غربی طراحی می‌شوند و در فرهنگ‌های دیگر عملکرد ضعیفی دارند. این موضوع می‌تواند منجر به تعاملات نامناسب، کاهش اعتماد و شکست سامانه‌هایی شود که قرار است به مردم خدمت کنند.

پروفسور ویک نایدو (Vik Naidoo) از دانشگاه کانتربری و همکارش کارمان کاور چادا (Karman Kaur Chadha)، در مقاله‌ای با عنوان از چارچوب تا شواهد میدانی در ربات‌های پاسخ‌گو به فرهنگ، یک مدل چهاربخشی به نام چارچوب پاسخ‌گویی فرهنگی هوش مصنوعی (CRAIF-C) ارائه داده‌اند که به طراحان کمک می‌کند از همان ابتدا، تنوع فرهنگی را در طراحی چت‌بات‌ها در نظر بگیرند.

فرهنگ، فراتر از ترجمه واژگان

نایدو توضیح می‌دهد: بسیاری از مردم فکر می‌کنند آگاهی فرهنگی یعنی ترجمه کلمات، اما این موضوع بسیار فراتر از زبان است و به زمینه، هنجارهای اجتماعی، سبک‌های ارتباطی و نحوه تفسیر افراد از دنیای اطرافشان مربوط می‌شود.

بیشتر سامانه‌های هوش مصنوعی بر اساس داده‌های غربی آموزش دیده‌اند و بنابراین خروجی‌های آن‌ها نیز منعکس‌کننده فرضیات غربی است. این موضوع زمانی به مشکل تبدیل می‌شود که این سامانه‌ها در سطح جهانی به‌کار گرفته شوند، به‌ویژه در شرکت‌هایی که در مرزهای بین‌المللی فعالیت می‌کنند. یک سامانه ممکن است کارآمد به نظر برسد، اما اگر کاربران با آن ارتباط برقرار نکنند یا به آن اعتماد نداشته باشند، شکست می‌خورد.

مدل چهاربخشی برای ربات‌های فرهنگی

چارچوب پاسخ‌گویی فرهنگی هوش مصنوعی از چهار بخش تشکیل شده است:

۱. فرهنگ‌پذیری (Enculturation): تزریق هنجارهای فرهنگی، زبان و زمینه در داده‌ها و طراحی؛
۲. تعامل تطبیقی (Adaptive Interaction): تنظیم لحن، سرعت و سبک ارتباط در لحظه؛
۳. قابل‌توضیح‌بودن و شفافیت (Explainability and Transparency): ارائه توضیحات متناسب با فرهنگ مخاطب؛
۴. حاکمیت و پاسخگویی (Governance and Accountability): نظارت، سنجش و مدیریت احتمال پیامدهای منفی فرهنگی و بازبینی مبتنی‌بر جامعه.

این چارچوب، تناسب فرهنگی را به‌عنوان یک الزام اساسی در طراحی در نظر می‌گیرد، نه یک موضوع فرعی که پس از اتمام کار به آن پرداخته شود.

ماجرای اندونزی؛ تفاوت‌های ظریف اما حیاتی

نایدو در همکاری با یک شرکت توسعه هوش مصنوعی در سیدنی، به آموزش مهندسان برای تفکر درباره ارتباطات بین‌فرهنگی در ابتدای فرآیند طراحی پرداخت. این شرکت پیش‌ از این، ربات‌های خود را در کشورهایی مانند اندونزی، تایلند و ویتنام مستقر کرده بود، اما میزان تعامل کاربران کمتر از حد انتظار بود.

نایدو می‌گوید: متوجه شدیم که مصرف‌کنندگان به‌سادگی با ربات‌ها تعامل نمی‌کنند؛ بنابراین شروع به پرسش کردیم که چه تفاوت‌های فرهنگی باید از ابتدا در مدل‌ها گنجانده شود.

گاهی تفاوت‌ها بسیار ظریف هستند. در یک محیط غربی، یک ربات ممکن است مکالمه را با صحبت درباره آب‌وهوا شروع کند. اما در جاکارتا (پایتخت اندونزی)، پرسش درباره ترافیک می‌تواند طبیعی‌تر و مرتبط‌تر باشد.

فراتر از کاهش هزینه؛ خلق ارزش واقعی

نایدو تأکید می‌کند که این موضوع نه تنها برای سازمان‌های بین‌المللی، بلکه برای کشورهای با تنوع فرهنگی مانند نیوزیلند و استرالیا نیز اهمیت دارد.

او می‌گوید: در حال حاضر، گفت‌وگوهای پیرامون هوش مصنوعی به‌شدت بر کاهش هزینه و کارآیی متمرکز است. اما از منظر بازاریابی و کاربران نهایی، پرسش واقعی این است: آیا واقعاً برای کاربران مفید هستیم؟ اگر مردم به فناوری اعتماد نداشته باشند یا نتوانند با آن تعامل کنند، مشکل حل‌نشده باقی می‌ماند.

با گسترش روزافزون هوش مصنوعی در خدمات روزمره، نایدو معتقد است که درک فرهنگ برای مفید، مطمئن و مؤثر بودن ربات‌ها ضروری است. او امیدوار است که این مقاله به حرکت گفت‌وگوها از هیاهوی پیرامون هوش مصنوعی به سمت طراحی بهتر کمک کند.