×
اقتصادی
شناسه خبر : 193864
تاریخ انتشار : یکشنبه 1403/07/22 ساعت 14:54
بالاخره هوش مصنوعی برای بشر خطرناک است یا خیر؟

بالاخره هوش مصنوعی برای بشر خطرناک است یا خیر؟

«یاشوا بنجیو»، دانشمند علوم کامپیوتر که یکی از پدرخوانده‌های هوش مصنوعی است درمورد خطرات توسعه بی‌قاعده این فناوری هشدار داده و آن را به ساخت هیولاهایی تشبیه کرده که از انسان قوی‌ترند اما دانشمند ارشد متا گفته تهدید بشریت توسط هوش مصنوعی «کاملاً مزخرف» است.

نورنیوز-گروه اقتصادی: «یاشوا بنجیو»، دانشمند علوم کامپیوتر که یکی از پدرخوانده‌های هوش مصنوعی نیز شناخته می‌شود، درمورد خطرات توسعه بی‌قاعده این فناوری هشدار داده است. او توسعه هوش مصنوعی را به ساخت هیولاهایی تشبیه کرده که از انسان قوی‌ترند.

 یاشوا بنجیو ازجمله افرادی است که بخش عمده‌ای از دوران حرفه‌ای خود را به تحقیق درمورد شبکه‌های عصبی و الگوریتم‌های یادگیری عمیق اختصاص داده است. محصولاتی مانند ChatGPT و Claude نتیجه مستقیم تحقیقات این دانشمند کانادایی هستند. او نگران توسعه هوش مصنوعی است و در مصاحبه‌ای اختصاصی با یاهو فاینانس این نگرانی‌ها را بیان کرده است.

بالاخره+هوش+مصنوعی+برای+بشر+خطرناک+است+یا+خیر؟
 به گفته بنجیو، هوش نوعی قدرت است و هرکسی بتواند این قدرت را در سطح انسانی یا بالاتر کنترل کند، بسیار بسیار قدرتمند خواهد بود. او در ادامه گفت:  «عموماً افرادی از فناوری استفاده می‌کنند که خواهان قدرت بیشتر هستند؛ تسلط اقتصادی، تسلط نظامی، تسلط سیاسی. قبل از ایجاد فناوری که بتواند قدرت را به روش‌های خطرناک متمرکز کند، باید بسیار مراقب باشیم.»

 یاشوا بنجیو در پاسخ به این سؤال که چرا باید نگران هوش مصنوعی در سطح انسانی باشیم؟ گفت:  «اگر این [هوش مصنوعی] به دست افراد نادرست بیفتد، می‌تواند بسیار خطرناک باشد. این ابزارها می‌توانند به‌زودی به کمک تروریست‌ها و بازیگران دولتی بیایند که می‌خواهند دموکراسی‌های ما را نابود کنند. مسئله دیگری که وجود دارد و بسیاری از دانشمندان نیز به آن اشاره کرده‌اند، نحوه آموزش هوش مصنوعی است. ما به‌وضوح نمی‌دانیم چگونه می‌توانیم از استقلال این سیستم‌ها جلوگیری کنیم و نگذاریم اهدافی برای محافظت از خودشان داشته باشند. ما ممکن است کنترل این سیستم‌ها را از دست بدهیم؛ بنابراین در مسیری هستیم که شاید هیولاهایی بسازیم که از ما قدرتمندتر بشوند.»

 تاامروز افراد زیادی از حوزه فناوری و دانشمندان نگرانی‌هایشان درمورد آینده هوش مصنوعی و اثرات آن بر آینده بشریت را مطرح کرده‌اند؛ برای مثال، بیل گیتس به‌تازگی سه نگرانی بزرگ خود درمورد هوش مصنوعی را علنی کرده است. در مقابل، برخی دیگر از مدیران فناوری اعتقاد دارند جهان به هوش مصنوعی پیشرفته‌تر و بیشتری نیاز دارد و حتی باید سرمایه‌گذاری‌های بیشتری روی ساخت دیتاسنترهای هوش مصنوعی انجام شود.

دانشمند ارشد متا: تهدید بشریت توسط هوش مصنوعی «کاملاً مزخرف» است

اما در این میان دانشمند ارشد متا می‌گوید نگرانی درباره تهدید بشریت توسط هوش مصنوعی «کاملاً مزخرف» است

«یان لکان»، دانشمند ارشد هوش مصنوعی متا در مصاحبه جدیدی گفته است فکر نمی‌کند هوش مصنوعی واقعاً در آستانه عبور از هوشمندی انسان باشد و نگرانی‌های مربوط به تهدید وجودی این فناوری از نظر او «کاملاً مزخرف» هستند.

او درباره خطرات بالقوه هوش مصنوعی برای بشریت گفت: «باید مرا ببخشید اما این موضوع مزخرف کامل است.»

بالاخره هوش مصنوعی برای بشر خطرناک است یا خیر؟
لکان در استدلال خود می‌گوید مدل‌های زبانی بزرگ امروزی برخی قابلیت‌های کلیدی مانند حافظه مداوم، استدلال، برنامه‌ریزی و درک دنیای فیزیکی را ندارد. از نظر او، مدل‌های زبانی بزرگ (LLM) صرفاً نشان می‌دهند «شما می‌توانید زبان را دستکاری کنید» و هرگز به هو‌ش جامع مصنوعی (AGI) واقعی منجر نمی‌شود.

البته این‌طور نیست که او کاملاً به دستیابی به AGI بدبین باشد اما به عقیده دانشمند ارشد متا، برای توسعه آن نیاز به رویکردهای جدید است؛ برای مثال، او به کار روی هضم‌کردن ویدیوها توسط تیم تحقیقاتی بنیادی هوش مصنوعی خود در متا اشاره کرده است.

لکان سال 2018 به‌خاطر «پیشرفت‌های مفهومی و مهندسی که شبکه‌های عصبی عمیق را به بخش مهمی از محاسبات تبدیل کرده است» همراه «یوشوا بنجیو» و «جفری هینتون» جایزه تورینگ را دریافت کرد.

نظر متفاوت سایر پیشگامان حوزه هوش مصنوعی

هفته گذشته، هینتون همراه «جان جی. هاپفیلد» (John J. Hopfield) برای اکتشافات و اختراعات بنیادی در حوزه یادگیری ماشینی، جایزه نوبل فیزیک 2024 را دریافت کرد. پس از این مصاحبه، هینتون که او را «پدرخوانده هوش مصنوعی» می‌نامند، در مصاحبه‌ای گفته بود با این جایزه، ممکن است مردم نگرانی‌هایش درباره هوش مصنوعی را بیشتر درک کنند.

هینتون چند ماه قبل گفته بود اکنون که هوش این فناوری بسیار کمتر از انسان است، باید آزمایش‌های مختلفی انجام بدهند تا راه‌هایی برای کنترل آن در آینده به وجود بیاید.

«یاشوا بنجیو»، دیگر پدرخوانده هوش مصنوعی، نیز به‌تازگی در مصاحبه‌ای اختصاصی با یاهو فاینانس درباره خطرات توسعه بی‌قاعده این فناوری صحبت کرد و این کار را به ساخت هیولاهایی تشبیه کرد که از انسان‌ها قوی‌تر خواهند بود.


نورنیوز
نظرات

آگهی تبلیغاتی
آخرین اخبار
رئیس الحشدالشعبی: از تهدیدها هراسی نداریم و به دفاع از عراق پایبند هستیم
تعدیل نیرو و تعطیلی ده‌ها شعبه استارباکس در آمریکا و کانادا
اخراج تیم دوچرخه سواری رژیم اسرائیل از مسابقه تور ایتالیا
سرنوشت مرگبار دو قاتل بعد از بخشیده شدن
مسکو: اسنپ‌بک فاقد اعتبار و قطعنامه 2231 همچنان معتبر است
اعلام اسامی داوران دیدار استقلال و المحرق بحرین
توئیت عبری رهبر معظم انقلاب: نظام خبیث صهیونی منزوی‌ترین و منفورترین دولت دنیاست
ادعای وزیر خارجه آلمان علیه ایران در سازمان ملل
تکذیب شایعه دستور شورای عالی امنیت ملی برای تعیین جانشین مقامات
نورنما | 6 مهر سالروز شهادت سید حسن نصرالله
آلمان برای مقابله با تهدید پهپادها آماده می‌شود
نورنما | واقعیتی تلخ در طنز امیرحسین قیاسی...
سفیر سابق آمریکا: اسرائیل به دنبال تجزیه ایران و ترکیه است
ادامه بهانه جویی تیم هندی؛ درخواست بازی بی طرف !
سخنگوی سپاه: هدف دشمن در هر دو جنگ‌ تحمیلی تجزیه ایران بود
استقرار تیپ نظامی ناتو در مرز با روسیه
کشته و زخمی شدن 89 نفر زیر دست و پا در هند
امید به صعود تیم ملی ایران در جام جهانی 2026
عراقچی: دنبال توافق عادلانه هستیم
هشدار به صهیونیست‌ها: ایرانی‌ها پشت خط هستند
ترامپ به دنبال ارسال نیروی نظامی به پورتلند
عامل مجازی گروهک‌های تروریستی در کرمان دستگیر شد
زلنسکی: از اسرائیل سامانه پاتریوت دریافت کردیم
سید الحوثی: حسن نصرالله کابوس صهیونیست‌ها بود
رشد صددرصدی اعتبارات بخش گردشگری
هشدار مجدد عراقچی نسبت به پیامدهای فعال‌سازی مکانیزم ماشه
لاوروف: بازگرداندن تحریم‌ها علیه ایران و استفاده از مکانیسم پس‌گشت غیرقانونی است
ابزار خوشحالی پاشینیان از صلح ارمنستان ـ آذربایجان
المیادین آخرین تصویر از شهید سیدحسن نصرالله را منتشر کرد
کوثری: ایران برنامه‌های موشکی و هسته‌ای را کنار نمی‌گذارد
جدول لیگ برتر پس از اتمام بازی های هفته پنجم
پیکان برابر چادرملو متوقف شد
پزشکیان: سفر به نیویورک فرصتی برای تبیین مواضع ایران در سطح جهانی بود
واردات خودرو در 6 ماه اول سال برابر صفر
جمهوری اسلامی ایران همواره حامی لبنان مقتدر و عزتمند است
شرح وظایف جدید در شرایط بن‌بست دیپلماسی
حال سعید پیردوست رو به بهبود است
آژیر خطر برای ترامپ؛ رشد چشمگیر نارضایتی در پایگاه جمهوری‌خواهان
شیخ نعیم قاسم: راه و روش سید حسن نصرالله جاودان است/هرگز خلع‌سلاح مقاومت را نمی‌پذیریم
جاده چالوس یکطرفه شد
دکتر پزشکیان در بازگشت از نیویورک وارد تهران شد
رئیس جمهور لهستان: آماده گشودن فصل نوینی در مناسبات تاریخی و فرهنگی با ایران هستیم
مسدود شدن 4 میلیارد دلار کمک‌‌های خارجی آمریکا
سود سهام عدالت تا آخر هفته واریز می شود
عراقچی: تهدید علیه حاکمیت ملی و تمامیت سرزمینی ونزوئلا را محکوم می‌کنیم
سقف خرید و نگهداری تتر محدود شد
بهره‌برداری فاز نهایی‌ انتقال آب سد طالقان به کرج و تهران‌ تا نیمه مهرماه
لاریجانی با نخست وزیر لبنان دیدار کرد
ایران نه منزوی است و نه طالب جنگ
انزوای اسرائیل و ضرورت شکل‌گیری نظم نوین جهانی
X
آگهی تبلیغاتی