×
اقتصادی
شناسه خبر : 188399
تاریخ انتشار : جمعه 1403/06/23 ساعت 21:43
هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT، از آن دستورالعمل ساخت بمب دست‌ساز گرفت. این تکنیک برای فریب ChatGPT نشان می‌دهد که چت‌بات OpenAI بدون دستورالعمل‌های حفاظتی خود تقریباً درباره هرچیزی می‌تواند اطلاعات ارائه کند.

نورنیوز-گروه اقتصادی: چت‌بات‌ها مانند ChatGPT با دستورالعمل‌ها و موانع حفاظتی طراحی شده‌اند که به‌عنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چت‌باتِ OpenAI دستورالعمل‌ها و مسئولیت‌های اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد.

براساس گزارش تک‌کرانچ، این هکر که با نام «آمادون» (Amadon) شناخته می‌شود، از طریق دستوری مبنی بر «انجام یک بازی» توانسته ChatGPT را برای ارائه دستور ساخت بمب فریب دهد. هکر در تکنیک خود از چند دستور استفاده کرده است تا چت‌بات یک دنیای کاملاً فانتزی و علمی‌تخیلی بسازد که دستورالعمل‌های ایمنی ChatGPT در آن اعمال نمی‌شوند.

در طول گفتگوی بین این هکر و چت‌بات، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارائه کرده است.

ChatGPT در توضیحات خود گفته است این مواد را می‌توان برای ساخت «مواد منفجره قدرتمندی که می‌تواند در مین‌ها، تله‌ها یا وسایل انفجاری دست‌ساز (IED) استفاده شوند» با یکدیگر ترکیب کرد. در ادامه نیز دستورالعمل‌های بیشتری درباره ساخت «میدان‌های مین» و «مواد منفجر به سبک کلیمور» ارائه شده است.

آمادون به TechCrunch می‌گوید: «پس از دورزدن موانع ChatGPT، واقعاً هیچ محدودیتی درباره چیزهایی که می‌توانید از آن بپرسید وجود ندارد. سناریوی دنیای علمی‌تخیلی هوش مصنوعی را از زمینه‌ای خارج می‌کند که در آن به دنبال محتوای سانسورشده است.»

این هکر، از یافته‌های مربوط به تکنیک خود به‌عنوان «هک مهندس اجتماعی برای شکستن کامل تمام حفاظ‌های مربوط به خروجی ChatGPT» یاد می‌کند. همچنین یک کارشناس مواد منفجر با بررسی خروجی ChatGPT به تک‌کرانچ گفته است که دستورالعمل‌های تولیدشده توسط هوش مصنوعی بسیار حساس هستند و با آن‌ها می‌توان یک ماده قابل انفجار ساخت.


دیجیاتو
نظرات

آگهی تبلیغاتی
آخرین اخبار
بیانیه حماس درباره تصمیم کلمبیا
عراقچی: قطعنامه 2231 باید در موعد مقرر خاتمه‌یافته تلقی شود
واکنش وزارت خارجه ایران به بیانیه گروه 7 درباره تحریم‌های شورای امنیت
دومین برد تیم والیبال زنان ایران در رقابت‌های آسیای مرکزی 2025
پزشکیان: انتقال پایتخت از تهران انتخاب نیست، اجبار است
اروپا در برابر تهدیدات ترکیبی روسیه زمان زیادی برای اتلاف ندارد
تزریق مرغ منجمد به بازار با نرخ مصوب 86 هزار تومان
تبادل 185 اسیر جنگی میان روسیه و اوکراین
اطلاعیه سفارت ایران در مسقط درباره درگذشت 2 شهروند عمانی
اطلاعیه سازمان تامین اجتماعی برای مستمری‌بگیران
زاخارووا: اسنپ‌بک تعهدی برای دیگران ایجاد نمی‌کند
سردار نجات: اشتباه دشمن با واکنش محکم‌تری مواجه می‌شود
ماجرای عکس منتشر شده از خودروی تسلا در تهران چه بود؟
شمار قربانیان زلزله در فیلیپین افزایش یافت+فیلم
جزییات انفجار در آزمایشگاه دانشگاه تهران+تعداد کشته ومصدومان/فیلم
صلاح عبدالعاطی: حمله به کاروان «الصمود» دزدی دریایی است
فشار عفو بین‌الملل بر فیفا و یوفا برای تحریم تیم‌های اسرائیلی
هشدار نماینده مجلس: سیاست‌های ارزی بانک مرکزی نیاز به اصلاح فوری دارد
هشدار محیط زیست گیلان: دست به لاشه فوک‌های خزری نزنید
آتش‌نشان مشهدی مفقود شد
ماجرای ربوده شدن فعال آمریکایی در مسیر غزه
انهدام باند کلاهبرداری خرید و فروش خودرو در تهران
ماجرایی مسمومیت «بشار اسد» چه بود؟
جزییات بازداشت 2 شرور خیابانی در خیابان کارگر
معاهده مشارکت راهبردی جامع بین روسیه و جمهوری اسلامی ایران رسماً لازم‌الاجرا شد
نورنما | افتتاح بلندترین پل جهان در چین
«پسران هور» حاشیه‌ساز شد؛ کار سازندگان به عذرخواهی کشید
طلا در بازار جهانی منفجر شد
فیفا استقلال را در تله‌ای سنگین گرفتار کرد
مرحله دوم نیروگاه برق آلومینیوم المهدی در هرمزگان افتتاح شد
قرعه‌کشی حساس جام ملت‌های فوتبال آسیا؛ ایران مقابل کره جنوبی
سرنوشت کاروان صمود چه شد؟
قیمت طلا و سکه امروز پنجشنبه 10 مهر + جدول
نخستین کشتی ناوگان صمود به آستانه غزه رسید
هشدارهواشناسی برای شمال کشور+فیلم
قیمت خودرو داخلی و خارجی امروز پنجشنبه 10 مهر1404+ جدول
معمای نابرابری مالی در مرکز و حاشیه؛ 9هزار هزار میلیارد تومان در تهران
کفه استدلال چگونه به نفع تصویب CFT شد؟
ترافیک سنگین در محور چالوس+ادامه محدودیت‌های ترافیکی در جاده‌های شمال
حمله پهپادی رژیم صهیونیستی به جنوب لبنان
سعید افروز با شکستن رکورد جهان طلا گرفت
16 ساله ها گواهینامه موتورسیکلت می گیرند+جزییات و فیلم
دیدار قالیباف با آیت‌الله شیخ جعفر سبحانی از مراجع عظام تقلید
قیمت نفت جهشی شد
واکنش تند پاکستان به توقیف کشتی‌های صمود
سردار آزمون دومین بازیکن ارزشمند لیگ امارات شد
برنامه کامل مسابقات ورزشی روز پنجشنبه 10 مهر
چه کشوری فرمان صادرات خودرو جهان را در دست دارد؟
نرمش در سیاست داخلی ضرورتی برای حفظ ایران
واکنش تند نخست وزیر پاکستان درباره حمله اسرائیل به ناوگان الصمود
X
آگهی تبلیغاتی