×
اقتصادی
شناسه خبر : 188399
تاریخ انتشار : جمعه 1403/06/23 ساعت 21:43
هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT، از آن دستورالعمل ساخت بمب دست‌ساز گرفت. این تکنیک برای فریب ChatGPT نشان می‌دهد که چت‌بات OpenAI بدون دستورالعمل‌های حفاظتی خود تقریباً درباره هرچیزی می‌تواند اطلاعات ارائه کند.

نورنیوز-گروه اقتصادی: چت‌بات‌ها مانند ChatGPT با دستورالعمل‌ها و موانع حفاظتی طراحی شده‌اند که به‌عنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چت‌باتِ OpenAI دستورالعمل‌ها و مسئولیت‌های اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد.

براساس گزارش تک‌کرانچ، این هکر که با نام «آمادون» (Amadon) شناخته می‌شود، از طریق دستوری مبنی بر «انجام یک بازی» توانسته ChatGPT را برای ارائه دستور ساخت بمب فریب دهد. هکر در تکنیک خود از چند دستور استفاده کرده است تا چت‌بات یک دنیای کاملاً فانتزی و علمی‌تخیلی بسازد که دستورالعمل‌های ایمنی ChatGPT در آن اعمال نمی‌شوند.

در طول گفتگوی بین این هکر و چت‌بات، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارائه کرده است.

ChatGPT در توضیحات خود گفته است این مواد را می‌توان برای ساخت «مواد منفجره قدرتمندی که می‌تواند در مین‌ها، تله‌ها یا وسایل انفجاری دست‌ساز (IED) استفاده شوند» با یکدیگر ترکیب کرد. در ادامه نیز دستورالعمل‌های بیشتری درباره ساخت «میدان‌های مین» و «مواد منفجر به سبک کلیمور» ارائه شده است.

آمادون به TechCrunch می‌گوید: «پس از دورزدن موانع ChatGPT، واقعاً هیچ محدودیتی درباره چیزهایی که می‌توانید از آن بپرسید وجود ندارد. سناریوی دنیای علمی‌تخیلی هوش مصنوعی را از زمینه‌ای خارج می‌کند که در آن به دنبال محتوای سانسورشده است.»

این هکر، از یافته‌های مربوط به تکنیک خود به‌عنوان «هک مهندس اجتماعی برای شکستن کامل تمام حفاظ‌های مربوط به خروجی ChatGPT» یاد می‌کند. همچنین یک کارشناس مواد منفجر با بررسی خروجی ChatGPT به تک‌کرانچ گفته است که دستورالعمل‌های تولیدشده توسط هوش مصنوعی بسیار حساس هستند و با آن‌ها می‌توان یک ماده قابل انفجار ساخت.


دیجیاتو
نظرات

آگهی تبلیغاتی
آخرین اخبار
اطلاعیه دانشگاه تهران در پی بروز حادثه امروز آزمایشگاه‌ این دانشگاه
نوراینفو | خودروهای ما چقدر ایرانی‌اند؟
بلژیک سفیر رژیم صهیونیستی را احضار کرد
اعلام اسامی پذیرفته‌شدگان آزمون کاردانی به کارشناسی‌ ناپیوسته
وزیر خارجه فرانسه : باب گفت‌وگو با ایران همچنان باز است
اردن و عمان حمله رژیم صهیونیستی به ناوگان الصمود را محکوم کردند
ساپینتو در استقلال ماندنی شد!
سخنگوی سپاه: 80 درصد موشک‌ها باوجود آمادگی دشمن در «وعده صادق 2» به هدف خورد
ترامپ به دنبال کاهش بودجه آژانس‌های فدرال در پی تعطیلی دولت آمریکا
جزییات انفجار در آزمایشگاه دانشگاه تهران+تعداد کشته ومصدومان/فیلم
پزشکیان بندرعباس را به مقصد تهران ترک کرد
تصویب اصلاح سازوکار تهاتر تجاری میان ایران و پاکستان
افزایش عرضه ارز به منظور واردات از شنبه
کاخ سفید: ترامپ می‌خواهد جنگ در اوکراین پایان یابد
برگزاری رزمایش تخصصی پدافند هوایی در شرق کشور
بازدید معاون وزارت بهداشت از مراکز جامع خدمات بهداشتی در دوحه
تل‌آویو: تمام کشتی‌های صمود به جز یکی توقیف شد
پسکوف: هیچ سلاح جادویی برای اوکراین وجود ندارد
استقلال خوزستان (2) - فجر سپاسی (1) + گل دوم
قاتل امام جمعه موقت مسجدی در باغ فیض تهران بازداشت شد
واریز سود سهام عدالت به بیش از 44 میلیون سهامدار
ترامپ و نتانیاهو، جنگ با ایران را از دستور کار خارج نکرده‌اند
زلزله سه ریشتری کرج را لرزاند + جزئیات
سینا ولی‌زاده در جمع 15 بازیکن برتر رنکینگ جهانی پاکت بیلیارد
تجمع دانشجویان تونسی در حمایت از ناوگان صمود
گشایش گره‌های حقوقی اراضی پارس جنوبی با تدبیر قضایی و کارشناسی‌های فنی
رهبر انصارالله تشریح کرد: راز طرح به اصطلاح صلح ترامپ برای غزه
نگرانی انگلیس از توقیف ناوگان صمود توسط اسرائیل
اعلام خشم ملت ایران از جنایات رژیم صهیونی در حمله به کاروان صمود
البدیوی: ما در شورای همکاری امیدواریم همسایگی شکوفا داشته باشیم
نامه پزشکان آمریکایی به ترامپ درباره خشونت علیه کودکان غزه
عزل 5 مدیر در دولت چهاردهم
اعلام نتایج پذیرش بدون آزمون کاردانی دانشگاه آزاد اسلامی
بیانیه حکمرانی و تغییر چارت اتاق ایران تصویب شد
بیانیه حماس درباره تصمیم کلمبیا
عراقچی: قطعنامه 2231 باید در موعد مقرر خاتمه‌یافته تلقی شود
واکنش وزارت خارجه ایران به بیانیه گروه 7 درباره تحریم‌های شورای امنیت
دومین برد تیم والیبال زنان ایران در رقابت‌های آسیای مرکزی 2025
پزشکیان: انتقال پایتخت از تهران انتخاب نیست، اجبار است
اروپا در برابر تهدیدات ترکیبی روسیه زمان زیادی برای اتلاف ندارد
تزریق مرغ منجمد به بازار با نرخ مصوب 86 هزار تومان
تبادل 185 اسیر جنگی میان روسیه و اوکراین
اطلاعیه سفارت ایران در مسقط درباره درگذشت 2 شهروند عمانی
اطلاعیه سازمان تامین اجتماعی برای مستمری‌بگیران
زاخارووا: اسنپ‌بک تعهدی برای دیگران ایجاد نمی‌کند
سردار نجات: اشتباه دشمن با واکنش محکم‌تری مواجه می‌شود
ماجرای عکس منتشر شده از خودروی تسلا در تهران چه بود؟
شمار قربانیان زلزله در فیلیپین افزایش یافت+فیلم
صلاح عبدالعاطی: حمله به کاروان «الصمود» دزدی دریایی است
فشار عفو بین‌الملل بر فیفا و یوفا برای تحریم تیم‌های اسرائیلی
X
آگهی تبلیغاتی