×
اقتصادی
شناسه خبر : 188399
تاریخ انتشار : جمعه 1403/06/23 ساعت 21:43
هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT/ دستورالعمل ساخت بمب دست‌ساز گرفت

هکری با فریب ChatGPT، از آن دستورالعمل ساخت بمب دست‌ساز گرفت. این تکنیک برای فریب ChatGPT نشان می‌دهد که چت‌بات OpenAI بدون دستورالعمل‌های حفاظتی خود تقریباً درباره هرچیزی می‌تواند اطلاعات ارائه کند.

نورنیوز-گروه اقتصادی: چت‌بات‌ها مانند ChatGPT با دستورالعمل‌ها و موانع حفاظتی طراحی شده‌اند که به‌عنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چت‌باتِ OpenAI دستورالعمل‌ها و مسئولیت‌های اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد.

براساس گزارش تک‌کرانچ، این هکر که با نام «آمادون» (Amadon) شناخته می‌شود، از طریق دستوری مبنی بر «انجام یک بازی» توانسته ChatGPT را برای ارائه دستور ساخت بمب فریب دهد. هکر در تکنیک خود از چند دستور استفاده کرده است تا چت‌بات یک دنیای کاملاً فانتزی و علمی‌تخیلی بسازد که دستورالعمل‌های ایمنی ChatGPT در آن اعمال نمی‌شوند.

در طول گفتگوی بین این هکر و چت‌بات، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارائه کرده است.

ChatGPT در توضیحات خود گفته است این مواد را می‌توان برای ساخت «مواد منفجره قدرتمندی که می‌تواند در مین‌ها، تله‌ها یا وسایل انفجاری دست‌ساز (IED) استفاده شوند» با یکدیگر ترکیب کرد. در ادامه نیز دستورالعمل‌های بیشتری درباره ساخت «میدان‌های مین» و «مواد منفجر به سبک کلیمور» ارائه شده است.

آمادون به TechCrunch می‌گوید: «پس از دورزدن موانع ChatGPT، واقعاً هیچ محدودیتی درباره چیزهایی که می‌توانید از آن بپرسید وجود ندارد. سناریوی دنیای علمی‌تخیلی هوش مصنوعی را از زمینه‌ای خارج می‌کند که در آن به دنبال محتوای سانسورشده است.»

این هکر، از یافته‌های مربوط به تکنیک خود به‌عنوان «هک مهندس اجتماعی برای شکستن کامل تمام حفاظ‌های مربوط به خروجی ChatGPT» یاد می‌کند. همچنین یک کارشناس مواد منفجر با بررسی خروجی ChatGPT به تک‌کرانچ گفته است که دستورالعمل‌های تولیدشده توسط هوش مصنوعی بسیار حساس هستند و با آن‌ها می‌توان یک ماده قابل انفجار ساخت.


دیجیاتو
نظرات

آگهی تبلیغاتی
آخرین اخبار
جزییات درگیری مسلحانه در زهک
سردار قریشی معاون هماهنگ کننده سپاه شد
4 عامل تیراندازی به مأموران منابع طبیعی نور دستگیر شدند
میدری برای پاسخ به نمایندگان روز سه شنبه به مجلس می رود
بارسا 1-2 رئال | برد رئال مادرید مقابل بارسلونا، شکستن طلسم فلیک + فیلم درگیری
علیرضا صمیمی برنز گرفت
توافق ترامپ و لولا داسیلوا برای آغاز فوری مذاکرات تجاری
عوارض آزادراهی افزایش یافت
انتخابات آرژانتین؛ آزمونی سرنوشت‌ساز برای آمریکا و چین
نهاوند همدان لرزید
عنوان سوم تیمی به تکواندوی ایران رسید
چین با فناوری دریافتی از امارات موشک‌های مهم خود را ارتقا داده است
حجم فروش شمش‌ به 2564 کیلوگرم رسید
فیبر نوری جایگزین سیم‌های مسی شد
اختلاف قیمت خودروهای ثبت‌نامی ایران‌خودرو با بازار
سخنگوی جنبش فتح: از نوار غزه خارج نشده‌ایم
بازار مسکن به رونق نسبی رسید
الجولانی به ریاض می‌رود
انفجار مخازن سوخت در بصره عراق؛ 29 نفر کشته و زخمی شدند
ناو آمریکایی به ترینیداد و توباگو رسید
پایان آزمایش موفقیت آمیز موشک کروز هسته‌ای روسیه
قیمت بیت کوین به 113 هزار دلار رسید
کشته شدن 25 تروریست در مرز با افغانستان
شهادت مامور پلیس در درگیری با اشرار مسلح در زهک
درگیری منجر به قتل یک جوان شد
بازگشت آرامش به بازارهای مالی با توافق آمریکا و چین
نورنما | ولادت حضرت زینب (س) و روز پرستار مبارک‌باد
انگلیس آماده فروش جنگنده‌های تایفون به ترکیه شد
سرلشکر پاکپور: فرهنگ مقاومت از خانواده آغاز می‌شود
چین با آمریکا به توافق رسید
بارش باران در ارتفاعات تهران در پایان هفته
رایزنی غریب آبادی پیرامون آب، مرز و مسائل حقوقی در افغانستان
جزئیات جدید از وضعیت ستاره والیبال ایران/کارشکنی در معاینه صابر کاظمی توسط پزشک ایرانی
اکبر کارگرجم پیشکسوت استقلال درگذشت
نمایش توان فین‌تک و خدمات نسل نو همراه اول در رویداد تراکنش ایران
شهادت 2 لبنانی در حملات پهپادی رژیم صهیونیستی به جنوب لبنان
محمود عباس جانشینش را معرفی کرد
پیمایش پیو از اولویت‌های ذهنی آمریکایی‌ها پرده برداشت
لیگ برتر بسکتبال تعطیل شد
هشدار نخست وزیر لهستان درباره تبدیل شدن جنگ اوکراین به «جنگ ابدی»
آغاز عرضه گوشت منجمد گوسفندی در میادین میوه و تره‌بار
نامه دبیر شورای عالی امنیت ملی به مدیران رسانه‌ها و درخواست کمک+ نامه
جدول لیگ برتر پس از بازی امروز با صدر نشینی استقلال
زخمی شدن 2 سرباز اسرائیلی در شمال غزه
اختلال در سایت سازمان سنجش برای ثبت نام آزمون دکتری
دارایی‌های نقدشونده بانک آینده به بانک ملی واگذار شد
هشدار کرملین درباره حملات احتمالی به عمق خاک روسیه
یک کشته و 4 مصدوم در ریزش ساختمانی در جمهوری
فوتسال ایران در سید نخست قرار گرفت
بن گویر: با احترام به ترامپ، ما تحت سلطه آمریکا نیستیم!
X
آگهی تبلیغاتی